数学速查

导数公式(Derivative Formulae)

常数的导数公式如下。

多项式的导数公式如下。

指数函数和对数函数的导数公式如下。

三角函数的导数公式如下。

反三角函数的导数公式如下。

假设都不是关于的函数,标量对向量求导的导数公式如下。

标量对矩阵求导的导数公式如下。

迹运算的导数公式如下。

积分公式(Integral Formulae)

含指数函数和对数函数的常用积分公式如下。

含三角函数的常用积分公式如下。

含反三角函数的常用积分公式如下。

其他常用积分公式如下。

不等式(Inequality)

代数不等式(Algebraic Inequality)

均值不等式链(Mean Inequality Chain)

均值不等式链指出二次均值(QM; Quadratic Mean)、算数均值(AM; Arithmetic Mean)、几何均值(GM; Geometric Mean)和调和均值(HM; Harmonic Mean)之间的关系,又称QM-AM-GM-HM不等式(QM-AM-GM-HM Inequalities).假设有,则有下式成立.

柯西-施瓦兹不等式(Cauchy-Schwarz Inequality)

赫尔曼·阿曼杜斯·施瓦茨(Hermann Amandus Schwarz)

德国数学家.

柯西-施瓦兹不等式以奥古斯丁-路易·柯西和赫尔曼·阿曼杜斯·施瓦茨命名,是最重要的数学不等式之一.假设有向量,根据余弦函数的性质,可知,同时乘以,得下式.

假设有正定矩阵,则有下式.

其中,

概率不等式(Probabilistic Inequality)

布尔不等式(Boole's inequality)又称联合界不等式(Union Bound Inequality),定义如下。

柯西-施瓦兹不等式的概率论版本如下。

琴生不等式的概率论版本为,对任意凸函数有下式成立。

由琴生不等式可知

霍夫丁不等式(Hoeffding's Inequality)指出,对个随机变量,令为它们的平均值,有下式成立。

特别地,若都有,能够得到如下更简洁的不等式。

切比雪夫不等式(Chebyshev's Inequality)指出,对任意随机变量有下式成立。

琴生不等式(Jensen's Inequality)

机器学习