不同表述形式

Jensen 不等式的经典形式涉及多个数字和权重。不等式可以用测度论的语言或（等价的）概率来表述。在概率定义中，不等式可以进一步推广到其全部强度（full strength）。

对于一个实凸函数 $\varphi$ ，定义域中的数字 $x_{1},x_{2},x_{3},...x_{n}$ ，和正权重 $a_{i}$ ，Jensen不等式可以表示为：

如果 $\varphi$ 为凹函数，则：

当且仅当 $x_{1}=x_{2}=x_{3}=...=x_{n}$ 时等号成立，或者 $\varphi$ 为线性函数。

作为特殊情况，当正权重 $a_{i}$ 都相等时，上述等式可以表示为：

琴生不等式可以用作证明一般情况的平均不等式：

其中前面两个取 $f(x)=x^{t}$ ，后面一个取 $f(x)=log(x)$ 。

一个常见的应用是将 x 作为另一个变量（或一组变量）t的函数 $x_{i}=g(t_{i})$ 。所有这些都直接适用于一般连续情况：权重 $a_{i}$ 被非负可积函数f(x)代替，例如概率分布，并且总和被积分代替。

测度与概率形式

令 $(\Omega,A,\mu)$ 是一个概率空间， $\mu(\Omega)=1$ 。如果g是一个实数函数，且对于 $\mu$ 可积，另外如果 $\varphi$ 是一个在实线域上是凸函数，则：

在实分析中，我们可能需要对下式做一个估计：

其中 $a,b\in \mathbb{R}$ ， $f:[a,b]\rightarrow\mathbb{R}$ 是非负勒贝格积分函数。在这种情况下，勒贝格测度[a,b]不用是统一的。但是，通过作代换积分，可以重新调整区间以使其具有度量单位，那么可以应用Jensen不等式得到：

通过简单的符号变化，可以在概率论中等效地陈述相同的结果。令 $(\Omega,F,P)$ 为概率空间，X为可积实值随机变量，φ为凸函数。则：

在这个概率定义中，测度μ的目的是作为概率P，关于μ作为期望值的积分，以及作为随机变量X的函数g。

注意等式成立当且仅当 φ 是某个凸集A上的线性函数，使得 $P(X\in A)=1$ 。

在概率论中的广义形式

更一般地，设T为实拓扑向量空间，X为T值可积随机变量。在这个一般设置中，可积意味着在T中存在一个元素E[X]，使得对于T的对偶空间（dual space）中的任何元素 z： $E|\left \langle z,X \right \rangle|< \infty$ ， $\left \langle z,E[X] \right \rangle=E[\left \langle z,X \right \rangle]$ 。然后，对于任何可测凸函数 φ 和F的任何子 σ-代数 $\mathfrak {G}$ ：

这里 $E[\cdot|\mathfrak {G} ]$ 代表以 σ-代数 $\mathfrak {G}$ 为条件的期望。当拓扑向量空间T是实轴，并且 $\mathfrak {G}$ 是平凡的σ-代数 {∅, Ω}（其中∅是空集，Ω是样本空间），这个一般性陈述简化为以前的陈述。

一种锐化和概括的形式

设X是一维随机变量，均值为 $\mu$ ，方差为 $\sigma^{2}\geq0$ 。令 $\varphi(x)$ 为二次可微函数，并定义函数:

特别地，当 $\varphi(x)$ 是凸的，那么 $\varphi''(x)\geq0$ 。对于 $\varphi(x)$ 被另外假设为二次可微的情况，自然而然能够得出标准的Jensen 不等式的形式。

不等式证明

Jensen 不等式可以通过多种方式证明，并且将提供对应于上述不同陈述的三种不同证明。

然而，在开始这些数学推导之前，有必要分析基于概率情况的直观图形论证，其中X是实数（见上图）。假设X值的分布，人们可以立即确定E[X]及其图像φ(E[X])在图中的位置。注意到对于凸映射Y = φ(X)，随着X值的增加，Y值的相应分布越来越“伸展”，很容易看出Y的分布在对应于 $X>X_{0}$ 的区间中更宽，并且对于任何 $X_{0}$ ，在 $X<X_{0}$ 处更窄；特别是，对于 $X_{0}=E[X]$ 也是如此。因此，在这张图片中，Y的期望总是相对于 $\varphi(E[X])$ 的位置向上移动。如果X的分布覆盖了凸函数的递减部分，或者同时覆盖了凸函数的递减部分和递增部分，则类似的推理成立。这“证明”了不等式：

等式成立仅当 φ(X) 不是严格凸的时，例如当它是一条直线时，或者当 X 遵循退化分布（即是一个常数）时。

测度和概率形式

概率论中的广义形式

不等式应用

在概率密度函数中的形式

假设 $\Omega$ 是实线的可测子集，f(x)是一个非负函数：

在概率论中f(x)是概率密度函数。利用Jensen不等式的加权形式，可以写出f(x)形式下的公式。

如果g是任何实值可测函数且 $\varphi$ 在g的范围内是凸的，那么：

如果g(x)=x，那么这种不等式的形式可以简化为一个常用的特例：

这个结果一般被应用于变分贝叶斯方法（Variational Bayesian methods）。

随机变量的偶次矩

如果 $g(x)=x^{2n}$ ，X是一个随机变量，g是一个凸函数：

二阶导数大于0，为凸函数，于是有：

特别的，如果X的偶次矩是有限的，X具有有限的均值。这个结论可以推广为：X的 $l/n (l \in N)$ 次矩是有限的。

其他有限形式

令 $\Omega=\{x_{1},...,x_{n}\}$ ，取 $\mu$ 为其上的测度，则一般的形式可以化简为求和的形式：

这里也有无限的离散形式。

在统计物理中考虑一个指数型的凸函数：

其中期望值为某个分布下的随机变量X的值。

上述公式证明比较简单，首先：

然后利用已有公式 $e^{X}\geq1+X$ ：

代入前式得：

如果p(x)是X的概率密度，q(x)是另一个概率密度，对随机变量Y(X)=q(X)/p(X)应用琴生不等式，则 $E[\varphi(Y)]\geq\varphi(E[Y])$

这个结果被称为吉布斯不等式（Gibbs' inequality）

它表明当基于真实概率p而不是任何其他分布q分配代码时，平均消息长度最小。非负的数量称为q与p的Kullback-Leibler散度。由于-log(x)是x>0的严格凸函数，因此当p(x)几乎处处等于q(x)时，等式成立。

Rao–Blackwell定理

詹森 不等式 以丹麦数学家约翰· 詹森（Johan Jensen ）命名。它给出积分的凸函数值和凸函数的积分值间的关系。In mathematics, Jensen 's in equality , named after the Danish mathematician Johan Jensen , relates the value of a convex function of an integral to Jensen 不等式 ，又名琴森 不等式 或詹森 不等式 （均为音译）。它是一个在描述积分的凸函数值和凸函数的积分值间的关系的 不等式 。 Jensen 不等式 的定义公式：若f(x)f(x)f(x)为区间[a, b]上的下凸函数，则对任意的x1,x2,x3,…,xn∈[a,b]x1,x2,x3,…,xn∈[a,b]∑i=1nf(xi)n≥f(∑i=1nxin)n∑。琴生 不等式 的概述： 1、若f(x)是区间(a,b)上的凸函数，则对任意的x1,x2,x3, ......,xn∈(a,b)x_1,x_2,x_{3,\ }......,x_n\in(a,b)x1,x2,x3, ......,xn∈(a,b)，有 不等式 : f(x1+x2+x3+......+xnn)≤f(x1)+f(x2)+f(x3)+......+f(xn)n... 证明琴生 不等式 也是突发奇想，印象中自己好像高中证明过。但是一时半会又想不起来证明方法，遂百度，发现给出的证明方法乱七八糟，于是这里给出自己的证明方法以供参考。在思考式【2】的证明时也曾想过使用多元函数求驻点，再利用海森矩阵来判断驻点的极值性质。想来想去觉得其中还包括一个正定阵的证明，实在太为繁琐，远不如归纳法来的飘逸。这里就不给出证明了。... 设f是定义域为实数的函数，如果对于所有的实数x。如果对于所有的实数x，f(x)的二次导数大于等于0，那么f是凸函数。当x是向量时，如果其hessian矩阵H是半正定的，那么f是凸函数。如果只大于0，不等于0，那么称f是严格凸函数。。 f(θx+(1−θ)y)≤θf(x)+(1−θ)f(y)f(θx+(1−θ)y)≤θf(x)+(1−θ)f(y) 若θ1,⋯,θk≥0,θ1+⋯+θk=1θ1,⋯,θk≥0,θ1+⋯+θk=1；则： f(θ1x1+⋯+θkxk)≤θ1f(x1)+⋯+θkf(xk)f(θ1x1+⋯+θkxk)≤θ1f(x1)+⋯+θkf(xk) f(E(x))≤E(f(x))f(E(x))≤E(f(x)) 当且仅当p(x=E. 詹森 不等式 ( Jensen 's in equality )，也译为延森 不等式 、琴生 不等式 [编辑] 詹森 不等式 简介詹森 不等式 以丹麦数学家约翰· 詹森 (Johan Jensen )命名。它给出积分的凸函数值和凸函数的积分值间的关系。 Jensen 's in equality generalizes the statement that a secant line of a convex function lies... Jensen 's In equality Jensen ’s In equality 中文译名琴森 不等式 ，要想了解琴森 不等式 ，首先需要知道凸函数（convex function）与凹函数（concave function）的概念。由于凸函数和凹函数是相反的概念，因此这里只介绍凸函数即可。 1 凸函数的概念如下图中的红色曲线就是一个凸函数（可能直观上来看这个曲线是凹的，别弄反了）。我们在高中就已经学习过相关知识，这里仅温习一下，用数学的语言描述凸函数就是：如果个函数具有如下性质：每条弦都位于函数上或函数上