必威电竞|足球世界杯竞猜平台

琴生不等式
來源:互聯網

琴生不等式以丹麥技術大學數學家約翰·延森(Johan Jensen)命名。它給出積分的凸函數值和凸函數的積分值間的關系。

琴生(Jensen)不等式(也稱為詹森不等式),使用時注意前提、等號成立條件。

概述

1.若f(x)是區間上的下凸函數,則對任意的, 有不等式:

當且僅當時等號成立。

2.其加權形式為:

若f(x)是區間上的下凸函數,則對任意的, 且 為正數,有

當且僅當 時等號成立.

應用

有了這個結論以后,使用琴生不等式就非常方便了,

如今我們可以非常容易的證明一般情況的平均不等式

比如

1.

2.

3.

其中前面兩個取就可以了

后面一個取 就可以了。

舉一個簡單的例子: 在中為凸函數 (國外教材定義; 若為凹函數, 則國內教材定義)

同時,值得注意的是, 上凸、下、凹、凸的含義是不同的。

涉及概率密度函數的形式

假設是實線的可測子集, f(x) 是一個非負函數

在概率語言中, f 是概率密度函數。

然后Jensen的不等式變成了關于凸積分的下面的陳述:

如果g是任何實值可測函數且在g的范圍內是凸的, 那么:

如果 , 那么這種不等式的形式可以簡化為一個常用的特例:

例如:隨機變量的偶數矩

如果, 并且 X 是一個隨機變量, 那么g是凸的

所以

特別是,如果有的甚至瞬間 2 N的 X 是有限的, X 具有有限的均值。這個論證的延伸表明 X 具有每個階的有限矩 劃分

替代有限形式

令 , 并且以 為上的計數度量, 則一般形式簡化為關于和的聲明:

條件是和

還有一個無限的離散形式。

統計物理學

凸函數指數函數時,Jensen不等式統計物理學中特別重要,給出:

其中期望值是關于隨機變量X中的一些概率分布

這種情況下的證明非常簡單(參見Chandler,第5.5節)。理想的不平等直接來自書寫

然后應用不等式至最終指數。

信息論

如果 p(X) 是用于真正的概率分布X和 q(X) 是另一種分布,然后施加Jensen不等式隨機變量數 給出

因此:

一個稱為吉布斯不平等的結果。

它表明, 當代碼是基于真實概率p而不是任何其他分布q分配時, 平均消息長度被最小化。即非負的量被稱為相對的 q 從 由于為嚴格凸函數, 它遵循: 當等號成立 p(X) 等于 q(X) 幾乎無處不在。

Rao-Blackwell定理

主要文章:Rao-Blackwell定理

如果L是一個凸函數, 一個亞西格瑪代數,然后, 從Jensen不等式的條件版本中, 我們可以得到

所以如果是給定一個可觀測量向量 X 的末觀測參數?的估計量;如果 T(X) 是?的充分統計量;那么可以通過計算獲得改 進的估計量,即具有較小的預期損失L的意義

相對于的期望值?在所有可能的觀察值向量 X 上都可以與觀察到的相同的 T(X) 值相匹配。

這個結果被稱為Rao-Blackwell定理

參考資料 >

生活家百科家居網