必威电竞|足球世界杯竞猜平台

協方差矩陣
來源:互聯網

統計學概率論中,協方差矩陣(covariance matrix)是一個矩陣,其每個元素是各個向量元素之間的協方差。協方差矩陣能導出一個變換矩陣,這個矩陣能使數據完全去相關(decorrelation),它是從標量隨機變量到高維度隨機向量的自然推廣。

說明

盡管協方差矩陣很簡單,可它卻是很多領域里的非常有力的工具。它能導出一個變換矩陣,這個矩陣能使數據完全去相關(decorrelation)。從不同的角度來看,也就是說能夠找出一組最佳的基以緊湊的方式來表達數據。(完整的證明請參考瑞利商)。這個方法在統計學中被稱為主成分分析(principal components analysis),在圖像處理中稱為Karhunen-Loève 變換(KL-變換)。

統計學的基本概念

統計學里最基本的概念就是樣本的均值、方差標準差。首先,給定一個含有n個樣本的集合,下面給出這些概念的公式描述:

均值:

標準差:

方差:

均值描述的是樣本集合的中間點,它告訴的信息是有限的,而標準差給描述的是樣本集合的各個樣本點到均值的距離之平均。

以這兩個集合為例,和,兩個集合的均值都是10,但顯然兩個集合的差別是很大的,計算兩者的標準差,前者是8.3后者是1.8,顯然后者較為集中,故其標準差小一些,標準差描述的就是這種“散布度”。之所以除以n-1而不是n,是因為這樣能以較小的樣本集更好地逼近總體的標準差,即統計上所謂的“無偏估計”。而方差則僅僅是標準差的平方。

為什么需要協方差

標準差和方差一般是用來描述一維數據的,但現實生活中常常會遇到含有多維數據的數據集,最簡單的是大家上學時免不了要統計多個學科的考試成績。

面對這樣的數據集,當然可以按照每一維獨立的計算其方差,但是通常還想了解更多。協方差就是這樣一種用來度量兩個隨機變量關系的統計量可以仿照方差的定義來度量各個維度偏離其均值的程度,協方差可以這樣來定義:

協方差的結果有什么意義呢?如果結果為正值,則說明兩者是正相關的(從協方差可以引出“相關系數”的定義)。如果結果為負值,就說明兩者是負相關。如果為0,則兩者之間沒有關系,就是統計上說的“相互獨立”。

從協方差的定義上也可以看出一些顯而易見的性質,如:

參考資料 >

生活家百科家居網