PCA算法中样本方差和协方差的无偏估计与n-1的由来
生活随笔
收集整理的這篇文章主要介紹了
PCA算法中样本方差和协方差的无偏估计与n-1的由来
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
?原文出處:?http://blog.sina.com.cn/s/blog_c96053d60101n24f.html
在PCA算法中的方差協方差計算公式中除數為什么是n-1?
?假設X為獨立同分布的一組隨機變量,總體為M,隨機抽取N個隨機變量構成一個樣本,和是總體的均值和方差,?是常數。是對樣本的均值和方差,由于樣本是隨機抽取的,也是隨機的。
既然是隨機變量,就可以觀察他們的均值方差。
? ? 這里需要注意的是,由于樣本是隨機的,所以X1,X2,X3...都是隨機的。上式中可以看出,樣本均值這個變量的期望就是總體的均值,因此可以說均值是無偏的。
? ? 接下來看樣本方差的均值:
?
?
? ? 結合方差公式,可以得到方差的期望與方差之間的關系:
? ??(方差的期望=(n-1/n)方差)
? ? 這里可以看出樣本方差的期望并不是無偏的,要無偏估計,應該再乘上一個系數:
所以無偏估計的樣本的方差:
? ??。
? ? n-1為自由度,就是說,在一個容量為n的樣本里,當確定了n-1個變量以后,第n個變量就確定了,因為樣本均值是無偏的。
? ? 協方差除以m-1原理和方差一樣,因為方差為協方差的特殊情況。
總結
以上是生活随笔為你收集整理的PCA算法中样本方差和协方差的无偏估计与n-1的由来的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 华人科学家量子计算机,华人科学家在美国研
- 下一篇: oracle dump enq hw,经