說明

上文【機器學習：論相關（一）】說明了相關在幾何學、線性代數、和概率中都提到相似的概念。本文重點討論在概率系統中，相關的現實意義，以及在時間序列上的應用。

五、概率學對相關的表述

5.1 期望的概念

????????在文【機器學習系列4：期望到底是個啥？】中，直觀地介紹了期望的概念，這里站在理論立場上，對期望這個概念重新定義。

????????所謂期望，必須要有兩個要素：1）一個概率空間? 2）一個函數，該函數自變量為概率事件的集合。

舉個例子：比如一個骰子，這是一個概率空間，另有一個收益函數，

????????這個函數意思是，見到骰子是“1”，就得2分；見到骰子是“2，3，4”之一，就得1分；見到{5，6}得20分。對應的概率空間是：

那么，期望就是：

? ? ? ? ? ? ? ? ? ? ??

? ? ? ? ? ? ? ? ? ? ??

在向量角度上看，在概率P下對函數f期望就是：向量?和這兩個向量的內積:

? ? ? ? ? ? ? ? ? ? ? ? ? ? ??

推廣到連續函數：

? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?

其中，f是概率密度函數，F是集合函數。

結論：期望就是兩個集合函數（一個是概率密度、一個是收益函數）的內積！

5.2 能量的自然規律

上文中提到，期望，就是一個概率空間，與一個打分函數的內積?！緳C器學習：論相關（一）】），然而，能量函數與期望、方差有內在關系。

首先讓我們回顧彈簧的能量：

? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?

????????該公式最核心的內容是;k不過是個彈性系數；因此，位移的平方構成能量。也就是說，所謂能量是關于位移的拋物線函數，做為拋物函數，要么有極大值，要么有極小值；而自然界，能量函數普遍是有下限沒有上限。舉個直觀的例子：將水桶舉高到離地面一米的桌上；可以：

• 用手將水杯舉起，花掉50焦耳能量。
• 將水杯舉到10樓，在回到桌面，1000焦耳。
• 將水杯舉到月球，再回到桌面，一億焦耳。

?????????而用少于50焦耳能量，將無法將水桶舉到桌面?？梢?#xff0c;開展一個活動，消耗能量有極小值，沒有極大值。總之，遇到平方函數，立刻想到彈簧的勢能，可以幫你建立數理模型。

5.3? 能量、期望和方差的關系

舉一個例子：給出下圖若干石頭子的坐標，問這些石頭到哪個點的能量最小？

?寫出總能量函數：

展開的形式為：

令：

? ? 有? ??

? ?有? ?

正好是：?;? ?;

是五個點的幾何重心，也就是均值。而方差的公式是：

?因此，有下列稱述：

• 1）所謂期望，就是采樣點的幾何重心。
• 2）所有采樣點相對幾何重心的能量最小。
• 2)? 所謂方差，就是所有采樣點到幾何重心的能量。

?5.4? 相關性

（未完待續）

總結

以上是生活随笔為你收集整理的机器学习：论相关（二）的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。