python 计量_距离度量以及python实现(二)
7.夾角余弦(Cosine)
也可以叫余弦相似度。 幾何中夾角余弦可用來衡量兩個(gè)向量方向的差異,機(jī)器學(xué)習(xí)中借用這一概念來衡量樣本向量之間的差異。
(1)在二維空間中向量A(x1,y1)與向量B(x2,y2)的夾角余弦公式:
(2) 兩個(gè)n維樣本點(diǎn)a(x11,x12,…,x1n)和b(x21,x22,…,x2n)的夾角余弦
類似的,對(duì)于兩個(gè)n維樣本點(diǎn)a(x11,x12,…,x1n)和b(x21,x22,…,x2n),可以使用類似于夾角余弦的概念來衡量它們間的相似程度。
即:
余弦取值范圍為[-1,1]。求得兩個(gè)向量的夾角,并得出夾角對(duì)應(yīng)的余弦值,此余弦值就可以用來表征這兩個(gè)向量的相似性。夾角越小,趨近于0度,余弦值越接近于1,它們的方向更加吻合,則越相似。當(dāng)兩個(gè)向量的方向完全相反夾角余弦取最小值-1。當(dāng)余弦值為0時(shí),兩向量正交,夾角為90度。因此可以看出,余弦相似度與向量的幅值無關(guān),只與向量的方向相關(guān)。
importnumpy as np
x=np.random.random(10)
y=np.random.random(10)#方法一:根據(jù)公式求解
d1=np.dot(x,y)/(np.linalg.norm(x)*np.linalg.norm(y))#方法二:根據(jù)scipy庫求解
from scipy.spatial.distance importpdist
X=np.vstack([x,y])
d2=1-pdist(X,'cosine')
兩個(gè)向量完全相等時(shí),余弦值為1,如下的代碼計(jì)算出來的d=1。
d=1-pdist([x,x],'cosine')
8.皮爾遜相關(guān)系數(shù)(Pearson correlation)
(1) 皮爾遜相關(guān)系數(shù)的定義
前面提到的余弦相似度只與向量方向有關(guān),但它會(huì)受到向量的平移影響,在夾角余弦公式中如果將 x 平移到 x+1, 余弦值就會(huì)改變。怎樣才能實(shí)現(xiàn)平移不變性?這就要用到皮爾遜相關(guān)系數(shù)(Pearson correlation),有時(shí)候也直接叫相關(guān)系數(shù)。
如果將夾角余弦公式寫成:
表示向量x和向量y之間的夾角余弦,則皮爾遜相關(guān)系數(shù)則可表示為:
皮爾遜相關(guān)系數(shù)具有平移不變性和尺度不變性,計(jì)算出了兩個(gè)向量(維度)的相關(guān)性。
在python中的實(shí)現(xiàn):
importnumpy as np
x=np.random.random(10)
y=np.random.random(10)#方法一:根據(jù)公式求解
x_=x-np.mean(x)
y_=y-np.mean(y)
d1=np.dot(x_,y_)/(np.linalg.norm(x_)*np.linalg.norm(y_))#方法二:根據(jù)numpy庫求解
X=np.vstack([x,y])
d2=np.corrcoef(X)[0][1]
相關(guān)系數(shù)是衡量隨機(jī)變量X與Y相關(guān)程度的一種方法,相關(guān)系數(shù)的取值范圍是[-1,1]。相關(guān)系數(shù)的絕對(duì)值越大,則表明X與Y相關(guān)度越高。當(dāng)X與Y線性相關(guān)時(shí),相關(guān)系數(shù)取值為1(正線性相關(guān))或-1(負(fù)線性相關(guān))。
9.漢明距離(Hamming distance)
(1)漢明距離的定義
兩個(gè)等長字符串s1與s2之間的漢明距離定義為將其中一個(gè)變?yōu)榱硗庖粋€(gè)所需要作的最小替換次數(shù)。例如字符串“1111”與“1001”之間的漢明距離為2。
應(yīng)用:信息編碼(為了增強(qiáng)容錯(cuò)性,應(yīng)使得編碼間的最小漢明距離盡可能大)。
在python中的實(shí)現(xiàn):
importnumpy as npfrom scipy.spatial.distance importpdist
x=np.random.random(10)>0.5y=np.random.random(10)>0.5x=np.asarray(x,np.int32)
y=np.asarray(y,np.int32)#方法一:根據(jù)公式求解
d1=np.mean(x!=y)#方法二:根據(jù)scipy庫求解
X=np.vstack([x,y])
d2=pdist(X,'hamming')
10.杰卡德相似系數(shù)(Jaccard similarity coefficient)
(1) 杰卡德相似系數(shù)
兩個(gè)集合A和B的交集元素在A,B的并集中所占的比例,稱為兩個(gè)集合的杰卡德相似系數(shù),用符號(hào)J(A,B)表示。
杰卡德相似系數(shù)是衡量兩個(gè)集合的相似度一種指標(biāo)。
(2) 杰卡德距離
與杰卡德相似系數(shù)相反的概念是杰卡德距離(Jaccard distance)。杰卡德距離可用如下公式表示:
杰卡德距離用兩個(gè)集合中不同元素占所有元素的比例來衡量兩個(gè)集合的區(qū)分度。
(3) 杰卡德相似系數(shù)與杰卡德距離的應(yīng)用
可將杰卡德相似系數(shù)用在衡量樣本的相似度上。
樣本A與樣本B是兩個(gè)n維向量,而且所有維度的取值都是0或1。例如:A(0111)和B(1011)。我們將樣本看成是一個(gè)集合,1表示集合包含該元素,0表示集合不包含該元素。
在python中的實(shí)現(xiàn):
importnumpy as npfrom scipy.spatial.distance importpdist
x=np.random.random(10)>0.5y=np.random.random(10)>0.5x=np.asarray(x,np.int32)
y=np.asarray(y,np.int32)#方法一:根據(jù)公式求解
up=np.double(np.bitwise_and((x != y),np.bitwise_or(x != 0, y !=0)).sum())
down=np.double(np.bitwise_or(x != 0, y !=0).sum())
d1=(up/down)#方法二:根據(jù)scipy庫求解
X=np.vstack([x,y])
d2=pdist(X,'jaccard')
11.布雷柯蒂斯距離(Bray Curtis Distance)
Bray Curtis距離主要用于生態(tài)學(xué)和環(huán)境科學(xué),計(jì)算坐標(biāo)之間的距離。該距離取值在[0,1]之間。它也可以用來計(jì)算樣本之間的差異。
樣本數(shù)據(jù):
計(jì)算:
在python中的實(shí)現(xiàn):
importnumpy as npfrom scipy.spatial.distance importpdist
x=np.array([11,0,7,8,0])
y=np.array([24,37,5,18,1])#方法一:根據(jù)公式求解
up=np.sum(np.abs(y-x))
down=np.sum(x)+np.sum(y)
d1=(up/down)#方法二:根據(jù)scipy庫求解
X=np.vstack([x,y])
d2=pdist(X,'braycurtis')
總結(jié)
以上是生活随笔為你收集整理的python 计量_距离度量以及python实现(二)的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: python正则匹配_python 正则
- 下一篇: eclipse 64位_第3天 | 12