机器学习之数学基础(二)~数组、向量、矩阵、向量空间、二维矩阵
1. 概述
在學習機器學習(machine learning)或模式識別(pattern recognition)過程中,我經常會困惑于向量、數組和矩陣這三種數據結構,而在學習張學工教授《模式識別》一書時,我又碰到了二維矩陣這個對我很模糊的概念,一生氣就自己總結一個吧。
本文如有不足不對之處,歡迎指正。
2. 數組、向量、矩陣和向量空間
2.1 ?數組
[轉載自:https://blog.csdn.net/qq_41800366/article/details/86605575]
概念:所謂數組,是有序的元素序列。
這里的概念就沒有涉及到空間了,我們通常稱的n維數組,這里的維度指的不是空間的維度,而是數據所構成的維度;
下面進行舉例說明,
一維數組
[1, 2, 3, 4]
這里的數據的維度就只有一維,也就是深度為1,怎么理解呢,比如你要取2,你要怎么做呢,只需要進入第一層,這時候你會找到1,2,3,4這四個元素,直接就能找到2這個元素。
二維數組
[[1, 2],[3, 4]]
這里的數據的維度就就有二維,也就是深度為2,怎么理解呢,比如你要取2,你要怎么做呢,首先你要進入進入第一層,這時候你找到的是[1, 2] 和 [3, 4],然后你還得繼續往下找,再進入一層,你會找到 1,2,3,4這四個元素,然后找到2這個元素,也就是你進入了兩層才找到元素,所以深度為2,維度為二維。
三維數組
[[[1, 2], [3, 4]], [[5, 6], [7, 8]]]
Note: 我個人認為數組最大的用處是在python等編程語言中實現向量、矩陣等數據結構!
這里的數據的維度就就有三維,也就是深度為3,怎么理解呢,比如你要取2,你要怎么做呢,首先你要進入進入第一層,這時候你找到的是[[1, 2], [3, 4]] 、 [[5, 6], [7, 8]] ,然后你還得繼續往下找,再進入一層,你會找到 [1, 2]、[3, 4]、[5, 6]、 [7, 8] ,然后你還得繼續往下找,再進入一層,1、2、3、4、5、6、7、8這8個元素,然后找到2這個元素,也就是你進入了三層才找到元素,所以深度為3,維度為三維。
2.2 n維向量
概念:n個有次序的數, , ····,所組成的數組稱為n維向量,這n個數稱為該向量的n個分量,第i個數稱為第i個分量。(同濟大學線性代數第五版-4.1)
n維向量可寫成一行,也可寫成一列,分別稱為行向量和列向量,也就是行矩陣和列矩陣,并規定行向量和列向量都按矩陣的運算規則進行運算。?因此,n維列向量
與n維行向量
Note: 這個解釋其實是說在線性代數中,向量和矩陣其實是一回事。不同的是矩陣論階,向量論維。
在解析幾何中,我們把“既有大小又有方向的量”叫做向量,并把可隨意平行移動的有向線段作為向量的幾何形象。
在引進坐標系以后,這種向量就有了坐標表示式— — 三個有次序的實數,也就是本書中的3維向量。因此,當 n ≤ 3 時,n維向量可以把有向線段作為幾何形象,但當n>3 時,n 維向量就不再有這種幾何形象,只是沿用一些幾何術語罷了。
2.3?矩陣
在同濟大學線性代數第六版中,矩陣定義如下:由m×n 個數aij (i= 1,2,…,m;j= 1,2,…,n)排成的m 行n 列的數表
稱為m 行n 列矩陣,簡稱m×n 矩。
矩陣的列向量組和行向量組都是只含有限個向量的向量組;反之,一個含有限個向量的向量組總可以構成一個矩陣。因此可知向量可以組成矩陣,矩陣是包含向量的。
?
2.4?向量空間
幾何中,“空間”通常是作為點的集合,即構成“空間”的元素是點,這樣的空間叫做點空間。
我們把3 維向量的全體所組成的集合叫做3 維向量空間。
在點空間取定坐標系以后,空間中的點P(x,y,z)與3 維向量 r =(x,y,z)T 之間有一一對應的關系。
類似的,n維向量的全體所組成的集合叫做n維向量空間。
Note: 這里n維向量空間的概念應該可以理解成n x n矩陣。
在同濟大學線性代數第六版中,矩陣的列向量組和行向量組都是只含有限個向量的向量組;反之,一個含有限個向量的向量組總可以構成一個矩陣。例如,一個mxn矩陣的全體列向量是一個含n個m維列向量的向量組。
向量空間(同濟大學線性代數第五版)
概念:設V為n維向量的集合,如何集合V非空,且集合V對于向量的加法及乘法兩種運算封閉,那么就稱集合V為向量空間。
封閉,是指在集合V中可以進行向量的加法及乘法兩種運算。具體地說,
同濟大學線代第五版結論:(1)?其次線性方程組的解集 S={x|Ax=0} 是一個向量空間(稱為齊次線性方程組的解空間)。因此由齊次線性方程組的解的性質1.2,即知其解集S對向量的線性運算封閉。(2)非齊次線性方程組的解集 S={x|Ax=b}不是向量空間。
定義7(同濟線代第五版)
設V為向量空間,如果r個向量,且滿足
(1)?線性無關。
(2)V中任一向量都可由線性表示。
那么,向量組就稱為向量空間V的一個基,r稱為向量空間V的維數,并稱V為r維向量空間。
若把向量空間V看作向量組,則由最大無關組的等價定義可知,V的基就是向量組的最大無關組,V的維數就是向量組的秩。
2.5 二維矩陣
張學工教授《模式識別》p10
應用背景:"多數癌癥并不是由單個基因的變化引起的,而是與多個基因有關系,人們希望借助基因芯片來揭示這些關系。"
"這樣,對于每個病人就獲得了成千上萬個基因表達特征,而對每個基因也獲得了它們在每個病人細胞中的表達特征。把這組芯片的數據集合起來,就形成了一個二維矩陣,其中一維是基因,另一維是病例。"
解析:單個基因表達特征明顯是一個二維向量,成千上萬的二維向量近乎組成了二維向量空間,亦即一個二維矩陣。
所以,二維矩陣的維度類似于空間向量的維數,而不是一個包含兩個元素的列矩陣。
所以,我們通常會說矩陣的維度是指矩陣的行數。
如果本文由任何不足,歡迎各位大神提出來,我會盡快修正。
總結
以上是生活随笔為你收集整理的机器学习之数学基础(二)~数组、向量、矩阵、向量空间、二维矩阵的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 机器学习应用方向(一)~英文姓名消歧(n
- 下一篇: 机器学习高阶认识(一): 机器学习假设与