1.?線性代數(shù)?(Linear Algebra)：

我想國(guó)內(nèi)的大學(xué)生都會(huì)學(xué)過(guò)這門(mén)課程，但是，未必每一位老師都能貫徹它的精要。這門(mén)學(xué)科對(duì)于Learning是必備的基礎(chǔ)，對(duì)它的透徹掌握是必不可少的。我在科大一年級(jí)的時(shí)候就學(xué)習(xí)了這門(mén)課，后來(lái)到了香港后，又重新把線性代數(shù)讀了一遍，所讀的是

Introduction to Linear Algebra (3rd Ed.)? by Gilbert Strang.

這本書(shū)是MIT的線性代數(shù)課使用的教材，也是被很多其它大學(xué)選用的經(jīng)典教材。它的難度適中，講解清晰，重要的是對(duì)許多核心的概念討論得比較透徹。我個(gè)人覺(jué)得，學(xué)習(xí)線性代數(shù)，最重要的不是去熟練矩陣運(yùn)算和解方程的方法——這些在實(shí)際工作中MATLAB可以代勞，關(guān)鍵的是要深入理解幾個(gè)基礎(chǔ)而又重要的概念：子空間(Subspace)，正交(Orthogonality)，特征值和特征向量(Eigenvalues and eigenvectors)，和線性變換(Linear transform)。從我的角度看來(lái)，一本線代教科書(shū)的質(zhì)量，就在于它能否給這些根本概念以足夠的重視，能否把它們的聯(lián)系講清楚。Strang的這本書(shū)在這方面是做得很好的。

而且，這本書(shū)有個(gè)得天獨(dú)厚的優(yōu)勢(shì)。書(shū)的作者長(zhǎng)期在MIT講授線性代數(shù)課(18.06)，課程的video在MIT的Open courseware網(wǎng)站上有提供。有時(shí)間的朋友可以一邊看著名師授課的錄像，一邊對(duì)照課本學(xué)習(xí)或者復(fù)習(xí)。

http://ocw.mit.edu/OcwWeb/Mathematics/18-06Spring-2005/CourseHome/index.htm

2.?概率和統(tǒng)計(jì)?(Probability and Statistics):

概率論和統(tǒng)計(jì)的入門(mén)教科書(shū)很多，我目前也沒(méi)有特別的推薦。我在這里想介紹的是一本關(guān)于多元統(tǒng)計(jì)的基礎(chǔ)教科書(shū)：

Applied Multivariate Statistical Analysis?(5th Ed.)? by Richard A. Johnson and Dean W. Wichern

這本書(shū)是我在剛接觸向量統(tǒng)計(jì)的時(shí)候用于學(xué)習(xí)的，我在香港時(shí)做研究的基礎(chǔ)就是從此打下了。實(shí)驗(yàn)室的一些同學(xué)也借用這本書(shū)學(xué)習(xí)向量統(tǒng)計(jì)。這本書(shū)沒(méi)有特別追求數(shù)學(xué)上的深度，而是以通俗易懂的方式講述主要的基本概念，讀起來(lái)很舒服，內(nèi)容也很實(shí)用。對(duì)于Linear regression, factor analysis, principal component analysis (PCA), and canonical component analysis (CCA)這些Learning中的基本方法也展開(kāi)了初步的論述。

之后就可以進(jìn)一步深入學(xué)習(xí)貝葉斯統(tǒng)計(jì)和Graphical models。一本理想的書(shū)是

Introduction to Graphical Models (draft version).? by M. Jordan and C. Bishop.

我不知道這本書(shū)是不是已經(jīng)出版了（不要和Learning in Graphical Models混淆，那是個(gè)論文集，不適合初學(xué)）。這本書(shū)從基本的貝葉斯統(tǒng)計(jì)模型出發(fā)一直深入到復(fù)雜的統(tǒng)計(jì)網(wǎng)絡(luò)的估計(jì)和推斷，深入淺出，statistical learning的許多重要方面都在此書(shū)有清楚論述和詳細(xì)講解。MIT內(nèi)部可以access，至于外面，好像也是有電子版的。

3.?分析?(Analysis)：

我想大家基本都在大學(xué)就學(xué)過(guò)微積分或者數(shù)學(xué)分析，深度和廣度則隨各個(gè)學(xué)校而異了。這個(gè)領(lǐng)域是很多學(xué)科的基礎(chǔ)，值得推薦的教科書(shū)莫過(guò)于

Principles of Mathematical Analysis, by Walter Rudin

有點(diǎn)老，但是絕對(duì)經(jīng)典，深入透徹。缺點(diǎn)就是比較艱深——這是Rudin的書(shū)的一貫風(fēng)格，適合于有一定基礎(chǔ)后回頭去看。

在分析這個(gè)方向，接下來(lái)就是泛函分析(Functional Analysis)。

Introductory Functional Analysis with Applications, by Erwin Kreyszig.

適合作為泛函的基礎(chǔ)教材，容易切入而不失全面。我特別喜歡它對(duì)于譜論和算子理論的特別關(guān)注，這對(duì)于做learning的研究是特別重要的。Rudin也有一本關(guān)于functional analysis的書(shū)，那本書(shū)在數(shù)學(xué)上可能更為深刻，但是不易于上手，所講內(nèi)容和learning的切合度不如此書(shū)。

在分析這個(gè)方向，還有一個(gè)重要的學(xué)科是測(cè)度理論(Measure theory)，但是我看過(guò)的書(shū)里面目前還沒(méi)有感覺(jué)有特別值得介紹的。

4.?拓?fù)?(Topology)：

在我讀過(guò)的基本拓?fù)鋾?shū)各有特色，但是綜合而言，我最推崇：

Topology (2nd Ed.)? by James Munkres

這本書(shū)是Munkres教授長(zhǎng)期執(zhí)教MIT拓?fù)湔n的心血所凝。對(duì)于一般拓?fù)鋵W(xué)(General topology)有全面介紹，而對(duì)于代數(shù)拓?fù)?Algebraic topology)也有適度的探討。此書(shū)不需要特別的數(shù)學(xué)知識(shí)就可以開(kāi)始學(xué)習(xí)，由淺入深，從最基本的集合論概念（很多書(shū)不屑講這個(gè)）到Nagata-Smirnov Theorem和Tychonoff theorem等較深的定理（很多書(shū)避開(kāi)了這個(gè)）都覆蓋了。講述方式思想性很強(qiáng)，對(duì)于很多定理，除了給出證明過(guò)程和引導(dǎo)你思考其背后的原理脈絡(luò)，很多令人贊嘆的亮點(diǎn)——我常讀得忘卻饑餓，不愿釋手。很多習(xí)題很有水平。

5.?流形理論?(Manifold theory)：

對(duì)于拓?fù)浜头治鲇幸欢ò盐諘r(shí)，方可開(kāi)始學(xué)習(xí)流形理論，否則所學(xué)只能流于浮淺。我所使用的書(shū)是

Introduction to Smooth Manifolds.? by John M. Lee

雖然書(shū)名有introduction這個(gè)單詞，但是實(shí)際上此書(shū)涉入很深，除了講授了基本的manifold,?tangent space,?bundle,?sub-manifold等，還探討了諸如綱理論(Category theory)，德拉姆上同調(diào)(De Rham cohomology)和積分流形等一些比較高級(jí)的專(zhuān)題。對(duì)于李群和李代數(shù)也有相當(dāng)多的討論。行文通俗而又不失嚴(yán)謹(jǐn)，不過(guò)對(duì)某些記號(hào)方式需要熟悉一下。

雖然李群論是建基于平滑流形的概念之上，不過(guò)，也可能從矩陣出發(fā)直接學(xué)習(xí)李群和李代數(shù)——這種方法對(duì)于急需使用李群論解決問(wèn)題的朋友可能更加實(shí)用。而且，對(duì)于一個(gè)問(wèn)題從不同角度看待也利于加深理解。下面一本書(shū)就是這個(gè)方向的典范：

Lie Groups, Lie Algebras, and Representations: An Elementary Introduction.? by Brian C. Hall

此書(shū)從開(kāi)始即從矩陣切入，從代數(shù)而非幾何角度引入矩陣?yán)钊旱母拍睢２⑼ㄟ^(guò)定義運(yùn)算的方式建立exponential mapping，并就此引入李代數(shù)。這種方式比起傳統(tǒng)的通過(guò)“左不變向量場(chǎng)(Left-invariant vector field)“的方式定義李代數(shù)更容易為人所接受，也更容易揭示李代數(shù)的意義。最后，也有專(zhuān)門(mén)的論述把這種新的定義方式和傳統(tǒng)方式聯(lián)系起來(lái)。

————————————————————————————

無(wú)論是研究Vision, Learning還是其它別的學(xué)科，數(shù)學(xué)終究是根基所在。學(xué)好數(shù)學(xué)是做好研究的基石。學(xué)好數(shù)學(xué)的關(guān)鍵歸根結(jié)底是自己的努力，但是選擇一本好的書(shū)還是大有益處的。不同的人有不同的知識(shí)背景，思維習(xí)慣和研究方向，因此書(shū)的選擇也因人而異，只求適合自己，不必強(qiáng)求一致。上面的書(shū)僅僅是從我個(gè)人角度的出發(fā)介紹的，我的閱讀經(jīng)歷實(shí)在非常有限，很可能還有比它們更好的書(shū)（不妨也告知我一聲，先說(shuō)聲謝謝了）。

轉(zhuǎn)自：http://blog.sciencenet.cn/blog-224917-491478.html

總結(jié)

以上是生活随笔為你收集整理的牛人林达华推荐有关机器学习的数学书籍的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。