学会重构与对比 ——码农鼻祖天才香农
我不僅僅滿足于向這臺大腦里輸入數(shù)據(jù)，還希望把文化的東西灌輸進(jìn)去。
——?克勞德·香農(nóng)
1948年，一篇名為《通信的數(shù)學(xué)原理》的論文發(fā)表，這可能是20世紀(jì)最負(fù)盛名的論文之一，迄今被引用已突破11萬次。
106年前的今天，天才香農(nóng)誕生，以一己之力將通信問題從物理領(lǐng)域抽象出來，發(fā)現(xiàn)了可以利用概率對信息交流的關(guān)鍵原理——不確定性建模，?將一門工程領(lǐng)域的藝術(shù)問題變成可度量可控的科學(xué)。
?
克勞德·香農(nóng)??Claude?Shannon
(1916 年 4 月 30 — 2001年2月24日）
通信是否存在大統(tǒng)一的理論？
106年的今天，信息時代的奠基者，信息理論的創(chuàng)始人克勞德·香農(nóng)誕生。他是一名美國數(shù)學(xué)家、電子工程師和密碼學(xué)家。?
在香農(nóng)之前，通信問題被看作是一個工程問題——關(guān)于確定性的信號重構(gòu)，即如何變換被物理介質(zhì)扭曲的接收信號，以盡可能準(zhǔn)確地重建原始信號。
香農(nóng)天才地發(fā)現(xiàn)了信息交流的關(guān)鍵在于不確定性，從而將一個藝術(shù)性的工程問題變成了一門可度量的科學(xué)問題。
在不確定性和概率的框架下，香農(nóng)在他的里程碑式的論文中系統(tǒng)地確定了通信的基本理論。
香農(nóng)的模型包含了兩個關(guān)鍵的見解：從需要設(shè)計的通信系統(tǒng)中隔離信息和噪聲源，以及對這兩個源進(jìn)行概率建模。
發(fā)射器將信號好編碼成信號，信號被噪聲破壞，然后由接收器解碼。
The best is yet to come .
We have only scratched the surface,
computers can only do what we tell them now ,
but it will be different in the future .
——??Claude?Shannon
天才怎樣進(jìn)行思考
在被問到天才有什么特質(zhì)時，香農(nóng)說了一個圖靈告訴他的類比，圖靈由自己觀察到的現(xiàn)象做推斷，告訴香農(nóng)：“?有些人，你告訴他一個點(diǎn)子，他能回你半個點(diǎn)子；還有些人，你告訴他一個點(diǎn)子，他能回你兩個點(diǎn)子。”
香農(nóng)實際上想說的是，要想有好點(diǎn)子，就要善于增加每次輸入的精華。如果沒有領(lǐng)悟好點(diǎn)子的本質(zhì)，最終想法可能就會變得平庸。 只有越觸及問題的本質(zhì)，得出真知灼見的概率才越大。
一，【0】和【1】與【真】和【假】
《繼電器與開關(guān)電路的符號分析》，香農(nóng)將布爾代數(shù)的數(shù)學(xué)學(xué)科應(yīng)用于開關(guān)電路的分析和合成——布爾代數(shù)的【真】和【假】與電路系統(tǒng)的【開】和【關(guān)】對應(yīng)起來，用【0】和【1】表示。
這是變革型的工作，也是數(shù)字電路設(shè)計的起點(diǎn)。
香農(nóng)告訴我們，這個世界所有的信息都可以用0和1來表示。
人類從工業(yè)時代進(jìn)入了信息時代。
二，信息的性質(zhì) VS 【反直覺】的比特
?信息論舉世之作 ——《通信的數(shù)學(xué)原理》
“ 信息是什么？信息的多少到底如何度量？”香農(nóng)創(chuàng)造性地采用概率論的方法來研究通信中的問題。
香農(nóng)在他的論文《通信的數(shù)學(xué)原理》中，描述了創(chuàng)造性地采用概率論的方法研究通信問題的思路。通過把通信的基本問題歸結(jié)為通信的一方能以一定的概率復(fù)現(xiàn)另一方發(fā)出的消息，并針對這一基本問題對信息給予科學(xué)的定量描述，第一次提出了信息熵的概念。
此外，香農(nóng)還定義了信源、編碼、信道、譯碼、信宿等概念，建立了通信系統(tǒng)的數(shù)學(xué)模型，這就是著名的香農(nóng)模型，并得出了信源編碼定理和信道編碼定理。
他的定理導(dǎo)致了一些違反直覺的結(jié)論。
A、事實上，熵的概念可以作為壓縮的基本極限。
—— 香農(nóng)發(fā)明了新的數(shù)學(xué)來描述通信定律，引入了新的思想，如概率模型的熵率。
B、比特可以作為信息的通用貨幣統(tǒng)治世界。
—— 香農(nóng)研究的是傳播理論，但實際上同時也是一種關(guān)于信息如何產(chǎn)生和傳遞的理論，從而開創(chuàng)了信息論。
所有的問題都有自己的形式。在香農(nóng)完美解決各領(lǐng)域的核心問題之前，他告訴著我們：先理解問題本身。
尋找答案當(dāng)然很重要，但提問本身是有方法的，提出能解答、有答案的問題也很重要。
TIPS： 學(xué)會重構(gòu)和對比
從香農(nóng)寫信給導(dǎo)師萬尼瓦爾·布什，在思考通信是否存在大統(tǒng)一的理論問題時，他想到了用于情報傳遞的一般系統(tǒng)的基本特性二者之間的關(guān)聯(lián)；到轉(zhuǎn)行去研究遺傳學(xué)，將遺傳學(xué)和數(shù)學(xué)結(jié)合，寫出博文《理論遺傳學(xué)的代數(shù)學(xué)》；再順便跨界到密碼學(xué)領(lǐng)域，幫助加密丘吉爾和羅斯福的越洋會議內(nèi)容...
香農(nóng)曾在Bells Labs上發(fā)表演講，講解自己思考的過程，詳細(xì)提到自己在需要解決的問題面前，是怎樣讓思考過程更具創(chuàng)意的。
除了找出問題的核心，他還提到了創(chuàng)意型思考。
聯(lián)系邏輯可以不那么嚴(yán)密，甚至看上去會像巧合，但是這些“神奇的錯位“，能給新型的思維方式創(chuàng)造空間！
在具體使用時可以重構(gòu)問題，做對比，聯(lián)想，可以夸張、縮短問題的文字、轉(zhuǎn)換問的角度...?
?
這個問題最好的解決方法是什么？
最壞的解決方法是什么？
每個輸入的信息都可以找到它的本質(zhì)。
—— 既需要批判性思考，也需要創(chuàng)意思維。
回顧香農(nóng)輝煌的一生，年輕時開始在世界上被逐漸推崇，成為美國科學(xué)院和工程院院士，到獲得各大國內(nèi)國際榮譽(yù)獎項...
總結(jié)
以上是生活随笔為你收集整理的学会重构与对比 ——码农鼻祖天才香农的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。
- 上一篇： 《Gans in Action》第一章
- 下一篇： 搭建 ownCloud 私有云教程