赫胥黎的焦虑与美丽新世界
作者簡介
王慶法，數據領域專家，首席數據官聯盟專家組成員，曾就職于IBM、微軟等知名企業的研發部門17年，在傳統企業數據、大數據、機器學習、深度學習以及云計算等領域積累了豐富的軟件開發、架構設計、技術管理、產品創新以及孵化落地的經驗。
一個人之所以有信仰，是因為他被洗腦了（One believes things because one has been conditioned to believe them）
--? 阿道司·赫胥黎
?
?基因編輯?
赫胥黎眼中的未來，人類實現了差異被認同，工作無疲憊，幸福觸手可及的《美麗新世界》。在那里，基因培育消除了人的差異，僅為不同階層與工種設計了少許的多樣性。一切都是一勞永逸，你不再需要“對家眷戀、對愛忠誠、對死恐懼、對生命敬畏，對不如己意的一切抱有懷疑，對難測不定的命運痛苦感傷”。
?
?
這或許是人類社會的終極的烏托邦形態。人類已經無限接近掌握基因編輯與培育的技術，上個月名為露露和娜娜的基因編輯女嬰的健康出生，嘩然全球。親代與子代間由DNA雙螺旋所纏結起來的傳承，與自然賦予的形形色色的變異可以被掌控了嗎？數十億年“物競天擇”的終極在哪里，人類掌控下的遺傳變異是否能夠選擇出超級賽亞人？ 什么才是未來可以“生存”的“適者”？赫胥黎在焦慮，社會在焦慮，孩子的家長也在焦慮。
?
托馬斯.赫胥黎把進化與遺傳的整合稱為綜合進化，種群中不同個體得到不同的遺傳材料，同時在繁育能力上表現出差異。變異發生在代際，驅動因素來自遺傳物質重組、突變、流動、漂變，為自然選擇提供可能。變異表現出明顯的隨機性，無既定方向，由環境適應度（Fitness）決定。選擇的是個體，進化的是種群。這一點或許可以解釋為啥學霸父母可能生出學渣娃，而下一代情商智商整體看來都優于雙親一代。人工基因編輯帶來的社會焦慮，源于這些新基因有沒有機會發生漂變，從而影響人類的整體基因庫。
?
?
?神經進化?
一石激起千層浪，圍繞生物學意義上的基因編輯、遺傳掌控的爭議仍在繼續，而模擬生物進化自然選擇與遺傳機制的計算模型--神經進化（ Neuro Evolution ），卻開始展現出強大的潛能，強大到可能主宰當下流行的深度學習與人工智能的未來發展方向。未來已來，將至已至，只是分布不均。
?
“神經進化是人工智能和機器學習的一個分支，通過在計算機中激發一個類似人類大腦進化的過程，找到進化人工神經網絡（ANN）的途徑。”Kenneth Stanley 教授2017年在《神經進化：一種不同的深度學習 (Neuroevolution: Adifferent kind of deep learning)》演講中如是說。神經進化就是用進化算法生成神經網絡，探索優化網絡的架構、參數、拓撲以及規則，為困擾ANN的局部最優、梯度依賴、規模并行、架構自動化等問題，找到有效的解決方法。
?
在喜歡畫個圈把自己圈住，然后定義自己在圈外的數學家看來，問題是這樣的：給定黑盒場景，在連續空間里最大化適應度函數 F（Fitness function）。這與大部分的現代神經網絡利用香農的信息熵構建的深度學習損失函數，看起來大不同。F 可以是非線性、非凸、多模、非平滑，甚至不連續、病態、有噪音的，因而 F 很可能存在多個局部最優，不可求導，這些都是依賴梯度下降后向傳播的神經網絡模型參數優化的禁區。
?
?
對的，他可能長成這樣：
?
?
?進化策略?
ANN 神經進化的思想很簡單：讓ANN 繁衍后代，這是生物遺傳進化的核心。首先產生一個隨機的ANN種群，為每個ANN個體初始化一個參數 θ，θ隨機分布，θ就是ANN的基因；接著根據實際場景，定義一個適應度(Fitness)，這一步至關重要，例如你在訓練ANN來控制游戲中的角色，你需要知道這些ANN在操控游戲角色時的表現如何，并且可以打個適應度的分；然后讓這些ANN個體一個個來操控游戲角色，并且打適應度分，不必擔心他們的拙劣表現，只管給他們的適應度評分排排隊，選出其中表現稍好一點點的作為新一代的ANN父母；通過相應的進化策略（Evolution Strategy）修改這些新一代的ANN的基因θ，類似自然界中的“重組、突變、流動、漂變”，產生他們的后代；然后讓這批新的后代操控游戲角色，并做適應度打分，周而復始，直到你滿意。
?
?
生物學家說，這不是什么遺傳進化，這太抽象、太簡化，遠遠不能模擬自然界的生物種群繁衍，腦科學家當初也是這么評價人工神經網絡的。數學家說，這不過是一個用途更廣泛的優化過程，不吹不黑。進化策略與遺傳算法都是典型的神經進化算法，不同于遺傳算法的二進制基因表達，進化策略用實數值描述基因，按既定要求生成一定數量的候選個體，通常從一個概率分布中抽樣而來，分布函數的參數在下一代的繁衍時被更新，過程可以描述為：
?
初始化隨機參數分布θ，設定種群大小為λ，如果沒有結束，就重復下面的步驟：
1.? ? ? ?分布采樣
2.?????? 適應度評分
3.?????? 更新參數
?
簡單的進化策略，可以直接從一個均值為 m、標準差為σ 的正態分布中抽樣, 以C為協方差矩陣，可以表示為 :
又見正態分布，為什么數學家們如此鐘情于它？赫胥黎說，如果你與眾不同，你就一定會孤獨。數學家們是每一代遺傳進化智商方向的優勢種群，因而其對正態分布在自然界中無時不有又無處不在的事實，以及正態分布遵循自然規律最大熵分布的物理意義，都有深刻理解。請參考本人《薛定諤的佛與深度學習中的因果》一文。
?
?CMA-ES?
簡單的進化策略，標準差參數固定，僅適用于一些簡單的場景，很容易陷入局部最優的陷阱。一念天堂，Nikolaus Hansen教授靈光一閃，協方差矩陣自適應進化策略（Covariance-Matrix Adaptation Evolution Strategy，CMA-ES）應運而生，這是數學界“基因突變”的實例之一。
?
Hansen教授引入了修正簡單進化策略中的協方差矩陣C的方法，計算整個參數空間中的協方差矩陣，自適應的調整參數m與 σ；復用每一代的優選結果，自適應的調整下一代的可搜索空間。自適應遵循了逼近預期的適應度函數的自然梯度，并且提升了優選代的似然（Likelihood）。這讓 CMA-ES 算法成為最流行的無梯度依賴的優化算法之一。
??
算法中的yw部分很有趣，協方差矩陣C的特征向量事實上是參數基因突變橢球體的主軸，具備旋轉不變性，這等同于對yw做了主成分分析（Principal Component Analysis, PCA)。我在《迷人的數據與香農的視角》中解釋的矩陣的奇異值分解 UEV' ，讀者還有印象嗎？
?
?
?美麗新世界?
2017年被認為是神經進化復興的元年，OpenAI 與 Uber都發布了進化策略的研究進展，這些研究表明進化策略不僅在監督學習中取得了良好效果，在強化學習中也表現卓越，某些領域中可媲美最先進水平，甚至有所超越。早在2013年進化算法就在Pong、Breakout和Space invader等街機游戲中完勝人類，彰顯無限潛力。谷歌大腦也發布了進化深度網絡架構的大規模試驗，MIT、約翰霍普金斯，卡耐基梅隆等高校均已開始聚焦。ANN的美麗新世界要到來了嗎？
?
可是赫胥黎還在焦慮，他焦慮“物競天擇”的進化策略的終極目的地是何方；社會還在焦慮，他們焦慮有違社會倫理的瘋狂科學家，給早已習以為常的“適者生存”的人類進化帶來的新型的潛在的社會不公；家長們還在焦慮，她們焦慮人類社會進化的適應度（Fitness）函數唯一地變成了奧數成績，“但我不要舒適。我要神，我要詩，我要真實的危險，我要自由，我要善良，我要罪孽”，這些其實都可以不要，我只要奧數成績。許多培訓機構還在不斷助長這種焦慮。
?
“在病態社會中，精神病人才是真正健康的人”，“人們感到痛苦的不是他們用笑聲取代了思考，而是他們不知道自己為什么笑以及為什么不再思考”，“我們常常抱怨這個社會的不公平，而家長們常常就會說這個社會就是這樣，你必須要去適應。很多東西我們選擇逃避，很多東西我們卻選擇冒險”。“緩慢地，非常緩慢地，像慢條斯理的圓規的腳，那兩條腿向右邊轉了過來，向北，東北，東南，南，西南轉了過去，停住，懸了一會兒，又同樣緩慢地向左邊轉了回去，西南，南，東南，東……”。
?
參考資料：
·https://blog.openai.com/evolution-strategies/?
·https://eng.uber.com/deep-neuroevolution/
·https://www.oreilly.com/ideas/neuroevolution-a-different-kind-of-deep-learning
·http://www.lorentzcenter.nl/lc/web/2008/305/presentations/Hansen.pdf
·https://arxiv.org/abs/1703.03864
·http://blog.otoro.net/2017/10/29/visual-evolution-strategies/
·http://jmlr.org/papers/volume15/wierstra14a/wierstra14a.pdf
·http://www.wenzhangba.com/duhougan/201804/269708.html
·https://www.juzimi.com/article/22470
END
∑編輯?|?Gemini
整理 ：?算數君
更多精彩：
? ?哈爾莫斯：怎樣做數學研究
? ?扎克伯格2017年哈佛大學畢業演講
? ?線性代數在組合數學中的應用
? ?你見過真的菲利普曲線嗎？
? ?支持向量機(SVM)的故事是這樣子的
? ?深度神經網絡中的數學，對你來說會不會太難？
? ?編程需要知道多少數學知識？
? ?陳省身——什么是幾何學
? ?模式識別研究的回顧與展望
? ?曲面論
? ?自然底數e的意義是什么？
? ?如何向5歲小孩解釋什么是支持向量機（SVM）？
? ?華裔天才數學家陶哲軒自述
? ?代數，分析，幾何與拓撲，現代數學的三大方法論
算法數學之美微信公眾號歡迎賜稿
稿件涉及數學、物理、算法、計算機、編程等相關領域，經采用我們將奉上稿酬。
投稿郵箱：math_alg@163.com
總結
以上是生活随笔為你收集整理的赫胥黎的焦虑与美丽新世界的全部內容，希望文章能夠幫你解決所遇到的問題。
- 上一篇： 中国首富们三十而立的年纪都在干什么
- 下一篇： 这是80%的程序员都看过的python教