好嗨哟~谷歌量子神经网络新进展揭秘
選自?Googleblog
作者:Jarrod McClean、Hartmut Neven
機(jī)器之心編譯
參與:李亞洲、王淑婷
量子計(jì)算碰上機(jī)器學(xué)習(xí),谷歌今日的博客介紹了他們在量子神經(jīng)網(wǎng)絡(luò)方面的最新進(jìn)展。
谷歌人工智能量子團(tuán)隊(duì)自成立以來,一直致力于理解量子計(jì)算在機(jī)器學(xué)習(xí)中的作用。現(xiàn)有算法對全局優(yōu)化的作用表明,量子計(jì)算機(jī)可能有助于更快地訓(xùn)練機(jī)器學(xué)習(xí)中的現(xiàn)有模型,因此谷歌正在構(gòu)建實(shí)驗(yàn)型的量子計(jì)算機(jī)來調(diào)查復(fù)雜的量子系統(tǒng)是如何進(jìn)行這些計(jì)算的。雖然這項(xiàng)研究可能很有價值,但還無法證明量子計(jì)算機(jī)能夠提供一種方式來了解物理系統(tǒng)中的復(fù)雜模式,這一點(diǎn)傳統(tǒng)的計(jì)算機(jī)任何時候都無法做到。
谷歌人工智能量子團(tuán)隊(duì)最近發(fā)表了兩篇論文,這兩篇論文在理解量子計(jì)算機(jī)對學(xué)習(xí)任務(wù)的作用方面取得了進(jìn)展。第一篇論文構(gòu)建了一個神經(jīng)網(wǎng)絡(luò)的量子模型,來研究如何在量子處理器上執(zhí)行分類任務(wù)。在第二篇論文中,谷歌展示了量子幾何的獨(dú)特特征是如何改變了訓(xùn)練這些網(wǎng)絡(luò)的策略的,并為更穩(wěn)健的網(wǎng)絡(luò)訓(xùn)練提供了指導(dǎo)。
在論文《Classification with Quantum Neural Networks on Near Term Processors》中,谷歌構(gòu)建了一個量子神經(jīng)網(wǎng)絡(luò)(QNN),該模型專為短期內(nèi)可能出現(xiàn)的量子處理器而設(shè)計(jì)。雖然目前的工作主要都是理論上的,但它們的結(jié)構(gòu)有助于在不久的將來在量子計(jì)算機(jī)上進(jìn)行的實(shí)現(xiàn)和測試。這些 QNN 可以通過標(biāo)記數(shù)據(jù)的監(jiān)督學(xué)習(xí)來調(diào)整,谷歌表明有望訓(xùn)練 QNN 在著名的 MNIST 數(shù)據(jù)集上進(jìn)行圖像分類任務(wù)。用更大的量子設(shè)備跟蹤這一領(lǐng)域的研究可能會導(dǎo)致量子網(wǎng)絡(luò)學(xué)習(xí)模式的能力不如流行的經(jīng)典網(wǎng)絡(luò)。
論文鏈接:https://arxiv.org/abs/1802.06002
量子神經(jīng)網(wǎng)絡(luò)進(jìn)行分類。上圖描述了一個簡單的量子神經(jīng)網(wǎng)絡(luò),相比于典型深度神經(jīng)網(wǎng)絡(luò)中的隱藏層,圖中的方框表示糾纏行為或者說是「量子門」。在超導(dǎo)量子位環(huán)境中,可以通過對應(yīng)每個方框的微波控制脈沖實(shí)現(xiàn)這一點(diǎn)。
在論文《Barren plateaus in quantum neural network training landscapes》中,谷歌聚焦于量子神經(jīng)網(wǎng)絡(luò)的訓(xùn)練、探查經(jīng)典神經(jīng)網(wǎng)絡(luò)中的關(guān)鍵難題,即梯度消失、爆炸的問題。在傳統(tǒng)神經(jīng)網(wǎng)絡(luò)中,神經(jīng)元權(quán)重較好的無偏見初始猜測大多與隨機(jī)性有關(guān),盡管有時也有些困難。這篇論文表明,量子幾何的獨(dú)特特征能夠明確地防止梯度問題成為量子案例中的好策略,相反它會帶你進(jìn)入貧瘠的高原(barren plateaus)。該研究可能為未來初始化、訓(xùn)練量子神經(jīng)網(wǎng)絡(luò)時提供策略。
論文鏈接:https://www.nature.com/articles/s41467-018-07090-4
QNN 梯度消失:高維空間的測量濃度。在高維空間中,如量子計(jì)算機(jī)這樣的探索,大量的狀態(tài)反常識地處于超球面中緯線(左圖)的附近。這意味著在隨機(jī)選擇時(右圖),這一空間中的任意平滑函數(shù)將大概率傾向于采取接近平均值的數(shù)值。
該研究為構(gòu)建、訓(xùn)練量子神經(jīng)網(wǎng)絡(luò)提供了改進(jìn)的階梯。特別是,使用谷歌硬件對量子神經(jīng)網(wǎng)絡(luò)的實(shí)驗(yàn)實(shí)現(xiàn),能夠讓我們在近期內(nèi)快速探索量子神經(jīng)網(wǎng)絡(luò)。谷歌研究團(tuán)隊(duì)希望源自這些幾何學(xué)狀態(tài)的洞見能帶來訓(xùn)練這些網(wǎng)絡(luò)的新算法,這也是解鎖未來潛力的重要之處。
原文鏈接:https://ai.googleblog.com/2018/12/exploring-quantum-neural-networks.html?
本文為機(jī)器之心編譯,轉(zhuǎn)載請聯(lián)系本公眾號獲得授權(quán)。
?------------------------------------------------
加入機(jī)器之心(全職記者 / 實(shí)習(xí)生):hr@jiqizhixin.com
投稿或?qū)で髨?bào)道:content@jiqizhixin.com
廣告 & 商務(wù)合作:bd@jiqizhixin.com
總結(jié)
以上是生活随笔為你收集整理的好嗨哟~谷歌量子神经网络新进展揭秘的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 三次简化一张图:一招理解LSTM/GRU
- 下一篇: 如何在不影响网络的情况下构建边缘计算策略