用小神經網絡和光譜儀優化關鍵詞識別

Optimizing keyword spotting with small neural networks and spectrographs

隨著由語音命令控制的智能設備的激增，一種被稱為關鍵字識別的自然語言處理技術正在獲得越來越多的關注。

來自亞馬遜、谷歌、蘋果和其公司的語音助理可以對“熱門詞”后面的短語做出回應，比如“嘿，谷歌”或“嘿，Siri”，而且似乎幾乎立即做出回應。事實上，響應延遲只有幾分之一秒，這在智能揚聲器設備中是可以接受的。

一個小裝置怎么會這么聰明？

語音助手使用數字信號處理器來消化第一個“熱詞”，隨后的短語通過互聯網發送到云端。然后，語音被轉換成數字流，這些數字流在一個循環卷積神經網絡中進行處理，該神經網絡可以記住先前的內部狀態，以便訓練識別短語或單詞序列。

這些數據流在數據中心進行處理，請求的答案或歌曲通過網絡發送回語音助手。這種方法在非關鍵的情況下工作得很好，在這種情況下延遲無關緊要，而且互聯網連接是可靠的。

位于數據中心的神經網絡采用類似逐次逼近的方法，使用數百萬個樣本進行訓練；最初誤差非常大，但通過將誤差反饋到調整網絡參數的算法中，可以減少誤差。在每一個訓練周期內，誤差減小。然后重復訓練周期，直到輸出正確為止。對于數據集中的每個單詞和短語都會執行此操作。訓練這樣的網絡可能需要很長時間，大約幾周。

一旦經過訓練，網絡就可以識別出不同個體所說的單詞和短語。識別過程被稱為推理，需要進行數百萬次乘法運算，然后進行累加（MAC）運算，這就是為什么在設備內的微處理器上不能及時處理信息。

在關鍵字識別中，需要識別多個單詞。將其發送到數據中心的延遲是不可接受的，而且Internet連接也不總是可以保證的。因此，優選在設備上對短語進行本地處理。

一種解決方案是將乘法累加函數壓縮成更小的芯片。例如，googleedge張量處理單元（TPU）集成了許多數組乘法器和數學函數。這個解決方案仍然需要微處理器來運行神經網絡，但是MAC函數被傳遞到芯片上并被加速。

雖然這種方法允許小型微處理器運行更大的神經網絡，但也有缺點：對于小型或電池供電的設備來說，功耗仍然過高。隨著尺寸的減小，性能也隨之降低。小型專用乘法器陣列的數量和速度不如數據中心中的大型、耗電量大的gpu或tpu。

另一種方法是使用更小、更緊密的神經網絡進行關鍵字處理。這些網絡不是在大型遞歸網絡中執行復雜的處理技術，而是通過使用被稱為MFCC的語音識別算法將值流轉換為頻譜儀來處理關鍵字。下面的光譜儀代表信號的頻譜。

攝譜儀圖像被輸入到一個更簡單的7層前饋神經網絡中，該神經網絡已經被訓練來識別關鍵字集的特征。例如，Google關鍵字數據集包含65000個1秒的樣本，這些樣本由數千個不同的人所說的30個單詞組成。關鍵字的例子有上、下、左、右、停、去、開和關。
另一種方法

采取了完全不同的方法，在基于事件的硬件中處理聲音、圖像、數據和氣味。智能芯片早在當前的機器學習熱潮出現之前就已經成立了。神經網絡和人工智能處理方法的進步是主要目標，專注于神經形態的硬件設計。

人腦不運行指令，而是依賴神經細胞。這些細胞處理信息并以尖峰信號進行通信，尖峰是電能的短脈沖，表示“事件”的發生，如顏色、線路、頻率或觸摸的變化。

相比之下，計算機被設計成對數據位進行操作并執行程序員編寫的指令。這是兩種截然不同的處理技術。在計算機上以神經網絡的形式模擬腦細胞的功能需要許多計算機指令。
意識到可以省去指令，建立高效的數字電路，以大腦的方式進行計算。大腦是一般智能系統的終極范例。這正是Brainchip開發Akida神經處理器所做的。

當將深度學習功能與基于事件的峰值神經網絡（SNN）硬件相結合時，芯片得到了進一步的發展，從而顯著降低了功耗要求并提高了性能，同時還具有快速片上學習的優勢。Akida芯片可以處理谷歌關鍵字數據集，利用簡單的7層神經網絡，在不到200微瓦的功率預算內。
Akida使用ImageNet數據集進行訓練，使其能夠立即學會識別新對象，而無需昂貴的再訓練。芯片具有內置的稀疏性。全數字化設計是基于事件的，因此當輸入刺激不會導致神經元超過閾值時，不會產生任何輸出。

這可以用一個簡化的，雖然極端的例子來說明。想象一個中間有一個點的圖像。傳統的神經網絡需要處理圖像的每個位置，以確定其中是否存在某些東西。從圖像中提取一塊像素并執行卷積。結果是零，這些零和所有其塊生成的零一起傳播到整個網絡，直到到達點為止。檢測和消除零會增加額外的延遲，并導致處理速度減慢而不是加快。要確定圖像中是否存在一個點，需要進行近5億次操作。

相比之下，基于Akida事件的方法只對一個事件，即單個點做出響應。所有其位置都不包含信息，零也不會通過網絡傳播，因為不會生成事件。實際上，對于真實圖像來說，這種稀疏性會減少40%到60%的計算量，從而使用較少的能量生成相同的分類結果。

Training Akida

一個使用Akida芯片在Google Speech Commands 數據集上訓練的關鍵字識別應用程序可以在一個小型電池上運行數年。同樣的電路配置為使用30層和芯片上的所有80個神經處理單元，可以在不到200毫瓦的情況下實時處理整個ImageNet數據集（使用一個penlight電池大約需要5天）。

用于圖像分類的MobileNet網絡非常適合于芯片，包括所有需要的內存。芯片上的實時學習功能使添加到已學單詞庫成為可能，這是一個很好的功能，可用于個性化的單詞識別，如姓名、地點和定制命令。

另一個關鍵字識別選項是Syntiant NDP101芯片。雖然該設備也可以在相當低的功率（200微瓦）下工作，但是一個專用的音頻處理器，集成了音頻前端、緩沖和特征提取以及神經網絡。Syntiant預計未來將用內存模擬電路取代數字mac，以進一步降低功耗。

Akida芯片具有片上學習和多功能性的附加優勢。也可以被重新配置以執行聲音或圖像分類、氣味識別或對從數據中提取的特征進行分類。本地處理的另一個優點是沒有圖像或數據暴露在互聯網上，大大降低了隱私風險。

這項技術的應用范圍從語音激活設備到更換制造設備中的磨損部件。這項技術還可以用于根據輪胎在路面上發出的聲音來確定輪胎磨損情況。其汽車應用包括監控駕駛員的警覺性，傾聽發動機以確定是否需要維護，以及掃描駕駛員盲區內的車輛。

期望Akida能夠進化，融入大腦結構，特別是以人工通用智能（AGI）為目標的皮層神經網絡。這是一種機器智能的形式，可以訓練執行多個任務。AGI技術可用于控制自動駕駛車輛，具有足夠的智能來控制車輛，并最終學習駕駛，就像人類學習的一樣。當然，在實現這一目標的過程中會有許多中間步驟。

未來的Akida設備將包括一個更復雜的神經網絡模型，可以瘦身越來越復雜的任務。

總結

以上是生活随笔為你收集整理的用小神经网络和光谱仪优化关键词识别的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。