來源：CreateAMind

介紹一篇論文：

預(yù)測(cè)性大腦的短期記憶能力肯定是有限的

短期保持信息的能力可能是人類認(rèn)知的一個(gè)標(biāo)志, 因?yàn)樗窃S多領(lǐng)域所需要的,如感知、行動(dòng)計(jì)劃和語言。沒有大腦的這一核心功能,人類無法思考、推理或計(jì)算,甚至可能無法感知。盡管短期記憶(STM)的概念通常僅指信息的存儲(chǔ),但工作記憶被認(rèn)為涉及額外的執(zhí)行過程,如信息的整合和處理, 并被認(rèn)為支持復(fù)雜的認(rèn)知活動(dòng),如語言處理、推理和問題解決(Baddeley,2003)。

從經(jīng)驗(yàn)上來說,STM 是使用延遲匹配樣本和變化檢測(cè)任務(wù)等范式來檢驗(yàn)的,在這些任務(wù)中,要求參與者對(duì)給定的感覺輸入進(jìn)行編碼,以便最終在隨后的時(shí)間點(diǎn)識(shí)別或回憶它。這些和其他相關(guān)的任務(wù)都揭示了一個(gè)有力但令人困惑的發(fā)現(xiàn),即人類在短時(shí)記憶中所能保存的信息量(或人工操作的工作記憶) 受到嚴(yán)重限制。平均而言,據(jù)估計(jì)人類在短時(shí)記憶中只能保存四個(gè)項(xiàng)目(Cowan,2001)。

傳統(tǒng)上,重點(diǎn)是解決這種限制背后的機(jī)制。認(rèn)知過程,如信息的衰減或干擾

迄今為止,只有少數(shù)作者提出了對(duì)短時(shí)記憶限制的功能性解釋,例如,認(rèn)為它提高了記憶搜索的效率(例如,Dirlam,1972;MacGregor,1987), 有益于語言習(xí)得(如 Elman,1993),有助于檢測(cè)環(huán)境中的共變(Kareev,2000),或作為動(dòng)作控制的裝置(Heuer 等人,2020)或作為眼動(dòng)系統(tǒng)的核心組件

預(yù)測(cè)大腦

在過去十年中,人們對(duì)預(yù)測(cè)過程的興趣急劇增長(最近的綜述見 Clark,2013)。從這個(gè)角度來看, 大腦是主動(dòng)的:它不僅僅依賴于自下而上的信息, 還會(huì)在感知推理過程中添加預(yù)期。一些實(shí)證研究為大腦預(yù)測(cè)其感覺輸入提供了證據(jù)(例如,Alink 等人,2010)。大規(guī)模框架,如自由能原理,表明最小化驚喜可以提高大腦功能,如感知、記憶和行動(dòng)(Friston,2010)。預(yù)測(cè)性大腦的概念為人類大腦的核心功能帶來了新的功能解釋:例如,從這個(gè)角度來看,注意力并不主要被視為一個(gè)選擇過程,因?yàn)樵撓到y(tǒng)否則會(huì)淹沒在感官溢出中,而是被視為一種 為 預(yù) 測(cè) 和 預(yù) 測(cè) 錯(cuò) 誤 分 配 權(quán) 重 的 機(jī) 制(Friston,2010)。同樣,長期記憶(LTM),傳統(tǒng)上被認(rèn)為是一種存儲(chǔ)過去信息的裝置,已經(jīng)被重新考慮為一個(gè)為未來事件的模擬提供先決條件的系統(tǒng)(Schacter & Addis,2007)。未來第一假說甚至假設(shè)“我們重溫過去的能力可能只是我們構(gòu)想未來能力 的 一 個(gè) 設(shè) 計(jì) 特 征 ”

預(yù)測(cè)和短期記憶

STM 是如何與預(yù)測(cè)過程聯(lián)系起來的?預(yù)測(cè)框架的關(guān)鍵思想是,將傳入的感覺輸入與先前的信息或預(yù)期進(jìn)行比較,只有偏差或預(yù)測(cè)誤差在感覺層級(jí)中被前饋(參見 Clark,2013)。盡管許多研究調(diào)查了預(yù)測(cè)和處理預(yù)測(cè)誤差的神經(jīng)相關(guān)性,并用預(yù)測(cè)模型擬合了行為數(shù)據(jù),但是很少討論相關(guān)的心理或認(rèn)知過程,例如感覺信息如何與先前的期望進(jìn)行比較,在與感覺輸入進(jìn)行比較的過程中,如何從 LTM 中提取先前信息并使其可訪問,以及它們的表示形式是什么。

大腦可以使用一種機(jī)制來突出和暫時(shí)保持來自 LTM 的先驗(yàn)知識(shí)中與感知決策或手頭任務(wù)相關(guān)的部分。在大多數(shù)認(rèn)知模型中,短時(shí)記憶被認(rèn)為是來自 LTM 的提升或突出的信息,即,將選定部分標(biāo)記為與當(dāng)前加工相關(guān)的活動(dòng)(例如,Ruchkin 等人,2003)。因此,STM 原則上可以為預(yù)測(cè)感覺輸入提供最佳的機(jī)制,因?yàn)樗梢栽陔S后的比較過程中以高度可訪問的狀態(tài)保持相關(guān)的先驗(yàn)。有一些經(jīng)驗(yàn)證據(jù)表明 STM 是預(yù)測(cè)所必需的。在一項(xiàng)相關(guān)的研究中,Travis 和他的同事(2013 年)使用了一種叫做上下文提示的視覺搜索范式,在這種范式中,參與者在看似隨機(jī)的布局中搜索一個(gè)特定的目標(biāo),這個(gè)目標(biāo)的身份在整個(gè)實(shí)驗(yàn)中保持不變。在他們不知道的情況下,一些布局在實(shí)驗(yàn)中重復(fù)了幾次,參與者學(xué)會(huì)在這些布局中比在其他布局中更快地找到目標(biāo)的位置。Travis 等人發(fā)現(xiàn),當(dāng)參與者在執(zhí)行視覺搜索任務(wù)時(shí)必須在 STM 中保持額外的信息時(shí),這種便利性受到阻礙,這表明 STM 對(duì)于預(yù)測(cè)物體的位置是必需的。此外,Cashdollar 等人(2017 年)證明, 在要求參與者注意一系列圖像的任務(wù)中,STM 容量與預(yù)測(cè)的神經(jīng)相關(guān)性相關(guān)。這些圖像有一個(gè)概率分布,允許對(duì)其中一些進(jìn)行預(yù)測(cè)。被試的短時(shí)記憶能力與預(yù)期過程的神經(jīng)關(guān)聯(lián)相關(guān),這表明短時(shí)記憶在預(yù)測(cè)客體身份方面也有作用。

STM 與預(yù)測(cè)過程相關(guān)的觀點(diǎn)也得到行動(dòng)計(jì)劃和執(zhí)行領(lǐng)域的研究的支持。工作記憶一詞最初是在計(jì)劃行為的語境中引入的,指的是一種“當(dāng)計(jì)劃正在形成、轉(zhuǎn)換或執(zhí)行時(shí),可以被暫時(shí)保留”的系統(tǒng)(Miller ?et ?al ?. , 1960 , p. ?207) 。有 人 認(rèn)為,“工作記憶‘只不過’是執(zhí)行一個(gè)動(dòng)作的準(zhǔn)備 , 無 論 是 動(dòng) 眼 、 手 動(dòng) 、 口 頭 還 是 其 他 方式”(Theeuwes 等人,2009 年,第 198 頁)。具體來說,工作記憶被認(rèn)為對(duì)儲(chǔ)存運(yùn)動(dòng)相關(guān)的視覺空間信息和行動(dòng)計(jì)劃都很重要(Postle,2006)。最近一項(xiàng)結(jié)合腦電圖和功能性磁共振成像的研究表明,當(dāng)工作記憶中保留的視覺內(nèi)容與未來將要執(zhí)行的特定動(dòng)作相關(guān)聯(lián)時(shí),運(yùn)動(dòng)區(qū)的預(yù)激活,從而支持了工作記憶 在 行 動(dòng) 規(guī) 劃 中 發(fā) 揮 作 用 的 觀 點(diǎn) (van Ede,2020)。

工作記憶和行動(dòng)計(jì)劃之間的聯(lián)系與最小化意外和預(yù)測(cè)錯(cuò)誤的原則高度一致，因?yàn)楦杏X數(shù)據(jù)的一個(gè)重要原因是經(jīng)歷這些數(shù)據(jù)的有機(jī)體所追求的行動(dòng)過程。如果人類根據(jù)他們計(jì)劃的行動(dòng)來預(yù)測(cè)他們的感覺，那么他們必須代表他們過去和未來的行動(dòng)過程所產(chǎn)生的數(shù)據(jù)。在下文中，我們認(rèn)為如果將 STM 視為預(yù)測(cè)設(shè)備的衍生物，則可以解釋 STM 容量的限制。

預(yù)測(cè)必須是容量有限的

為了做出準(zhǔn)確的預(yù)測(cè),大腦必須代表事件的所有不確定性。然而,動(dòng)態(tài)自然環(huán)境的一個(gè)重要特征是, 人們對(duì)未來的預(yù)測(cè)越深入,預(yù)測(cè)通常就變得越不確定。因此,與預(yù)測(cè)的不確定性的表示相關(guān)聯(lián)的成本隨著時(shí)間距離而急劇上升:如在國際象棋游戲中, 可能的配置(即,環(huán)境的狀態(tài))的數(shù)量隨著要預(yù)測(cè)的移動(dòng)的數(shù)量而指數(shù)上升。一個(gè)人要對(duì)下一步行動(dòng)做出明智的決定,所有這些可能性和它們的不確定性都必須表現(xiàn)出來。

自然環(huán)境中的事件本質(zhì)上是隨機(jī)的,因?yàn)橐粋€(gè)事件的概率取決于前一個(gè)事件的概率。例如,如果一個(gè)剛剛遇到的人伸出他的手,他的手勢(shì)是友好的可能性取決于他之前是否表現(xiàn)出友好的面部表情;如果相反,他的面部表情暗示著攻擊性,那么他伸出手來表示暴力行為的可能性就要高得多。為了繞過未來事件固有的不可預(yù)測(cè)性及其隨機(jī)依賴性,最好使用有限的預(yù)測(cè)窗口。理想情況下,這個(gè)窗口不應(yīng)該在離現(xiàn)在太近的地方結(jié)束,因?yàn)槟菢铀荒苡行У刂笇?dǎo)感知和行動(dòng),但也不應(yīng)該延伸到太遠(yuǎn)的未來,因?yàn)槟菢颖硎緯?huì)變得太昂貴(計(jì)算復(fù)雜)。圖 1 顯示了在隨機(jī)環(huán)境中,作為從現(xiàn)在到未來的時(shí)間距離的函數(shù)的可能事件的數(shù)量。僅僅幾個(gè)時(shí)間步驟之后,對(duì)未來的預(yù)測(cè)(a)變得太昂貴,因?yàn)樾枰硎舅锌赡艿氖录?以及(b)變得幾乎無用,因?yàn)榧词棺羁赡艿氖录l(fā)生的概率也很低。因此,大腦的最佳策略是只預(yù)測(cè)短序列,這些短序列足夠長以允許調(diào)整行為,但又足夠短以避免可能性的指數(shù)爆炸和最可能序列的概率的指數(shù)衰減

在表示世界上的狀態(tài)軌跡的準(zhǔn)確性和復(fù)雜性之間的平衡方面,可以更技術(shù)性地表達(dá)基本思想。簡而言之,依賴于離散狀態(tài)的序列或連續(xù)的主動(dòng)推理和預(yù)測(cè)處理的當(dāng)前公式(例如,使用馬爾可夫決策過程)考慮了從時(shí)間周期的開始到結(jié)束的少量離散步驟。隨著時(shí)間的推移,這些順序表征扮演著短時(shí)記憶和前瞻記憶的雙重角色(即,對(duì)短期過去和未來的表征)。這些表示賦予生成模型以時(shí)間深度,并且對(duì)于根據(jù)預(yù)期的結(jié)果來評(píng)估動(dòng)作的質(zhì)量是必要的。至關(guān)重要的是,這些類型的生成模型可以根據(jù)它們的證據(jù)(或變化的自由能界限)進(jìn)行優(yōu)化。因?yàn)樽C據(jù)是準(zhǔn)確性和復(fù)雜性之間的差異,所以必須有過去(或未來)的最佳時(shí)間步數(shù)來保持給定程度的預(yù)測(cè)準(zhǔn)確性。如果有太多的時(shí)間步長,則生成模型中的自由度將增加其復(fù)雜性,其方式無法通過伴隨的精度增加來平衡,因?yàn)槭澜绲奈磥頎顟B(tài)變得越來越不確定

通過說 STM 的容量限制是適應(yīng)性的,我們的意思是它產(chǎn)生于對(duì)生物系統(tǒng)中計(jì)算復(fù)雜性的限制和準(zhǔn)確性益處之間的最佳折衷。隨著 STM 容量的增加,精度優(yōu)勢(shì)飽和(即,達(dá)到上限),容量的進(jìn)一步增加帶來額外的計(jì)算成本(復(fù)雜性),而沒有好處。這意味著,根據(jù) STM 的擬議功能作用,容量限制是可以預(yù)期的。

這種時(shí)間尺度的分離在層級(jí)生成模型中普遍存在,在層級(jí)生成模型中,較高層預(yù)測(cè)較低層的短軌跡。閱讀提供了一個(gè)直觀的例子:句子預(yù)測(cè)單詞的短序列,單詞本身預(yù)測(cè)字母的短序列(Friston et al .,2018)。這種設(shè)置還被用于模擬涉及延遲期的工作記憶任務(wù),以說明對(duì)某個(gè)項(xiàng)目的持續(xù)呈現(xiàn)超過了其可見的時(shí)間段(Parr & Friston,2017)。同一種結(jié)構(gòu)可能支持記憶策略,如組塊,其中一系列短序列,通常約四至六個(gè)項(xiàng)目長,用于記憶長序列(如 Mathy & Feldman,2012)。

有人可能會(huì)說 STM 不一定只用于預(yù)期過程。然而,所有需要 STM 的實(shí)驗(yàn)任務(wù)最終都需要參與者保存信息,以便與未來的感知信息(探測(cè))和/或預(yù)期的行動(dòng)(反應(yīng))進(jìn)行比較。從這個(gè)角度來看,短時(shí)記憶任務(wù)構(gòu)成了一個(gè)預(yù)測(cè)加工問題。從環(huán)境中提取與現(xiàn)在或不久的將來的感知推斷相關(guān)的信息,然后與輸入的感覺信息進(jìn)行比較,并且執(zhí)行內(nèi)部推斷和/或外部動(dòng)作來解決任何差異

如果一個(gè)考慮到 LTM 是一個(gè)保存過去的結(jié)構(gòu),人類對(duì)錯(cuò)誤記憶的易感性似乎是次優(yōu)的。關(guān)于人類如何通過在原始暴露的編碼階段之后添加新信息來構(gòu)建新的、虛構(gòu) 的 情 節(jié) , 有 大 量 的 文 獻(xiàn) ( 關(guān) 于 綜 述 , 參 見Loftus,2005)。然而,如果 LTM 利用過去的信息來模擬未來的情節(jié),這樣的錯(cuò)誤就更有意義了,因?yàn)樗鼈兛梢员徽J(rèn)為是 LTM 在創(chuàng)作小說情節(jié)時(shí)的靈活性的副作用(Schacter & Addis,2007)。同樣的想法也適用于 STM。STM 可以用來推斷過去和未來, 但是如果從預(yù)測(cè)大腦的角度來看 STM,它的能力限制是最有意義的。

對(duì)進(jìn)一步理論化和研究的啟示

我們已經(jīng)提出了一個(gè)關(guān)于 STM 容量限制的計(jì)算觀點(diǎn)。也就是說,我們專注于系統(tǒng)必須解決的問題, 也就是說,盡可能實(shí)現(xiàn)最準(zhǔn)確和最有信心的預(yù)測(cè)。

這一觀點(diǎn)揭示了 STM 的容量限制是可以預(yù)期的。我們的觀點(diǎn)可能會(huì)提供新的研究途徑,偏離目前對(duì)STM 作為儲(chǔ)存過去感覺輸入的功能的關(guān)注。先前關(guān)于預(yù)測(cè)過程的工作主要集中在偏離預(yù)期(即預(yù)測(cè)誤差)的神經(jīng)后果上。大腦如何為即將到來的信息做準(zhǔn)備的問題還沒有得到廣泛的解決,通過將 STM 視為代表自上而下預(yù)測(cè)的活動(dòng),可以刺激該領(lǐng)域的研究,這些預(yù)測(cè)是為了隨后與感官輸入進(jìn)行比較而保留的。未來工作的另一個(gè)途徑是對(duì)個(gè)體差異的評(píng)估,即低短時(shí)記憶能力和高短時(shí)記憶能力的個(gè)體在不同水平上的預(yù)測(cè)能力是否不同以及如何不同。

未來智能實(shí)驗(yàn)室的主要工作包括：建立AI智能系統(tǒng)智商評(píng)測(cè)體系，開展世界人工智能智商評(píng)測(cè)；開展互聯(lián)網(wǎng)（城市）大腦研究計(jì)劃，構(gòu)建互聯(lián)網(wǎng)（城市）大腦技術(shù)和企業(yè)圖譜，為提升企業(yè)，行業(yè)與城市的智能水平服務(wù)。每日推薦范圍未來科技發(fā)展趨勢(shì)的學(xué)習(xí)型文章。目前線上平臺(tái)已收藏上千篇精華前沿科技文章和報(bào)告。

??如果您對(duì)實(shí)驗(yàn)室的研究感興趣，歡迎加入未來智能實(shí)驗(yàn)室線上平臺(tái)。掃描以下二維碼或點(diǎn)擊本文左下角“閱讀原文”

總結(jié)

以上是生活随笔為你收集整理的短期记忆容量必需有限的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。