超标量、超流水、超线程
1、超標(biāo)量(Superscalar)
既然無法大幅提高ALU的速度,有什么替代的方法呢?并行處理的方法又一次產(chǎn)生了強大的作用。所謂的超標(biāo)量CPU,就是只集成了多個ALU、多個FPU、多個譯碼器和多條流水線的CPU,以并行處理的方式來提高性能。
超標(biāo)量技術(shù)應(yīng)該是很容易理解的,不過有一點需要注意,就是不要去管“超標(biāo)量”之前的那個數(shù)字,比如“9路超標(biāo)量”,不同的廠商對于這個數(shù)字有著不同的定義,更多的這只是一種商業(yè)上的宣傳手段。
2、流水線(Pipeline)
流水線是現(xiàn)代RISC核心的一個重要設(shè)計,它極大地提高了性能。
對于一條具體的指令執(zhí)行過程,通常可以分為五個部分:取指令,指令譯碼,取操作數(shù),運算(ALU),寫結(jié)果。其中前三步一般由指令控制器完成, 后兩步則由運算器完成。按照傳統(tǒng)的方式,所有指令順序執(zhí)行,那么先是指令控制器工作,完成第一條指令的前三步,然后運算器工作,完成后兩步,在指令控制器 工作,完成第二條指令的前三步,在是運算器,完成第二條指令的后兩部……很明顯,當(dāng)指令控制器工作是運算器基本上在休息,而當(dāng)運算器在工作時指令控制器卻 在休息,造成了相當(dāng)大的資源浪費。解決方法很容易想到,當(dāng)指令控制器完成了第一條指令的前三步后,直接開始第二條指令的操作,運算單元也是。這樣就形成了 流水線系統(tǒng),這是一條2級流水線。
如果是一個超標(biāo)量系統(tǒng),假設(shè)有三個指令控制單元和兩個運算單元,那么就可以在完成了第一條指令的取址工作后直接開始第二條指令的取址,這時第一 條指令在進(jìn)行譯碼,然后第三條指令取址,第二條指令譯碼,第一條指令取操作數(shù)……這樣就是一個5級流水線。很顯然,5級流水線的平均理論速度是不用流水線 的4倍。
流水線系統(tǒng)最大限度地利用了CPU資源,使每個部件在每個時鐘周期都工作,大大提高了效率。但是,流水線有兩個非常大的問題:相關(guān)和轉(zhuǎn)移。
在一個流水線系統(tǒng)中,如果第二條指令需要用到第一條指令的結(jié)果,這種情況叫做相關(guān)。以上面哪個5級流水線為例,當(dāng)?shù)诙l指令需要取操作數(shù)時,第 一條指令的運算還沒有完成,如果這時第二條指令就去取操作數(shù),就會得到錯誤的結(jié)果。所以,這時整條流水線不得不停頓下來,等待第一條指令的完成。這是很討 厭的問題,特別是對于比較長的流水線,比如20級,這種停頓通常要損失十幾個時鐘周期。目前解決這個問題的方法是亂序執(zhí)行。亂序執(zhí)行的原理是在兩條相關(guān)指 令中插入不相關(guān)的指令,使整條流水線順暢。比如上面的例子中,開始執(zhí)行第一條指令后直接開始執(zhí)行第三條指令(假設(shè)第三條指令不相關(guān)),然后才開始執(zhí)行第二 條指令,這樣當(dāng)?shù)诙l指令需要取操作數(shù)時第一條指令剛好完成,而且第三條指令也快要完成了,整條流水線不會停頓。當(dāng)然,流水線的阻塞現(xiàn)象還是不能完全避免 的,尤其是當(dāng)相關(guān)指令非常多的時候。
另一個大問題是條件轉(zhuǎn)移。在上面的例子中,如果第一條指令是一個條件轉(zhuǎn)移指令,那么系統(tǒng)就會不清楚下面應(yīng)該執(zhí)行那一條指令?這時就必須等第一條 指令的判斷結(jié)果出來才能執(zhí)行第二條指令。條件轉(zhuǎn)移所造成的流水線停頓甚至比相關(guān)還要嚴(yán)重的多。所以,現(xiàn)在采用分支預(yù)測技術(shù)來處理轉(zhuǎn)移問題。雖然我們的程序 中充滿著分支,而且哪一條分支都是有可能的,但大多數(shù)情況下總是選擇某一分支。比如一個循環(huán)的末尾是一個分支,除了最后一次我們需要跳出循環(huán)外,其他的時 候我們總是選擇繼續(xù)循環(huán)這條分支。根據(jù)這些原理,分支預(yù)測技術(shù)可以在沒有得到結(jié)果之前預(yù)測下一條指令是什么,并執(zhí)行它。現(xiàn)在的分支預(yù)測技術(shù)能夠達(dá)到90% 以上的正確率,但是,一旦預(yù)測錯誤,CPU仍然不得不清理整條流水線并回到分支點。這將損失大量的時鐘周期。所以,進(jìn)一步提高分支預(yù)測的準(zhǔn)確率也是正在研 究的一個課題。
越是長的流水線,相關(guān)和轉(zhuǎn)移兩大問題也越嚴(yán)重,所以,流水線并不是越長越好,超標(biāo)量也不是越多越好,找到一個速度與效率的平衡點才是最重要的。
總結(jié)
以上是生活随笔為你收集整理的超标量、超流水、超线程的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 产品的思路——来自腾讯张小龙的分享(全版
- 下一篇: 搭建Nexus3(maven私服搭建)