特斯拉超级计算机Dojo
特斯拉超級(jí)計(jì)算機(jī)Dojo!
2021年8月15日,特斯拉官方發(fā)布海報(bào),預(yù)熱“特斯拉 AI 日”活動(dòng)。官方表示,本次活動(dòng)預(yù)計(jì)在北京時(shí)間8月20日上午9點(diǎn)舉行,屆時(shí)將“邀你見證人工智能的又一次革新”。在這張底色為黑色的海報(bào)上,一顆大規(guī)模芯片模組的結(jié)構(gòu)圖格外吸睛。此前,Dojo公開在推特上為“特斯拉AI日”打call,所以不少人猜測(cè),該結(jié)構(gòu)圖展示的可能是特斯拉為超級(jí)計(jì)算機(jī)Dojo設(shè)計(jì)的專用芯片。早在2019年的Autonomous Day上,馬斯克就提到過Dojo,稱Dojo是能夠利用海量視頻數(shù)據(jù),做無人監(jiān)管標(biāo)注和訓(xùn)練的超級(jí)計(jì)算機(jī)。具備如此優(yōu)異性能的AI芯片很可能在這幾天里揭開神秘的面紗,這讓全球從事AI行業(yè)的人們一下子就坐不住了。
Dojo的發(fā)音源自日語,意指柔道中的練功房。Dojo芯片不僅名字帶著“武俠氣息”,功能也十分強(qiáng)大,這一點(diǎn)從海報(bào)上“層層疊起”的芯片模組結(jié)構(gòu)圖中或許可以窺得一二。
有業(yè)內(nèi)人士對(duì)海報(bào)上的這張芯片圖進(jìn)行了解讀。該業(yè)內(nèi)人士認(rèn)為,圖中的芯片采用了非常規(guī)封裝形式,第一層和第五層銅質(zhì)結(jié)構(gòu)是水冷散熱模塊;紅色圈出的第二層結(jié)構(gòu)由“5*5陣列”共25顆芯片組成;第三層為25個(gè)陣列核心的BGA封裝基板;第四層和第七層可能是物理承載結(jié)構(gòu)附帶一些導(dǎo)熱屬性;第六層或許是功率模塊,上面豎著的黑色長條很可能是穿過散熱與芯片進(jìn)行高速通信的互聯(lián)模塊。
雖然在該芯片正式推出之前一切都是猜測(cè),但特斯拉在AI芯片領(lǐng)域的野心早已路人皆知。早在2019年的Autonomous Day上,馬斯克就提到過Dojo,稱Dojo是“能夠利用海量視頻數(shù)據(jù),做無人監(jiān)管標(biāo)注和訓(xùn)練的超級(jí)計(jì)算機(jī)”。
馬斯克的這番話有兩個(gè)重點(diǎn)。第一個(gè)重點(diǎn)是海量數(shù)據(jù)的收集。自動(dòng)駕駛需要搜集大量數(shù)據(jù),進(jìn)行神經(jīng)網(wǎng)絡(luò)訓(xùn)練,讓車輛變得更聰明。現(xiàn)階段,特斯拉車輛在特定觸發(fā)條件下會(huì)對(duì)自動(dòng)駕駛中的有效數(shù)據(jù)進(jìn)行收集,但獲取到的數(shù)據(jù)量非常龐大。在這種情況下,作為特斯拉自身軟件優(yōu)化過的定制超算,Dojo芯片能夠大大提升數(shù)據(jù)運(yùn)算效率。
馬斯克口中的“做無人監(jiān)管標(biāo)注和訓(xùn)練”是第二個(gè)重點(diǎn)。Alpha Go擊敗世界圍棋大師的案例大家都耳熟能詳,無監(jiān)督訓(xùn)練的范例—Alpha Zero。通過對(duì)弈,Alpha Zero僅僅用了三天時(shí)間就擊敗了Alpha Go Lee,用21天打到了“Alpha Master”水平,一時(shí)間難覓對(duì)手。特斯拉的“無人監(jiān)管標(biāo)注和訓(xùn)練”與Alpha Zero的無監(jiān)督訓(xùn)練一樣,指的是系統(tǒng)自身通過海量數(shù)據(jù)和以前學(xué)習(xí)的結(jié)果進(jìn)行自動(dòng)標(biāo)注和調(diào)整,在無需海量研究人員的情況下對(duì)神經(jīng)網(wǎng)絡(luò)訓(xùn)練進(jìn)行監(jiān)督,大幅提升訓(xùn)練效率。
通過高效收集海量數(shù)據(jù),對(duì)數(shù)據(jù)進(jìn)行超高效率計(jì)算,能夠做無監(jiān)督訓(xùn)練的Dojo芯片給AI建了一間“練功房”。走出這間“練功房”后,Dojo芯片很可能與Alpha Zero一樣,短期內(nèi)在各自的領(lǐng)域難覓對(duì)手。
自動(dòng)駕駛的必然選擇
特斯拉成功自研的FSD芯片是一款高性能、為自動(dòng)駕駛安全保駕護(hù)航的專屬芯片,發(fā)布時(shí)在設(shè)計(jì)定制上做到了極致,更適應(yīng)基于神經(jīng)網(wǎng)絡(luò)的計(jì)算。FSD芯片的高智能化并不足以讓馬斯克感到滿足。通過研發(fā)Dojo芯片,馬斯克想在自動(dòng)駕駛領(lǐng)域下更大的一盤棋。
研發(fā)Dojo芯片其實(shí)是走穩(wěn)、走好自動(dòng)駕駛之路。盡管業(yè)內(nèi)風(fēng)頭無兩的FSD芯片功能強(qiáng)大,但正如特斯拉在車主手冊(cè)和網(wǎng)站中警告的那樣,特斯拉的自動(dòng)駕駛和FSD需要人類主動(dòng)監(jiān)督。一位忽視這個(gè)警告的特斯拉車主很快就為大意付出了代價(jià)。這位特斯拉車主曾在社交媒體上發(fā)布了使用自動(dòng)駕駛功能的視頻。在視頻中,沒有把手放在方向盤上。2021年5月份他在南加州的一次車禍中死亡。在各種事故頻發(fā)的背景下,FSD芯片或許需要更強(qiáng)大的AI芯片來“接棒”。目前來看,Dojo芯片極有可能就是下一位關(guān)鍵的“接棒者”。
馬斯克曾在推特上說,只有解決了真實(shí)世界的AI問題,才能解決自動(dòng)駕駛問題。特斯拉在軟硬件方面均專注于此。無數(shù)的邊緣場(chǎng)景只能通過真實(shí)世界的視覺AI來解決,因?yàn)檎麄€(gè)世界的道路就是按照人類的認(rèn)知來建立的。確實(shí),目前自動(dòng)駕駛領(lǐng)域最需要解決的難題就是感知。
特斯拉搞超算做什么?
CVPR自動(dòng)駕駛工作坊的演講中,特斯拉的AI帶頭人,高級(jí)工程師Karpathy介紹了特斯拉超級(jí)計(jì)算機(jī)的基本情況。
這臺(tái)計(jì)算機(jī)群采用了5760個(gè)算力為321TFLOPS的英偉達(dá)A100顯卡,組成了720個(gè)節(jié)點(diǎn),總算力突破了1.8EFLOPS,10PB的存儲(chǔ)空間(讀寫速度為1.6TBps)。
根據(jù)計(jì)算能力來看,這臺(tái)超級(jí)計(jì)算機(jī)排名世界第五。
不僅如此,特斯拉表示,不排除給其他公司提供超級(jí)計(jì)算機(jī)集群的可能性。
目前排名第一的超算是日本的「富岳」,在機(jī)器學(xué)習(xí)應(yīng)用上的算力超頻之后是2.15EFLOPS,默頻是1.95EFLOPS。
與使用顯卡的超算不同,「富岳」使用的是基于ARM架構(gòu)的A64FX處理器。
「肉」腦駕駛員不行,還是得上「硅」腦
Karpathy在演示中強(qiáng)調(diào),特斯拉將堅(jiān)定不移地將計(jì)算機(jī)視覺技術(shù)作為自動(dòng)駕駛的核心,并且將自研的超級(jí)計(jì)算機(jī)用于神經(jīng)網(wǎng)絡(luò)的研究中去。
Karpathy列舉了「肉腦」的幾大罪證:反應(yīng)慢(250ms);需要轉(zhuǎn)頭和看后視鏡來判斷環(huán)境;不好好開車,喜歡玩兒手機(jī)。
緊接著就表示,「硅」腦不僅反應(yīng)快,而且開車全神貫注,不會(huì)時(shí)不時(shí)地就去刷Ins。
以特斯拉的風(fēng)格,但凡講到自動(dòng)駕駛,就一定要懟一下那個(gè)又貴又不好用的Lidar。
Karpathy 分享了特斯拉超級(jí)計(jì)算機(jī)如何利用計(jì)算機(jī)視覺來糾正駕駛員不良行為的一些場(chǎng)景,包括緊急制動(dòng)、交通參與者監(jiān)測(cè)以及紅綠燈識(shí)別等等。
另外在演示中,Karpathy還展示了被稱為踏板誤用糾正的功能:當(dāng)車輛檢測(cè)到前方有行人或者道路變窄的情況時(shí),當(dāng)駕駛員把油門當(dāng)做剎車踩下,車輛則不會(huì)加速。
這項(xiàng)功能推出后不知道那些關(guān)于特斯拉失控的報(bào)道會(huì)不會(huì)有所減少。
經(jīng)過多年研究,特斯拉團(tuán)隊(duì)相信通過監(jiān)督學(xué)習(xí),實(shí)現(xiàn)車輛視覺系統(tǒng)對(duì)于外界的感知是一個(gè)正確的路線。
目前特斯拉已經(jīng)有超過100萬個(gè)大約為10秒鐘的視頻,標(biāo)注出了視頻中60億個(gè)物體的距離、加速度以及速度信息,這些數(shù)據(jù)量高達(dá)1.5PB。
要讓特斯拉自己的這套自動(dòng)駕駛AI達(dá)到足夠的可靠性,還需要更多的時(shí)間,這也是為什么特斯拉要制造超級(jí)計(jì)算機(jī)的原因。
這臺(tái)超級(jí)計(jì)算機(jī)還不是特斯拉的終極目標(biāo),根據(jù)馬斯克的計(jì)劃,特斯拉未來的Dojo超級(jí)計(jì)算機(jī)算力將要達(dá)到每秒鐘exaFLOP的級(jí)別,也就是百萬億億次浮點(diǎn)運(yùn)算。
運(yùn)算速度還要超過「富岳」,成為世界第一。
Dojo:給AI打造的「練功房」
特斯拉在去年的自動(dòng)駕駛大會(huì)上公布了Dojo計(jì)劃:Dojo將會(huì)成為特斯拉用于研發(fā)自動(dòng)駕駛技術(shù)的平臺(tái)。
在2020年的自動(dòng)駕駛技術(shù)日上,馬斯克不僅向公眾展示了由Jim Keller帶隊(duì)研發(fā)出來的FSD芯片(目前算力最高的駕駛輔助芯片之一),宣布了特斯拉未來將會(huì)成為一家Robotaxti公司的野心。
Dojo是特斯拉在自動(dòng)駕駛之路上一個(gè)不可或缺的技術(shù)平臺(tái)。
Dojo發(fā)音源自日語,意為在冥想術(shù)或者武術(shù)中的「練功房」。
未來1.5PB的數(shù)據(jù)將在這里「刻苦修煉」。
在超高算力的支持下,特斯拉將會(huì)在視覺感知的自動(dòng)駕駛技術(shù)路線上一路狂奔。
馬斯克說過,特斯拉就是一系列初創(chuàng)公司的集合,超級(jí)計(jì)算機(jī)可以看做其中一個(gè)初創(chuàng)公司的項(xiàng)目。
英特爾、AMD這些芯片大佬們沒想到,居然從汽車圈里突然跑出來一個(gè)如此強(qiáng)大的對(duì)手。
參考鏈接:
https://www.sohu.com/a/484014485_121134737
https://baijiahao.baidu.com/s?id=1703249429563610941&wfr=spider&for=pc
總結(jié)
以上是生活随笔為你收集整理的特斯拉超级计算机Dojo的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: NCHW与NHWC格式
- 下一篇: 芯片初创公司一亿融资可以烧多久