原阿里首席 AI 科学家贾扬清再发声:开源领域“魔改”要不得
11 月 16 日,原阿里首席 AI 科學(xué)家賈揚(yáng)清吐槽國(guó)內(nèi)某一新模型中用的其實(shí)是 LLaMA 架構(gòu),僅在代碼中更改了幾個(gè)變量名引發(fā)網(wǎng)絡(luò)熱議。
在被指大模型回應(yīng)并發(fā)布訓(xùn)練模型過(guò)程后,賈揚(yáng)清最新發(fā)文談了為什么開(kāi)源領(lǐng)域“魔改”要不得。
賈揚(yáng)清指出,開(kāi)源是一個(gè)相互合作的事情,本質(zhì)是要大家能夠求同尊異,討論設(shè)計(jì),磨合觀點(diǎn),最后擰成一股繩往前走。初入開(kāi)源以及 better engineering 的人往往有一種傾向,“這代碼我拿來(lái),魔改下,然后我自己自定義也靈活,何樂(lè)而不為?”但是就社區(qū)而言這種事情絕對(duì)弊大于利,最后形成各種分裂的技術(shù)體系,沒(méi)法維護(hù),沒(méi)法協(xié)作,對(duì)于創(chuàng)作者和使用者都是非常大的問(wèn)題。
他還表示,魔改一時(shí)爽,社區(qū)火葬場(chǎng),要真的做出成就來(lái),就得真的有能夠和社區(qū)一起玩的心。
11 月 14 日,“零一萬(wàn)物”公司正式公開(kāi)回應(yīng)了此事,該公司開(kāi)源團(tuán)隊(duì)總監(jiān) Richard Lin 承認(rèn)了修改 Llama 張量名稱的做法不妥,將會(huì)按照外界建議把“修改后的張量名稱從 Yi 改回 LLaMA”。
11 月 15 日,零一萬(wàn)物正式公開(kāi)了對(duì) Yi-34B 訓(xùn)練過(guò)程的說(shuō)明。李開(kāi)復(fù)也在朋友圈轉(zhuǎn)發(fā)了該說(shuō)明,并表示:“零一萬(wàn)物 Yi-34B 模型訓(xùn)練的說(shuō)明也回應(yīng)這兩天大家對(duì)于模型架構(gòu)的探討。全球大模型架構(gòu)一路從 GPT2-->Gopher-->Chinchilla-->Llama2->Yi,行業(yè)逐漸形成大模型的通用標(biāo)準(zhǔn) (就像做一個(gè)手機(jī) App 開(kāi)發(fā)者不會(huì)去自創(chuàng) iOS、Android 以外的全新基礎(chǔ)架構(gòu))。01.AI 起步受益于開(kāi)源,也貢獻(xiàn)開(kāi)源,從社區(qū)中虛心學(xué)習(xí),我們會(huì)持續(xù)進(jìn)步。”
相關(guān)閱讀:
《AI 公司“零一萬(wàn)物”回應(yīng) Yi 開(kāi)源大模型“抄襲 LLaMA”事件:承認(rèn)做法不妥,將修改爭(zhēng)議張量名》
廣告聲明:文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時(shí)間,結(jié)果僅供參考,所有文章均包含本聲明。
總結(jié)
以上是生活随笔為你收集整理的原阿里首席 AI 科学家贾扬清再发声:开源领域“魔改”要不得的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問(wèn)題。
- 上一篇: Python--第4次平时作业
- 下一篇: 基础语法之指示代词一指示代词的语法