9 月 12 日消息，微軟研究院昨日發(fā)布了名為 phi-1.5 的全新預(yù)訓(xùn)練語(yǔ)言模型，共有 13 億個(gè)參數(shù)，適用于 QA 問(wèn)答、聊天格式和代碼等等場(chǎng)景。

phi-1.5 采用來(lái)自 StackOverflow 平臺(tái)關(guān)于 Python 板塊的 Q&A 內(nèi)容、code_contests 中的競(jìng)爭(zhēng)代碼、合成 Python 教科書(shū)，gpt-3.5-turbo-0301 生成等各種數(shù)據(jù)集，此外還包括各種 NLP 合成文本組成的新數(shù)據(jù)源。

微軟表示在測(cè)試常識(shí)、語(yǔ)言理解和邏輯推理的基準(zhǔn)下，phi-1.5 的表現(xiàn)超出了大部分參數(shù)低于 100 萬(wàn)的模型。phi-1.5 在 AGIEval 得分上超過(guò)了擁有 70 億參數(shù)、來(lái)自 Meta 的 llama-2；在帶 LM-Eval Harness 的 GPT4AL 跑分套件中，可以媲美 70 億參數(shù)的 llama-2。

在此附上鏈接，感興趣的用戶(hù)可以點(diǎn)擊閱讀。

廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，所有文章均包含本聲明。

總結(jié)

以上是生活随笔為你收集整理的微软发布 13 亿参数小模型 phi-1.5：AGIEval 跑分优于 70 亿参数的 Meta Llama2的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。