4月19日阿里巴巴達摩院發布超大規模語言模型PLUG，該模型參數規模達270億，是目前全球規模最大的中文純文本預訓練語言模型。PLUG集語言理解與創造性文本生成能力，在小說仿寫、詩歌生成、智能問答等長文本生成領域表現突出，其目標是通過超大模型的能力，大幅提升中文自然語言技術在各類任務中的表現，取得超越人類表現的性能。

據介紹，去年5月，海外公司OpenAI發布能寫小說、聊天、編曲譜、寫代碼的GPT-3模型，此后，中文領域同類模型的訓練進程受到關注。與GPT-3類似，阿里達摩院本次發布的PLUG模型有望廣泛應用于文本生成領域，此類超大模型擁有極強的通用性，或將成為人工智能時代新型基礎設施之一。

較GPT-3相比，PLUG集成了達摩院自研的語言理解及語言生成雙模型，并通過構建輸入文本雙向理解能力，提升了輸出文本的相關性。在語言理解任務上，PLUG以80.614分刷新了業內權威的中文語言理解評測基準CLUE分類榜單歷史紀錄；在語言生成任務上，PLUG多項應用數據較業內最優水平提升了8%以上。

PLUG采用了1TB以上高質量中文文本訓練數據，涵蓋新聞、小說、詩歌、問答等廣泛類型及領域。接下來，PLUG將擴大參數規模至2000億級，并進一步提升文本生成質量。在超大規模預訓練模型領域，除發布以中文為核心的PLUG外，達摩院、阿里云計算平臺團隊還聯合智源研究院、清華大學發布了面向認知的超大規模新型預訓練模型“文匯”，以及聯合清華大學發布了超大規模多模態預訓練模型“M6”。

阿里巴巴達摩院語言技術實驗室負責人司羅表示，“達摩院團隊將進一步攻克自然語言處理領域科研難題，完善中文及跨語言人工智能基礎設施，讓AI沒有難懂的語言，并探索通用人工智能之路。”

總結

以上是生活随笔為你收集整理的阿里达摩院发布语言模型PLUG 可仿写任意小说的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。