日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 >

网易有道知识库问答引擎 QAnything 宣布开源,推荐 RTX 3090 及以上配置电脑本地部署

發布時間:2024/1/16 62 传统文化
生活随笔 收集整理的這篇文章主要介紹了 网易有道知识库问答引擎 QAnything 宣布开源,推荐 RTX 3090 及以上配置电脑本地部署 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
感謝網友 西窗舊事 的線索投遞!

1 月 16 日消息,網易有道今日宣布自研的知識庫問答引擎 QAnything 正式開源,除了可以調用云端大模型服務,還支持純本地部署,目前可免費在開源社區 Github 內進行下載。

據介紹,QAnything 一鍵部署即可使用,系統支持 Word、PPT、Excel、PDF、圖片等多種文檔格式,直接導入進去即可像“ChatGPT”一樣問答。官方推薦 RTX 3090 及以上配置電腦本地部署。

QAnything 的主要原理是基于檢索增強的生成(Retrieval Augmented Generation,簡稱 RAG)。RAG 是目前很火的一種技術框架,它能夠利用檢索外部內容的方式增強大語言模型的準確度、專業能力和個性化等各方面的性能。

網易有道表示,通用大模型能力很強,但無法使用用戶的私有數據,且存在胡亂編造的幻覺問題。而 QAnything 號稱結合了用戶私有數據和大模型的優勢 —— 用戶的任何內容,以任意的形式存在,比如各種格式的文檔,音頻,數據庫等,都可以在 QAnything 的支持下,變成可以針對其內容進行問答的使用方式,通過這個技術框架用戶可以很方便地搭建自己的智能知識助手。正如它的名字一樣,Q 是 question,A 是 answer,QAnything 的目標就是萬物皆可問。

值得一提的是,本次網易有道開源的 QAnything 是一套完整的 RAG 系統,包括專門優化的自研的 embedding 和 rerank 模型、微調后的 LLM(大型語言模型)、優化后的推理代碼、向量數據庫,以及一個立即上手可用的前端。所有的算法模型(包括 7B 大模型 + embedding / rerank+OCR)占用顯存不超過 16GB。

網易有道官方表示,QAnything 已在網易有道的多個產品中應用,包括有道翻譯文檔問答、有道速讀及有道內部業務的客服系統等。

附 QAnything 開源項目地址和體驗鏈接:

  • GitHub 頁面:點此查看

  • 體驗頁面:點此訪問

廣告聲明:文內含有的對外跳轉鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節省甄選時間,結果僅供參考,所有文章均包含本聲明。

總結

以上是生活随笔為你收集整理的网易有道知识库问答引擎 QAnything 宣布开源,推荐 RTX 3090 及以上配置电脑本地部署的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。