日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當(dāng)前位置: 首頁 > 编程语言 > C# >内容正文

C#

聊聊魔塔社区MGeo模型的部署与运行

發(fā)布時(shí)間:2023/11/12 C# 282 coder
生活随笔 收集整理的這篇文章主要介紹了 聊聊魔塔社区MGeo模型的部署与运行 小編覺得挺不錯的,現(xiàn)在分享給大家,幫大家做個參考.

從現(xiàn)今與今后的發(fā)展來看,單一的業(yè)務(wù)不再僅僅依靠于傳統(tǒng)的技術(shù)開發(fā),而是應(yīng)該結(jié)合AI模型來應(yīng)用、實(shí)踐。只有這樣,才能更數(shù)智化,更高效化,更貼合時(shí)代的發(fā)展。

魔塔 社區(qū)就類似國外的Hugging Face,是一個模型即服務(wù)的運(yùn)行平臺。在這個平臺上運(yùn)行著很多的大模型示例,網(wǎng)站直接提供了試運(yùn)行的環(huán)境,也可以下載代碼到本地部署運(yùn)行或是在阿里云的PAI平臺運(yùn)行。

pytorch環(huán)境搭建

我是跟著 Pytorch-Gpu環(huán)境配置 博文一步一步搭建起來的。唯一不同的是,我不是基于Anaconda虛擬環(huán)境搭建,而是直接在本地環(huán)境部署pytorch與CUDA。

開著西部世界的VPN,下載pytorch與CUDA會快一些,在本地下載好了pytorch的whl文件后,直接在下載目錄中打開cmd窗口,使用pip install xxxx.whl安裝pytorch即可。

RaNER 模型搭建與運(yùn)行

進(jìn)入魔塔官網(wǎng),找到MGeo模型,首先必須要下載modelscope包。在MGeo的模型介紹中,以及有詳細(xì)的命令說明,如下:

# GPU版本
conda create -n py37testmaas python=3.7
pip install cryptography==3.4.8  tensorflow-gpu==1.15.5  torch==1.11.0 torchvision==0.12.0 torchaudio==0.11.0
pip install "modelscope[nlp]" -f https://modelscope.oss-cn-beijing.aliyuncs.com/releases/repo.html

但是對于我來說,并沒有用到conda虛擬環(huán)境,所以我只是運(yùn)行了最后的pip命令,如下:

pip install "modelscope[nlp]" -f https://modelscope.oss-cn-beijing.aliyuncs.com/releases/repo.html

命令輸出內(nèi)容如下:

最好是開著VPN執(zhí)行命令,否則會很慢。下載完后有一個報(bào)錯,可以忽略,最后我成功安裝的組件有:

如此,便完成了modelscope包的安裝。然后拷貝示例代碼在本地運(yùn)行即可,示例代碼如下:

from modelscope.pipelines import pipeline
from modelscope.utils.constant import Tasks

task = Tasks.token_classification
model = 'damo/mgeo_geographic_elements_tagging_chinese_base'
inputs = '浙江省杭州市余杭區(qū)阿里巴巴西溪園區(qū)'
pipeline_ins = pipeline(
    task=task, model=model)
print(pipeline_ins(input=inputs))
# 輸出
# {'output': [{'type': 'prov', 'start': 0, 'end': 3, 'span': '浙江省'}, {'type': 'city', 'start': 3, 'end': 6, 'span': '杭州市'}, {'type': 'district', 'start': 6, 'end': 9, 'span': '余杭區(qū)'}, {'type': 'poi', 'start': 9, 'end': 17, 'span': '阿里巴巴西溪園區(qū)'}]}

運(yùn)行過程中,也會有一些提示,還是很有意思的,可以看看.

最后的結(jié)果也是正常的輸出了,對于輸出結(jié)果的解釋,我就不多說,可以看API文檔解釋。我換成其它地址繼續(xù)測試:

總結(jié)

最后說一下自己的實(shí)際感受。首先這個MGEO的AI模型,在我上家公司我主導(dǎo)做的項(xiàng)目就用到了,當(dāng)時(shí)是花錢在阿里云的 地址標(biāo)準(zhǔn)化 產(chǎn)品上購買使用,用于在實(shí)際的項(xiàng)目中根據(jù)客戶輸入的地址提取省市區(qū)并再次輸入到目標(biāo)網(wǎng)站。當(dāng)時(shí)一開始想的是自己找開源的庫來實(shí)現(xiàn),后來發(fā)現(xiàn)有點(diǎn)難,因?yàn)榭蛻糨斎氲谋孀R度太低,可能性太多,而且我們不能規(guī)范客戶的輸入(主要是歷史數(shù)據(jù)太多)。因此當(dāng)時(shí)找了好多方案,最后發(fā)現(xiàn)阿里云有這個支持,就花錢購買調(diào)用解決問題。從現(xiàn)在來看,其實(shí)整個模型與應(yīng)用完全可以自己搭建部署起來,省錢又能自我管控,而且還能二次開發(fā),畢竟現(xiàn)在以及前幾年做AI算法的人還是不少的(當(dāng)時(shí)我們公司也有少數(shù)做AI相關(guān)的人,自己現(xiàn)在也算是個半吊子水平,看得懂也能改一點(diǎn)),唉,總的來說還是當(dāng)時(shí)的能力限制了,還是得多學(xué)多思考,尤其是現(xiàn)在AI模型的普遍性與高速發(fā)展,程序猿學(xué)習(xí)成本與門檻降低很多很多。

總結(jié)

以上是生活随笔為你收集整理的聊聊魔塔社区MGeo模型的部署与运行的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯,歡迎將生活随笔推薦給好友。