基于PaddleHub的虛擬粉圈微博生成

B站演示視頻

一-前言

靈感來(lái)源于中文互聯(lián)網(wǎng)中的大量垃圾信息與“僵尸粉”,以及大量的粉絲打榜內(nèi)容。

在自然語(yǔ)言處理的幫助下，我們是否可以創(chuàng)造出能自主行動(dòng)，甚至與真人用戶互動(dòng)的虛擬用戶？人們能否識(shí)別ta是人還是ai？會(huì)與ta討論、甚至爭(zhēng)斗嗎？

本項(xiàng)目以某明星的粉絲為例，嘗試生成粉圈微博，并嘗試在微博上回復(fù)他人，觀察人類用戶的回復(fù)。

希望能將本項(xiàng)目作為一種嘗試，引起更多人對(duì)社交媒體的反思。

• 輸入：
  1-明星名
  2-話題，如[XX電視劇]，[XX晚安]
• 輸出：對(duì)應(yīng)話題的粉圈微博

Github地址： https://github.com/sunyuqian1997/ghost-on-web

二-模型簡(jiǎn)介

ERNIE-GEN 是面向生成任務(wù)的預(yù)訓(xùn)練-微調(diào)框架，首次在預(yù)訓(xùn)練階段加入span-by-span 生成任務(wù)，讓模型每次能夠生成一個(gè)語(yǔ)義完整的片段。在預(yù)訓(xùn)練和微調(diào)中通過(guò)填充式生成機(jī)制和噪聲感知機(jī)制來(lái)緩解曝光偏差問(wèn)題。此外, ERNIE-GEN 采樣多片段-多粒度目標(biāo)文本采樣策略, 增強(qiáng)源文本和目標(biāo)文本的關(guān)聯(lián)性，加強(qiáng)了編碼器和解碼器的交互。ernie_gen module是一個(gè)具備微調(diào)功能的module，可以快速完成特定場(chǎng)景module的制作。

https://www.paddlepaddle.org.cn/hubdetail?name=ernie_gen&en_category=TextGeneration

三-安裝環(huán)境

! pip install xlrd ! pip install paddlehub==1.8.0 ! pip install paddle-ernie==0.0.4.dev1

四-準(zhǔn)備數(shù)據(jù)集

我們使用Weibo-spider爬取了約1w條該明星的粉絲微博，并整理成“話題-正文”的格式。

Ernie-gen要求的格式為"序號(hào)\t輸入文本\t標(biāo)簽"，因此我們按要求處理.xlsx格式的文件，生成數(shù)據(jù)與驗(yàn)證集。

由于生成任務(wù)是N對(duì)N的關(guān)系，輸入1輸出關(guān)于1的句子，輸入2則輸出關(guān)于2的句子，若這里輸入1，標(biāo)簽為句子A，再輸入1，標(biāo)簽為句子B，那么模型很難清楚到底輸入1之后A是正確的還是B是正確的，所以最終會(huì)可能會(huì)擬合其中一個(gè)出現(xiàn)次數(shù)較多的效果，這樣會(huì)影響輸出，使其可能存在多樣性不足等問(wèn)題。

序號(hào)輸入輸出/標(biāo)簽

1	XX	哇哦XX大名話題量也破一千億了！撒花
2	XX	XX越看越上頭……

這里修改輸入，讓數(shù)據(jù)集中的輸入按下圖方式進(jìn)行轉(zhuǎn)換。如果這里的輸入可以變得多樣化，那么能少許調(diào)整一些效果

序號(hào)輸入輸出/標(biāo)簽

1	XX1	哇哦XX大名話題量也破一千億了！撒花
2	XX2	XX越看越上頭……

import pandas as pd #xlsx數(shù)據(jù)格式：標(biāo)簽/內(nèi)容 df = pd.read_excel("train_clean.xlsx") Keys = df["label"].values Txts = df["text_a"].valueswith open("train4.txt", "w") as f:for i, k in enumerate(Keys):t = Txts[i]# f.write("{}\t{}\t{}\n".format(i, k + KEY_LIST[i % len(KEY_LIST)], t))f.write("{}\t{}\t{}\n".format(i, k + str(i), t))df = pd.read_excel("dev.xlsx") Keys = df["label"].values Txts = df["text_a"].valueswith open("dev2.txt", "w") as f:for i, k in enumerate(Keys):t = Txts[i]f.write("{}\t{}\t{}\n".format(i, k, t))

五-Finetune并訓(xùn)練

此部分為模型訓(xùn)練代碼，如果要直接測(cè)試生成效果，請(qǐng)直接查看“六-運(yùn)行預(yù)測(cè)”

• train_path(str): 訓(xùn)練集路徑。
• dev_path(str): 驗(yàn)證集路徑。
• save_dir(str): 模型保存以及驗(yàn)證集預(yù)測(cè)輸出路徑。
• max_steps(int): 最大訓(xùn)練步數(shù)。
• noise_prob(float): 噪聲概率，詳見(jiàn)ernie gen論文。
• save_interval(int): 訓(xùn)練時(shí)的模型保存間隔部署。驗(yàn)證集將在模型保存完畢后進(jìn)行預(yù)測(cè)。
• max_encode_len(int): 最長(zhǎng)編碼長(zhǎng)度。
• max_decode_len(int): 最長(zhǎng)解碼長(zhǎng)度。

import paddlehub as hub !hub install Versaillesmodule = hub.Module(name="ernie_gen")#finetune參考：https://aistudio.baidu.com/aistudio/projectdetail/1456984?channelType=0&channel=0 result = module.finetune(train_path='train4.txt', # dev_path='dev2.txt',save_dir="Versailles_param",max_steps=70000,noise_prob=0.2,batch_size=8,save_interval=500,max_encode_len=280,max_decode_len=280 )#dev_path='dev.txt', # 將訓(xùn)練參數(shù)打包為hub model module.export(params_path=result['last_save_path'], module_name="Versailles_12", author="mmm")

六- 運(yùn)行預(yù)測(cè)

這里解壓并載入之前訓(xùn)好的模型，如果在上一步重新訓(xùn)練過(guò)，請(qǐng)?zhí)鎿Q地址為新模型。

#解壓掛載的模型（在數(shù)據(jù)集里） #import zipfile#f = zipfile.ZipFile("./data/data76465/pretrain.zip",'r') # 原壓縮文件在服務(wù)器的位置 #for file in f.namelist(): # f.extract(file,"./work") import paddlehub as hub #如果重新訓(xùn)練了，請(qǐng)?zhí)鎿Q地址為新模型。 module = hub.Module(directory="./work/pretrain")

重點(diǎn)來(lái)了！請(qǐng)輸入目標(biāo)明星的姓名

#輸入自定義明星名 name='王都樓'#輸入自定義tag，可以包含明星名 test_texts = ['王都樓','王都樓正能量藝人','王都樓我喜歡你','向全世界安利王都樓','王都樓公益一路有你'] #生成結(jié)果 import sys nameList=[] with open('nameList.txt','r') as f:for line in f:nameList.append(list(line.strip('\n').split(',')))str=nameList[0][0] use=[] for test in test_texts:test=test.replace(name,str)use.append(test)#beam_width可以改生成數(shù)量 results = module.generate(texts=use, use_gpu=True, beam_width=10)for result in results:group=[]for sentence in result:for oldName in nameList:sentence=sentence.replace(oldName[0],name)group.append(sentence)for i in group:print(i,end='\n')group.append(sentence)for i in group:print(i,end='\n')print('\n') [2021-03-24 23:05:35,934] [ WARNING] - use_gpu has been set False as you didn't set the environment variable CUDA_VISIBLE_DEVICES while using use_gpu=True我真的某些人很想問(wèn):管好自己很難嗎？跟著官方在自己的天地里愉快的玩耍很難嗎？管好自己，過(guò)好自己個(gè)人的 我喜歡王都樓王都樓好帥王都樓演技好王都樓唱歌好聽(tīng)王都樓作品好看期待王都樓余生請(qǐng)多指教期待王都樓顧魏王都樓粉絲支持王都樓 我看了下，感覺(jué)今天還可以努力一把子，目標(biāo)定高點(diǎn)，能搞多少搞多少，越高越好。大盤還是路人觀眾，粉絲繼續(xù) 我仿佛聽(tīng)見(jiàn)了這想念的聲音分享的綠洲動(dòng)態(tài):想念綠洲 我仿佛聽(tīng)見(jiàn)了這想念的聲音分享的綠洲動(dòng)態(tài)：想念綠洲 謝謝大家讓我睡覺(jué)可以更快點(diǎn)，可以更早點(diǎn) 拜拜2020開(kāi)啟順順利利的2021吧 我真的某些人很想問(wèn):管好自己很難嗎？跟著官方在自己的天地里愉快的玩耍很難嗎？不理ta們很難嗎？不去跟ta 我仿佛聽(tīng)見(jiàn)了這想念的聲音分享的動(dòng)綠洲動(dòng)態(tài):想念綠洲 我真的某些人很想問(wèn):管好自己很難嗎？跟著官方在自己的天地里愉快的玩耍很難嗎？管好自己，過(guò)好自己人生活凡此過(guò)往，銘記于心，為愛(ài)而來(lái)，一路同行！王都樓[兔子報(bào)王都樓《光點(diǎn)》光點(diǎn)》qq音樂(lè) 凡此過(guò)往，銘記于心，為愛(ài)而來(lái)，一路同行！王都樓[兔子隊(duì)王都樓《光點(diǎn)》光點(diǎn)》qq音樂(lè) 凡此過(guò)往，銘記于心，為愛(ài)而來(lái)，一路同行！王都樓[兔子呆王都樓《光點(diǎn)》光點(diǎn)》qq音樂(lè) 凡此過(guò)往，銘記于心，為愛(ài)而來(lái)，一路同行！王都樓[兔子們王都樓《光點(diǎn)》光點(diǎn)》qq音樂(lè) 凡此過(guò)往，銘記于心，為愛(ài)而來(lái)，一路同行！王都樓[兔子!王都樓《光點(diǎn)》光點(diǎn)》qq音樂(lè) 凡此過(guò)往，銘記于心，為愛(ài)而來(lái)，一路同行！王都樓[兔子《王都樓《光點(diǎn)》光點(diǎn)》qq音樂(lè) 凡此過(guò)往，銘記于心，為愛(ài)而來(lái)，一路同行！王都樓[兔子》王都樓《光點(diǎn)》光點(diǎn)》qq音樂(lè) 凡此過(guò)往，銘記于心，為愛(ài)而來(lái)，一路同行！王都樓[兔子!王都樓《光點(diǎn)》光點(diǎn)專qq音樂(lè) 凡此過(guò)往，銘記于心，為愛(ài)而來(lái)，一路同行！王都樓[兔子貼，指路回 凡此過(guò)往，銘記于心，為愛(ài)而來(lái)，一路同行！王都樓[兔子》王都樓《光點(diǎn)》光點(diǎn)專qq音樂(lè)二十六軍閥少帥《西江月》江滬的風(fēng)聲越來(lái)越大，匪軍的動(dòng)作也越來(lái)越多，這上海，怕是要變天了。在蕭氏官邸里 二十四軍閥少帥蕭天涯歌女“我待你這樣好，你說(shuō)說(shuō)，你要怎樣報(bào)答我？”蕭戰(zhàn)來(lái)了撩撥她的興致，作勢(shì)去松斐夏 二十四軍閥少帥，天涯歌女。“我待你這樣好，你說(shuō)說(shuō)，你要怎樣報(bào)答我？”蕭戰(zhàn)來(lái)了撩撥她的興致，作勢(shì)去松斐 遇見(jiàn)你開(kāi)始眉眼彎彎，星河皆你。春風(fēng)十里不如你，夢(mèng)里夢(mèng)外都是你。美好的一周開(kāi)始了，回顧一下戰(zhàn)哥的背頭神 機(jī)場(chǎng)大背頭兩周年雖然是你卸妝后隨意抓的但帥是真的[羞嗒嗒（按時(shí)間找這組照片也是翻了蠻久的誒王都樓##gg 二十四軍閥少帥，天涯歌女。我待你這樣好，你說(shuō)說(shuō)，你要怎樣報(bào)答我？”蕭戰(zhàn)來(lái)了撩撥她的興致，作勢(shì)去松斐夏 二十六軍閥少帥《西江月》江滬的風(fēng)聲越來(lái)越大，匪軍的動(dòng)作也越來(lái)越多。這上海，怕是要變天了。在蕭氏官邸里 二十四軍閥少帥《西江月》江滬的風(fēng)聲越來(lái)越大，匪軍的動(dòng)作也越來(lái)越多，這上海，怕是要變天了。在蕭氏官邸里 二十六軍閥少帥《西江月》江滬的風(fēng)聲越來(lái)越大，匪軍的動(dòng)作也越來(lái)越多，越來(lái)越多。這上海，怕是要變天了。在 遇見(jiàn)你開(kāi)始眉眼彎彎，星河皆你。春風(fēng)十里不如你，夢(mèng)里夢(mèng)外都是你。美好的一周開(kāi)始了斗回顧一下戰(zhàn)哥的背頭神不因巔峰慕名而來(lái)不在低谷離你而去慶幸這人間有你這也是我愛(ài)人間的唯一道理愿為你赴湯蹈火這九州山河我只愿 八月不求大富大貴！但求你可以順順利利[給你小心心愿你:眼里有光心中有太陽(yáng)歲歲步步如愿以償王都樓##gg 我們一直都在一起的。加油，會(huì)會(huì)。加油，小飛俠們。 八月不求大富大貴[但求你可以順順利利[給你小心心愿你:眼里有光心中有太陽(yáng)歲歲步步如愿以償王都樓##gg 八月不求大富大貴。但求你可以順順利利[給你小心心愿你:眼里有光心中有太陽(yáng)歲歲步步如愿以償王都樓##gg 八月不求大富大貴！但求你可以順順利利[給你小心心王都樓愿你:眼里有光心中有太陽(yáng)歲歲步步如愿以償王都樓##gg 三月你好愿你光芒萬(wàn)丈馭風(fēng)扶搖直上愿你以后的每一天都健健康康,順順利利[心王都樓 不知道你們有沒(méi)有見(jiàn)過(guò)這兩套絲絨小贊[哆啦a夢(mèng)花心王都樓 快來(lái)為哥哥投票啊，不要一次性投10票，一票一票的投 曲有誤，肖郎顧。我永遠(yuǎn)喜歡染染綠洲王都樓王都樓粉絲在王都樓生日之際向中國(guó)青少年發(fā)展基金會(huì)捐贈(zèng)50萬(wàn)用于建設(shè)一所希望小學(xué)！希望小學(xué)以“光點(diǎn)”命名， 王都樓王都樓粉絲小飛俠看到了王都樓的新廣告，來(lái)支持獨(dú)立門店，支持真果粒真果粒大賣.真果粒 王都樓王都樓粉絲小飛俠看到了王都樓的新廣告，來(lái)支持獨(dú)立門店，支持真果粒真果粒大賣！真果粒 王都樓王都樓粉絲小飛俠響應(yīng)該王都樓粉絲公益項(xiàng)目組，扶貧助農(nóng)，支持公益幫ii##jo##se##ph##20##19這位霞姐抽個(gè)jiang卷發(fā)抽一個(gè) 王都樓王都樓粉絲小飛俠響應(yīng)了王都樓粉絲公益項(xiàng)目組，扶貧助農(nóng)，支持公益幫ii##jo##se##ph##20##19這位霞姐抽個(gè)jiang卷發(fā)抽一個(gè) 王都樓王都樓粉絲小飛俠看到了王都樓的新廣告，來(lái)支持獨(dú)立門店，支持真果粒真果粒大賣。真果粒 王都樓王都樓粉絲小飛俠響應(yīng)王都樓粉絲公益項(xiàng)目組，扶貧助農(nóng)，支持公益幫ii##jo##se##ph##20##19這位霞姐抽個(gè)jiang卷發(fā)抽一個(gè)唯 王都樓王都樓粉絲小飛俠響應(yīng)各王都樓粉絲公益項(xiàng)目組，扶貧助農(nóng)，支持公益幫ii##jo##se##ph##20##19這位霞姐抽個(gè)jiang卷發(fā)抽一個(gè) 王都樓王都樓粉絲小飛俠看到了王都樓的新廣告，來(lái)支持獨(dú)立門店，支持真果粒真果粒大賣 王都樓王都樓粉絲小飛俠響應(yīng)了王都樓粉絲公益項(xiàng)目組，扶貧助農(nóng)，支持公益幫ii##jo##se##ph##20##19這位霞姐抽個(gè)jiang卷發(fā)抽10個(gè)

參考鏈接

手把手教你使用預(yù)訓(xùn)練模型ernie_gen進(jìn)行finetune自己想要的場(chǎng)景

用Paddlepaddle做一個(gè)凡爾賽文學(xué)生成器

Weibo-spider

項(xiàng)目地址

基于PaddleHub的虛擬粉圈微博生成

總結(jié)

以上是生活随笔為你收集整理的基于PaddleHub的虚拟粉圈微博生成的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。