基于PaddleHub的虛擬粉圈微博生成

B站演示視頻

一-前言

靈感來源于中文互聯(lián)網(wǎng)中的大量垃圾信息與“僵尸粉”,以及大量的粉絲打榜內(nèi)容。

在自然語言處理的幫助下，我們是否可以創(chuàng)造出能自主行動(dòng)，甚至與真人用戶互動(dòng)的虛擬用戶？人們能否識(shí)別ta是人還是ai？會(huì)與ta討論、甚至爭(zhēng)斗嗎？

本項(xiàng)目以某明星的粉絲為例，嘗試生成粉圈微博，并嘗試在微博上回復(fù)他人，觀察人類用戶的回復(fù)。

希望能將本項(xiàng)目作為一種嘗試，引起更多人對(duì)社交媒體的反思。

• 輸入：
  1-明星名
  2-話題，如[XX電視劇]，[XX晚安]
• 輸出：對(duì)應(yīng)話題的粉圈微博

Github地址： https://github.com/sunyuqian1997/ghost-on-web

二-模型簡(jiǎn)介

ERNIE-GEN 是面向生成任務(wù)的預(yù)訓(xùn)練-微調(diào)框架，首次在預(yù)訓(xùn)練階段加入span-by-span 生成任務(wù)，讓模型每次能夠生成一個(gè)語義完整的片段。在預(yù)訓(xùn)練和微調(diào)中通過填充式生成機(jī)制和噪聲感知機(jī)制來緩解曝光偏差問題。此外, ERNIE-GEN 采樣多片段-多粒度目標(biāo)文本采樣策略, 增強(qiáng)源文本和目標(biāo)文本的關(guān)聯(lián)性，加強(qiáng)了編碼器和解碼器的交互。ernie_gen module是一個(gè)具備微調(diào)功能的module，可以快速完成特定場(chǎng)景module的制作。

https://www.paddlepaddle.org.cn/hubdetail?name=ernie_gen&en_category=TextGeneration

三-安裝環(huán)境

! pip install xlrd ! pip install paddlehub==1.8.0 ! pip install paddle-ernie==0.0.4.dev1

四-準(zhǔn)備數(shù)據(jù)集

我們使用Weibo-spider爬取了約1w條該明星的粉絲微博，并整理成“話題-正文”的格式。

Ernie-gen要求的格式為"序號(hào)\t輸入文本\t標(biāo)簽"，因此我們按要求處理.xlsx格式的文件，生成數(shù)據(jù)與驗(yàn)證集。

由于生成任務(wù)是N對(duì)N的關(guān)系，輸入1輸出關(guān)于1的句子，輸入2則輸出關(guān)于2的句子，若這里輸入1，標(biāo)簽為句子A，再輸入1，標(biāo)簽為句子B，那么模型很難清楚到底輸入1之后A是正確的還是B是正確的，所以最終會(huì)可能會(huì)擬合其中一個(gè)出現(xiàn)次數(shù)較多的效果，這樣會(huì)影響輸出，使其可能存在多樣性不足等問題。

序號(hào)輸入輸出/標(biāo)簽

1	XX	哇哦XX大名話題量也破一千億了！撒花
2	XX	XX越看越上頭……

這里修改輸入，讓數(shù)據(jù)集中的輸入按下圖方式進(jìn)行轉(zhuǎn)換。如果這里的輸入可以變得多樣化，那么能少許調(diào)整一些效果

序號(hào)輸入輸出/標(biāo)簽

1	XX1	哇哦XX大名話題量也破一千億了！撒花
2	XX2	XX越看越上頭……

import pandas as pd #xlsx數(shù)據(jù)格式：標(biāo)簽/內(nèi)容 df = pd.read_excel("train_clean.xlsx") Keys = df["label"].values Txts = df["text_a"].valueswith open("train4.txt", "w") as f:for i, k in enumerate(Keys):t = Txts[i]# f.write("{}\t{}\t{}\n".format(i, k + KEY_LIST[i % len(KEY_LIST)], t))f.write("{}\t{}\t{}\n".format(i, k + str(i), t))df = pd.read_excel("dev.xlsx") Keys = df["label"].values Txts = df["text_a"].valueswith open("dev2.txt", "w") as f:for i, k in enumerate(Keys):t = Txts[i]f.write("{}\t{}\t{}\n".format(i, k, t))

五-Finetune并訓(xùn)練

此部分為模型訓(xùn)練代碼，如果要直接測(cè)試生成效果，請(qǐng)直接查看“六-運(yùn)行預(yù)測(cè)”

• train_path(str): 訓(xùn)練集路徑。
• dev_path(str): 驗(yàn)證集路徑。
• save_dir(str): 模型保存以及驗(yàn)證集預(yù)測(cè)輸出路徑。
• max_steps(int): 最大訓(xùn)練步數(shù)。
• noise_prob(float): 噪聲概率，詳見ernie gen論文。
• save_interval(int): 訓(xùn)練時(shí)的模型保存間隔部署。驗(yàn)證集將在模型保存完畢后進(jìn)行預(yù)測(cè)。
• max_encode_len(int): 最長(zhǎng)編碼長(zhǎng)度。
• max_decode_len(int): 最長(zhǎng)解碼長(zhǎng)度。

import paddlehub as hub !hub install Versaillesmodule = hub.Module(name="ernie_gen")#finetune參考：https://aistudio.baidu.com/aistudio/projectdetail/1456984?channelType=0&channel=0 result = module.finetune(train_path='train4.txt', # dev_path='dev2.txt',save_dir="Versailles_param",max_steps=70000,noise_prob=0.2,batch_size=8,save_interval=500,max_encode_len=280,max_decode_len=280 )#dev_path='dev.txt', # 將訓(xùn)練參數(shù)打包為hub model module.export(params_path=result['last_save_path'], module_name="Versailles_12", author="mmm")

六- 運(yùn)行預(yù)測(cè)

這里解壓并載入之前訓(xùn)好的模型，如果在上一步重新訓(xùn)練過，請(qǐng)?zhí)鎿Q地址為新模型。

#解壓掛載的模型（在數(shù)據(jù)集里） #import zipfile#f = zipfile.ZipFile("./data/data76465/pretrain.zip",'r') # 原壓縮文件在服務(wù)器的位置 #for file in f.namelist(): # f.extract(file,"./work") import paddlehub as hub #如果重新訓(xùn)練了，請(qǐng)?zhí)鎿Q地址為新模型。 module = hub.Module(directory="./work/pretrain")

重點(diǎn)來了！請(qǐng)輸入目標(biāo)明星的姓名

#輸入自定義明星名 name='王都樓'#輸入自定義tag，可以包含明星名 test_texts = ['王都樓','王都樓正能量藝人','王都樓我喜歡你','向全世界安利王都樓','王都樓公益一路有你'] #生成結(jié)果 import sys nameList=[] with open('nameList.txt','r') as f:for line in f:nameList.append(list(line.strip('\n').split(',')))str=nameList[0][0] use=[] for test in test_texts:test=test.replace(name,str)use.append(test)#beam_width可以改生成數(shù)量 results = module.generate(texts=use, use_gpu=True, beam_width=10)for result in results:group=[]for sentence in result:for oldName in nameList:sentence=sentence.replace(oldName[0],name)group.append(sentence)for i in group:print(i,end='\n')group.append(sentence)for i in group:print(i,end='\n')print('\n') [2021-03-24 23:05:35,934] [ WARNING] - use_gpu has been set False as you didn't set the environment variable CUDA_VISIBLE_DEVICES while using use_gpu=True我真的某些人很想問:管好自己很難嗎？跟著官方在自己的天地里愉快的玩耍很難嗎？管好自己，過好自己個(gè)人的 我喜歡王都樓王都樓好帥王都樓演技好王都樓唱歌好聽王都樓作品好看期待王都樓余生請(qǐng)多指教期待王都樓顧魏王都樓粉絲支持王都樓 我看了下，感覺今天還可以努力一把子，目標(biāo)定高點(diǎn)，能搞多少搞多少，越高越好。大盤還是路人觀眾，粉絲繼續(xù) 我仿佛聽見了這想念的聲音分享的綠洲動(dòng)態(tài):想念綠洲 我仿佛聽見了這想念的聲音分享的綠洲動(dòng)態(tài)：想念綠洲 謝謝大家讓我睡覺可以更快點(diǎn)，可以更早點(diǎn) 拜拜2020開啟順順利利的2021吧 我真的某些人很想問:管好自己很難嗎？跟著官方在自己的天地里愉快的玩耍很難嗎？不理ta們很難嗎？不去跟ta 我仿佛聽見了這想念的聲音分享的動(dòng)綠洲動(dòng)態(tài):想念綠洲 我真的某些人很想問:管好自己很難嗎？跟著官方在自己的天地里愉快的玩耍很難嗎？管好自己，過好自己人生活凡此過往，銘記于心，為愛而來，一路同行！王都樓[兔子報(bào)王都樓《光點(diǎn)》光點(diǎn)》qq音樂 凡此過往，銘記于心，為愛而來，一路同行！王都樓[兔子隊(duì)王都樓《光點(diǎn)》光點(diǎn)》qq音樂 凡此過往，銘記于心，為愛而來，一路同行！王都樓[兔子呆王都樓《光點(diǎn)》光點(diǎn)》qq音樂 凡此過往，銘記于心，為愛而來，一路同行！王都樓[兔子們王都樓《光點(diǎn)》光點(diǎn)》qq音樂 凡此過往，銘記于心，為愛而來，一路同行！王都樓[兔子!王都樓《光點(diǎn)》光點(diǎn)》qq音樂 凡此過往，銘記于心，為愛而來，一路同行！王都樓[兔子《王都樓《光點(diǎn)》光點(diǎn)》qq音樂 凡此過往，銘記于心，為愛而來，一路同行！王都樓[兔子》王都樓《光點(diǎn)》光點(diǎn)》qq音樂 凡此過往，銘記于心，為愛而來，一路同行！王都樓[兔子!王都樓《光點(diǎn)》光點(diǎn)專qq音樂 凡此過往，銘記于心，為愛而來，一路同行！王都樓[兔子貼，指路回 凡此過往，銘記于心，為愛而來，一路同行！王都樓[兔子》王都樓《光點(diǎn)》光點(diǎn)專qq音樂二十六軍閥少帥《西江月》江滬的風(fēng)聲越來越大，匪軍的動(dòng)作也越來越多，這上海，怕是要變天了。在蕭氏官邸里 二十四軍閥少帥蕭天涯歌女“我待你這樣好，你說說，你要怎樣報(bào)答我？”蕭戰(zhàn)來了撩撥她的興致，作勢(shì)去松斐夏 二十四軍閥少帥，天涯歌女。“我待你這樣好，你說說，你要怎樣報(bào)答我？”蕭戰(zhàn)來了撩撥她的興致，作勢(shì)去松斐 遇見你開始眉眼彎彎，星河皆你。春風(fēng)十里不如你，夢(mèng)里夢(mèng)外都是你。美好的一周開始了，回顧一下戰(zhàn)哥的背頭神 機(jī)場(chǎng)大背頭兩周年雖然是你卸妝后隨意抓的但帥是真的[羞嗒嗒（按時(shí)間找這組照片也是翻了蠻久的誒王都樓##gg 二十四軍閥少帥，天涯歌女。我待你這樣好，你說說，你要怎樣報(bào)答我？”蕭戰(zhàn)來了撩撥她的興致，作勢(shì)去松斐夏 二十六軍閥少帥《西江月》江滬的風(fēng)聲越來越大，匪軍的動(dòng)作也越來越多。這上海，怕是要變天了。在蕭氏官邸里 二十四軍閥少帥《西江月》江滬的風(fēng)聲越來越大，匪軍的動(dòng)作也越來越多，這上海，怕是要變天了。在蕭氏官邸里 二十六軍閥少帥《西江月》江滬的風(fēng)聲越來越大，匪軍的動(dòng)作也越來越多，越來越多。這上海，怕是要變天了。在 遇見你開始眉眼彎彎，星河皆你。春風(fēng)十里不如你，夢(mèng)里夢(mèng)外都是你。美好的一周開始了斗回顧一下戰(zhàn)哥的背頭神不因巔峰慕名而來不在低谷離你而去慶幸這人間有你這也是我愛人間的唯一道理愿為你赴湯蹈火這九州山河我只愿 八月不求大富大貴！但求你可以順順利利[給你小心心愿你:眼里有光心中有太陽歲歲步步如愿以償王都樓##gg 我們一直都在一起的。加油，會(huì)會(huì)。加油，小飛俠們。 八月不求大富大貴[但求你可以順順利利[給你小心心愿你:眼里有光心中有太陽歲歲步步如愿以償王都樓##gg 八月不求大富大貴。但求你可以順順利利[給你小心心愿你:眼里有光心中有太陽歲歲步步如愿以償王都樓##gg 八月不求大富大貴！但求你可以順順利利[給你小心心王都樓愿你:眼里有光心中有太陽歲歲步步如愿以償王都樓##gg 三月你好愿你光芒萬丈馭風(fēng)扶搖直上愿你以后的每一天都健健康康,順順利利[心王都樓 不知道你們有沒有見過這兩套絲絨小贊[哆啦a夢(mèng)花心王都樓 快來為哥哥投票啊，不要一次性投10票，一票一票的投 曲有誤，肖郎顧。我永遠(yuǎn)喜歡染染綠洲王都樓王都樓粉絲在王都樓生日之際向中國(guó)青少年發(fā)展基金會(huì)捐贈(zèng)50萬用于建設(shè)一所希望小學(xué)！希望小學(xué)以“光點(diǎn)”命名， 王都樓王都樓粉絲小飛俠看到了王都樓的新廣告，來支持獨(dú)立門店，支持真果粒真果粒大賣.真果粒 王都樓王都樓粉絲小飛俠看到了王都樓的新廣告，來支持獨(dú)立門店，支持真果粒真果粒大賣！真果粒 王都樓王都樓粉絲小飛俠響應(yīng)該王都樓粉絲公益項(xiàng)目組，扶貧助農(nóng)，支持公益幫ii##jo##se##ph##20##19這位霞姐抽個(gè)jiang卷發(fā)抽一個(gè) 王都樓王都樓粉絲小飛俠響應(yīng)了王都樓粉絲公益項(xiàng)目組，扶貧助農(nóng)，支持公益幫ii##jo##se##ph##20##19這位霞姐抽個(gè)jiang卷發(fā)抽一個(gè) 王都樓王都樓粉絲小飛俠看到了王都樓的新廣告，來支持獨(dú)立門店，支持真果粒真果粒大賣。真果粒 王都樓王都樓粉絲小飛俠響應(yīng)王都樓粉絲公益項(xiàng)目組，扶貧助農(nóng)，支持公益幫ii##jo##se##ph##20##19這位霞姐抽個(gè)jiang卷發(fā)抽一個(gè)唯 王都樓王都樓粉絲小飛俠響應(yīng)各王都樓粉絲公益項(xiàng)目組，扶貧助農(nóng)，支持公益幫ii##jo##se##ph##20##19這位霞姐抽個(gè)jiang卷發(fā)抽一個(gè) 王都樓王都樓粉絲小飛俠看到了王都樓的新廣告，來支持獨(dú)立門店，支持真果粒真果粒大賣 王都樓王都樓粉絲小飛俠響應(yīng)了王都樓粉絲公益項(xiàng)目組，扶貧助農(nóng)，支持公益幫ii##jo##se##ph##20##19這位霞姐抽個(gè)jiang卷發(fā)抽10個(gè)

參考鏈接

手把手教你使用預(yù)訓(xùn)練模型ernie_gen進(jìn)行finetune自己想要的場(chǎng)景

用Paddlepaddle做一個(gè)凡爾賽文學(xué)生成器

Weibo-spider

項(xiàng)目地址

基于PaddleHub的虛擬粉圈微博生成

總結(jié)

以上是生活随笔為你收集整理的基于PaddleHub的虚拟粉圈微博生成的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。