轉(zhuǎn)載公眾號(hào) | DataFunTalk

---

分享嘉賓：曹雪智博士 美團(tuán) 技術(shù)專家

編輯整理：陳維美

出品平臺(tái)：DataFunTalk

導(dǎo)讀：在互聯(lián)網(wǎng)新零售的大背景下，商品知識(shí)圖譜作為新零售行業(yè)數(shù)字化的基石，提供了對(duì)于商品相關(guān)內(nèi)容的立體化、智能化、常識(shí)化的理解，對(duì)上層業(yè)務(wù)的落地起到了至關(guān)重要的作用。相比于美團(tuán)大腦中圍繞商戶的知識(shí)圖譜而言，在新零售背景下的商品知識(shí)圖譜需要應(yīng)對(duì)更加分散、復(fù)雜的數(shù)據(jù)和業(yè)務(wù)場(chǎng)景，而這些不同的業(yè)務(wù)對(duì)于底層知識(shí)圖譜都提出了各自不同的需求和挑戰(zhàn)。美團(tuán)作為互聯(lián)網(wǎng)行業(yè)中新零售的新勢(shì)力，業(yè)務(wù)上已覆蓋了包括外賣、商超、生鮮、藥品等在內(nèi)的多個(gè)新零售領(lǐng)域，技術(shù)上在相關(guān)的知識(shí)圖譜方面進(jìn)行了深入探索。本文將對(duì)美團(tuán)新零售背景下零售商品知識(shí)圖譜的構(gòu)建和應(yīng)用進(jìn)行介紹。

01

商品圖譜背景

1. 美團(tuán)大腦

近年來(lái)，人工智能正在快速地改變?nèi)藗兊纳?#xff0c;背后其實(shí)有兩大技術(shù)驅(qū)動(dòng)力：深度學(xué)習(xí)和知識(shí)圖譜。我們將深度學(xué)習(xí)歸納為隱性的模型，它通常是面向某一個(gè)具體任務(wù)，比如說(shuō)下圍棋、識(shí)別貓、人臉識(shí)別、語(yǔ)音識(shí)別等等。通常而言，在很多任務(wù)上它能夠取得很優(yōu)秀的結(jié)果，同時(shí)它也有一些局限性，比如說(shuō)它需要海量的訓(xùn)練數(shù)據(jù)，以及強(qiáng)大的計(jì)算能力，難以進(jìn)行跨任務(wù)的遷移，并且不具有較好的可解釋性。在另一方面，知識(shí)圖譜作為顯示模型，同樣也是人工智能的一大技術(shù)驅(qū)動(dòng)力，它能夠廣泛地適用于不同的任務(wù)。相比深度學(xué)習(xí)，知識(shí)圖譜中的知識(shí)可以沉淀，具有較強(qiáng)的可解釋性，與人類的思考更加貼近，為隱式的深度模型補(bǔ)充了人類的知識(shí)積累，和深度學(xué)習(xí)互為補(bǔ)充。因此，全球的互聯(lián)網(wǎng)公司都在積極布局知識(shí)圖譜。

圖1: 人工智能兩大驅(qū)動(dòng)力

美團(tuán)作為中國(guó)最大的在線本地生活服務(wù)平臺(tái)，連接了數(shù)億用戶和數(shù)千萬(wàn)商戶，其背后也蘊(yùn)含著豐富的日常生活相關(guān)知識(shí)。美團(tuán)知識(shí)圖譜團(tuán)隊(duì)從2018年開(kāi)始構(gòu)建美團(tuán)大腦，著力于利用知識(shí)圖譜技術(shù)賦能業(yè)務(wù)，進(jìn)一步改善用戶體驗(yàn)。具體的，美團(tuán)大腦將對(duì)美團(tuán)業(yè)務(wù)中涉及到的千萬(wàn)級(jí)別商家、億級(jí)別的菜品/商品、數(shù)十億的用戶評(píng)論、以及背后百萬(wàn)級(jí)別的場(chǎng)景進(jìn)行深入的理解和結(jié)構(gòu)化的知識(shí)建模，構(gòu)建人、店、商品、場(chǎng)景之間的知識(shí)關(guān)聯(lián)，從而形成生活服務(wù)領(lǐng)域大規(guī)模的“知識(shí)大腦”。現(xiàn)階段，美團(tuán)大腦已覆蓋了數(shù)十億實(shí)體，數(shù)百億三元組，在餐飲、外賣、酒店、金融等場(chǎng)景中驗(yàn)證了知識(shí)圖譜的有效性。

圖2: 美團(tuán)大腦

2. 美團(tuán)在新零售的探索

美團(tuán)逐步突破原有邊界，在生活服務(wù)領(lǐng)域探索新的業(yè)務(wù)，不僅局限于通過(guò)外賣、餐飲幫助大家“吃得更好”，近年來(lái)也逐步拓展到零售、出行等其他領(lǐng)域，幫助大家“生活更好”。在零售領(lǐng)域中，美團(tuán)先后落地了美團(tuán)閃購(gòu)、美團(tuán)買菜、美團(tuán)優(yōu)選、團(tuán)好貨等一系列相應(yīng)的業(yè)務(wù)，逐步實(shí)現(xiàn)“萬(wàn)物到家”的愿景。為了更好地支持美團(tuán)的新零售業(yè)務(wù)，我們需要對(duì)背后的零售商品建立知識(shí)圖譜，積累結(jié)構(gòu)化數(shù)據(jù)，深入對(duì)零售領(lǐng)域內(nèi)商品、用戶、屬性、場(chǎng)景等的理解，以便能更好地為用戶提供零售商品領(lǐng)域內(nèi)的服務(wù)。

相比于圍繞商戶的餐飲、外賣、酒店的等領(lǐng)域，零售商品領(lǐng)域?qū)τ诮Y(jié)構(gòu)化知識(shí)的需求和依賴會(huì)更強(qiáng)。一方面，商品數(shù)量更加龐大，覆蓋的領(lǐng)域范圍也更加寬廣。另一方面，商品本身所具有的顯示信息往往比較稀疏，很大程度上需要結(jié)合生活中的常識(shí)知識(shí)來(lái)進(jìn)行推理，方可將隱藏在背后的數(shù)十維的屬性進(jìn)行補(bǔ)齊，完成對(duì)商品完整的理解。在下圖的例子中，“樂(lè)事黃瓜味”這樣簡(jiǎn)單的商品描述其實(shí)就對(duì)應(yīng)著豐富的隱含信息，只有對(duì)這些知識(shí)進(jìn)行了結(jié)構(gòu)化提取和相應(yīng)的知識(shí)推理后，才能夠更好的支持下游搜索、推薦等模塊的優(yōu)化。

圖3: 商品結(jié)構(gòu)化信息的應(yīng)用

3. 商品圖譜建設(shè)的目標(biāo)

我們針對(duì)美團(tuán)零售業(yè)務(wù)的特點(diǎn)，制定了多層級(jí)、多維度、跨業(yè)務(wù)的零售商品知識(shí)圖譜體系。

圖4: 商品知識(shí)圖譜體系

① 多層級(jí)

在不同業(yè)務(wù)的不同應(yīng)用場(chǎng)景下，對(duì)于“商品”的定義會(huì)有所差別，需要對(duì)各個(gè)不同顆粒度的商品進(jìn)行理解。因此，在我們的零售商品知識(shí)圖譜中，建立了五層的層級(jí)體系，具體包括：

L1 - 商品SKU/SPU：對(duì)應(yīng)業(yè)務(wù)中所售賣的商品顆粒度，是用戶交易的對(duì)象，往往為商戶下掛的商品，例如“望京家樂(lè)福所售賣的蒙牛低脂高鈣牛奶250ml盒裝”。這一層級(jí)也是作為商品圖譜的最底層的基石，將業(yè)務(wù)商品庫(kù)和圖譜知識(shí)進(jìn)行打通關(guān)聯(lián)。

L2 - 標(biāo)準(zhǔn)商品：描述商品本身客觀事實(shí)的顆粒度，例如“蒙牛低脂高鈣牛奶250ml盒裝”，無(wú)論通過(guò)什么渠道在什么商戶購(gòu)買，商品本身并沒(méi)有任何區(qū)別。商品條形碼則是在標(biāo)準(zhǔn)商品這層的客觀依據(jù)。在這一層級(jí)上，我們可以建模圍繞標(biāo)準(zhǔn)商品的客觀知識(shí)，例如同一個(gè)標(biāo)準(zhǔn)商品都會(huì)具有同樣的品牌、口味、包裝等屬性。

L3 - 抽象商品：進(jìn)一步我們將標(biāo)準(zhǔn)商品向上抽象的商品系列，例如“蒙牛低脂高鈣牛奶”。在這一層級(jí)中，我們不再關(guān)注商品具體的包裝、規(guī)格等，將同系列的商品聚合為抽象商品，承載了用戶對(duì)于商品的主觀認(rèn)知，包括用戶對(duì)商品系列的別名俗稱、品牌認(rèn)知、主觀評(píng)價(jià)等。

L4 - 主體品類：描述商品主體的本質(zhì)品類，列如“雞蛋”、“奶油草莓”、“臺(tái)式烤腸”等。這一層作為商品圖譜的后臺(tái)類目體系，以客觀的方式對(duì)商品領(lǐng)域的品類進(jìn)行建模，承載了用戶對(duì)于商品的需求，例如各品牌各產(chǎn)地的雞蛋都能夠滿足用戶對(duì)于雞蛋這個(gè)品類的需求。

L5 - 業(yè)務(wù)類目：相比于主體品類的后臺(tái)類目體系，業(yè)務(wù)類目作為前臺(tái)類目體系會(huì)依據(jù)業(yè)務(wù)當(dāng)前的發(fā)展階段進(jìn)行人工定義和調(diào)整，各個(gè)業(yè)務(wù)會(huì)根據(jù)當(dāng)前業(yè)務(wù)階段的特點(diǎn)和需求建立對(duì)應(yīng)的前臺(tái)類目體系。

② 多維度

商品屬性視角：圍繞商品本身，我們需要有海量的屬性維度來(lái)對(duì)商品進(jìn)行描述。商品屬性維度主要分為兩類：一類是通用的屬性維度，包括品牌、規(guī)格、包裝、產(chǎn)地等；另一類是品類特有的屬性維度，例如對(duì)于牛奶品類我們會(huì)關(guān)注脂肪含量（全脂/低脂/脫脂牛奶）、存儲(chǔ)方式（常溫奶、冷藏奶）等。商品屬性主要是刻畫了商品的客觀知識(shí)，往往會(huì)建立在標(biāo)準(zhǔn)商品這一層級(jí)上。

用戶認(rèn)知視角：除了客觀的商品屬性維度以外，用戶往往對(duì)于商品會(huì)有一系列的主觀認(rèn)知，例如商品的別名俗稱（“小黑瓶”、“快樂(lè)水”）、對(duì)于商品的評(píng)價(jià)（“香甜可口”、“入口即化”、“性價(jià)比高”）、商品的清單/榜單（“進(jìn)口食品榜單”、“夏季消暑常備”）等維度。這些主觀認(rèn)知往往會(huì)建立在抽象商品這一層級(jí)上。

品類/類目視角：從品類/類目的視角來(lái)看，不同品類/類目也會(huì)有各自不同的關(guān)注點(diǎn)。在這一層級(jí)上，我們會(huì)建模各個(gè)品類/類目下有哪些典型的品牌、用戶關(guān)注哪些典型屬性、不同品類的復(fù)購(gòu)周期是多長(zhǎng)時(shí)間等等。

③ 跨業(yè)務(wù)

美團(tuán)大腦商品知識(shí)圖譜的目標(biāo)是希望能夠?qū)陀^世界中的商品知識(shí)進(jìn)行建模，而非局限于單個(gè)業(yè)務(wù)之中。在商品圖譜的五層體系中，標(biāo)準(zhǔn)商品、抽象商品、品類體系都是與業(yè)務(wù)解耦的，圍繞著客觀商品所建立的，包括圍繞這些層級(jí)建立的各維度數(shù)據(jù)也均是刻畫了商品領(lǐng)域的客觀知識(shí)。在應(yīng)用于各個(gè)業(yè)務(wù)當(dāng)中時(shí)，我們將客觀的圖譜知識(shí)向上關(guān)聯(lián)至業(yè)務(wù)前臺(tái)類目，向下關(guān)聯(lián)至業(yè)務(wù)商品SPU/SKU，則可以完成各個(gè)業(yè)務(wù)數(shù)據(jù)的接入，實(shí)現(xiàn)各個(gè)業(yè)務(wù)數(shù)據(jù)和客觀知識(shí)之間的聯(lián)通，提供更加全面的跨業(yè)務(wù)的全景數(shù)據(jù)視角。利用這樣的數(shù)據(jù)，在用戶方面我們可以更加全面的建模、分析用戶對(duì)于業(yè)務(wù)、品類的偏好，對(duì)于價(jià)格、品質(zhì)等的敏感程度，在商品方面我們可以更準(zhǔn)確的建模各品類的復(fù)購(gòu)周期、地域/季節(jié)/節(jié)日偏好等。?

4. 商品圖譜建設(shè)的挑戰(zhàn)

商品知識(shí)圖譜的構(gòu)建的挑戰(zhàn)主要來(lái)源于以下三個(gè)方面：

• 信息來(lái)源質(zhì)量低：商品本身所具有的信息比較匱乏，往往以標(biāo)題和圖片為主。尤其在美團(tuán)閃購(gòu)這樣LBS的電商場(chǎng)景下，商戶需要上傳大量的商品數(shù)據(jù)，對(duì)于商品信息的錄入存在很多信息不完整的情況。在標(biāo)題和圖片之外，商品詳情雖然也蘊(yùn)含著大量的知識(shí)信息，但是其質(zhì)量往往參差不齊，并且結(jié)構(gòu)各異，從中進(jìn)行知識(shí)挖掘難度極高。

• 數(shù)據(jù)維度多：在商品領(lǐng)域有眾多的數(shù)據(jù)維度需要進(jìn)行建設(shè)。以商品屬性部分為例，我們不僅需要建設(shè)通用的諸如品牌、規(guī)格、包裝、口味等屬性維度，同時(shí)還要覆蓋各個(gè)品類/類目下特定關(guān)注的屬性維度諸如脂肪含量、是否含糖、電池容量等，整體會(huì)涉及到數(shù)百維的屬性維度。因此，數(shù)據(jù)建設(shè)的效率問(wèn)題也是一大挑戰(zhàn)。

• 依賴常識(shí)/專業(yè)知識(shí)：人們?cè)谌粘Ｉ钪幸驗(yàn)橛泻茇S富的常識(shí)知識(shí)積累，可以通過(guò)很簡(jiǎn)短的描述獲取其背后隱藏的商品信息，例如在看到“樂(lè)事黃瓜”這樣一個(gè)商品的時(shí)候知道其實(shí)是樂(lè)事黃瓜味的薯片、看到“唐僧肉”的時(shí)候知道其實(shí)這不是一種肉類而是一種零食。因此，我們也需要探索結(jié)合常識(shí)知識(shí)的語(yǔ)義理解方法。同時(shí)，在醫(yī)藥、個(gè)護(hù)等領(lǐng)域中，圖譜的建設(shè)需要依賴較強(qiáng)的專業(yè)知識(shí)，例如疾病和藥品之間的關(guān)系，并且此類關(guān)系對(duì)于準(zhǔn)確度的要求極高，需要做到所有知識(shí)都準(zhǔn)確無(wú)誤，因此也需要較好的專家和算法相結(jié)合的方式來(lái)進(jìn)行高效的圖譜構(gòu)建。

02

商品圖譜建設(shè)

在了解了圖譜建設(shè)的目標(biāo)和挑戰(zhàn)后，接下來(lái)我們將介紹商品圖譜數(shù)據(jù)建設(shè)的具體方案。

1. 層級(jí)體系建設(shè)

① 品類體系建設(shè)

品類描述了商品本質(zhì)所屬的最細(xì)類別，它聚合了一類商品，承載了用戶最終的消費(fèi)需求，如“高鈣牛奶”、“牛肉干”等。與品類不同，類目是若干品類的集合，它是抽象后的品類概念，不能夠明確到具體的某類商品品類上，如“乳制品”、“水果”等。

品類打標(biāo)：對(duì)商品圖譜的構(gòu)建來(lái)說(shuō)，關(guān)鍵的一步便是建立起商品和品類之間的關(guān)聯(lián)，即對(duì)商品打上品類標(biāo)簽。通過(guò)商品和品類之間的關(guān)聯(lián)，我們可以建立起商品庫(kù)中商品與用戶需求之間的關(guān)聯(lián)，進(jìn)而將具體的商品展示到用戶面前。下面簡(jiǎn)單介紹下品類打標(biāo)方法：

• 品類詞表構(gòu)建：品類打標(biāo)首先需要構(gòu)建一個(gè)初步的商品品類詞表。首先，我們通過(guò)對(duì)美團(tuán)的各個(gè)電商業(yè)務(wù)的商品庫(kù)、搜索日志、商戶標(biāo)簽等數(shù)據(jù)源進(jìn)行分詞、NER、新詞發(fā)現(xiàn)等操作，獲得初步的商品候選詞。然后，通過(guò)標(biāo)注少量的樣本進(jìn)行二分類模型的訓(xùn)練（判斷一個(gè)詞是否是品類）。此外，我們通過(guò)結(jié)合主動(dòng)學(xué)習(xí)的方法，從預(yù)測(cè)的結(jié)果中挑選出難分樣本，進(jìn)行再次標(biāo)注，繼續(xù)迭代模型，直到模型收斂。

• 品類打標(biāo)：首先，我們通過(guò)對(duì)商品標(biāo)題進(jìn)行命名實(shí)體識(shí)別，并結(jié)合上一步中的品類詞表來(lái)獲取商品中的候選品類，如識(shí)別“蒙牛脫脂牛奶 500ml”中的“脫脂牛奶”、“牛奶”等。然后，在獲得了商品以及對(duì)應(yīng)的品類之后，我們利用監(jiān)督數(shù)據(jù)訓(xùn)練品類打標(biāo)的二分類模型，輸入商品的SPU_ID和候選品類TAG構(gòu)成的pair，即，對(duì)它進(jìn)行是否匹配的預(yù)測(cè)。具體的，我們一方面利用結(jié)合業(yè)務(wù)中豐富的半結(jié)構(gòu)化語(yǔ)料構(gòu)建圍繞標(biāo)簽詞的統(tǒng)計(jì)特征，另一方面利用命名實(shí)體識(shí)別、基于BERT的語(yǔ)義匹配等模型產(chǎn)出高階相關(guān)性特征，在此基礎(chǔ)上，我們將上述特征輸入到終判模型中進(jìn)行模型訓(xùn)練。

• 品類標(biāo)簽后處理：在這一步中，我們對(duì)模型打上的品類進(jìn)行后處理的一些策略，如基于圖片相關(guān)性、結(jié)合商品標(biāo)題命名實(shí)體識(shí)別結(jié)果等的品類清洗策略。

通過(guò)上述的三個(gè)步驟，我們便可以建立起商品與品類之間的聯(lián)系。

品類體系：品類體系由品類和品類間關(guān)系構(gòu)成。常見(jiàn)的品類關(guān)系包括同義詞和上下位等。在構(gòu)建品類體系的過(guò)程中，常用的以下幾種方法來(lái)進(jìn)行關(guān)系的補(bǔ)全。我們主要使用下面的一些方法：

• 基于規(guī)則的品類關(guān)系挖掘。在百科等通用語(yǔ)料數(shù)據(jù)中，有些品類具有固定模式的描述，如“玉米又名苞谷、苞米棒子、玉蜀黍、珍珠米等”、“榴蓮是著名熱帶水果之一”，因此，可以使用規(guī)則從中提取同義詞和上下位。

• 基于分類的品類關(guān)系挖掘。類似于上文中提到的品類打標(biāo)方法，我們將同義詞和上下位構(gòu)建為的樣本，通過(guò)在商品庫(kù)、搜索日志、百科數(shù)據(jù)、UGC中挖掘的統(tǒng)計(jì)特征以及基于sentence-bert得到的語(yǔ)義特征，使用二分類模型進(jìn)行品類關(guān)系是否成立的判斷。對(duì)于訓(xùn)練得到的分類模型，我們同樣通過(guò)主動(dòng)學(xué)習(xí)的方式，選出結(jié)果中的難分樣本，進(jìn)行二次標(biāo)注，進(jìn)而不斷迭代數(shù)據(jù)，提高模型性能。

• 基于圖的品類關(guān)系推理。在獲得了初步的同義詞、上下位關(guān)系之后，我們使用已有的這些關(guān)系構(gòu)建網(wǎng)絡(luò)，使用GAE、VGAE等方法對(duì)網(wǎng)絡(luò)進(jìn)行鏈路預(yù)測(cè)，從而進(jìn)行圖譜邊關(guān)系的補(bǔ)全。

圖5: 商品圖譜品類體系的構(gòu)建

② 標(biāo)準(zhǔn)/抽象商品

標(biāo)準(zhǔn)商品是描述商品本身客觀事實(shí)的顆粒度，和銷售渠道和商戶無(wú)關(guān)，而商品條形碼是標(biāo)準(zhǔn)商品這層的客觀依據(jù)。標(biāo)品關(guān)聯(lián)即將同屬于某個(gè)商品條形碼的業(yè)務(wù)SKU/SPU，都正確關(guān)聯(lián)到該商品條形碼上，從而在標(biāo)準(zhǔn)商品層級(jí)上建模相應(yīng)的客觀知識(shí)，例如標(biāo)準(zhǔn)商品對(duì)應(yīng)的品牌、口味和包裝等屬性。?下面通過(guò)一個(gè)案例來(lái)說(shuō)明標(biāo)品關(guān)聯(lián)的具體任務(wù)和方案。

案例：下圖是一個(gè)公牛三米插線板的標(biāo)準(zhǔn)商品。商家錄入信息的時(shí)候，會(huì)把商品直接關(guān)聯(lián)到商品條碼上。通過(guò)商戶錄入數(shù)據(jù)完成了一部分的標(biāo)品關(guān)聯(lián)，但這部分比例比較少，且存在大量的鏈接缺失，鏈接錯(cuò)誤的問(wèn)題。另外，不同的商家對(duì)于同樣的標(biāo)品，商品的標(biāo)題的描述是千奇百怪的。我們的目標(biāo)是補(bǔ)充缺失的鏈接，將商品關(guān)聯(lián)到正確的標(biāo)品上。

圖6: 商品圖譜標(biāo)品關(guān)聯(lián)任務(wù)

針對(duì)標(biāo)品關(guān)聯(lián)任務(wù)，我們構(gòu)建了商品領(lǐng)域的同義詞判別模型：通過(guò)遠(yuǎn)監(jiān)督的方式利用商戶已經(jīng)提供的少量有關(guān)聯(lián)的數(shù)據(jù)，作為已有的知識(shí)圖譜構(gòu)造遠(yuǎn)監(jiān)督的訓(xùn)練樣本。在模型中，正例是置信度比較高的標(biāo)品碼；負(fù)例是原始數(shù)據(jù)中商品名或者圖像類似但不屬于同一標(biāo)品的SPU。構(gòu)造準(zhǔn)確率比較高的訓(xùn)練樣本之后，通過(guò)Bert模型進(jìn)行同義詞模型訓(xùn)練。最后，通過(guò)模型自主去噪的方式，使得最終的準(zhǔn)確率能夠達(dá)到99%以上。總體能做到品牌，規(guī)格，包裝等維度敏感。

圖7: 商品圖譜標(biāo)品關(guān)聯(lián)方法

抽象商品是用戶認(rèn)知的層面，作為用戶所評(píng)論的對(duì)象，這一層對(duì)用戶偏好建模更加有效。同時(shí)，在決策信息的展示上，抽象商品粒度也更符合用戶認(rèn)知。例如下圖所示冰淇淋的排行榜中，羅列了用戶認(rèn)知中抽象商品對(duì)應(yīng)的SKU，然后對(duì)應(yīng)展示不同抽象商品的特點(diǎn)，推薦理由等。抽象商品層整體的構(gòu)建方式，和標(biāo)準(zhǔn)商品層比較類似，采用標(biāo)品關(guān)聯(lián)的模型流程，并在數(shù)據(jù)構(gòu)造部分進(jìn)行規(guī)則上的調(diào)整。??

圖8: 商品圖譜抽象商品聚合

2. 屬性維度建設(shè)

對(duì)一個(gè)商品的全面理解，需要涵蓋各個(gè)屬性維度。例如“樂(lè)事黃瓜味薯片”，需要挖掘它對(duì)應(yīng)的品牌、品類、口味、包裝規(guī)格、標(biāo)簽、產(chǎn)地以及用戶評(píng)論特色等屬性，才能在商品搜索、推薦等場(chǎng)景中精準(zhǔn)觸達(dá)用戶。商品屬性挖掘的源數(shù)據(jù)主要包含商品標(biāo)題，商品圖片和半結(jié)構(gòu)化數(shù)據(jù)三個(gè)維度。

圖9: 商品圖譜屬性建設(shè)

商品標(biāo)題包含了對(duì)于商品最重要的信息維度，同時(shí)，商品標(biāo)題解析模型可以應(yīng)用在查詢理解中，對(duì)用戶快速深入理解拆分，為下游的召回排序也能提供高階特征。因此，這里我們著重介紹一下利用商品標(biāo)題進(jìn)行屬性抽取的方法。

商品標(biāo)題解析整體可以建模成文本序列標(biāo)注的任務(wù)。例如，對(duì)于商品標(biāo)題“樂(lè)事黃瓜薯片”，目標(biāo)是理解標(biāo)題文本序列中各個(gè)成分，如樂(lè)事對(duì)應(yīng)品牌，黃瓜對(duì)應(yīng)口味，薯片是品類，因此我們使用命名實(shí)體識(shí)別（NER）模型進(jìn)行商品標(biāo)題解析。然而商品標(biāo)題解析存在著三大挑戰(zhàn)：（1）上下文信息少；（2）依賴常識(shí)知識(shí)；（3）標(biāo)注數(shù)據(jù)通常有較多的噪音。為了解決上述挑戰(zhàn)，我們嘗試在模型中引入了圖譜信息，主要包含以下三個(gè)維度：

• 節(jié)點(diǎn)信息：將圖譜實(shí)體作為詞典，以Soft-Lexicon方式接入，以此來(lái)緩解NER的邊界切分錯(cuò)誤問(wèn)題。

• 關(guān)聯(lián)信息：商品標(biāo)題解析依賴常識(shí)知識(shí)，例如在缺乏常識(shí)的情況下，僅從標(biāo)題“樂(lè)事黃瓜薯片”中，我們無(wú)法確認(rèn)“黃瓜”是商品品類還是口味屬性。因此，我們引入知識(shí)圖譜的關(guān)聯(lián)數(shù)據(jù)緩解了常識(shí)知識(shí)缺失的問(wèn)題：在知識(shí)圖譜中，樂(lè)事和薯片之間存在著較強(qiáng)的relation，但是樂(lè)事跟黃瓜之間的relation比較弱，因此可以利用圖結(jié)構(gòu)來(lái)緩解NER模型常識(shí)知識(shí)缺少的問(wèn)題。具體來(lái)說(shuō)，我們通過(guò)圖譜Graph Embedding的方式，利用圖譜的圖結(jié)構(gòu)信息對(duì)圖譜中的單字，詞進(jìn)行embedding表示，然后將embedding表示和文本語(yǔ)義的表征進(jìn)行拼接融合，再接入NER模型，使得模型能夠既考慮到語(yǔ)義，也考慮到常識(shí)知識(shí)的信息。

• 節(jié)點(diǎn)類型信息：同一個(gè)詞可以代表不同的屬性，比如“黃瓜”既可以作為品類又可以作為屬性。因此，對(duì)圖譜進(jìn)行embedding建模的時(shí)候，根據(jù)不同的類型對(duì)實(shí)體節(jié)點(diǎn)進(jìn)行拆分。在將圖譜節(jié)點(diǎn)表征喂入NER模型中時(shí)，利用注意力機(jī)制根據(jù)上下文來(lái)選擇更符合語(yǔ)義的實(shí)體類型對(duì)應(yīng)的表征?，緩解不同類型下詞語(yǔ)含義不同的問(wèn)題，實(shí)現(xiàn)不同類型實(shí)體的融合。

圖10: 商品圖譜標(biāo)題解析

在標(biāo)注過(guò)程中，少標(biāo)漏標(biāo)或錯(cuò)標(biāo)的問(wèn)題無(wú)法避免，尤其像在商品標(biāo)題NER這種標(biāo)注比較復(fù)雜的問(wèn)題上，尤為顯著。對(duì)于標(biāo)注數(shù)據(jù)中的噪音問(wèn)題，采用以下方式對(duì)噪音標(biāo)注優(yōu)化：不再采取原先非0即1的hard的訓(xùn)練方式，而是采用基于置信度數(shù)據(jù)的soft訓(xùn)練方式，然后再通過(guò)Bootstrapping的方式迭代交叉驗(yàn)證，然后根據(jù)當(dāng)前的訓(xùn)練集的置信度進(jìn)行調(diào)整。我們通過(guò)實(shí)驗(yàn)驗(yàn)證，使用soft訓(xùn)練+ Bootstrapping 多輪迭代的方式，在噪聲比例比較大的數(shù)據(jù)集上，模型效果得到了明顯提升。具體的方法可參見(jiàn)我們?cè)贜LPCC 2020 比賽中的論文《Iterative Strategy for Named Entity Recognition with Imperfect Annotations》。

圖11: 基于噪音標(biāo)注的NER優(yōu)化

3. 效率提升

知識(shí)圖譜的構(gòu)建往往是針對(duì)于各個(gè)領(lǐng)域維度的數(shù)據(jù)單獨(dú)制定的挖掘方式。這種挖掘方式相對(duì)來(lái)說(shuō)重人工，比較低效，針對(duì)每個(gè)不同的領(lǐng)域、每個(gè)不同的數(shù)據(jù)維度，我們都需要定制化的去建設(shè)任務(wù)相關(guān)的特征及標(biāo)注數(shù)據(jù)。在商品場(chǎng)景下，挖掘的維度眾多，因此效率方面的提高也是至關(guān)重要的。我們首先將知識(shí)挖掘任務(wù)建模為三類分類任務(wù)，包括節(jié)點(diǎn)建模、關(guān)系建模以及節(jié)點(diǎn)關(guān)聯(lián)。在整個(gè)模型的訓(xùn)練過(guò)程中，最需要進(jìn)行效率優(yōu)化的其實(shí)就是上述提到的兩個(gè)步驟：i）針對(duì)任務(wù)的特征提取，ii）針對(duì)任務(wù)的數(shù)據(jù)標(biāo)注；

圖12: 知識(shí)挖掘任務(wù)建模

針對(duì)特征提取部分，我們摒棄了針對(duì)不同挖掘任務(wù)做定制化特征挖掘的方式，而是嘗試將特征和任務(wù)解耦，構(gòu)建跨任務(wù)通用的圖譜挖掘特征體系，利用海量的特征庫(kù)來(lái)對(duì)目標(biāo)的節(jié)點(diǎn)/關(guān)系/關(guān)聯(lián)進(jìn)行表征，并利用監(jiān)督訓(xùn)練數(shù)據(jù)來(lái)進(jìn)行特征的組合和選擇。具體的，我們構(gòu)建的圖譜特征體系主要由四個(gè)類型的特征組構(gòu)成：i) 規(guī)則模板型特征主要是利用人工先驗(yàn)知識(shí)，融合規(guī)則模型能力；ii) 統(tǒng)計(jì)分布型特征，可以充分利用各類語(yǔ)料，基于不同語(yǔ)料不同層級(jí)維度進(jìn)行統(tǒng)計(jì)；iii) 句法分析型特征則是利用NLP領(lǐng)域的模型能力，引入分詞、詞性、句法等維度特征；iv) 嵌入表示型特征，則是利用高階模型能力，引入BERT等語(yǔ)義理解模型的能力。

圖13: 知識(shí)挖掘特征體系

針對(duì)數(shù)據(jù)標(biāo)注部分，我們主要從三個(gè)角度來(lái)提升效率。i) 通過(guò)半監(jiān)督學(xué)習(xí)，充分的利用未標(biāo)注的數(shù)據(jù)進(jìn)行預(yù)訓(xùn)練；ii）通過(guò)主動(dòng)學(xué)習(xí)技術(shù)，選擇對(duì)于模型來(lái)說(shuō)能夠提供最多信息增益的樣本進(jìn)行標(biāo)注；iii）利用遠(yuǎn)程監(jiān)督方法，通過(guò)已有的知識(shí)構(gòu)造遠(yuǎn)監(jiān)督樣本進(jìn)行模型訓(xùn)練，盡可能的發(fā)揮出已有知識(shí)的價(jià)值。

4. 人機(jī)結(jié)合 - 專業(yè)圖譜建設(shè)

當(dāng)前醫(yī)藥健康行業(yè)結(jié)構(gòu)性正在發(fā)生變化，消費(fèi)者更加傾向于使用在線醫(yī)療解決方案和藥品配送服務(wù)，因此醫(yī)藥業(yè)務(wù)也逐漸成為了美團(tuán)的重要業(yè)務(wù)之一。相比于普通商品知識(shí)圖譜的建設(shè)，藥品領(lǐng)域知識(shí)具有以下兩個(gè)特點(diǎn)：（1）具有極強(qiáng)的專業(yè)性，需要有相關(guān)背景知識(shí)才能判斷相應(yīng)的屬性維度，例如藥品的適用癥狀等；（2）相對(duì)敏感，對(duì)于強(qiáng)專業(yè)性知識(shí)不允許出錯(cuò)，否則更容易導(dǎo)致嚴(yán)重后果。因此我們采用將智能模型和專家知識(shí)結(jié)合的方式來(lái)構(gòu)建藥品知識(shí)圖譜。

藥品圖譜中的知識(shí)可以分為弱專業(yè)知識(shí)和強(qiáng)專業(yè)知識(shí)兩類，弱專業(yè)知識(shí)即一般人能夠較容易獲取和理解的知識(shí)，例如藥品的使用方法、適用人群等；而強(qiáng)專業(yè)知識(shí)則是需要具有專業(yè)背景的人才能夠判斷的知識(shí)，例如藥品的主治疾病、適應(yīng)癥狀等。由于這兩類數(shù)據(jù)對(duì)專家的依賴程度不同，因此我們分別采取不同的挖掘鏈路：

• 弱專業(yè)知識(shí)：對(duì)于藥品圖譜的弱專業(yè)知識(shí)挖掘，我們從說(shuō)明書、百科知識(shí)等數(shù)據(jù)源中提取出相應(yīng)的信息，并結(jié)合通過(guò)專家知識(shí)沉淀出來(lái)的規(guī)則策略，借助通用語(yǔ)義模型從中提取相應(yīng)的知識(shí)，并通過(guò)專家的批量抽檢，完成數(shù)據(jù)的建設(shè)。

• 強(qiáng)專業(yè)知識(shí)：對(duì)于藥品圖譜的強(qiáng)專業(yè)知識(shí)挖掘，為了確保相關(guān)知識(shí)百分百準(zhǔn)確，我們通過(guò)模型提取出藥品相關(guān)屬性維度的候選后，將這些候選知識(shí)給到專家進(jìn)行全量質(zhì)檢。在這里，我們主要是通過(guò)算法的能力，盡可能減少專業(yè)藥師在基礎(chǔ)數(shù)據(jù)層面上的精力花費(fèi)，提高專家從半結(jié)構(gòu)化語(yǔ)料中提取專業(yè)知識(shí)的效率。

在藥品這類專業(yè)性強(qiáng)的領(lǐng)域，專業(yè)知識(shí)的表述和用戶習(xí)慣往往存在差異。因此我們除了挖掘強(qiáng)弱專業(yè)知識(shí)外，還需要填補(bǔ)專業(yè)知識(shí)和用戶之間的差異，才能將藥品圖譜更好的與下游應(yīng)用結(jié)合。為此，我們從用戶行為日志以及領(lǐng)域日常對(duì)話等數(shù)據(jù)源中，挖掘了疾病、癥狀和功效的別名數(shù)據(jù)，以及藥品通用名的俗稱數(shù)據(jù)，來(lái)打通用戶習(xí)慣和專業(yè)表述之間的通路。

圖14: 人機(jī)結(jié)合的專業(yè)知識(shí)挖掘

03

商品圖譜的落地應(yīng)用

近年來(lái)，隨著深度學(xué)習(xí)技術(shù)的飛速發(fā)展，基于深度神經(jīng)網(wǎng)絡(luò)的搜索、推薦算法不斷迭代，取得了豐富的業(yè)務(wù)成果。然而大量ID化的特征與深度模型結(jié)構(gòu)的可解釋性不強(qiáng)，缺乏系統(tǒng)描述能力，與用戶引導(dǎo)能力。

自從谷歌將知識(shí)圖譜應(yīng)用于搜索引擎，并顯著提升了搜索質(zhì)量與用戶體驗(yàn)，知識(shí)圖譜在各垂直領(lǐng)域場(chǎng)景都扮演起了重要的角色。以美團(tuán)場(chǎng)景為例，下面重點(diǎn)介紹商品圖譜在搜索、推薦和C端、B端的落地點(diǎn)。

知識(shí)圖譜最大的應(yīng)用是在搜索和推薦場(chǎng)景中。在搜索和推薦的各層模塊當(dāng)中，知識(shí)圖譜可以提供包括：基于知識(shí)的結(jié)構(gòu)化召回、基于圖嵌入表示的向量化召回、基于商品理解的高階排序特征、基于知識(shí)推理的展示層優(yōu)化等。

1. 結(jié)構(gòu)化召回

商品圖譜的數(shù)據(jù)，對(duì)于商品的理解很有幫助。例如，在商品搜索中， 如用戶在搜索頭疼腰疼時(shí)，通過(guò)結(jié)構(gòu)化的知識(shí)圖譜，才能知道什么藥品是有止疼功效的；用戶在搜索可愛(ài)多草莓、黃瓜薯片時(shí)，需要依賴圖譜的常識(shí)知識(shí)來(lái)理解用戶真正需求是冰淇淋和薯片，而不是草莓和黃瓜。

圖15: 基于圖譜的結(jié)構(gòu)化召回

2. 排序模型泛化性

圖譜的類目信息、品類信息、屬性信息，一方面可以作為比較強(qiáng)有力的相關(guān)性的判斷方法和干預(yù)手段，另一方面可以提供不同粗細(xì)粒度的商品聚合能力，作為泛化性特征提供到排序模型，能有效地提升排序模型的泛化能力，對(duì)于用戶行為尤為稀疏的商品領(lǐng)域來(lái)說(shuō)則具有著更高的價(jià)值。具體的特征使用方式則包括：i) 通過(guò)各顆粒度進(jìn)行商品聚合，以ID化特征接入排序模型；ii）在各顆粒度聚合后進(jìn)行統(tǒng)計(jì)特征的建設(shè)；iii）通過(guò)圖嵌入表示的方式，將商品的高維向量表示和排序模型結(jié)合。

圖16: 基于圖譜的排序優(yōu)化

3. 多模態(tài)圖譜嵌入

現(xiàn)有的研究工作已經(jīng)在多個(gè)領(lǐng)域中證明了，將知識(shí)圖譜的數(shù)據(jù)進(jìn)行嵌入表示，以高維向量表示的方式和排序模型結(jié)合，可以有效地通過(guò)引入外部知識(shí)達(dá)到緩解排序/推薦場(chǎng)景中數(shù)據(jù)稀疏以及冷啟動(dòng)問(wèn)題的效果。然而，傳統(tǒng)的圖譜嵌入的工作往往忽視了知識(shí)圖譜中的多模態(tài)信息，例如商品領(lǐng)域中我們有商品的圖片、商品的標(biāo)題、商家的介紹等非簡(jiǎn)單的圖譜節(jié)點(diǎn)型的知識(shí)，這些信息的引入也可以進(jìn)一步提升圖譜嵌入對(duì)推薦/排序的信息增益。

圖17: 基于多模態(tài)圖譜的推薦 - 背景

現(xiàn)有的圖譜嵌入方法在應(yīng)用到多模態(tài)圖譜表征的時(shí)候會(huì)存在一些問(wèn)題，因?yàn)樵诙嗄B(tài)場(chǎng)景下，圖譜中邊的含義不再是單純的語(yǔ)義推理關(guān)系，而是存在多模態(tài)的信息補(bǔ)充的關(guān)系，因此我們也針對(duì)多模態(tài)圖譜的特點(diǎn)，提出了MKG Entity Encoder和MKG Attention Layer來(lái)更好的建模多模態(tài)知識(shí)圖譜，并將其表征有效的接入至推薦/排序模型中，具體方法可以參考我們?cè)贑IKM 2020發(fā)表了的論文《Multi-Modal Knowledge Graphs for Recommender Systems》。

圖18: 基于圖譜的排序優(yōu)化 - 模型

4. C端/B端優(yōu)化

商品圖譜在C端提供顯式化的可解釋性信息，輔助用戶進(jìn)行決策。具體的呈現(xiàn)形式包括篩選項(xiàng)、特色標(biāo)簽、榜單、推薦理由等。篩選項(xiàng)的維度受當(dāng)前查詢?cè)~對(duì)應(yīng)品類下用戶關(guān)注的屬性類別決定，例如，當(dāng)用戶搜索查詢?cè)~為薯片時(shí)，用戶通常關(guān)注的是它的口味、包裝、凈含量等，我們將會(huì)根據(jù)供給數(shù)據(jù)在這些維度下的枚舉值展示篩選項(xiàng)。商品的亮點(diǎn)標(biāo)簽來(lái)源于標(biāo)題、商品詳情頁(yè)信息與評(píng)論數(shù)據(jù)的提取，以簡(jiǎn)潔明了的結(jié)構(gòu)化數(shù)據(jù)展示商品特色。商品的推薦理由通過(guò)評(píng)論抽取與文本生成兩種渠道獲得，與查詢?cè)~聯(lián)動(dòng)，以用戶視角給出商品值得買的原因，而榜單數(shù)據(jù)則更為客觀，以銷量等真實(shí)數(shù)據(jù)，反應(yīng)商品品質(zhì)。

在B端，即商家發(fā)布側(cè)，商品圖譜則提供了基于商品標(biāo)題的實(shí)時(shí)預(yù)測(cè)能力，幫助商家進(jìn)行類目的掛載、屬性信息的完善。例如，商家填寫標(biāo)題“德國(guó)進(jìn)口德亞脫脂純牛奶12盒”后，商品圖譜提供的在線類目預(yù)測(cè)服務(wù)可將其掛載到“食品飲料-乳制品-純牛奶”類目，并通過(guò)實(shí)體識(shí)別服務(wù)，得到商品的“產(chǎn)地-德國(guó)”，“是否進(jìn)口-進(jìn)口”，“品牌-德亞”，“脂肪含量-脫脂”，“規(guī)格-12盒”的屬性信息，預(yù)測(cè)完成后，由商家確認(rèn)發(fā)布，降低商家對(duì)商品信息的維護(hù)成本，并提升發(fā)布商品的信息質(zhì)量。

今天的分享就到這里，感謝謝謝大家。

---

分享嘉賓：

---

?

OpenKG

OpenKG（中文開(kāi)放知識(shí)圖譜）旨在推動(dòng)以中文為核心的知識(shí)圖譜數(shù)據(jù)的開(kāi)放、互聯(lián)及眾包，并促進(jìn)知識(shí)圖譜算法、工具及平臺(tái)的開(kāi)源開(kāi)放。

點(diǎn)擊閱讀原文，進(jìn)入 OpenKG 網(wǎng)站。

總結(jié)

以上是生活随笔為你收集整理的领域应用 | 美团商品知识图谱的构建及应用的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。