美團(tuán)知識圖譜問答技術(shù)實(shí)踐與探索

知識圖譜問答（Knowledge-based Question Answering, KBQA）是指給定自然語言問題，通過對問題進(jìn)行語義理解和解析，進(jìn)而利用知識庫進(jìn)行查詢、推理得出答案。美團(tuán)在平臺服務(wù)的售前、售中、售后全鏈路的多個場景中都存在大量的咨詢問題。我們基于問答系統(tǒng)，以自動智能回復(fù)或推薦回復(fù)的方式，來幫助商家提升回答用戶問題的效率，同時更快地解決用戶問題。

本文結(jié)合KBQA在美團(tuán)場景中的具體實(shí)踐，以及發(fā)表在EMNLP 2021上的論文，介紹了KBQA系統(tǒng)整體設(shè)計、難點(diǎn)突破以及端到端問答的探索，希望能對從事相關(guān)研究的同學(xué)有所幫助或者啟發(fā)。

• 1 背景與挑戰(zhàn)

• 2 解決方案

• 2.1 Query理解

• 2.2 關(guān)系識別

• 2.3 復(fù)雜問題理解

• 2.4 觀點(diǎn)問答

• 2.5 端到端方案的探索

• 3 應(yīng)用實(shí)踐

• 3.1 酒店問一問

• 3.2 門票地推

• 3.3 商家推薦回復(fù)

• 4 總結(jié)與展望

1 背景與挑戰(zhàn)

問答系統(tǒng)（Question Answering System, QA）是人工智能和自然語言處理領(lǐng)域中一個倍受關(guān)注并具有廣泛發(fā)展前景的方向，它是信息檢索系統(tǒng)的一種高級形式，可以用準(zhǔn)確、簡潔的自然語言回答用戶用自然語言提出的問題。這項(xiàng)研究興起的主要原因是人們對快速、準(zhǔn)確地獲取信息的需求，因此被廣泛應(yīng)用于工業(yè)界的各種業(yè)務(wù)場景中。美團(tuán)在平臺服務(wù)的售前、售中、售后全鏈路的多個場景中，用戶都有大量的問題需要咨詢商家。因此我們基于問答系統(tǒng)，以自動智能回復(fù)或推薦回復(fù)的方式，來幫助商家提升回答用戶問題的效率，更快地解決用戶的問題。

針對不同問題，美團(tuán)的智能問答系統(tǒng)包含多路解決方案：

1. PairQA：采用信息檢索技術(shù)，從社區(qū)已有回答的問題中返回與當(dāng)前問題最接近的問題答案。
2. DocQA：基于閱讀理解技術(shù)，從商家非結(jié)構(gòu)化信息、用戶評論中抽取出答案片段。
3. KBQA（Knowledge-based Question Answering）：基于知識圖譜問答技術(shù)，從商家、商品的結(jié)構(gòu)化信息中對答案進(jìn)行推理。

本文主要分享在KBQA技術(shù)落地中的實(shí)踐與探索。

在用戶的問題中，包括著大量關(guān)于商品、商家、景區(qū)、酒店等相關(guān)基礎(chǔ)信息及政策等信息咨詢，基于KBQA技術(shù)能有效地利用商品、商家詳情頁中的信息，來解決此類信息咨詢問題。用戶輸入問題后，KBQA系統(tǒng)基于機(jī)器學(xué)習(xí)算法對用戶查詢的問題進(jìn)行解析、理解，并對知識庫中的結(jié)構(gòu)化信息進(jìn)行查詢、推理，最終將查詢到的精確答案返回給用戶。相比于PairQA和DocQA，KBQA的答案來源大多是商家數(shù)據(jù)，可信度更高。同時，它可以進(jìn)行多跳查詢、約束過濾，更好地處理線上的復(fù)雜問題。

實(shí)際落地應(yīng)用時，KBQA系統(tǒng)面臨著多方面的挑戰(zhàn)，例如：

1. 繁多的業(yè)務(wù)場景：美團(tuán)平臺業(yè)務(wù)場景眾多，包涵了酒店、旅游、美食以及十多類生活服務(wù)業(yè)務(wù)，而不同場景中的用戶意圖都存在著差別，比如“早餐大概多少錢”，對于美食類商家需要回答人均價格，而對于酒店類商家則需要回答酒店內(nèi)餐廳的價格明細(xì)。
2. 帶約束問題：用戶的問題中通常帶有眾多條件，例如“故宮學(xué)生有優(yōu)惠嗎”，需要我們對故宮所關(guān)聯(lián)的優(yōu)惠政策進(jìn)行篩選，而不是把所有的優(yōu)惠政策都回答給用戶。
3. 多跳問題：用戶的問題涉及到知識圖譜中多個節(jié)點(diǎn)組成的路徑，例如“XX酒店的游泳池幾點(diǎn)開”，需要我們在圖譜中先后找到酒店、游泳池、營業(yè)時間。

下面將詳細(xì)講述我們是如何設(shè)計高準(zhǔn)確、低延時的KBQA系統(tǒng)，處理場景、上下文語境等信息，準(zhǔn)確理解用戶、捕捉用戶意圖，從而應(yīng)對上述的挑戰(zhàn)。

2 解決方案

KBQA系統(tǒng)的輸入為用戶Query，輸出為答案?？傮w架構(gòu)如下圖1所示。最上層為應(yīng)用層，包括對話以及搜索等多個入口。在獲取到用戶Query后，KBQA線上服務(wù)通過Query理解和召回排序模塊進(jìn)行結(jié)果計算，最終返回答案文本。除了在線服務(wù)之外，知識圖譜的構(gòu)建、存儲也十分重要。用戶不僅會關(guān)心商戶的基本信息，也會詢問觀點(diǎn)類、設(shè)施信息類問題，比如景點(diǎn)好不好玩、酒店停車是否方便等。針對上述無官方供給的問題，我們構(gòu)建了一套信息與觀點(diǎn)抽取的流程，可以從商家非結(jié)構(gòu)化介紹以及UGC評論中抽取出有價值的信息，從而提升用戶咨詢的滿意度，我們將在下文進(jìn)行詳細(xì)介紹。

對于KBQA模型，目前的主流解決方案有兩種，如下圖2所示：

• 基于語義解析（Semantic Parsing-based）：對問句進(jìn)行深度句法解析，并將解析結(jié)果組合成可執(zhí)行的邏輯表達(dá)式（如SparQL），直接從圖數(shù)據(jù)庫中查詢答案。
• 基于信息抽取（Information Retrieval）：先解析出問句的主實(shí)體，再從KG中查詢出主實(shí)體關(guān)聯(lián)的多個三元組，組成子圖路徑（也稱多跳子圖），之后分別對問句和子圖路徑編碼、排序，返回分?jǐn)?shù)最高的路徑作為答案。

基于語義解析的方法可解釋性更強(qiáng)，但這種方法需要標(biāo)注大量的自然語言邏輯表達(dá)式，而信息抽取式的方法更偏向端到端的方案，在復(fù)雜問題、少樣本情況下表現(xiàn)更好，但若子圖過大，會顯著降低計算的速度。

因此，考慮到兩者的優(yōu)勢，我們采用將兩者結(jié)合的方案。如下圖3所示，整體的流程分為四大步驟，以“故宮周末有學(xué)生票嗎”為例：

1. Query理解：輸入原始Query，輸出Query理解結(jié)果。其中會對對Query進(jìn)行句法分析，識別出用戶查詢的主實(shí)體是“故宮” 、業(yè)務(wù)領(lǐng)域?yàn)椤奥糜巍?、問題類型為一跳（One-hop）。
2. 關(guān)系識別：輸入Query、領(lǐng)域、句法解析結(jié)果、候選關(guān)系，輸出每個候選的分?jǐn)?shù)。在這個模塊中，我們借助依存分析強(qiáng)化Query的問題主干，召回旅游領(lǐng)域的相關(guān)關(guān)系，進(jìn)行匹配排序，識別出Query中的關(guān)系為“門票”。
3. 子圖召回：輸入前兩個模塊中解析的主實(shí)體和關(guān)系，輸出圖譜中的子圖（多個三元組）。對于上述例子，會召回旅游業(yè)務(wù)數(shù)據(jù)下主實(shí)體為“故宮”、關(guān)系為“門票”的所有子圖。
4. 答案排序：輸入Query和子圖候選，輸出子圖候選的分?jǐn)?shù)，如果Top1滿足一定閾值，則輸出作為答案。基于句法分析結(jié)果，識別出約束條件為“學(xué)生票”，基于此條件最終對Query-Answer對進(jìn)行排序，輸出滿足的答案。

下面將介紹我們對于重點(diǎn)模塊的建設(shè)和探索。

2.1 Query理解

Query理解是KBQA的第一個核心模塊，負(fù)責(zé)對句子的各個成分進(jìn)行細(xì)粒度語義理解，其中兩個最重要的模塊是：

• 實(shí)體識別和實(shí)體鏈接，輸出問句中有意義的業(yè)務(wù)相關(guān)實(shí)體和類型，如商家名稱、項(xiàng)目、設(shè)施、人群、時間等。
• 依存分析：以分詞和詞性識別結(jié)果為輸入，識別問句的主實(shí)體、被提問信息、約束等。

實(shí)體識別是句法分析的重要步驟，我們先基于序列標(biāo)注模型識別實(shí)體，再鏈接到數(shù)據(jù)庫中的節(jié)點(diǎn)。對于該模塊我們主要做了以下優(yōu)化：

• 為了提升OOV（Out-of-Vocabulary）詞的識別能力，我們對實(shí)體識別的序列標(biāo)注模型進(jìn)行了知識注入，利用已知的先驗(yàn)知識輔助新知識的發(fā)現(xiàn)。
• 考慮到實(shí)體嵌套的問題，我們的實(shí)體識別模塊會同時輸出粗粒度和細(xì)粒度的結(jié)果，保證后續(xù)模塊對于Query的充分理解。
• 在問答的長Query場景下，利用上下文信息進(jìn)行實(shí)體的鏈接，得到節(jié)點(diǎn)id。

最終，該模塊會輸出句子中各個重要成分的類型，如下圖4所示：

依存分析是句法分析的一種，它的目的是識別句子中詞與詞的非對稱支配關(guān)系，在輸出的結(jié)果中用有向弧表示，該弧線由從屬詞（dep）指向支配詞（head）。對于KBQA任務(wù)，我們定義了五種關(guān)系，如下圖5所示：

依存分析主要有兩種方案：基于轉(zhuǎn)移的（Transition-based）和基于圖的（Graph-based）?；谵D(zhuǎn)移的依存分析將依存句法樹的構(gòu)建建模為一系列操作，由模型預(yù)測每一步的動作（shift、left_arc、right_arc），不斷將未處理的節(jié)點(diǎn)入棧并賦予關(guān)系，最終構(gòu)成句法樹?；趫D的方法則致力于在圖中找出一棵最大生成樹，也就是句子整體依存關(guān)系的全局最優(yōu)解?？紤]到基于圖的方法是對全局進(jìn)行搜索，準(zhǔn)確率更高，我們采用較為經(jīng)典的“Deep Biaffine Attention for Neural Dependency Parsing”模型，它的結(jié)構(gòu)如下圖6所示：

該模型先通過BiLSTM對詞與詞性的拼接向量進(jìn)行編碼，之后采用對用兩個MLP頭分別編碼出h(arc-head)和h(arc-dep)向量，去除冗余信息。最終將各個時刻的向量拼接起來得到H(arc-head)和H(arc-dep)，且在H(arc-dep)上拼接了一個單位向量，加入中間矩陣U(arc)進(jìn)行仿射變換，得到dep與head的點(diǎn)積分?jǐn)?shù)矩陣S(arc)，找到每個詞依存的head。

有了依存分析的結(jié)果，我們可以更好地識別關(guān)系、復(fù)雜問題，具體的特征使用方法將在下文進(jìn)行介紹。

2.2 關(guān)系識別

關(guān)系識別是KBQA中另一個核心模塊，目的是識別出用戶Query所問的關(guān)系（Predicate），從而與主實(shí)體（Subject）聯(lián)合確定唯一子圖，得到答案（Object）。

在實(shí)踐中，考慮到圖譜中邊關(guān)系的數(shù)量會不斷增加，我們將關(guān)系識別建模為文本匹配任務(wù)，輸入用戶Query、Query特征和候選關(guān)系，輸出關(guān)系匹配的分?jǐn)?shù)。為了解決開頭提到的多領(lǐng)域問題，我們在輸入的特征中加入了領(lǐng)域信息，從而在領(lǐng)域表示中存儲一定的領(lǐng)域相關(guān)知識，讓模型更好地判斷。同時，為了提升復(fù)雜Query的理解，我們在輸入中還融入了句法信息，讓模型可以更好地理解帶約束、多跳的問題。

隨著大規(guī)模預(yù)訓(xùn)練語言模型的出現(xiàn)，BERT等大模型在匹配任務(wù)上取得了SOTA的結(jié)果，通常業(yè)界通用的方法主要?dú)w類為以下兩種：

1. 表示型：也稱“雙塔模型”，它的主要思想是將兩段文本轉(zhuǎn)換成一個語義向量，然后在向量空間計算兩向量的相似度，更側(cè)重對語義向量表示層的構(gòu)建。
2. 交互型：該方法側(cè)重于學(xué)習(xí)句子中短語之間的對齊，并學(xué)習(xí)比較他們之間的對齊關(guān)系，最終將對齊整合后的信息聚合到預(yù)測層。由于交互型模型可以利用到文本之前的對齊信息，因而精度更高、效果更好，所以在本項(xiàng)目中我們采用交互型模型來解決匹配問題。

為了充分利用BERT的語義建模能力，同時考慮實(shí)際業(yè)務(wù)的線上延時要求，我們在推理加速、數(shù)據(jù)增強(qiáng)、知識增強(qiáng)方面做了以下三點(diǎn)優(yōu)化：

1. 層次剪枝：BERT每層都會學(xué)到不同的知識，靠近輸入側(cè)會學(xué)到較為通用的句法知識，而靠近輸出則會學(xué)習(xí)更多任務(wù)相關(guān)的知識，因此我們參考DistillBERT，采取Skip等間隔式層次剪枝，只保留對任務(wù)效果最好的3層，比單純保留前三層的剪枝在F1-score上提升了4%，同時，實(shí)驗(yàn)發(fā)現(xiàn)不同剪枝方法效果差距可達(dá)7%。
2. 領(lǐng)域任務(wù)數(shù)據(jù)預(yù)精調(diào)：剪枝后，由于訓(xùn)練數(shù)據(jù)有限，3層模型的效果有不小的下降。通過對業(yè)務(wù)的了解，我們發(fā)現(xiàn)美團(tuán)的“問大家”模塊數(shù)據(jù)與線上數(shù)據(jù)的一致性很高，并對數(shù)據(jù)進(jìn)行清洗，將問題標(biāo)題和相關(guān)問題作為正例，隨機(jī)選取字面相似度0.5-0.8之間的句子作為負(fù)例，生成了大量弱監(jiān)督文本對，預(yù)精調(diào)后3層模型在準(zhǔn)確率上提升超過4%，甚至超過了12層模型的效果。
3. 知識增強(qiáng)：由于用戶的表達(dá)方式多種多樣，準(zhǔn)確識別用戶的意圖，需要深入語意并結(jié)合語法信息。為了進(jìn)一步提升效果，同時解決部分Case，我們在輸入中加入了領(lǐng)域與句法信息，將顯式的先驗(yàn)知識融入BERT，在注意力機(jī)制的作用下，同時結(jié)合句法依存樹結(jié)構(gòu)，準(zhǔn)確建模詞與詞之間的依賴關(guān)系，我們在業(yè)務(wù)數(shù)據(jù)以及五個大型公開數(shù)據(jù)集上做驗(yàn)證，對比BERT Base模型在準(zhǔn)確率上平均提升1.5%。

經(jīng)過上述一系列迭代后，模型的速度、準(zhǔn)確率都有了大幅的提升。

2.3 復(fù)雜問題理解

在真實(shí)場景中，大部分問題可以歸為以下四類（綠色為答案節(jié)點(diǎn)），如下圖8所示：

問題的跳數(shù)根據(jù)實(shí)體數(shù)量決定，單跳問題通常只涉及商戶的基本信息，比如問商戶的地址、電話、營業(yè)時間、政策等，在知識圖譜中都可以通過一組SPO（三元組）解答；兩跳問題主要是針對商戶中某些設(shè)施、服務(wù)的信息提問，比如酒店的健身房在幾層、早餐幾點(diǎn)開始、以及接送機(jī)服務(wù)的價格等，需要先找到商戶->主實(shí)體（設(shè)施/服務(wù)/商品等）的路徑，再找到主實(shí)體的基本信息三元組，也就是SPX、XPO兩個三元組。約束問題指主實(shí)體或答案節(jié)點(diǎn)上的約束條件，一般為時間、人群或是定語。

下面介紹針對不同類型的復(fù)雜問題，我們所進(jìn)行的一些改進(jìn)。

2.3.1 帶約束問題

通過對線上日志的挖掘，我們將約束分為以下幾類，如下圖9所示：

對于帶約束問題的回答涉及兩個關(guān)鍵步驟：約束識別和答案排序。

通過KBQA系統(tǒng)中的依存分析模塊，我們可以識別出用戶在實(shí)體或關(guān)系信息上所加的約束限制，但約束的說法較多，且不同節(jié)點(diǎn)的約束類型也不一樣，因此我們在構(gòu)造數(shù)據(jù)庫查詢SQL時先保證召回率，盡量召回實(shí)體和關(guān)系路徑下的所有候選節(jié)點(diǎn)，并在最終排序模塊對答案約束進(jìn)行打分排序。

為了提升效率，我們首先在知識存儲層上進(jìn)行了優(yōu)化。在復(fù)合屬性值的存儲方面，F(xiàn)reebase提出Compound Value Type (CVT) 類型，如下圖10所示，來解決這類復(fù)合結(jié)構(gòu)化的數(shù)據(jù)的存儲與查詢問題。比如歡樂谷的營業(yè)時間，對于不同的場次是不一樣的。這種復(fù)合的屬性值可以用CVT的形式去承接。

但是，CVT存儲方式增加查詢復(fù)雜度、耗費(fèi)數(shù)據(jù)庫存儲。以圖“歡樂谷營業(yè)時間CVT”為例：

• 該信息以通常成對CVT形式存儲，一個CVT涉及3個三元組存儲。
• 對于“歡樂谷夏季夜場幾點(diǎn)開始”這樣的問題，在查詢的時候，涉及四跳，分別為，<實(shí)體 -> 營業(yè)時間CVT>, <營業(yè)時間CVT -> 季節(jié)=夏季>, <營業(yè)時間CVT -> 時段=夜場>,<營業(yè)時間CVT -> 時間>。對業(yè)界查詢快速的圖數(shù)據(jù)庫比如Nebula來說，三跳以上的一般查詢時間約為幾十毫秒，在實(shí)際上線使用中耗時較長。
• 一旦屬性名稱、屬性值有不同的但是同意的表達(dá)方式，還需要多做一步同義詞合并，從而保證查詢時能匹配上，沒有召回?fù)p失。

為了解決上述問題，我們采用Key-Value的結(jié)構(gòu)化形式承載屬性信息。其中Key為答案的約束信息，如人群、時間等可以作為該屬性值的約束的信息，都可以放在Key中，Value即為要查的答案。對于上文的例子，我們將所有可能的約束維度的信息組成Key，如下圖11所示：

之后，為了解決約束值說法過多的問題，在實(shí)際查詢過程中，在找不到完全匹配的情況下，我們用屬性值的Key和問題中的約束信息進(jìn)行匹配計算相關(guān)度，相關(guān)度最高的Key，對應(yīng)的Value即為答案。因此，Key的表示方法可以為多種形式：

• 字符串形式：用文本相似度的方法去計算和約束文本的相關(guān)性。
• 文本Embedding：如對Key的文本形式做Embedding形式，與約束信息做相似計算，在訓(xùn)練數(shù)據(jù)合理的情況下，效果優(yōu)于字符串形式。
• 其他Embedding算法：如對虛擬節(jié)點(diǎn)做Graph Embedding，約束文本與對應(yīng)的虛擬節(jié)點(diǎn)做聯(lián)合訓(xùn)練等等。

這種形式的存儲方式，相當(dāng)于只存儲一個三元組，即<實(shí)體->營業(yè)時間KV>，查詢過程壓縮成了一跳+文本匹配排序?；谡Z義模型的文本匹配可以在一定程度上解決文本表達(dá)不同造成的不能完全匹配的問題。對語義模型進(jìn)行優(yōu)化后，可以盡量壓縮匹配時間，達(dá)到十幾毫秒。

進(jìn)行復(fù)雜條件優(yōu)化后，先通過前置模塊識別到實(shí)體、關(guān)系和約束，組成約束文本，再與當(dāng)前召回子圖的Key值候選進(jìn)行匹配，得到最終的答案。

2.3.2 多跳問題

多跳問題是天然適合KBQA的一類問題，當(dāng)用戶詢問商戶中的設(shè)施、服務(wù)、商品等實(shí)體的信息時，我們只需要先在圖譜中找到商戶，再找到商戶下的實(shí)體，接著找到下面的基本信息。如果使用FAQ問答的解法，就需要為每個復(fù)雜問題都設(shè)置一個標(biāo)準(zhǔn)問，比如“健身房的位置”、“游泳館的位置”等。而在KBQA中，我們可以很好地對這類問題進(jìn)行壓縮，不管問什么實(shí)體的位置，都問的是“位置”這條邊關(guān)系，只是起始實(shí)體不同。

在KBQA系統(tǒng)中，我們先依賴依存分析模塊對句子成分間的依賴關(guān)系進(jìn)行識別，之后再通過關(guān)系識別模塊判斷句子所詢問的關(guān)系跳數(shù)以及關(guān)系，具體流程如下圖12所示：

借助實(shí)體識別的類型，我們可以將句子中的重要成分進(jìn)行替換，從而壓縮候選關(guān)系配置的個數(shù)、提升關(guān)系識別準(zhǔn)確率。在對句子進(jìn)行了充分理解后，系統(tǒng)會基于主實(shí)體、關(guān)系、跳數(shù)對子圖進(jìn)行查詢，并輸入給答案排序模塊進(jìn)行更細(xì)粒度的約束識別和打分。

2.4 觀點(diǎn)問答

除了上述基本信息類的查詢Query外，用戶還會詢問觀點(diǎn)類的問題，比如“迪士尼停車方便嗎？”、“XX酒店隔音好嗎？”等。對于主觀觀點(diǎn)類問題，可以基于FAQ或閱讀理解技術(shù)，從用戶評論中找出對應(yīng)的評論，但這種方法往往只能給出一條或幾條評論，可能會太過主觀，無法匯總?cè)后w的觀點(diǎn)。因此我們提出了觀點(diǎn)問答方案，給出一個觀點(diǎn)的正反支持人數(shù)，同時考慮到可解釋性，也會給出多數(shù)觀點(diǎn)的評論證據(jù)，在App中的實(shí)際展示如下圖13所示：

為了自動化地批量挖掘用戶觀點(diǎn)，我們拆解了兩步方案：觀點(diǎn)發(fā)現(xiàn)和Evidence挖掘，如下圖14所示。

第一步，先通過觀點(diǎn)發(fā)現(xiàn)在用戶評論中挖掘出多種觀點(diǎn)。我們采用基于序列標(biāo)注的模型發(fā)掘句子中的實(shí)體和觀點(diǎn)描述，并使用依存分析模型對實(shí)體-觀點(diǎn)的關(guān)系進(jìn)行判斷。

第二步，在挖掘到一定數(shù)量的觀點(diǎn)后，再深入挖掘評論中的證據(jù)（Evidence），如下圖15所示。雖然在第一步觀點(diǎn)發(fā)現(xiàn)時也能找到部分觀點(diǎn)的出處，但還有很多用戶評論的觀點(diǎn)是隱式的。比如對于“是否可以帶寵物”，用戶不一定在評論中直接指明，而是說“狗子在這里玩的很開心”。這就需要我們對評論語句進(jìn)行深度語義理解，從而歸納其中的觀點(diǎn)。在方案的落地過程中，最初我們使用了分類模型對觀點(diǎn)進(jìn)行分類，輸入用戶評論，用編碼器對句子進(jìn)行理解，之后各個觀點(diǎn)的分類頭判斷觀點(diǎn)正向程度。但隨著自動化挖掘的觀點(diǎn)增多，為了減少人工標(biāo)注分類任務(wù)的成本，我們將其轉(zhuǎn)換成了匹配任務(wù)，即輸入觀點(diǎn)標(biāo)簽（Tag）和用戶評論，判斷評論語句對該觀點(diǎn)的支撐程度。最后，為了優(yōu)化速度，我們對12層Transformer進(jìn)行了裁剪，在速度提升3倍的情況下效果只降了0.8%，實(shí)現(xiàn)了大批量的觀點(diǎn)離線挖掘。

2.5 端到端方案的探索

在上文中，我們針對多跳、帶約束等復(fù)雜問題設(shè)計了不同的方案，雖然可以在一定程度上解決問題，但系統(tǒng)的復(fù)雜度也隨之提高?；陉P(guān)系識別模塊的預(yù)訓(xùn)練思路，我們對通用的、端到端的解決方案進(jìn)行了更多的探索，并在今年的EMNLP發(fā)表了《Large-Scale Relation Learning for Question Answering over Knowledge Bases with Pre-trained Language Models》論文。

對于KBQA，目前學(xué)術(shù)界有很多研究專注于圖學(xué)習(xí)方法，希望用圖學(xué)習(xí)來更好地表示子圖，但卻忽略了圖譜節(jié)點(diǎn)本身的語義。同時，BERT類的預(yù)訓(xùn)練模型是在非結(jié)構(gòu)化文本上訓(xùn)練的，而沒接觸過圖譜的結(jié)構(gòu)化數(shù)據(jù)。我們期望通過任務(wù)相關(guān)的數(shù)據(jù)來消除兩者的不一致性，從而提出了三種預(yù)訓(xùn)練任務(wù)，如下圖16所示：

1. Relation Extraction：基于大規(guī)模關(guān)系抽取開源數(shù)據(jù)集，生成了大量一跳（ [CLS]s[SEP]h, r, t[SEP] ）與兩跳（ [CLS]s1 , s2 [SEP]h1 , r1 , t1 (h2 ), r2 , t2 [SEP] ）的文本對訓(xùn)練數(shù)據(jù)，讓模型學(xué)習(xí)自然語言與結(jié)構(gòu)化文本間的關(guān)系。
2. Relation Matching：為了讓模型更好的捕捉到關(guān)系語義，我們基于關(guān)系抽取數(shù)據(jù)生成了大量文本對，擁有相同關(guān)系的文本互為正例，否則為負(fù)例。
3. Relation Reasoning：為了讓模型具備一定的知識推理能力，我們假設(shè)圖譜中的(h, r, t)缺失，并利用其他間接關(guān)系來推理(h, r, t)是否成立，輸入格式為：[CLS]h, r, t[SEP]p1 [SEP] . . . pn [SEP]。

經(jīng)過上述任務(wù)預(yù)訓(xùn)練后，BERT模型對于Query和結(jié)構(gòu)化文本的推理能力顯著提升，并且在非完全KB的情況下有更好的表現(xiàn)，如下圖17所示：

3 應(yīng)用實(shí)踐

經(jīng)過一年多的建設(shè)，當(dāng)前KBQA服務(wù)已經(jīng)接入美團(tuán)的旅游、酒店、到綜等多個業(yè)務(wù)，輔助商家及時回答用戶問題，并提升了用戶的滿意度和轉(zhuǎn)化率。

3.1 酒店問一問

酒店是用戶出行的必備需求之一，但一些中小商家沒有開通人工客服入口，無法及時回答用戶信息。為滿足用戶對詳情頁內(nèi)信息的快速查找，智能助理輔助未開通客服功能的酒店商家進(jìn)行自動回復(fù)，提升用戶下單轉(zhuǎn)化率。用戶可詢問酒店以及房型頁的各類信息，如下圖18所示：

3.2 門票地推

門票地推致力于幫助旅游商家解決主要的賣票業(yè)務(wù)，在景區(qū)高峰時段，線上購票相比于排隊更加便捷，然而仍有很多用戶保持著線下購票的習(xí)慣。美團(tuán)通過提過二維碼以及簡單的交互，提升了商戶賣票以及用戶購票的便捷程度。同時，我們通過在購票頁內(nèi)置「智能購票助手」，解決用戶購票過程中的問題，幫用戶更快捷地買到合適的門票，如下圖19所示：

3.3 商家推薦回復(fù)

除了出行場景外，用戶在瀏覽其他本地服務(wù)商家時也會有很多問題，比如“理發(fā)店是否需要預(yù)約？”、“店家最晚幾點(diǎn)關(guān)門？”，這些都可以通過商家客服進(jìn)行咨詢。但商家本身的人力有限，難免在高峰時期迎接不暇。為了降低用戶的等待時間，我們的問答服務(wù)會為商家提供話術(shù)推薦功能，如下圖20所示。其中KBQA主要負(fù)責(zé)解答商家、團(tuán)購相關(guān)的信息類問題。

4 總結(jié)與展望

KBQA不僅是一個熱門的研究方向，更是一個復(fù)雜的系統(tǒng)，其中涉及到實(shí)體識別、句法分析、關(guān)系識別等眾多算法，不僅要關(guān)注整體準(zhǔn)確率，更要控制延時，對算法和工程都提出了很大的挑戰(zhàn)。經(jīng)過一年多的技術(shù)的探索，我們團(tuán)隊不僅在美團(tuán)落地多個應(yīng)用，并在2020年獲得了CCKS KBQA測評的A榜第一、B榜第二和技術(shù)創(chuàng)新獎。同時我們開放出了部分美團(tuán)數(shù)據(jù)，與北大合作舉辦了2021年的CCKS KBQA測評。

回到技術(shù)本身，雖然目前我們的KBQA已能解決大部分頭部問題，但長尾、復(fù)雜問題才是更大的挑戰(zhàn)，接下來還有很多前沿技術(shù)值得探索，我們希望探索以下方向：

• 無監(jiān)督領(lǐng)域遷移：由于KBQA覆蓋美團(tuán)酒店、旅游到綜等多個業(yè)務(wù)場景，其中到綜包含十多個小領(lǐng)域，我們希望提升模型的Few-Shot、Zero-Shot能力，降低標(biāo)注數(shù)據(jù)會造成的人力成本。
• 業(yè)務(wù)知識增強(qiáng)：關(guān)系識別場景下，模型核心詞聚焦到不相關(guān)的詞將對模型帶來嚴(yán)重的干擾，我們將研究如何利用先驗(yàn)知識注入預(yù)訓(xùn)練語言模型，指導(dǎo)修正Attention過程來提升模型表現(xiàn)。
• 更多類型的復(fù)雜問題：除了上述提到的帶約束和多跳問題，用戶還會問比較類、多關(guān)系類問題，未來我們會對圖譜構(gòu)建和Query理解模塊進(jìn)行更多優(yōu)化，解決用戶的長尾問題。
• 端到端KBQA：不管對工業(yè)界還是學(xué)術(shù)界，KBQA都是一個復(fù)雜的流程，如何利用預(yù)訓(xùn)練模型以及其本身的知識，簡化整體流程、甚至端到端方案，是我們要持續(xù)探索的方向。

也歡迎對KBQA感興趣的同學(xué)加入我們團(tuán)隊，一起探索KBQA的更多可能性！文末附招聘信息，歡迎大家積極投遞簡歷。

作者簡介

如寐、梁迪、思睿、鴻志、明洋、武威，均來自美團(tuán)搜索與NLP部NLP中心知識圖譜組。

推薦閱讀：

世界的真實(shí)格局分析，地球人類社會底層運(yùn)行原理

不是你需要中臺，而是一名合格的架構(gòu)師（附各大廠中臺建設(shè)PPT）

企業(yè)IT技術(shù)架構(gòu)規(guī)劃方案

論數(shù)字化轉(zhuǎn)型——轉(zhuǎn)什么，如何轉(zhuǎn)？

華為干部與人才發(fā)展手冊（附PPT）

企業(yè)10大管理流程圖，數(shù)字化轉(zhuǎn)型從業(yè)者必備！

【中臺實(shí)踐】華為大數(shù)據(jù)中臺架構(gòu)分享.pdf

華為的數(shù)字化轉(zhuǎn)型方法論

華為如何實(shí)施數(shù)字化轉(zhuǎn)型（附PPT）

超詳細(xì)280頁Docker實(shí)戰(zhàn)文檔！開放下載

華為大數(shù)據(jù)解決方案（PPT）