1、內(nèi)容合規(guī)域介紹

合規(guī)域在電商平臺中扮演著重要的角色，它相當(dāng)于電商體系中的“免疫系統(tǒng)”，通過識別惡意的商品、商家以及UGC內(nèi)容，確保電商生態(tài)的健康、有序和可持續(xù)發(fā)展。因此我們部門致力于打造業(yè)內(nèi)領(lǐng)先的內(nèi)容理解與審核平臺，在具體工作中，通過識別并治理商家在產(chǎn)品、價格、服務(wù)維度的違規(guī)行為以及短視頻、直播、評價、問答等內(nèi)容的違規(guī)信息，降低審核成本、提升運營效率，并最終保障用戶體驗。

1.1、從用戶視角哪些問題涉及內(nèi)容合規(guī)域

?商品只賣1分錢，以為撿了便宜，購買時發(fā)現(xiàn)郵費要收20元！

?直男給女朋友買生日禮物的口紅，買成了山寨品

?商品主圖各種滿減宣傳，實際購買和主圖價格宣傳不一樣

?買了商品，先收到了禮品包，很久才收到想要的貨

?京東搜索結(jié)果頁/推薦結(jié)果頁整體雜亂，圖片沒有其他平臺好看

?……

這些關(guān)于商品價格、服務(wù)、泛假貨/質(zhì)量的問題都是我們持續(xù)努力在解決的問題。

1.2、從業(yè)務(wù)視角我們具體負(fù)責(zé)哪些工作

合規(guī)團(tuán)隊的主要工作從技術(shù)角度是做平臺內(nèi)容理解與審核，從業(yè)務(wù)角度總結(jié)下來主要做以下三方面的事情：

?商家、商品經(jīng)營的審核，從產(chǎn)品、價格、服務(wù)維度識別惡意商品信息與商家行為。

?商品信息的審核，包括商品的圖片、標(biāo)題、類目等信息的準(zhǔn)確性與一致性校驗。

?短視頻、直播的審核，從安全、合規(guī)、質(zhì)量維度檢測內(nèi)容風(fēng)險。

2、內(nèi)容合規(guī)域面臨哪些挑戰(zhàn)以及我們的解法

內(nèi)容審核是一個對抗性很高的風(fēng)控場景，一方面，我們要不斷提升識別能力，檢測商家的惡意對抗行為，結(jié)合運營機(jī)制懲治違規(guī)商家，保障用戶體驗，另一方面，我們需要盡量不打擾正常商家的經(jīng)營，提供前置檢測與修改建議的能力，不影響商家運營效率。因此，既要建立一套發(fā)現(xiàn)、識別、處置的違規(guī)治理機(jī)制，又要從商家、用戶視角建立觀測指標(biāo)體系，盡量量化對用戶體驗、商家經(jīng)營的影響，還要從平臺視角出發(fā)降低審核成本，所以具體工作中要平衡用戶體驗、商家效率、平臺成本，是一個復(fù)雜而又有趣的工作。針對每一個具體場景都需要深刻理解業(yè)務(wù)并設(shè)定好業(yè)務(wù)核心指標(biāo)，與業(yè)務(wù)、運營、產(chǎn)品充分溝通并搭建業(yè)務(wù)運營流程，最后緊追行業(yè)趨勢與竟對動向結(jié)合業(yè)務(wù)做出技術(shù)深度。

2.1 業(yè)務(wù)核心指標(biāo)

在明確我們要負(fù)責(zé)的業(yè)務(wù)場景后，需要設(shè)定可量化的核心指標(biāo)，在設(shè)定指標(biāo)時，需要避免依賴單一指標(biāo)，因為這可能導(dǎo)致結(jié)果的片面性進(jìn)而引發(fā)決策偏差，在合規(guī)域我們需要考慮內(nèi)容消費者（C端用戶）、內(nèi)容生產(chǎn)者（商家/達(dá)人）、內(nèi)容平臺（京東），并考慮對立統(tǒng)一的綜合指標(biāo)：

?用戶客訴/抱怨率

?商家申訴率

?平臺審核成本/監(jiān)管罰金

2.2 業(yè)務(wù)運營流程

明確核心業(yè)務(wù)指標(biāo)后，需要從業(yè)務(wù)實現(xiàn)的角度設(shè)計運營流程，實現(xiàn)風(fēng)險感知、識別、處置的閉環(huán)，下圖是我們正在逐步建立和完善的流程：

??明確業(yè)務(wù)流程后需要基于點狀的業(yè)務(wù)需求進(jìn)行橫向的標(biāo)簽體系設(shè)計以及服務(wù)接口設(shè)計并建立指標(biāo)監(jiān)控體系防范技術(shù)風(fēng)險：

??2.3 技術(shù)攻堅案例

大家都知道產(chǎn)品、價格、服務(wù)是決定用戶體驗的三要素，基于經(jīng)營理念我們首先從合規(guī)視角盤點了影響這三要素的核心問題，包含假貨治理和內(nèi)容審核、價格治理、服務(wù)治理。然后，基于用戶、商家、平臺視角制定業(yè)務(wù)指標(biāo)體系、建立產(chǎn)品能力以及運營流程。最近部門承接了價格治理的能力建設(shè)，面臨很多挑戰(zhàn)，也取得了一定成果，下面以價格治理的一個子項-價格虛高的具體案例具體說明下合規(guī)域遇到的挑戰(zhàn)。

價格虛高要解決京東域內(nèi)商家發(fā)布商品價格標(biāo)價虛高的問題，依賴于商家的健康經(jīng)營行為的規(guī)范，因此需要規(guī)?；陌l(fā)現(xiàn)價格虛高問題并對商家進(jìn)行觸達(dá)，并對多次違規(guī)的商家進(jìn)行懲治。

識別上，通過站內(nèi)比價、站外比價可以獲取商品的價格水位進(jìn)而判斷是否價格虛高，具體依賴可以拆解為站外數(shù)據(jù)獲取以及可比價商品判別，通過對站內(nèi)外可比價商品數(shù)據(jù)進(jìn)行比對識別價格虛高商品，但在實際工作中均有很大挑戰(zhàn)，在產(chǎn)品、運營、研發(fā)角度均有一些解法，以下側(cè)重算法角度的方案設(shè)計。

我們基于流量表現(xiàn)數(shù)據(jù)我們將商品分為價格可信商品、價格不可信商品，對于價格不可信商品，有站內(nèi)可比價商品的基于價格比對進(jìn)行判斷，否則基于價格預(yù)測模型進(jìn)行兜底，下面是關(guān)鍵能力的一些粗略介紹：

2.3.1 構(gòu)建可比價模型

構(gòu)建“商品可比價”算法訓(xùn)練任務(wù)，同品/相似品識別結(jié)果作為輸入特征，通過已有的人工標(biāo)注結(jié)果分析，訓(xùn)練算法模型，增加判別因素，提升識別進(jìn)準(zhǔn)度。

??2.3.2 價格預(yù)測大模型

?基于站內(nèi)商品的歷史成交數(shù)據(jù)，明確商品的合理價格區(qū)間，構(gòu)建價格錨點數(shù)據(jù)集，下圖是某同品組價格與成交的分布圖。然后，基于已有商品價格構(gòu)建“價格預(yù)測大模型” ，輸出商品預(yù)測價格以及預(yù)測置信度。

?2.3.3 商家觸達(dá)與治理

模型化方案的優(yōu)勢是可以快速覆蓋類目，并有效覆蓋價格虛高的違規(guī)case，商家治理需要更高的精度，可以作為識別漏斗，結(jié)合業(yè)務(wù)規(guī)則進(jìn)行圈選和治理。商家經(jīng)營建議不需要太高精度，我們增加了商家觸達(dá)預(yù)警的方式引導(dǎo)商家合理設(shè)置價格。

?至此，我們完成了違規(guī)識別、商家觸達(dá)的流程，再基于商家的反饋信息不斷做優(yōu)化和迭代，當(dāng)然技術(shù)細(xì)節(jié)上有很大挑戰(zhàn)，我們也做了不少優(yōu)化，也希望有相關(guān)經(jīng)驗和具體想法的同學(xué)和我們交流溝通。

3、內(nèi)容合規(guī)域個人成長的建議

隨著技術(shù)的發(fā)展，過往很多公司的技術(shù)壁壘，以及個人工作中沉淀的調(diào)參、特征工程心得，都成為了歷史，對個人來講，我們需要適應(yīng)和學(xué)習(xí)不斷變化的東西擁有自己趁手的“武器庫”，同時追求和沉淀過程中不變的思維框架，不斷加強(qiáng)業(yè)務(wù)洞察能力以及數(shù)據(jù)驅(qū)動解決問題的行為方式。

對于合規(guī)域來講，我們需要關(guān)注AIGC的前沿技術(shù)，特別是在內(nèi)容理解與審核方向的應(yīng)用，確保自身武器庫保持先進(jìn)性。同時，更需要理解業(yè)務(wù)，從不同的業(yè)務(wù)場景中總結(jié)業(yè)務(wù)邏輯、沉淀業(yè)務(wù)知識并結(jié)合技術(shù)理解形成自己解決問題的框架結(jié)構(gòu)。

對于個人來講，我們需要保持對用戶需求和市場變化的敏感度，理解業(yè)務(wù)需求背后的用戶痛點并思考自己是否可以多想一些、多做一點，通過不斷的業(yè)務(wù)理解與持續(xù)的技術(shù)應(yīng)用創(chuàng)新，實現(xiàn)業(yè)務(wù)價值與個人的成長。

作為合規(guī)域的一員，很慶幸處在一個與業(yè)務(wù)很近的前沿領(lǐng)域，技術(shù)上既需要結(jié)合大模型、多模態(tài)等使用NLP、CV技術(shù)從信息層面做內(nèi)容理解，也需要洞悉業(yè)務(wù)挖掘商家行為序列模式與關(guān)聯(lián)做異常檢測，就像毛主席說的：“與人斗，其樂無窮”，我們在和惡意商家的博弈中不斷積累自身的業(yè)務(wù)理解與技術(shù)深度，實現(xiàn)審核成本的降低、效率的提升，以及用戶客訴的降低。

掃一掃，加入技術(shù)交流群

京東平臺內(nèi)容合規(guī)的技術(shù)與挑戰(zhàn)