<kbd id="afajh"><form id="afajh"></form></kbd>
<strong id="afajh"><dl id="afajh"></dl></strong>
    2. 

    <del id="afajh"><form id="afajh"></form></del>
    

    5. 

        1. <th id="afajh"><progress id="afajh"></progress></th>

          <b id="afajh"><abbr id="afajh"></abbr></b>
          <th id="afajh"><progress id="afajh"></progress></th>
          AB測試平臺的那些事
          共
                2958字，需瀏覽
                    6分鐘
                
           ·
          2021-06-18 13:50
          
                    

                    
                    
                    
                    
          大家好，我是寶器！今天繼續(xù)分享關(guān)于AB平臺的建設(shè)文章。

          最近一段時(shí)間在負(fù)責(zé)公司AB測試平臺的建設(shè)過程中，調(diào)研了很多競品的通用做法。

          其中涉及到的數(shù)據(jù)整體解決方案，包括AB測試數(shù)據(jù)采集與數(shù)倉模型、AB測試指標(biāo)建設(shè)、AB測試可視化方案等，借此機(jī)會我把自己總結(jié)下來的經(jīng)驗(yàn)分享給大家。

          01
          什么是AB測試

          在互聯(lián)網(wǎng)領(lǐng)域，AB測試常指一種迭代方法，這種方法可以指導(dǎo)如何改進(jìn)現(xiàn)有產(chǎn)品或者服務(wù)。以提高某個產(chǎn)品注冊頁面轉(zhuǎn)化率為例，AB測試過程中，我們會設(shè)計(jì)新的注冊頁面，和原頁面相比，展示位置不同。

          選擇用來測試的用戶，讓一部分用戶進(jìn)入新的注冊頁面，另一部分用戶進(jìn)入原注冊頁面。通過比較兩個注冊頁面最終的轉(zhuǎn)化，來判斷新的展示位置是否可以提升注冊轉(zhuǎn)化率。如果新注冊頁面轉(zhuǎn)化率高，讓所有用戶都進(jìn)入新的注冊頁面，完成產(chǎn)品注冊頁面功能的改進(jìn)。


          以上就是一個利用AB測試迭代產(chǎn)品功能的具體應(yīng)用，總結(jié)起來AB測試主要有以下幾個步驟：

          1）分析業(yè)務(wù)現(xiàn)狀，提出目標(biāo)。通過分析業(yè)務(wù)數(shù)據(jù)，確定當(dāng)前最關(guān)鍵的改進(jìn)點(diǎn)，明確改進(jìn)的目標(biāo)；

          2）設(shè)計(jì)優(yōu)化改進(jìn)方案。設(shè)計(jì)AB測試方案的產(chǎn)品原型，并完成相關(guān)功能的開發(fā)和上線；

          3）線上控制流量比例。制定每個測試分支的流量比例，按照分流比例開放線上流量進(jìn)行測試；

          4）測試效果評估并決策。AB測試進(jìn)行一段時(shí)間后，通過數(shù)據(jù)對比，對AB測試分支進(jìn)行顯著性檢驗(yàn)，確定最終測試結(jié)論。


          02
          AB測試平臺的誕生

          一個完整AB測試過程，會涉及產(chǎn)品、開發(fā)、數(shù)據(jù)部門等角色，需要合作的人員較多，環(huán)節(jié)較復(fù)雜。對于一個之前沒接觸AB測試的人，熟悉其中的原理并完整的實(shí)施一個AB測試有比較大的難度。在一個中大型公司，每天進(jìn)行的AB測試的數(shù)量可能達(dá)到幾百上千個，非常依賴一個AB測試平臺，需要平臺降低每個AB測試的實(shí)施門檻，并通過自動化的工具提升每個步驟的效率。

          從平臺能力復(fù)用的角度分析，一個公司內(nèi)產(chǎn)品的不同模塊可能都會有不同的團(tuán)隊(duì)負(fù)責(zé)，對應(yīng)不同的工程。每個產(chǎn)品模塊進(jìn)行AB測試，如果能有一個統(tǒng)一的AB測試平臺提供能力，可以有效避免各個模塊重復(fù)建設(shè)。

          基于提效和復(fù)用的目的，一般公司都會組建一個團(tuán)隊(duì)，可能是數(shù)據(jù)團(tuán)隊(duì)，也可能是某一個業(yè)務(wù)團(tuán)隊(duì)，負(fù)責(zé)AB測試平臺的建設(shè)，支持所有業(yè)務(wù)的AB測試需求。


          03
          AB測試平臺的功能架構(gòu)


          AB測試平臺由三個大的模塊構(gòu)成，包括AB測試配置管理、在線分流服務(wù)模塊、效果評估模塊。

          AB測試配置管理后臺，主要是用于管理每個AB測試需求，提供操作界面便捷的快速調(diào)整每個測試配置。

          在線分流服務(wù)模塊，為每個業(yè)務(wù)提供基于用戶標(biāo)識進(jìn)行均勻分流的能力，并完成分流信息的數(shù)據(jù)采集。

          效果評估模塊，基于采集的用戶行為數(shù)據(jù)，建設(shè)測試指標(biāo)體系，為業(yè)務(wù)提供監(jiān)控預(yù)警和數(shù)據(jù)分析服務(wù)。

          04
          AB測試數(shù)據(jù)采集

          在設(shè)計(jì)公司內(nèi)部AB測試平臺的數(shù)據(jù)采集方案時(shí)，我們經(jīng)歷過兩個階段，我們將之命名為“客戶端埋點(diǎn)”和“服務(wù)端埋點(diǎn)”。

          我們剛推出AB測試平臺時(shí)，采用的是客戶端埋點(diǎn)。具體方案是讓接入平臺的業(yè)務(wù)模塊，在上報(bào)用戶行為埋點(diǎn)時(shí)，傳入用戶AB測試信息。以便在效果評估階段，根據(jù)上報(bào)數(shù)據(jù)統(tǒng)計(jì)出不同AB測試分支的行為數(shù)據(jù)。

          因?yàn)檫@種方案需要業(yè)務(wù)模塊一次性從AB測試平臺獲取所有實(shí)驗(yàn)信息，并傳入到埋點(diǎn)采集的公參中，對業(yè)務(wù)有比較大的侵入。

          第二個階段，是我們提出的服務(wù)端埋點(diǎn)的解決方案。具體是由AB測試平臺完成用戶分流日志的采集，業(yè)務(wù)模塊只負(fù)責(zé)采集用戶行為數(shù)據(jù)。在數(shù)倉分析階段，通過采集的分流日志中用戶標(biāo)識完成數(shù)據(jù)匹配。這樣的好處，是業(yè)務(wù)模塊無需在數(shù)據(jù)采集時(shí)添加AB測試信息。

          客戶端埋點(diǎn)方案的優(yōu)點(diǎn)很明顯，因?yàn)樵既罩居蠥B測試信息，數(shù)據(jù)清洗統(tǒng)計(jì)時(shí)比較方便。但是缺點(diǎn)是會增加客戶端的工作，在數(shù)據(jù)上報(bào)時(shí)需要拼接AB測試信息。線上同時(shí)運(yùn)行的AB測試很多時(shí)，拼接上報(bào)的埋點(diǎn)數(shù)據(jù)時(shí)，url可能過長，存在被截?cái)嗟娘L(fēng)險(xiǎn)。

          服務(wù)端埋點(diǎn)方案的優(yōu)點(diǎn)是，AB測試平臺和業(yè)務(wù)客戶端各自完成日志上報(bào)，且客戶端只關(guān)心自己命中的策略及業(yè)務(wù)邏輯處理，與業(yè)務(wù)無關(guān)的事情涉及較少。缺點(diǎn)是原始日志需要進(jìn)行用戶標(biāo)識進(jìn)行關(guān)聯(lián)，關(guān)聯(lián)的邏輯不固定，增加了數(shù)倉建模的復(fù)雜度。


          考慮到讓平臺能夠快速推廣給業(yè)務(wù)使用，降低業(yè)務(wù)接入門檻，我們采用了“服務(wù)端埋點(diǎn)”這種方案。

          05
          AB測試指標(biāo)體系建設(shè)

          我們在建設(shè)AB測試指標(biāo)體系時(shí)，主要有兩種應(yīng)用場景：AB測試分流均勻性校驗(yàn)和AB測試效果評估。

          · 均勻性校驗(yàn)

          AB測試是基于用戶標(biāo)識的流量劃分，底層原理是通過hash算法進(jìn)行分流的。

          hash(ID,layer)%100

          hash算法有2個重要的特性：均勻性和一致性。

          均勻性：是指流量唯一標(biāo)識進(jìn)行上述取模計(jì)算后均勻地落在每個區(qū)間。例如，將全站流量分成100份，那么ID%100的值為0～99，必須做到每個值分配的流量幾乎相同。

          一致性：是指某個流量唯一標(biāo)識取模的值是一定的。例如某個流量的唯一標(biāo)識符經(jīng)過算法模塊取模后的值為1，那么下次再經(jīng)過算法取模的值還是1。

          AB測試過程中，分流的目標(biāo)是確保分流后的不同人群，人群對應(yīng)的用戶屬性和用戶行為一致。雖然hash算法分流，可以做到尾號號段分布均勻，但實(shí)際過程中是不一定能確保用戶均勻的。我們經(jīng)常遇到，因?yàn)榇嬖诓簧佼惓Ｓ脩?，?dǎo)致hash分流后，兩組人群存在顯著差異的場景，最終導(dǎo)致測試結(jié)論無法得出，白白浪費(fèi)了時(shí)間。

          所以我們的業(yè)務(wù)在AB測試過程中，會進(jìn)行均勻性校驗(yàn)。通常的做法，是驗(yàn)證分流人群實(shí)驗(yàn)前在業(yè)務(wù)核心指標(biāo)上無顯著性差異。

          針對以上訴求，AB測試平臺提供了兩個場景下的均勻性校驗(yàn)功能：

          1、AB測試確定分流策略時(shí)，計(jì)算過去一周每種策略，在選定的核心指標(biāo)上，是否存在顯著差異；

          2、AB測試運(yùn)行一段時(shí)間后，根據(jù)每個分支分流的真實(shí)用戶，計(jì)算其在選定的核心指標(biāo)上，是否存在顯著差異。

          · 核心指標(biāo)建設(shè)

          效果評估指標(biāo)分為業(yè)務(wù)核心指標(biāo)和臨時(shí)性指標(biāo)。業(yè)務(wù)核心指標(biāo)，指每個AB測試，都需要觀察的指標(biāo)。臨時(shí)性指標(biāo)，指當(dāng)前模塊的測試需要觀察的指標(biāo)，其他模塊不需要觀察。

          一個公司的業(yè)務(wù)很多時(shí)，所有的業(yè)務(wù)核心指標(biāo)無法都由AB測試平臺來建設(shè)。這個時(shí)候需要聯(lián)合業(yè)務(wù)的數(shù)據(jù)團(tuán)隊(duì)一起建設(shè)業(yè)務(wù)核心指標(biāo)。


          作為AB測試平臺需要協(xié)同指標(biāo)管理平臺、數(shù)據(jù)開發(fā)平臺、BI可視化平臺為各個業(yè)務(wù)的數(shù)據(jù)團(tuán)隊(duì)提供核心指標(biāo)接入的能力。具體功能有以下幾個模塊：

          1）對接指標(biāo)管理平臺，獲取業(yè)務(wù)核心指標(biāo)范圍，及指標(biāo)元數(shù)據(jù)（指標(biāo)名稱，業(yè)務(wù)口徑，指標(biāo)類型，數(shù)據(jù)源，計(jì)算邏輯等信息）；

          2）對接數(shù)據(jù)開發(fā)平臺，根據(jù)核心指標(biāo)計(jì)算邏輯，生成計(jì)算任務(wù)，負(fù)責(zé)產(chǎn)出每個AB分支核心指標(biāo)計(jì)算結(jié)果

          3）對接BI可視化平臺，將每個AB分支的核心指標(biāo)結(jié)果和顯著性等結(jié)論呈現(xiàn)出來。

          對于用戶而言，從AB測試需求的創(chuàng)建到最終效果評估，能在一個平臺完成，是一件美妙的事情。
          ·················END·················
          推薦閱讀
          1. 我在字節(jié)做了哪些事
          2. 寫給所有數(shù)據(jù)人。
          3. 從留存率業(yè)務(wù)案例談0-1的數(shù)據(jù)指標(biāo)體系
          4. 數(shù)據(jù)分析師的一周
          5. 超級菜鳥如何入門數(shù)據(jù)分析？

          歡迎長按掃碼關(guān)注「數(shù)據(jù)管道」
          
                
          瀏覽
                    110
          點(diǎn)贊
    
          評論
    
          收藏
    
          分享
        
          手機(jī)掃一掃分享
          分享
    
          
        舉報(bào)
    
          評論
          圖片
          表情
          推薦
        
          點(diǎn)贊
    
          評論
    
          收藏
    
          分享
        
          手機(jī)掃一掃分享
          分享
    
          
        舉報(bào)
    
          

          <kbd id="afajh"><form id="afajh"></form></kbd>
          <strong id="afajh"><dl id="afajh"></dl></strong>
            2. 

            <del id="afajh"><form id="afajh"></form></del>
            

            5. 

                1. <th id="afajh"><progress id="afajh"></progress></th>

                  <b id="afajh"><abbr id="afajh"></abbr></b>
                  <th id="afajh"><progress id="afajh"></progress></th>
                  

自拍偷拍成人视频
|
五月婷婷综合一区
|
日韩免费片
|
夸克看成人片一级A片
|
亚洲天堂精品在线
|