萬字長文詳解數(shù)據(jù)治理體系
01 數(shù)據(jù)治理有哪些誤區(qū)?
大數(shù)據(jù)時代,數(shù)據(jù)成為社會和組織的寶貴資產(chǎn),像工業(yè)時代的石油和電力一樣驅(qū)動萬物,然而如果石油的雜質(zhì)太多,電流的電壓不穩(wěn),數(shù)據(jù)的價值豈不是大打折扣,甚至根本不可用,不敢用,因此,數(shù)據(jù)治理是大數(shù)據(jù)時代我們用好海量數(shù)據(jù)的必然選擇。




這其實還是要追溯到我們在誤區(qū)二里談到的:要建立組織架構(gòu)和制度流程,否則數(shù)據(jù)治理工作中的種種事情,沒有人負(fù)責(zé),沒有人去做。總結(jié):數(shù)據(jù)質(zhì)量問題的解決,要形成每一個環(huán)節(jié)都有確定責(zé)任人的閉環(huán)機制和反饋機制。
02 數(shù)據(jù)治理之元數(shù)據(jù)管理
一、元數(shù)據(jù)到底是個啥?



二、元數(shù)據(jù)是從哪里來的?

三、有了元數(shù)據(jù),我們能做些什么?


03 數(shù)據(jù)治理之?dāng)?shù)據(jù)質(zhì)量管理
一、數(shù)據(jù)質(zhì)量管理的目標(biāo)
二、數(shù)據(jù)質(zhì)量問題產(chǎn)生的根源
三、數(shù)據(jù)質(zhì)量評估的標(biāo)準(zhǔn)
準(zhǔn)確性: 描述數(shù)據(jù)是否與其對應(yīng)的客觀實體的特征相一致。
完整性: 描述數(shù)據(jù)是否存在缺失記錄或缺失字段。 一致性: 描述同一實體的同一屬性的值在不同的系統(tǒng)是否一致。 有效性: 描述數(shù)據(jù)是否滿足用戶定義的條件或在一定的域值范圍內(nèi)。 唯一性: 描述數(shù)據(jù)是否存在重復(fù)記錄。 及時性: 描述數(shù)據(jù)的產(chǎn)生和供應(yīng)是否及時。 穩(wěn)定性: 描述數(shù)據(jù)的波動是否是穩(wěn)定的,是否在其有效范圍內(nèi)。 以上數(shù)據(jù)質(zhì)量標(biāo)準(zhǔn)只是一些通用的規(guī)則,這些標(biāo)準(zhǔn)是可以根據(jù)數(shù)據(jù)的實際情況和業(yè)務(wù)要求進行擴展的,如交叉表校驗等。
四、數(shù)據(jù)質(zhì)量管理的流程
五、數(shù)據(jù)質(zhì)量管理的取與舍
歷史數(shù)據(jù)
總結(jié)
04 數(shù)據(jù)治理之?dāng)?shù)據(jù)標(biāo)準(zhǔn)管理
一、大數(shù)據(jù)標(biāo)準(zhǔn)體系
二、關(guān)于數(shù)據(jù)標(biāo)準(zhǔn)認(rèn)識的幾個誤區(qū)
三、數(shù)據(jù)標(biāo)準(zhǔn)的定義
四、如何制定數(shù)據(jù)標(biāo)準(zhǔn)

五、數(shù)據(jù)標(biāo)準(zhǔn)化的難題
對建設(shè)數(shù)據(jù)標(biāo)準(zhǔn)的目的不明確。某些組織建設(shè)數(shù)據(jù)標(biāo)準(zhǔn),其目的不是為了指導(dǎo)信息系統(tǒng)建設(shè),提高數(shù)據(jù)質(zhì)量,更容易地處理和交換數(shù)據(jù),而是應(yīng)付監(jiān)管機構(gòu)檢查,因此需要的就是一堆標(biāo)準(zhǔn)文件和制度文件,根本就沒有執(zhí)行的計劃。
過分依賴咨詢公司。一些組織沒有建設(shè)數(shù)據(jù)標(biāo)準(zhǔn)的能力,因此請咨詢公司來幫忙規(guī)劃和執(zhí)行。一旦咨詢公司撤離,組織依然缺乏將這些標(biāo)準(zhǔn)落地的能力和條件。 對數(shù)據(jù)標(biāo)準(zhǔn)化的難度估計不足。很多公司上來就說要做數(shù)據(jù)標(biāo)準(zhǔn),卻不知道數(shù)據(jù)標(biāo)準(zhǔn)的范圍很大,很難以一個項目的方式都做完,而是一個持續(xù)化推進的長期過程,結(jié)果是客戶越做遇到的阻力越大,困難越多,最后自己都沒有信心了,轉(zhuǎn)而把前期梳理的一堆成果束之高閣,這是最普遍的問題。 缺乏落地的制度和流程規(guī)劃。數(shù)據(jù)標(biāo)準(zhǔn)的落地,需要多個系統(tǒng)、部門的配合才能完成。如果只梳理出數(shù)據(jù)標(biāo)準(zhǔn),但是沒有規(guī)劃如何落地的具體方案,缺乏技術(shù)、業(yè)務(wù)部門、系統(tǒng)開發(fā)商的支持,尤其是缺乏領(lǐng)導(dǎo)層的支持,是無論如何也不可能落地的。 組織管理水平的不足:數(shù)據(jù)標(biāo)準(zhǔn)落地的長期性、復(fù)雜性、系統(tǒng)性的特點,決定了推動落地的組織機構(gòu)的管理能力必須保持在很高的水平線上,且架構(gòu)必須持續(xù)穩(wěn)定,才能有序地不斷推進。以上這些原因,導(dǎo)致數(shù)據(jù)標(biāo)準(zhǔn)化工作很難開展,更難取得較好的成效。數(shù)據(jù)標(biāo)準(zhǔn)化難落地,是數(shù)據(jù)治理行業(yè)的現(xiàn)狀,不容回避。
六、如何應(yīng)對這些難題
源系統(tǒng)改造:對源系統(tǒng)的改造是數(shù)據(jù)標(biāo)準(zhǔn)落地最直接的方式,有助于控制未來數(shù)據(jù)的質(zhì)量,但工作量與難度都較高,現(xiàn)實中往往不會選擇這種方式,例如有客戶編號這個字段,涉及多個系統(tǒng),范圍廣、重要程度高、影響大,一旦修改該字段,會涉及到相關(guān)的系統(tǒng)都需要修改。但是也不是完全不可行,可以借系統(tǒng)改造,重新上線的機會,對相關(guān)源系統(tǒng)的數(shù)據(jù)進行部分的對標(biāo)落地。
數(shù)據(jù)中心落地:根據(jù)數(shù)據(jù)標(biāo)準(zhǔn)要求建設(shè)數(shù)據(jù)中心(或數(shù)據(jù)倉庫),源系統(tǒng)數(shù)據(jù)與數(shù)據(jù)中心做好映射,保證傳輸?shù)綌?shù)據(jù)中心的數(shù)據(jù)為標(biāo)準(zhǔn)化后的數(shù)據(jù)。這種方式的可行性較高,是絕大多數(shù)組織的選擇。 數(shù)據(jù)接口標(biāo)準(zhǔn)化:對已有的系統(tǒng)間的數(shù)據(jù)傳輸接口進行改造,讓數(shù)據(jù)在系統(tǒng)間進行傳輸?shù)臅r候,全部遵循數(shù)據(jù)標(biāo)準(zhǔn)。這也是一種可行的方法。

事先確定好落地的范圍:哪些數(shù)據(jù)標(biāo)準(zhǔn)需要落地,涉及到哪些IT系統(tǒng),都是需要事先考慮好的。
事先做好差異分析:現(xiàn)有的數(shù)據(jù)和數(shù)據(jù)標(biāo)準(zhǔn)之間,究竟存在哪些差異,這些差異有多大,做好差異性分析。 事先做好影響性分析:如果這些數(shù)據(jù)標(biāo)準(zhǔn)落地了,會對哪些相關(guān)下游戲廳產(chǎn)生什么樣的影響,這些影響是否可控。元數(shù)據(jù)管理中的影響性分析可以幫助用戶確定影響的范圍。 制定落地的執(zhí)行方案:執(zhí)行方案要側(cè)重于可落地性。不能落地的方案,最終只能被廢棄。一個可落地的方案,要有組織架構(gòu)和人員分工,每個人負(fù)責(zé)什么,如何考核,怎么監(jiān)管,都是必須納入執(zhí)行方案中的內(nèi)容。 具體地執(zhí)行落地方案:根據(jù)執(zhí)行方案,進行數(shù)據(jù)標(biāo)準(zhǔn)落地執(zhí)行。 事后評估:事后需要跟蹤、評估數(shù)據(jù)落地的效果如何,做對了哪些事,哪些做得不足,如何改進。
七、總結(jié)
05 數(shù)據(jù)治理之?dāng)?shù)據(jù)資產(chǎn)管理
數(shù)據(jù)資產(chǎn)與數(shù)據(jù)資產(chǎn)管理的定義
數(shù)據(jù)資產(chǎn)管理的現(xiàn)狀和挑戰(zhàn)
缺乏統(tǒng)一的數(shù)據(jù)視圖:數(shù)據(jù)資源分布在企業(yè)的多個業(yè)務(wù)系統(tǒng)中,分布在線上線下,甚至企業(yè)的內(nèi)外部,由于缺乏統(tǒng)一的數(shù)據(jù)視圖,數(shù)據(jù)的管理人員和使用人員無法準(zhǔn)確快速地找到自己需要的數(shù)據(jù)。數(shù)據(jù)管理人員也無法從宏觀層面掌握自己擁有哪些數(shù)據(jù)資產(chǎn),擁有多少數(shù)據(jù)資產(chǎn),這些數(shù)據(jù)資產(chǎn)分布在哪里,變化情況怎么樣。
數(shù)據(jù)基礎(chǔ)薄弱:大部分企業(yè)的數(shù)據(jù)基礎(chǔ)還很薄弱,存在數(shù)據(jù)標(biāo)準(zhǔn)混亂、數(shù)據(jù)質(zhì)量參差不齊、各業(yè)務(wù)系統(tǒng)之間數(shù)據(jù)孤島化嚴(yán)重、沒有進行數(shù)據(jù)資產(chǎn)的萃取等現(xiàn)象,阻礙了數(shù)據(jù)的有效應(yīng)用。 數(shù)據(jù)應(yīng)用不足:受限于數(shù)據(jù)基礎(chǔ)薄弱和應(yīng)用能力不足,多數(shù)企業(yè)的數(shù)據(jù)應(yīng)用剛剛起步,主要在精準(zhǔn)營銷、輿情感知和風(fēng)險控制等有限場景中進行了一些探索,數(shù)據(jù)應(yīng)用的深度不夠,應(yīng)用空間亟待開拓。 數(shù)據(jù)價值難估:企業(yè)難以對數(shù)據(jù)給業(yè)務(wù)的貢獻進行評估,從而難以像運營有形資產(chǎn)一樣運營數(shù)據(jù)。產(chǎn)生這個問題的原因有兩個:一是沒有建立起合理的數(shù)據(jù)價值評估模型;二是數(shù)據(jù)價值跟企業(yè)的商業(yè)模式密不可分,在不同應(yīng)用場景下,同一項數(shù)據(jù)資產(chǎn)的價值可能截然不同。 缺乏安全的數(shù)據(jù)環(huán)境:隨著數(shù)據(jù)的價值越來越得到全社會的廣泛認(rèn)可,針對數(shù)據(jù)的犯罪活動日漸猖獗,數(shù)據(jù)泄露、個人隱私受到傷害等現(xiàn)象層出不窮。很多數(shù)據(jù)犯罪是因為安全管理制度不完善、缺乏相應(yīng)的數(shù)據(jù)安全管控措施導(dǎo)致的。 數(shù)據(jù)管理浮于表面:沒有建立一套符合數(shù)據(jù)驅(qū)動的組織管理制度和流程,沒有建設(shè)先進的數(shù)據(jù)管理平臺工具,導(dǎo)致數(shù)據(jù)管理工作很難落地。 這些問題已經(jīng)嚴(yán)重影響到數(shù)據(jù)價值的發(fā)揮,導(dǎo)致企業(yè)的數(shù)據(jù)越積越多,卻逐漸成為企業(yè)的負(fù)擔(dān),大數(shù)據(jù)管理部門也成為企業(yè)的成本中心,而不是創(chuàng)新中心和利潤部門。
數(shù)據(jù)資產(chǎn)管理的四個目標(biāo)
可見:通過對數(shù)據(jù)資產(chǎn)的全面盤點,形成數(shù)據(jù)資產(chǎn)地圖。從數(shù)據(jù)生產(chǎn)者、管理者、使用者等不同的角度,用數(shù)據(jù)資產(chǎn)目錄的方式共享數(shù)據(jù)資產(chǎn),用戶可以快速、精確地查找到自己關(guān)心的數(shù)據(jù)資產(chǎn)。
可懂:通過元數(shù)據(jù)管理,完善對數(shù)據(jù)資產(chǎn)的描述。同時在數(shù)據(jù)資產(chǎn)的建設(shè)過程中,注重數(shù)據(jù)資產(chǎn)業(yè)務(wù)含義的提煉,將數(shù)據(jù)加工和組織成人人可懂的、無歧義的數(shù)據(jù)資產(chǎn)。具體來說,在數(shù)據(jù)中臺之上,需要將數(shù)據(jù)資產(chǎn)進行標(biāo)簽化,標(biāo)簽是面向業(yè)務(wù)視角的數(shù)據(jù)組織方式。 可用:通過統(tǒng)一數(shù)據(jù)標(biāo)準(zhǔn)、提升數(shù)據(jù)質(zhì)量和數(shù)據(jù)安全性等措施,增強數(shù)據(jù)的可信度,讓數(shù)據(jù)科學(xué)家和數(shù)據(jù)分析人員沒有后顧之憂,放心地使用數(shù)據(jù)資產(chǎn),降低因為數(shù)據(jù)不可用、不可信而導(dǎo)致的溝通成本和管理成本。 可運營:數(shù)據(jù)資產(chǎn)運營的最終目的是讓數(shù)據(jù)價值越滾越大,因此數(shù)據(jù)資產(chǎn)運營要始終圍繞資產(chǎn)價值來開展。通過建立一套符合數(shù)據(jù)驅(qū)動的組織管理制度流程和價值評估體系,促進數(shù)據(jù)資產(chǎn)建設(shè)過程的不斷改進,提升數(shù)據(jù)資產(chǎn)管理的水平,提升數(shù)據(jù)資產(chǎn)的價值。
數(shù)據(jù)資產(chǎn)管理與數(shù)據(jù)治理的關(guān)系

數(shù)據(jù)資產(chǎn)門戶
1、數(shù)據(jù)資產(chǎn)地圖
數(shù)據(jù)資產(chǎn)地圖為用戶提供多層次、多視角的數(shù)據(jù)資產(chǎn)圖形化呈現(xiàn)形式。數(shù)據(jù)資產(chǎn)地圖讓用戶用最直觀的方式,掌握數(shù)據(jù)資產(chǎn)的概況,如數(shù)據(jù)總量、每日數(shù)據(jù)增量、數(shù)據(jù)資產(chǎn)質(zhì)量的整體狀況、數(shù)據(jù)資產(chǎn)的分類情況、數(shù)據(jù)資產(chǎn)的分布情況、數(shù)據(jù)資產(chǎn)的冷熱度排名、各個業(yè)務(wù)域及系統(tǒng)之間的數(shù)據(jù)流動關(guān)系等。
2、數(shù)據(jù)資產(chǎn)目錄
推薦閱讀:
不是你需要中臺,而是一名合格的架構(gòu)師(附各大廠中臺建設(shè)PPT)
論數(shù)字化轉(zhuǎn)型——轉(zhuǎn)什么,如何轉(zhuǎn)?
企業(yè)10大管理流程圖,數(shù)字化轉(zhuǎn)型從業(yè)者必備!
【中臺實踐】華為大數(shù)據(jù)中臺架構(gòu)分享.pdf
