數(shù)據(jù)治理是組織中涉及數(shù)據(jù)使用的一套完整的管理行為,一般是由企業(yè)數(shù)據(jù)治理部門制定和實施的針對企業(yè)內(nèi)部數(shù)據(jù)的技術(shù)管理與應用的政策和流程。數(shù)據(jù)治理是現(xiàn)在企業(yè)數(shù)據(jù)管理人員必備的技能,一般從技術(shù)實施的角度看,數(shù)據(jù)治理的內(nèi)容包含理、采、存、管、用這五個步驟缺一不可。意思就是說業(yè)務和數(shù)據(jù)資源梳理,數(shù)據(jù)采集清洗,數(shù)據(jù)管理,數(shù)據(jù)庫設計和存儲以及數(shù)據(jù)使用。下面我們就來看看數(shù)據(jù)治理的內(nèi)容的詳細介紹。
數(shù)據(jù)治理的內(nèi)容
一、數(shù)據(jù)資源梳理:數(shù)據(jù)治理的第一個步驟是從業(yè)務的視角厘清組織的數(shù)據(jù)資源環(huán)境和數(shù)據(jù)資源清單,包含組織 機構(gòu)、業(yè)務事項、信息系統(tǒng),以及以數(shù)據(jù)庫、網(wǎng)頁、文件和 API 接口形式存在的數(shù)據(jù)項資源,本步驟的輸出物為 分門別類的數(shù)據(jù)資源清單。
二、數(shù)據(jù)采集清洗:通過可視化的 ETL 工具將數(shù)據(jù)從來源 端經(jīng)過抽取 (extract)、轉(zhuǎn)換 (transform)、加載 (load) 至目的端的過程,目的是將散落和零亂的數(shù)據(jù)集中存儲起 來。 基礎庫主題庫建設:一般情況下,可以將數(shù)據(jù)分為基礎數(shù)據(jù)、業(yè)務主題數(shù)據(jù)和分析數(shù)據(jù)。基礎數(shù)據(jù)一般指的 是核心實體數(shù)據(jù),或稱主數(shù)據(jù),例如智慧城市中的人口、法人、地理信息、信用、電子證照等數(shù)據(jù)。
主題數(shù)據(jù)一般指的是某個業(yè)務主題數(shù)據(jù),例如市場監(jiān)督管理局的食品監(jiān)管、質(zhì)量監(jiān)督檢查、企業(yè)綜合監(jiān)管等數(shù)據(jù)。而分析數(shù) 據(jù)指的是基于業(yè)務主題數(shù)據(jù)綜合分析而得的分析結(jié)果數(shù)據(jù),例如市場監(jiān)督管理局的企業(yè)綜合評價、產(chǎn)業(yè)區(qū)域分 布、高危企業(yè)分布等。那么基礎庫和主題庫的建設就是在對業(yè)務理解的基礎上,基于易存儲、易管理、易使用的 原則抽像數(shù)據(jù)存儲結(jié)構(gòu),說白了,就是基于一定的原則設計數(shù)據(jù)庫表結(jié)構(gòu),然后再根據(jù)數(shù)據(jù)資源清單設計數(shù)據(jù)采集清洗流程,將整潔干凈的數(shù)據(jù)存儲到數(shù)據(jù)庫或數(shù)據(jù)倉庫中。
三、元數(shù)據(jù)管理:元數(shù)據(jù)管理是對基礎庫和主題庫中的數(shù)據(jù)項屬性的管理,同時,將數(shù)據(jù)項的業(yè)務含義與數(shù)據(jù)項進行了關聯(lián),便于業(yè)務人員也能夠理解數(shù)據(jù)庫中的數(shù)據(jù)字段含義,并且,元數(shù)據(jù)是后面提到的自動化數(shù)據(jù)共享、數(shù)據(jù)交換和商業(yè)智能(BI)的基礎。需要注意的是,元數(shù)據(jù)管理一般是對基礎庫和主題庫中(即核心數(shù)據(jù)資產(chǎn))的數(shù)據(jù)項屬性的管理,而數(shù)據(jù)資源清單是對各類數(shù)據(jù)來源的數(shù)據(jù)項的管理。血緣追蹤:數(shù)據(jù)被業(yè)務場景使用時,發(fā)現(xiàn)數(shù)據(jù)錯誤,數(shù)據(jù)治理團隊需要快速定位數(shù)據(jù)來源,修復數(shù)據(jù)錯誤。 那么數(shù)據(jù)治理團隊需要知道業(yè)務團隊的數(shù)據(jù)來自于哪個核心庫,核心庫的數(shù)據(jù)又來自于哪個數(shù)據(jù)源頭。我們的實 踐是在元數(shù)據(jù)和數(shù)據(jù)資源清單之間建立關聯(lián)關系,且業(yè)務團隊使用的數(shù)據(jù)項由元數(shù)據(jù)組合配置而來,這樣,就建 立了數(shù)據(jù)使用場景與數(shù)據(jù)源頭之間的血緣關系。
數(shù)據(jù)資源目錄:數(shù)據(jù)資源目錄一般應用于數(shù)據(jù)共享的場景,例如政府部門之間的數(shù)據(jù)共享,數(shù)據(jù)資源目錄是基于業(yè)務場景和行業(yè)規(guī)范而創(chuàng)建,同時依托于元數(shù)據(jù)和基礎庫主題而 實現(xiàn)自動化的數(shù)據(jù)申請和使用。
四、質(zhì)量管理:數(shù)據(jù)價值的成功發(fā)掘必須依托于高質(zhì)量的數(shù)據(jù),唯有準確、完整、一致的數(shù)據(jù)才有使用價值。因 此,需要從多維度來分析數(shù)據(jù)的質(zhì)量,例如:偏移量、非空檢查、值域檢查、規(guī)范性檢查、重復性檢查、關聯(lián)關 請輸入您要查詢的信息。
需要注意的是,優(yōu)秀的數(shù)據(jù)質(zhì)量模型的設計必須依賴于對業(yè)務的深刻理 解,在技術(shù)上也推薦使用大數(shù)據(jù)相關技術(shù)來保障檢測性能和降低對業(yè)務系統(tǒng)的性能影響,例如 Hadoop, MapReduce,HBase 等。
五、商業(yè)智能(BI):數(shù)據(jù)治理的目的是使用,對于一個大型的數(shù)據(jù)倉庫來說,數(shù)據(jù)使用的場景和需求是多變的,那么可以使用 BI 類的產(chǎn)品快速獲取需要的數(shù)據(jù),并分析形成報表。
六、數(shù)據(jù)共享交換:數(shù)據(jù)共享包括組織內(nèi)部和組織之間的數(shù)據(jù)共享,共享方式也分為庫表、文件和 API 接口三種共享方式,庫表共享比較直接粗暴,文件共享方式通過 ETL 工具做一個反向的數(shù)據(jù)交換也就可以實現(xiàn)。我們比較 推薦的是 API 接口共享方式,在這種方式下,能夠讓中心數(shù)據(jù)倉庫保留數(shù)據(jù)所有權(quán),把數(shù)據(jù)使用權(quán)通過 API 接 口的形式進行了轉(zhuǎn)移。API 接口共享可以使用 API 網(wǎng)關實現(xiàn),常見的功能是自動化的接口生成、申請審核、限 流、限并發(fā)、多用戶隔離、調(diào)用統(tǒng)計、調(diào)用審計、黑白名單、調(diào)用監(jiān)控、質(zhì)量監(jiān)控等等。
以上我們介紹了數(shù)據(jù)治理的內(nèi)容,數(shù)據(jù)治理的最終目標是提升數(shù)據(jù)的價值,數(shù)據(jù)治理非常必要,是企業(yè)實現(xiàn)數(shù)字戰(zhàn)略的基礎,它是一個管理體系,包括組織、制度、流程、工具。如果您想了解更多相關信息,請您及時關注中培偉業(yè)。