數據治理是組織中涉及數據使用的一套完整的管理行為,一般是由企業數據治理部門制定和實施的針對企業內部數據的技術管理與應用的政策和流程。數據治理是現在企業數據管理人員必備的技能,一般從技術實施的角度看,數據治理的內容包含理、采、存、管、用這五個步驟缺一不可。意思就是說業務和數據資源梳理,數據采集清洗,數據管理,數據庫設計和存儲以及數據使用。下面我們就來看看數據治理的內容的詳細介紹。
數據治理的內容
一、數據資源梳理:數據治理的第一個步驟是從業務的視角厘清組織的數據資源環境和數據資源清單,包含組織 機構、業務事項、信息系統,以及以數據庫、網頁、文件和 API 接口形式存在的數據項資源,本步驟的輸出物為 分門別類的數據資源清單。
二、數據采集清洗:通過可視化的 ETL 工具將數據從來源 端經過抽取 (extract)、轉換 (transform)、加載 (load) 至目的端的過程,目的是將散落和零亂的數據集中存儲起 來。 基礎庫主題庫建設:一般情況下,可以將數據分為基礎數據、業務主題數據和分析數據。基礎數據一般指的 是核心實體數據,或稱主數據,例如智慧城市中的人口、法人、地理信息、信用、電子證照等數據。
主題數據一般指的是某個業務主題數據,例如市場監督管理局的食品監管、質量監督檢查、企業綜合監管等數據。而分析數 據指的是基于業務主題數據綜合分析而得的分析結果數據,例如市場監督管理局的企業綜合評價、產業區域分 布、高危企業分布等。那么基礎庫和主題庫的建設就是在對業務理解的基礎上,基于易存儲、易管理、易使用的 原則抽像數據存儲結構,說白了,就是基于一定的原則設計數據庫表結構,然后再根據數據資源清單設計數據采集清洗流程,將整潔干凈的數據存儲到數據庫或數據倉庫中。
三、元數據管理:元數據管理是對基礎庫和主題庫中的數據項屬性的管理,同時,將數據項的業務含義與數據項進行了關聯,便于業務人員也能夠理解數據庫中的數據字段含義,并且,元數據是后面提到的自動化數據共享、數據交換和商業智能(BI)的基礎。需要注意的是,元數據管理一般是對基礎庫和主題庫中(即核心數據資產)的數據項屬性的管理,而數據資源清單是對各類數據來源的數據項的管理。血緣追蹤:數據被業務場景使用時,發現數據錯誤,數據治理團隊需要快速定位數據來源,修復數據錯誤。 那么數據治理團隊需要知道業務團隊的數據來自于哪個核心庫,核心庫的數據又來自于哪個數據源頭。我們的實 踐是在元數據和數據資源清單之間建立關聯關系,且業務團隊使用的數據項由元數據組合配置而來,這樣,就建 立了數據使用場景與數據源頭之間的血緣關系。
數據資源目錄:數據資源目錄一般應用于數據共享的場景,例如政府部門之間的數據共享,數據資源目錄是基于業務場景和行業規范而創建,同時依托于元數據和基礎庫主題而 實現自動化的數據申請和使用。
四、質量管理:數據價值的成功發掘必須依托于高質量的數據,唯有準確、完整、一致的數據才有使用價值。因 此,需要從多維度來分析數據的質量,例如:偏移量、非空檢查、值域檢查、規范性檢查、重復性檢查、關聯關 請輸入您要查詢的信息。
需要注意的是,優秀的數據質量模型的設計必須依賴于對業務的深刻理 解,在技術上也推薦使用大數據相關技術來保障檢測性能和降低對業務系統的性能影響,例如 Hadoop, MapReduce,HBase 等。
五、商業智能(BI):數據治理的目的是使用,對于一個大型的數據倉庫來說,數據使用的場景和需求是多變的,那么可以使用 BI 類的產品快速獲取需要的數據,并分析形成報表。
六、數據共享交換:數據共享包括組織內部和組織之間的數據共享,共享方式也分為庫表、文件和 API 接口三種共享方式,庫表共享比較直接粗暴,文件共享方式通過 ETL 工具做一個反向的數據交換也就可以實現。我們比較 推薦的是 API 接口共享方式,在這種方式下,能夠讓中心數據倉庫保留數據所有權,把數據使用權通過 API 接 口的形式進行了轉移。API 接口共享可以使用 API 網關實現,常見的功能是自動化的接口生成、申請審核、限 流、限并發、多用戶隔離、調用統計、調用審計、黑白名單、調用監控、質量監控等等。
以上我們介紹了數據治理的內容,數據治理的最終目標是提升數據的價值,數據治理非常必要,是企業實現數字戰略的基礎,它是一個管理體系,包括組織、制度、流程、工具。如果您想了解更多相關信息,請您及時關注中培偉業。