如何将业务系统的数据抽取汇聚到数据中台?
-更多數智化轉型、數據中臺內容請加入阿里云數據中臺交流群以及官方微信(文末掃描二維碼)
-阿里云數據中臺官網 https://dp.alibaba.com/index
數據中臺是當下大數據領域最前沿的數據建設體系, 它并不是從零開始, 無中生有的。數據中臺是傳統的數據倉庫的一種升級, 是數據采集、建設、管理與使用的一整套體系。? ??? ??? ??? ??Dataphin是一個構建數據中臺的強大工具, 數據集成是Dataphin的組成部分,負責數據“采”、“建”、“管”“用”中的采集部分。數據集成是簡單高效的數據同步平臺,致力于提供具有強大的數據預處理能力、豐富的異構數據源之間數據高速穩定的同步能力,為數據中臺的建設打好堅實的數據基座。
(Dataphin:面向各行各業大數據建設、管理及應用訴求,一站式提供從數據接入到數據消費全鏈路的智能數據構建與管理的大數據能力,包括產品、技術和方法論等,助力打造標準統一、融會貫通、資產化、服務化、閉環自優化的智能數據體系,以驅動創新。詳細了解:https://dp.alibaba.com/product/dataphin)
數據集成定位
數據集成是數據中臺建設中最基礎的工作,將不同系統的數據相互打通,實現數據自由離線或實時流動。
面對各行各業對大數據越來越多的應用,對數據集成也有了更多的訴求。包括:能夠簡單高效的配置大量數據表的同步任務;能夠集成多種異構數據源;能夠實現對數據源的數據進行輕度預處理;能夠實現數據同步任務的調優(例如容錯,限速,并發)等。Dataphin的數據集成模塊主要面向企業數據開發人員,以組件拖拉拽的形式,幫助企業高效構建大數據流通管道,從而將各種煙囪狀態的數據匯聚到數據中臺。
數據集成能力
數據集成旨在為用戶構建簡單高效、安全可靠的數據同步平臺:
- 支持通過整庫遷移(快速生成批量同步任務)和一鍵生成目標表的方式,提高數據集成的效率。
- 支持流程和轉換組件,實現數據源的數據預處理(例如清洗、轉換、字段脫敏、計算、合并、分發、過濾等)能力。
- 支持豐富的異構數據源,實現數據源之間數據高速穩定的同步能力。
- 支持Dev-Prod和Basic的開發模式,您可以根據業務場景進行靈活選擇開發模式。
- 支持將Dataphin中創建的邏輯表快速地同步到目標庫。
- 用戶可自定義系統尚未支持的數據源組件,以滿足不同業務場景數據同步的需求。
數據集成場景關注要點
- 易用性
用戶進行數據中臺建設時,需要集成的表的數量往往很多,需要進行大量重復的繁瑣配置工作。
Dataphin的數據集成通過高效的拖拽式操作,自動化一鍵自動建表、組件復制和整體管道配置復制,批量化的整庫遷移等操作可大大提高系統的易用性及操作效率。
Dataphin的數據集成的畫布數據的輸入、轉換、輸出組件、采集工作流、采集任務等可視化功能,使管理員直觀的掌握數據采集情況。
Dataphin的數據集成在任務搭建過程中支持同步任務試運行、度量查看、數據預覽,方便用戶進行數據集成任務的調試。
- 多源異構的數據同步能力
在企業信息化建設過程中,由于各業務系統建設和實施數據管理系統的階段性、技術性以及其它經濟和人為因素等因素影響,導致企業在發展過程中積累了大量采用不同存儲方式的業務數據,包括采用的數據管理系統也大不相同,從簡單的文件數據庫到復雜的網絡數據庫,它們構成了企業的異構數據源。
在數據中臺的建設中,需要支持各種異構數據源的數據集成,Dataphin的數據集成可支持30+種數據源的支持,同時可自定義數據源進行靈活接入。
- 數據預處理、同步配置能力
在數據集成過程中,來源端數據會有輕度預處理訴求,比如敏感數據加密、數據過濾、分庫分表數據合并、追 加字等。也會有各式各樣同步配置訴求,如容錯,限速,并發,同步過程調試等。
Dataphin的數據集成支持數據清洗轉換能力,提供字段計算、合并、分發、過濾、字段脫敏等組件或函數,支持容錯配置、并發配置、限速配置等。
以上就是Dataphin的核心功能數據集成的介紹, 希望能幫助您更好地使用Dataphin數據集成功能。
了解產品更多內容可以戳入:https://dp.alibaba.com/product/dataphin
數據中臺是企業數智化的必經之路,阿里巴巴認為數據中臺是集方法論、工具、組織于一體的,“快”、“準”、“全”、“統”、“通”的智能大數據體系。
目前正通過阿里云對外輸出系列解決方案,包括通用數據中臺解決方案、零售數據中臺解決方案、金融數據中臺解決方案、互聯網數據中臺解決方案、政務數據中臺解決方案等細分場景。
其中阿里云數據中臺產品矩陣是以Dataphin為基座,以Quick系列為業務場景化切入,包括:
- - Dataphin,一站式、智能化的數據構建及管理平臺;
- - Quick BI,隨時隨地 智能決策;
- - Quick Audience,全方位洞察、全域營銷、智能增長;
- - Quick A+, 跨多端全域應用體驗分析及洞察的一站式數據化運營平臺;
- - Quick Stock, 智能貨品運營平臺;
- - Quick Decision,智能決策平臺;
官方站點:
數據中臺官網 https://dp.alibaba.com
原文鏈接:https://developer.aliyun.com/article/786433?
版權聲明:本文內容由阿里云實名注冊用戶自發貢獻,版權歸原作者所有,阿里云開發者社區不擁有其著作權,亦不承擔相應法律責任。具體規則請查看《阿里云開發者社區用戶服務協議》和《阿里云開發者社區知識產權保護指引》。如果您發現本社區中有涉嫌抄襲的內容,填寫侵權投訴表單進行舉報,一經查實,本社區將立刻刪除涉嫌侵權內容。總結
以上是生活随笔為你收集整理的如何将业务系统的数据抽取汇聚到数据中台?的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 云原生演进趋势下传统数据库升级实践
- 下一篇: 阿里云容器网络文件系统 CNFS 1.0