日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程资源 > 编程问答 >内容正文

编程问答

ETL异构数据源Datax_使用querySql_08

發布時間:2024/9/27 编程问答 25 豆豆
生活随笔 收集整理的這篇文章主要介紹了 ETL异构数据源Datax_使用querySql_08 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

使用說明
當用戶配置了這一項之后,DataX系統就會忽略table,column
這些配置型,直接使用這個配置項的內容對數據進行篩選,例
如需要進行多表join后同步數據,使用select a,b from table_a
join table_b on table_a.id = table_b.id
當用戶配置querySql時,OracleReader/MysqlReader直接忽略
table、column、where條件的配置,querySql優先級大于
table、column、where選項。

文章目錄

            • 1. 清空Oracle數據
            • 2. 構建json
            • 3. 執行腳本
            • 4. 同步驗證
            • 5. 同步結果

1. 清空Oracle數據
Truncate TABLE OTBS1;

2. 構建json
vim querySql.json {"job": {"setting": {"speed": {"channel": 5},"errorLimit": {"record": 0,"percentage": 0.02}},"content": [{"reader": {"name": "mysqlreader","parameter": {"connection": [{"querySql": ["select IDNO,COL1,COL2,COL3,DT,COL5,COL6,COL7,COL8,COL9,COL10 from otbs1 where IDNO <= 1000"],"jdbcUrl": ["jdbc:mysql://127.0.0.1:3306/datax"]}],"username": "root","password": "123456"}},"writer": {"name": "oraclewriter","parameter": {"column": ["IDNO","COL1","COL2","COL3","DT","COL5","COL6","COL7","COL8","COL9","COL10"],"connection": [{"jdbcUrl": "jdbc:oracle:thin:@192.xxx.xxx.xxx:1521:orcl","table": ["DB.OTBS1"]}],"username": "username","password": "password"}}}]} }
3. 執行腳本
python /app/datax/bin/datax.py /app/datax/job/querySql.json
4. 同步驗證

5. 同步結果
2021-06-23 14:22:12.186 [job-0] INFO JobContainer - 任務啟動時刻 : 2021-06-23 14:22:01 任務結束時刻 : 2021-06-23 14:22:12 任務總計耗時 : 10s 任務平均流量 : 6.14KB/s 記錄寫入速度 : 100rec/s 讀出記錄總數 : 1000 讀寫失敗總數 : 0

總結

以上是生活随笔為你收集整理的ETL异构数据源Datax_使用querySql_08的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。