ETL异构数据源Datax_使用querySql_08
生活随笔
收集整理的這篇文章主要介紹了
ETL异构数据源Datax_使用querySql_08
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
使用說明
當用戶配置了這一項之后,DataX系統就會忽略table,column
這些配置型,直接使用這個配置項的內容對數據進行篩選,例
如需要進行多表join后同步數據,使用select a,b from table_a
join table_b on table_a.id = table_b.id
當用戶配置querySql時,OracleReader/MysqlReader直接忽略
table、column、where條件的配置,querySql優先級大于
table、column、where選項。
文章目錄
- 1. 清空Oracle數據
- 2. 構建json
- 3. 執行腳本
- 4. 同步驗證
- 5. 同步結果
1. 清空Oracle數據
Truncate TABLE OTBS1;2. 構建json
vim querySql.json {"job": {"setting": {"speed": {"channel": 5},"errorLimit": {"record": 0,"percentage": 0.02}},"content": [{"reader": {"name": "mysqlreader","parameter": {"connection": [{"querySql": ["select IDNO,COL1,COL2,COL3,DT,COL5,COL6,COL7,COL8,COL9,COL10 from otbs1 where IDNO <= 1000"],"jdbcUrl": ["jdbc:mysql://127.0.0.1:3306/datax"]}],"username": "root","password": "123456"}},"writer": {"name": "oraclewriter","parameter": {"column": ["IDNO","COL1","COL2","COL3","DT","COL5","COL6","COL7","COL8","COL9","COL10"],"connection": [{"jdbcUrl": "jdbc:oracle:thin:@192.xxx.xxx.xxx:1521:orcl","table": ["DB.OTBS1"]}],"username": "username","password": "password"}}}]} }3. 執行腳本
python /app/datax/bin/datax.py /app/datax/job/querySql.json4. 同步驗證
5. 同步結果
2021-06-23 14:22:12.186 [job-0] INFO JobContainer - 任務啟動時刻 : 2021-06-23 14:22:01 任務結束時刻 : 2021-06-23 14:22:12 任務總計耗時 : 10s 任務平均流量 : 6.14KB/s 記錄寫入速度 : 100rec/s 讀出記錄總數 : 1000 讀寫失敗總數 : 0總結
以上是生活随笔為你收集整理的ETL异构数据源Datax_使用querySql_08的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: RuoYi-Cloud 部署篇_03(w
- 下一篇: Vue如何循环提取对象数组中的值