IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> 大数据 -> DataX之Hive写入MySQL的NULL值处理 -> 正文阅读

[大数据]DataX之Hive写入MySQL的NULL值处理

1、Hive建表

CREATE TABLE `rcdn_ads.ads_rcdn_zc_xq`(
  `qybm` varchar(25) COMMENT '区域编码', 
  `csbm` varchar(25) COMMENT '城市编码', 
  `shengbm` varchar(25) COMMENT '省份编码', 
  `cybm` varchar(25) COMMENT '产业编码', 
  `zclxbm` varchar(25) COMMENT '政策类型编码', 
  `zcztbm` varchar(25) COMMENT '政策状态编码', 
  `zcjbbm` varchar(25) COMMENT '政策级别编码', 
  `zcszbm` varchar(25) COMMENT '政策受众编码', 
  `qylxbm` varchar(25) COMMENT '企业类型编码', 
  `zcbt` varchar(255) COMMENT '政策标题', 
  `zcnr` string COMMENT '政策内容', 
  `zclj` varchar(255) COMMENT '政策链接', 
  `fwbmmc` varchar(100) COMMENT '发文部门名称', 
  `tjrq` date COMMENT '统计日期', 
  `sjly` varchar(255) COMMENT '数据来源')
COMMENT '政策详情表'
row format delimited fields terminated by '|' NULL DEFINED AS '' stored as textfile;

2、DataX脚本

{
	"job": {
		"setting": {
			"speed": {
				"channel": 3
			}
		},
		"content": [
			{
				"reader": {
					"name": "hdfsreader",
					"parameter": {
						"column": [
							{
								"index": 0,
								"type": "STRING"
							},
							{
								"index": 1,
								"type": "STRING"
							},
							{
								"index": 2,
								"type": "STRING"
							},
							{
								"index": 3,
								"type": "STRING"
							},
							{
								"index": 4,
								"type": "STRING"
							},
							{
								"index": 5,
								"type": "STRING"
							},
							{
								"index": 6,
								"type": "STRING"
							},
							{
								"index": 7,
								"type": "STRING"
							},
							{
								"index": 8,
								"type": "STRING"
							},
							{
								"index": 9,
								"type": "STRING"
							},
							{
								"index": 10,
								"type": "STRING"
							},
							{
								"index": 11,
								"type": "STRING"
							},
							{
								"index": 12,
								"type": "STRING"
							},
							{
								"index": 13,
								"type": "DATE"
							},
							{
								"index": 14,
								"type": "STRING"
							}
						],
						"defaultFS": "hdfs://hadoop01:8020",
						"encoding": "UTF-8",
						"fieldDelimiter": "|",
						"fileType": "text",
						"nullFormat": "",
						"path": "/user/hive/warehouse/rcdn_ads.db/ads_rcdn_zc_xq/*"
					}
				},
				"writer": {
					"name": "mysqlwriter",
					"parameter": {
						"column": [
							"qybm",
							"csbm",
							"shengbm",
							"cybm",
							"zclxbm",
							"zcztbm",
							"zcjbbm",
							"zcszbm",
							"qylxbm",
							"zcbt",
							"zcnr",
							"zclj",
							"fwbmmc",
							"tjrq",
							"sjly"
						],
						"connection": [
							{
								"jdbcUrl": "jdbc:mysql://node01:13306/talent_brain?useUnicode=true&characterEncoding=UTF-8&useSSL=false&allowPublicKeyRetrieval=true&serverTimezone=GMT%2b8",
								"table": [
									"t_zc_xq"
								]
							}
						],
						"password": "123456",
						"preSql": [
							"truncate table talent_brain.t_zc_xq"
						],
						"username": "root",
						"writeMode": "insert"
					}
				}
			}
		]
	}
}
  大数据 最新文章
实现Kafka至少消费一次
亚马逊云科技:还在苦于ETL?Zero ETL的时代
初探MapReduce
【SpringBoot框架篇】32.基于注解+redis实现
Elasticsearch:如何减少 Elasticsearch 集
Go redis操作
Redis面试题
专题五 Redis高并发场景
基于GBase8s和Calcite的多数据源查询
Redis——底层数据结构原理
上一篇文章      下一篇文章      查看所有文章
加:2022-03-10 22:36:15  更:2022-03-10 22:37:46 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁

360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年11日历 -2024/11/24 9:09:43-

图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码