| |
|
开发:
C++知识库
Java知识库
JavaScript
Python
PHP知识库
人工智能
区块链
大数据
移动开发
嵌入式
开发工具
数据结构与算法
开发测试
游戏开发
网络协议
系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程 数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁 |
-> 大数据 -> 数据清洗—Kittle工具的简单使用 -> 正文阅读 |
|
[大数据]数据清洗—Kittle工具的简单使用 |
一、抽取CSV文件csv_extract.csv中的数据保存至数据库extract中的数据表csv中。1.打开Kittle工具,创建转换 ? ? ? 使用Kettle工具创建一个转换csv_extract,并添加“CSV文件输入”控件、“表输出”控件以及Hop跳连接线,用于实现CSV文件数据的抽取功能,具体如图所示。 2.配置“CSV文件输入”控件 ? ? ?双击“CSV文件输入”控件进入“CSV文件输入”界面,单击下图中“浏览”按钮,选择要抽取的文件csv_extract.csv ;单击“获取字段”按钮,Kettle自动检索CSV文件,并对文件中的字段类型、格式、长度、精度等属性进行分析。单击“预览”按钮,查看文件csv_extract.csv的数据是否抽取到CSV文件输入流中。 ? ? ? ?从上图可以看出CSV文件csv_extract.csv的数据已经成功抽取到CSV文件输入流中,单击“确定”按钮,完成“CSV文件输入”控件的配置。 3.配置“表输出”控件 ? ? ? ?双击“表输出”控件,进入“表输出”控件的配置界面;单击“新建”按钮,配置数据库连接,配置完成后单击“确认”按钮。单击目标表右侧的“浏览”按钮,获取目标表,即数据表csv_extract;勾选“指定数据库字段”的复选框;单击“数据库字段”选项卡,再单击“输入字段映射”按钮,弹出“映射匹配”对话框,将“源字段”选项框的字段和“目标字段”选项框对应的字段进行映射匹配。 ?4.运行转换 ? ? ? ? 单击转换工作区顶部的运行按钮,运行创建的转换csv_extract,实现将CSV文件中的数据抽取到数据表csv中,如图所示: 6.查看数据表csv中的数据 ? ? ? ? 通过SQLyog工具,查看数据表csv是否已成功插入100行数据,结果如下图所示: ? ? ? ? 从上图可以看出,数据表csv中已插入数据,说明已经成功实现了将CSV文件csv_extract.csv中的数据抽取到数据表csv中 二、抽取JSON文件json_extract.js中的数据保存至数据库extract中的数据表json中。1.打开Kettle工具,创建转换。 ? ? ? ?使用Kettle工具创建一个转换json_extract,并添加“JSON input”控件、“表输出”控件以及Hop跳连接线,具体如图所示: 2.配置JSON input控件 ? ? ? 双击JSON input控件,进入“JSON输入”界面;单击“浏览”按钮,选择要抽取的JSON文件json_extract.json;单击“增加”按钮,将所选择的文件添加到“选中的文件和目录”处;单击“字段”选项卡,添加要抽取的数据字段(这里采用分层抽取数据字段,先抽取id和data字段,再从data字段中抽取field和value字段),然后单击“确定”按钮,完成JSON input控件的配置。 ? ? ? ?双击JSON input 2控件,进入“JSON输入”界面;勾选“源定义在一个字段里?”复选框;在“从字段获取源”处的下拉框中选择字段名,即data;单击“字段”选项卡,进入“字段”选项卡界面,添加从字段data中抽取的field和value字段;最后单击“确定”按钮,完成JSON input2控件的配置。具体配置如图所示; 3.配置表输出控件 ? ? ? ?双击“表输出”控件,进入“表输出”配置界面;单击“新建”按钮,配置数据库连接,配置完成后单击“确认”按钮;单击目标表右侧的“浏览”按钮,选择输出的目标表,即数据表json;勾选“指定数据库字段”的复选框,用于将数据表json的字段与JSON文件json_extract.json中的字段进行匹配;单击“数据库字段”选项卡,再单击【输入字段映射】按钮,弹出“映射匹配”对话框,将“源字段”选项框的字段和“目标字段”选项框对应的字段进行映射匹配。 4.运行转换json_extract ? ?单击转换工作区顶部的运行按钮,运行创建的json_extract转换,实现将?JSON?文件中的数据抽取到数据表json中。 5.查看数据表json中的数据 ? 通过SQLyog工具,查看数据表json是否已成功插入6条数据,结果如下图所示: ? ? ? 从上图可以看出,数据表json中已插入数据,说明已经成功实现了将JSON文件json_extract.jsonK中key值为id、field和value的数据抽取到数据表json中。 |
|
|
上一篇文章 下一篇文章 查看所有文章 |
|
开发:
C++知识库
Java知识库
JavaScript
Python
PHP知识库
人工智能
区块链
大数据
移动开发
嵌入式
开发工具
数据结构与算法
开发测试
游戏开发
网络协议
系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程 数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁 |
360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年11日历 | -2024/11/24 1:10:00- |
|
网站联系: qq:121756557 email:121756557@qq.com IT数码 |