| |
|
开发:
C++知识库
Java知识库
JavaScript
Python
PHP知识库
人工智能
区块链
大数据
移动开发
嵌入式
开发工具
数据结构与算法
开发测试
游戏开发
网络协议
系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程 数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁 |
-> 大数据 -> 《数据清洗》数据抽取 -> 正文阅读 |
|
[大数据]《数据清洗》数据抽取 |
实例一?抽取CSV文件csv_extract.csv中的数据保存至数据库extract中的数据表csv中?1、数据准备 2、?打开Kettle工具,创建一个转换 3、配置csv文件输入 点击“csv文件输入”界面中的“浏览”,选择要抽取的文件,如图所示 ? 单击“获取字段”按钮,Kettle自动检索csv文件,并对文件中的字段类型、格式、长度、精度等属性进行分析,具体效果如图 单击“预览”按钮,查看文件的数据是否抽取到csv文件输入中 从图中可以看出数据已经成功抽取到csv文件输入流中,单击“关闭”→“确定”按钮完成“csv文件输入”控件的配置 4、配置“表输出”控件 单击“表输出”界面的“新建”配置数据库连接(所连接的数据库extrat需提前创建好不再赘述) ?而后单击“表输出”界面目标表右侧的“浏览”按钮,选择输出的目标表,即数据表csv(表结构应该根据csv_extract.csv中的数据的字段和数据类型来创建),勾选“指定数据库字段”复选框,用于将数据表csv的字段与csv文件中的字段进行匹配 ?选择“数据库字段”选项卡,单击“输入字段映射”按钮,弹出“映射匹配”对话框,在其中依次选择“源字段”中的字段和“目标字段”中的对应字段,再单击Add(A)按钮,将一对映射字段添加至“映射”框中,若字段相同可以点击“猜一猜”按钮实现自动映射 配置好后如图所示? 5、运行转换? 单击转换工作区顶部的运行按钮运行转换,可通过查看数据表csv来判断是否成功 实例二?抽取JSON文件json_extract.js中的数据保存至数据库extract中的数据表json中1、数据准备 2、打开Kettle工具,创建一个转换 ? 3、配置JSON input控件? 单击“JSON输入”界面的“浏览”按钮,选择要抽取的JSON文件json_extract.json,然后点击“增加”按钮将所选择的文件添加到“选中的文件”处,具体效果如图所示 单击“字段”选项卡,进入“字段”选项卡界面,添加要抽取的数据字段(这里采用分层抽取数据字段,先抽取id和data字段,再从data字段中抽取field和value字段) 单击“确定”按钮完成JSON?input控件的配置 接下来配置JSON?input 2控件 在“JSON输入”界面勾选“源定义在一个字段里?”复选框,在“从字段获取源”后的下拉列表中选择字段名,即data ?单击“字段”选项卡,进入“字段”选项卡界面,添加从字段data中抽取的field和value字段,具体配置如图 ?4、配置“表输出”控件 单击“新建”按钮,配置数据库连接,配置完成后单击“确认”按钮 ? 单击右侧的“浏览”按钮,选择输出的目标表,即数据表json(需要提前创建好),勾选“指定数据库字段”复选框,用于将数据表json的字段与JSON文件json_extract.json中的字段进行匹配,单击“数据库字段”选项卡,进入界面后单击“输入字段映射”按钮,弹出“映射字段”对话框,依次选择并添加至映射框中? 5、运行转换 运行这个转换,实现将JSON文件中的数据抽取到数据表json中,完成后可以通过查阅数据表json查看是否转换成功 ? ? |
|
|
上一篇文章 下一篇文章 查看所有文章 |
|
开发:
C++知识库
Java知识库
JavaScript
Python
PHP知识库
人工智能
区块链
大数据
移动开发
嵌入式
开发工具
数据结构与算法
开发测试
游戏开发
网络协议
系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程 数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁 |
360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年11日历 | -2024/11/24 1:12:36- |
|
网站联系: qq:121756557 email:121756557@qq.com IT数码 |