| |
|
开发:
C++知识库
Java知识库
JavaScript
Python
PHP知识库
人工智能
区块链
大数据
移动开发
嵌入式
开发工具
数据结构与算法
开发测试
游戏开发
网络协议
系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程 数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁 |
-> 大数据 -> 第四章 数据抽取——操作题 -> 正文阅读 |
|
[大数据]第四章 数据抽取——操作题 |
通过Kettle工具,实现以下功能: 1.抽取CSV文件csv_extract.csv中的数据保存至数据库extract中的数据表csv中。 (1)打开Kettle工具,创建转换 (2)配置“CSV文件输入”控件 双击“CSV文件输入控件”,进入“CSV文件输入”界面。 单击浏览按钮,选择要抽取的文件csv_extract.csv? 单击“获取字段"按钮,Kettle自动检索CSV文件,并对文件中的字段塞型、格式、长度、精度等属性进行分析 单击“预览”按钮,查看文件CSV_?extract.?csv的数据是否抽取到csv文件输人流中 CSV文件CSV_?extract.?CSV的数据已经成功抽取到CSV文件输人流中,单击“关闭”→“确定”按钮,完成“CSV文件输人”控件的配置。
单击“新建”按钮,配置数据库连接(所连接的数据库extract?需提前创建,这里不再赘述),配置完成后单击“确认”按钮 ? 单击目标表右侧的“浏览”按钮,选择输出的目标表,即数据表csv_?extract(该表需提前创建,且表结构需根据CSV文件csv_?extract.?csv中数据的字段和数据类型进行创建,这里不演示);勾选“指定数据库字段”复选框,用于将数据表csv的字段与CSV文件csv_extaet.?csv中的字段进行匹配 选择“数据库字段”选项卡 单击“输人字段映射”按钮,弹出“映射匹配”对话框。依次选中“源字段”中的字段和“目标字段”中的对应字段,再单击Add(A)按钮,将一对映射字段添加至“映射”框中 单击“确定”按钮,完成“表输出”控件的配置。? (4)运行转换csv_extract 从执行结果的“步骤度量”可以看出,表输出"控件将从CSV?文件输人流中读取的100条数据均写人数据表csv中。 (5)查看数据表csv中的数据 通过SQLyog工具,查看数据表csv是否已成功插人100行数据。数据表csv中已插人数据(这里只展示数据表中的部分数据),说明我们成功实现了将CSV文件csv_?extract.?csv中的数据抽取到数据表csv中,结果如图。 ? ? (1)打开Kettie工具,创建转换 使用Kettle工具创建转换json_?extract,并添加?JSON?input控件、“表输出”控件的Hop跳连接线,用于实现抽取JSON文件中key值为id、field和value?的数据,并保存据表json中 (2)配置JSON input控件 ①双击JSON input控件,进入“JSON输入”界面? 单击“浏览”按钮,选择要抽取的JSON文件json?_extract.?json 单击“增加”按钮,将所选择的文件添加到“选中的文件”处 单击“字段”选项卡,进入“字段"选项卡界面 添加要抽取的数据字段(这里采用分层抽取数据字段,先抽取id和data字段,再从data字段中抽取field?和value字段) 单击“确定"按钮,完成JSONinput控件的配置 ②双击JSON?input?2控件,进入“JSON输人”界面 勾选“源定义在一一个字段里?”复选框;在“从字段获取源”后的下拉列表中选择字段名,即data 单击“字段"选项卡,进人“字段”选项卡界面 ?添加从字段data中抽取的field和value字段,单击“确定”按钮,完成JSONinput2控件的配置。 (3)配置“表输出”控件 双击“表输出”控件,进入“表输出”界面 单击“新建”按钮,配置数据库连接,配置完成后单击“确认”按钮。 单击目标表右侧的“浏览’按钮,选择输出的目标表,即数据表json;勾选“指定数据库字段”复选框,用于将数据表json的字段与JSON文件json_extract.json中的字段进行匹配 单击“数据库字段”选项卡,进入“数据库字段”选项卡的界面 单击“输入字段映射”按钮,弹出“映射匹配”对话框 依次选中“源字段”中的字段和“目标字段”中对应的字段,单击Add按钮,将一对映射字段添加至“映射”框中 单击“映射匹配”对话框中的“确定”按钮完成“表输出”控件的配置 (4)运行转换json_?extract 单击转换工作区顶部的运行按钮,运行创建的转换json?extract,?实现将JSON文件中的数据抽取到数据表json中 从执行结果的“步骤度量”可以看出,JSON?input控件输人2条数据并写人该控件中;JSON?input2控件读取JSON?input?控件的2条数据,从这2条数据的data字段中共获取6条数据作为输人并写人该控件中;“表输出"控件读取JSON?input控件的两条数据,从这两条数据的data字段中共获取6条数据作为输人并写人该控件中。也就是说.“表输出“控件从JSON?input?2流中读取的6条数据均写人数据表json中
? ? |
|
|
上一篇文章 下一篇文章 查看所有文章 |
|
开发:
C++知识库
Java知识库
JavaScript
Python
PHP知识库
人工智能
区块链
大数据
移动开发
嵌入式
开发工具
数据结构与算法
开发测试
游戏开发
网络协议
系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程 数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁 |
360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年11日历 | -2024/11/23 23:31:27- |
|
网站联系: qq:121756557 email:121756557@qq.com IT数码 |