| |
|
开发:
C++知识库
Java知识库
JavaScript
Python
PHP知识库
人工智能
区块链
大数据
移动开发
嵌入式
开发工具
数据结构与算法
开发测试
游戏开发
网络协议
系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程 数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁 |
-> 大数据 -> Hive创建外部表造成数据重复 -> 正文阅读 |
|
[大数据]Hive创建外部表造成数据重复 |
1.上传文件 hdfs dfs -put 1.txt /user/mars 2.创建表 create external table if not exists? temp.student( 3.加载数据 load data inpath '/user/mars/1.txt' into table temp.student; 4.删除外部表 drop table temp.mars 此时再重新创建外部表,然后加载数据时,报1.txt文件不存在 原因是/user/mars目录下的文件被移动到temp.mars表对应的目录下了 然后,再次上传1.txt文件到/user/mars(HDFS目录) 加载文件到外部表,查询数据时,发现数据时重复的,但原数据并未重复。原因是1.txt文件被加载到外部表时,外部表的目录下已经存在1.txt文件,此时待移动的文件会命名为1_copy_1.txt与1.txt同时存在,所以查询数据会重复。 解决方案:1.加载数据时,指定overwrite,如load data inpath '/user/mars/1.txt' overwrite into table temp.student; 2.也可以直接创建外部表,不加载数据,因为原来的数据已经存在表的目录下了。 |
|
|
上一篇文章 下一篇文章 查看所有文章 |
|
开发:
C++知识库
Java知识库
JavaScript
Python
PHP知识库
人工智能
区块链
大数据
移动开发
嵌入式
开发工具
数据结构与算法
开发测试
游戏开发
网络协议
系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程 数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁 |
360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年11日历 | -2024/11/22 23:33:27- |
|
网站联系: qq:121756557 email:121756557@qq.com IT数码 |