Hive常用交互命令
-e:不进入hive的交互窗口执行sql语句
bin/hive -e "select id from test;"
-f:执行脚本中sql语句
创建sql脚本hive.sql
select * from test;
执行脚本
bin/hive -f data/hive.sql > data/result.txt
Hive常用命令
退出hive窗口
hive> exit;
hive> quit;
在hive客户端命令窗口中如何查看hdfs文件系统
hive> dfs -ls /;
查看在hive中输入的所有历史命令
进入到当前用户的根目录cd ~ ,查看.hivehistory文件
cat .hivehistory
Hive运行日志信息配置
Hive的log 默认存放在/tmp/当前用户名/hive.log 目录下
修改hive的 log 存放日志到/opt/module/hive/logs
第一步:修改hive/conf/hive-log4j2.properties.template 文件名称为hive-log4j2.properties
第二步:在hive-log4j2.properties 文件中修改log存放位置
打印当前库和表头
在hive-site.xml中加入如下两个配置
<property>
<name>hive.cli.print.header</name>
<value>true</value>
</property>
<property>
<name>hive.cli.print.current.db</name>
<value>true</value>
</property>
Hive参数配置方式
查看当前所有的配置信息
hive> set
参数的配置三种方式
参数的配置三种方式
默认配置文件:hive-default.xml
用户自定义配置文件:hive-site.xml
用户自定义配置会覆盖默认配置,另外Hive也会读入Hadoop的配置,因为Hive是作为Hadoop的客户端启动的,Hive的配置会覆盖Hadoop的配置。配置文件的设定对本机启动的所有Hive进程都有效
命令行参数方式
启动Hive时,可以在命令行添加-hiveconf param=value 来设定参数,仅对本次hive启动有效
bin/hive -hiveconf mapred.reduce.tasks=10;
查看参数设置
hive> set mapred.reduce.tasks;
参数声明方式
可以在HQL中使用SET关键字设定参数
hive> set mapred.reduce.tasks=100;
上述三种设定方式的优先级依次递增。即配置文件<命令行参数<参数声明。注意某些系统级的参数,例如log4j相关的设定,必须用前两种方式设定,因为那些参数的读取在会话建立以前已经完成了
Hive数据类型
基本数据类型
Hive数据类型 | Java数据类型 | 长度 | 例子 |
---|
TINYINT | byte | 1byte有符号整数 | 20 | SMALINT | short | 2byte有符号整数 | 20 | INT | int | 4byte有符号整数 | 20 | BIGINT | long | 8byte有符号整数 | 20 | BOOLEAN | boolean | 布尔类型,true或者false | TRUE FALSE | FLOAT | float | 单精度浮点数 | 3.14159 | DOUBLE | double | 双精度浮点数 | 3.14159 | STRING | string | 字符系列,可以指定字符集,可以使用单引号或者双引号。 | hive | TIMESTAMP | | 时间类型 | | BINARY | | 字节数组 | |
对于Hive的String类型相当于数据库的varchar类型,该类型是一个可变的字符串,不过它不能声明其中最多能存储多少个字符,理论上它可以存储2GB的字符数
集合数据类型
数据类型 | 描述 | 语法示例 |
---|
STRUCT | 和c语言中的struct类似,都可以通过“点”符号访问元素内容。例如,如果某个列的数据类型是STRUCT{first STRING, last STRING},那么第1个元素可以通过字段.first来引用 | struct() | MAP | MAP是一组键-值对元组集合,使用数组表示法可以访问数据。例如,如果某个列的数据类型是MAP,其中键 ->值对是’first’->’John’和’last’->’Doe’,那么可以通过字段名[‘last’]获取最后一个元素 | map() | ARRAY | 数组是一组具有相同类型和名称的变量的集合。这些变量称为数组的元素,每个数组元素都有一个编号,编号从 零开始。例如,数组值为[‘John’, ‘Doe’],那么第2个元素可以通过数组名[1]进行引用 | Array() |
Hive有三种复杂数据类型ARRAY、MAP和STRUCT。ARRAY和MAP与Java中的Array和Map类似,而STRUCT与C语言中的Struct类似,它封装了一个命名字段集合,复杂数据类型允许任意层次的嵌套
集合数据操作
{
"name": "czs",
"friends": ["qhh" , "xyx"] ,
"children": {
"czs age": 18 ,
"qhh age": 19
}
"address": {
"street": "tkk",
"city": "xujc"
}
}
创建数据库
create table stu
(
name string,
friends array<string>,
children map<string,int>,
address struct<street:string,city:string>
)
row format delimited fields terminated by ','
collection items terminated by '_'
map keys terminated by ':'
lines terminated by '\n';
row format delimited fields terminated by ',' :列分隔符
collection items terminated by '_' :MAP STRUCT和ARRAY的分隔符(数据分割符号)
map keys terminated by ':' :MAP中的key与value的分隔符
lines terminated by '\n'; :行分隔符
创建数据
数据繁多,可以通过外部文件方式导入数据
czs,qhh_xyx,czs age:18_qhh age:19,tkk_xujc
导入文本数据到测试表
load data local inpath 'hive/datas/test.txt' into table test;
访问数据
select friends[1],children['czs age'],address.city from test where name="czs";
Hive类型转化
Hive的原子数据类型是可以进行隐式转换的,类似于Java的类型转换,例如某表达式使用INT类型,TINYINT会自动转换为INT类型,但是 Hive不会进行反向转化,例如,某表达式使用TINYINT类型,INT不会自动转换为TINYINT类型,它会返回错误,除非使用CAST操作
隐式类型转换规则
- 任何整数类型都可以隐式地转换为一个范围更广的类型,如TINYINT可以转换成INT,INT可以转换成BIGINT
- 所有整数类型、FLOAT和STRING类型都可以隐式地转换成DOUBLE
- TINYINT、SMALLINT、INT都可以转换为FLOAT
- BOOLEAN类型不可以转换为任何其它的类型
使用CAST操作显示进行数据类型转换
CAST(‘1’ AS INT)将把字符串’1’ 转换成整数 1;如果强制类型转换失败,如执行 CAST(‘X’ AS INT),表达式返回空值 NULL
select '1'+2, cast('1'as int) + 2;
|