Hive分区修复命令MSCK介绍与使⽤
我们在使⽤Hive的时候肯定遇到过建⽴了⼀张分区表,然后⼿动(⽐如使⽤ cp 或者 mv )将分区数据拷贝到刚刚新建的表作为数据初始化
的⼿段;但是对于分区表我们需要在hive⾥⾯⼿动将刚刚初始化的数据分区加⼊到hive⾥⾯,这样才能供我们查询使⽤,我们⼀般会想到使
⽤ alter table add partition 命令⼿动添加分区,但是如果初始化的分区太多,这样⼀条⼀条地⼿动添加分区不免过于⿇烦(虽然我们可以
写个脚本⽣成添加分区的命令)。今天我将给⼤家介绍的命令可以只使⽤⼀次即可添加全部的分区,如下:
madeMSCK REPAIR TABLE table_name;
运⾏上⾯的命令后,Hive会检测HDFS⽬录下存在但表的metastore中不存在的partition元信息,然后更新到metastore中。
下⾯我来介绍如何使⽤这个命令,我新建了名为 temp.iteblog_hadoop 的表,然后⼿动 mv 了⼏个⽬录的数据到这个表数据⽬录下,这⼏
厄尔尼诺英文
个⼿动添加的⽬录在hive中⽬前肯定⽆法被查询到,所以我可以使⽤下⾯的命令来识别这些分区:
hive> show partitions temp.iteblog_hadoop;
OK
Time taken: 1.491 conds
hive> MSCK REPAIR TABLE temp.iteblog_hadoop;
17/02/21 16:07:15 WARN log: Updating partition stats fast for: iteblog_hadoop
junk是什么意思17/02/21 16:07:15 WARN log: Updated size to 11595
17/02/21 16:07:15 WARN log: Updating partition stats fast for: iteblog_hadoop
quit的用法
17/02/21 16:07:15 WARN log: Updated size to 23861
17/02/21 16:07:15 WARN log: Updating partition stats fast for: iteblog_hadoop
usually的音标
17/02/21 16:07:15 WARN log: Updated size to 784358
17/02/21 16:07:15 WARN log: Updating partition stats fast for: iteblog_hadoop
17/02/21 16:07:15 WARN log: Updated size to 2396891
17/02/21 16:07:15 WARN log: Updating partition stats fast for: iteblog_hadoop
17/02/21 16:07:15 WARN log: Updated size to 2234631
17/02/21 16:07:15 WARN log: Updating partition stats fast for: iteblog_hadoop
17/02/21 16:07:15 WARN log: Updated size to 36621058
17/02/21 16:07:15 WARN log: Updating partition stats fast for: iteblog_hadoop
17/02/21 16:07:15 WARN log: Updated size to 21093250
OK
Partitions not in metastore: iteblog_hadoop:dt=2017-02-15 iteblog_hadoop:dt=2017-02-16 iteblog_hadoop:dt=2017-02-17 iteblog_hadoop:dt=2017-02-18 Repair: Added partition to metastore temp.iteblog_hadoop:dt=2017-02-15
小学英语教学质量分析Repair: Added partition to metastore temp.iteblog_hadoop:dt=2017-02-16
Repair: Added partition to metastore temp.iteblog_hadoop:dt=2017-02-17
中秋节为什么吃月饼Repair: Added partition to metastore temp.iteblog_hadoop:dt=2017-02-18
初中英语一对一Repair: Added partition to metastore temp.iteblog_hadoop:dt=2017-02-19
Repair: Added partition to metastore temp.iteblog_hadoop:dt=2017-02-20
Repair: Added partition to metastore temp.iteblog_hadoop:dt=2017-02-21
Time taken: 0.575 conds, Fetched 8 row(s)
从上⾯的命令可以看出,已经将所有的分区加⼊到Hive的metastore了,是不是很⽅便啊。
exactly注:为了让 MSCK 命令⼯作,分区的⽬录名必须是 /partition_name=partition_value/结构的,否则将⽆法添加分区。这时候你必须使⽤
hba
add partition命令了。