table

partition方式增加Hive的分区的但有时候会通过HDFS

put/cp命令或flink、flum程序往表如果目录多需要执行多条alter语句非常麻烦。

Hive提供了一个Recover

MSCK全称metastore

后Hive会去检测这个表在HDFS上的文件把没有写入metastore的分区信息写入到metastore。

具体语法如下

应当注意的是如果元数据中存在但实际数据路径不存在hive会删除元数据中的消息而不是去新增底层数据路径。

反之如果元数据中不存在单实际路径中存在hive会新增元数据信息。

by:

org.apache.hadoop.hive.ql.exec这个报错是指实际路径中存在过不去hive校验的数据通常是路径有特殊字符、数据文件格式不对等此时如果你已经确定数据没有问题但就是过不去校验可以使用下面的配置

set

hive.msck.path.validationignore;

#忽略校验错误

但是修改这个参数有个风险就是你在未来操作这些问题分区的数据文件时由于你当时没有排查并解决这些问题可能导致操作报错博主有过因为跳过验证后期在删除历史无用的分区时报空指针的问题。

原理相当简单执行后Hive会检测如果HDFS目录下存在但表的metastore中不存在的partition元信息更新到metastore中。

table

location可以不带默认改路径在表数据路径下但是注意ADD

PARTITION不会去直接操作对应的数据路径和msck的时候一样对于需要追加的新分区只操作元数据的新增。

如使用ALTER

ALTER

这个命令用于直接添加一个新的分区。

如果需要刷新所有分区可以先删除所有分区然后重新加载数据

ALTER

这个流程首先删除指定分区然后重新加载数据到该分区。

注意在实际操作中需要根据具体的Hive版本和集群配置来选择正确的方法并确保有足够的权限执行这些操作。