Hive 分桶和分区的区别及应用场景
1. 表分区
1.1 概念
分区是指按照数据表的某列或某些列分为多个区,从形式上可以理解为文件夹,即针对每个分区都会有一个文件夹存储对应该分区的数据。
1.2 使用场景
比如我们要收集某个大型网站的日志数据,一个网站每天的日志数据存在同一张表上,由于每天会生成大量的日志,导致数据表的内容巨大,在查询时进行全表扫描耗费的资源非常多。那其实这个情况下,我们可以按照日期对数据表进行分区,不同日期的数据存放在不同的分区,在查询时只要指定分区字段的值就可以直接从该分区查找。
即可以加快某些查询效率。
2. 表分桶
2.1 概念
分桶则将整个数据内容安装某列属性值得hash值进行区分,如要安装name属性分为3个桶,就是对name属性值的hash值对3取摸,按照取模结果对数据分桶。如取模结果为0的数据记录存放到一个文件,取模为1的数据存放到一个文件,取模为2的数据存放到一个文件。
2.2 使用场景
当分区的个数太多的情况下,分桶不失为一种选择。同时分桶对抽样统计是非常友好的。
3. 分区又分桶
可以对数据表分区之后继续分桶,但是分区之后继续分桶,我们在hdfs文件系统上看不出分桶的多个数据表文件,只能看见一个文件,但是能从文件路径上看出分桶的信息。
