hive严格模式:No partition predicate found for Alias

在hive提数时出现了如下报错:Error while compiling statement: FAILED: SemanticException [Error 10041]: No partition predicate found for Alias。这是因为hive提供了一个严格模式,可以防止用户执行那些可能产生意想不到的不好效果的查询。即某些查询在严格模式下无法执行。

sample 1:在一个分区表执行hive,除非where语句中包含分区字段过滤条件来显示数据范围,否则不允许执行。换句话说, 就是用户不允许扫描所有的分区。进行这个限制的原因是,通常分区表都拥有非常大的数据集,而且数据增加迅速。

如果没有进行分区限制的查询可能会消耗令人不可接受的巨大资源来处理这个表。

如下语句报错:

select t4.id,t4.order_type from all_order.wm_order_too t4

将如上语句加上where限制条件后恢复正常:

select t4.id,t4.order_type from all_order.wm_order_too t4 where t4.dt between 20180601 and 20180630

sample 2:带有orderby的查询 对于使用了orderby的查询,要求必须有limit语句。因为orderby为了执行排序过程会讲所有的结果分发到同一个reducer中 进行处理,强烈要求用户增加这个limit语句可以防止reducer额外执行很长一段时间: SELECT * FROM fracture_ins WHERE hit_date>2012 ORDER BY planner_id; FAILED: Error in semantic analysis: line 1:56 In strict mode, limit must be specified if ORDER BY is present planner_id

只需要增加limit语句就可以解决这个问题: SELECT * FROM fracture_ins WHERE hit_date>2012 ORDER BY planner_id LIMIT 100000;

有酒有风
有酒有风
经验分享 程序员 微信小程序 职场和发展