Greenplum分布键选取策略
Greenplum由多个postgres组合而成,因此Greenplum属于分布式数据库,所以在创建数据表的时候需要指定分布键,当然在不指定的时候Greenplum数据库会默认使用使用表的第一个字段作为数据库的分布键。
Greenplum分布策略
(1)hash分布:选择一个列后者多个列作为数据表的分布键,通过hash计算,然后将插入的数据路由到特定的segment上;
CREATE TABLE open.t_ttt( f_id INT, f_num INT ) distribute by f_id;
(2)随机分布:数据随机分散在每一个节点中,可以保证数据平均分布,但是在执行SQL的过程中,关联等操作都需要将数据重分布,性能较差。
CREATE TABLE open.t_ttt( f_id INT, f_num INT ) distribute by random;
Greenplum分布键选取策略
(1)尽量选择经常需要JOIN的列:当关联键和分布键均一致时,可以在Segment中完成JOIN,不需要重分布或者广播小表;当关联键和分布键不一致时,则需要重分布不一致的表或者广播小表,带来额外的开销。
(2)尽量选择分布均匀的列或者多列:若选择的分布列值分布不均匀,则可能导致数据倾斜。某些Segment非常大(压力大),某些Segment非常小。根据木桶原理,时间消耗会卡在数据多的节点上。
(3)尽量选择高并发查询的条件列(指该查询条件产生的中间结果集小的,如果中间结果集很大,那就让所有节点都来参与运算更好,因此不选)
如果数据经常被高并发的键值或离散查询,可以将查询条件的列作为分布列,这样不需要连接到所有的Segment去查,可以大大提高并发能力。
(4)不要轻易使用随机分布。