快捷搜索: 王者荣耀 脱发

Greenplum分布键选取策略

  Greenplum由多个postgres组合而成,因此Greenplum属于分布式数据库,所以在创建数据表的时候需要指定分布键,当然在不指定的时候Greenplum数据库会默认使用使用表的第一个字段作为数据库的分布键。

  Greenplum分布策略

  (1)hash分布:选择一个列后者多个列作为数据表的分布键,通过hash计算,然后将插入的数据路由到特定的segment上;

CREATE TABLE open.t_ttt(
    f_id INT, 
    f_num INT
)
distribute by f_id;

  (2)随机分布:数据随机分散在每一个节点中,可以保证数据平均分布,但是在执行SQL的过程中,关联等操作都需要将数据重分布,性能较差。

CREATE TABLE open.t_ttt(
    f_id INT, 
    f_num INT
)
distribute by random;

  Greenplum分布键选取策略

  (1)尽量选择经常需要JOIN的列:当关联键和分布键均一致时,可以在Segment中完成JOIN,不需要重分布或者广播小表;当关联键和分布键不一致时,则需要重分布不一致的表或者广播小表,带来额外的开销。

  (2)尽量选择分布均匀的列或者多列:若选择的分布列值分布不均匀,则可能导致数据倾斜。某些Segment非常大(压力大),某些Segment非常小。根据木桶原理,时间消耗会卡在数据多的节点上。

  (3)尽量选择高并发查询的条件列(指该查询条件产生的中间结果集小的,如果中间结果集很大,那就让所有节点都来参与运算更好,因此不选)

  如果数据经常被高并发的键值或离散查询,可以将查询条件的列作为分布列,这样不需要连接到所有的Segment去查,可以大大提高并发能力。

  (4)不要轻易使用随机分布。

经验分享 程序员 微信小程序 职场和发展