MapReduce执行原理（涉及底层，较难理解）
MR执行原理
底层原理较难理解
思维导图
图解
Map阶段
图解
原理
- 【逻辑切片】将输入目录下的文件逐个进行逻辑切片。每一个切片由一个MapTask处理
- 【读取切片数据获得k1和v1】读取切片的数据按照一定规则解析成<k1,v1>。默认规则是把每一行文本内容解析成键值对，k1是每一行的起始偏移量，v1是行内容
- 【使用map方法获得k2和v2】使用map方法根据具体业务要求将<k1,v1>转换成<k2,v2>。每次调用map方法会输出零个或多个键值对
- 【分区】按照一定的规则对map方法输出的键值对进行分区。分区的数量就是Reducer任务运行的数量，默认只有一个Reducer任务，一个分区。
- 【排序】对分区中的键值对进行排序。先按照键排序，键相同的则按照值排序
- 【规约】（可能有，也可能没有此步骤）提前调用reduce()方法对局部数据进行合并（提前聚合 => Hive优化）
Reduce阶段
图解
原理
- 【拉取分区数据】主动从MapTask拉取属于自己分区的数据，将其写到内存
- 【排序】当内存触发溢写机制后，将内存中的数据写入到磁盘中形成小文件。最后全部小文件合并成大文件并执行排序操作
- 【分组】调用reduce方法，把键值相同的放在同一组中进行合并（分组），最后将最终结果写到HDFS中
上一篇：
JS实现多线程数据分片下载
下一篇：
php的fread函数的一个巨大的坑