当前位置:主页 > 软件编程 > JAVA代码 >

MapReduce核心思想图文详解

时间:2021-12-18 10:09:53 | 栏目:JAVA代码 | 点击:

MapReduce核心编程思想,如图1-1所示。

图1-1 MapReduce核心编程思想

1)分布式的运算程序往往需要分成至少2个阶段。

2)第一个阶段的MapTask并发实例,完全并行运行,互不相干。

3)第二个阶段的ReduceTask并发实例互不相干,但是他们的数据依赖于上一个阶段的所有MapTask并发实例的输出。

4)MapReduce编程模型只能包含一个Map阶段和一个Reduce阶段,如果用户的业务逻辑非常复杂,那就只能多个MapReduce程序,串行运行。

小结:分析WordCount数据流走向深入理解MapReduce核心思想。

总结

您可能感兴趣的文章:

相关文章