| |
|
开发:
C++知识库
Java知识库
JavaScript
Python
PHP知识库
人工智能
区块链
大数据
移动开发
嵌入式
开发工具
数据结构与算法
开发测试
游戏开发
网络协议
系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程 数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁 |
-> 大数据 -> 描述 mapReduce 中 shuffle 阶段的工作流程 -> 正文阅读 |
|
[大数据]描述 mapReduce 中 shuffle 阶段的工作流程 |
1)maptask 收集我们的 map()方法输出的 kv 对,放到内存缓冲区中 2)从内存缓冲区不断溢出本地磁盘文件,可能会溢出多个文件 3)多个溢出文件会被合并成大的溢出文件 4)在溢出过程中,及合并的过程中,都要调用 partitioner 进行分区和针对 key 进行排 序 5)reducetask 根据自己的分区号,去各个 maptask 机器上取相应的结果分区数据 6)reducetask 会取到同一个分区的来自不同 maptask 的结果文件,reducetask 会将这些 文件再进行合并(归并排序) 7)合并成大文件后,shuffle 的过程也就结束了,后面进入 reducetask 的逻辑运算过程 (从文件中取出一个一个的键值对 group,调用用户自定义的 reduce()方法) |
|
|
上一篇文章 下一篇文章 查看所有文章 |
|
开发:
C++知识库
Java知识库
JavaScript
Python
PHP知识库
人工智能
区块链
大数据
移动开发
嵌入式
开发工具
数据结构与算法
开发测试
游戏开发
网络协议
系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程 数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁 |
360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年11日历 | -2024/11/23 5:26:23- |
|
网站联系: qq:121756557 email:121756557@qq.com IT数码 |