首页 > 代码库 > 大数据分析技术

大数据分析技术

大数据分析技术

MR :离线计算框架
Storm :实时计算框架
Spark :内存计算框架

 

YARN 基本架构


ResourceManager


? 处理客户端请求
? 启动/ 监控ApplicationMaster
? 监控NodeManager
? 资源分配与调度


NodeManager

? 单个节点上的资源管理
? 处理来自ResourceManager 的命令
? 处理来自ApplicationMaster 的命令


ApplicationMaster (以MRAppMaster 为例)

? 数据切分
? 为应用程序申请资源,并分配给内部任务