spark有哪些组件?

1、ClusterManager:在Standalone模式中即为Master节点(主节点),控制整个集群,监控Worker.在YARN中为ResourceManager

2、Worker:从节点,负责控制计算节点,启动Executor或Driver。在YARN模式中为NodeManager,负责计算节点的控制。

3、Driver:运行Application的main()函数并创建SparkContect。

4、Executor:执行器,在worker node上执行任务的组件、用于启动线程池运行任务。每个Application拥有独立的一组Executor。

5、SparkContext:整个应用的上下文,控制应用的生命周期。

6、RDD:Spark的计算单元,一组RDD可形成执行的有向无环图RDD Graph。

7、DAG Scheduler:根据作业(Job)构建基于Stage的DAG,并提交Stage给TaskScheduler。

8、TaskScheduler:将任务(Task)分发给Executor。

9、SparkEnv:线程级别的上下文,存储运行时的重要组件的引用。

SparkEnv内构建并包含如下一些重要组件的引用。
(1)MapOutPutTracker:负责Shuffle元信息的存储。

(2)BroadcastManager:负责广播变量的控制与元信息的存储。

(3)BlockManager:负责存储管理、创建和查找快。

(4)MetricsSystem:监控运行时性能指标信息。

(5)SparkConf:负责存储配置信息。


Hi:
更多面试题==>点我 (很全哦)
精选文章==>点我(读读业界应用博客,面试能加分哦)
编程也能挣钱==>点我
标签: executor、sparkenv、worker、rdd、taskscheduler
欢迎观看一个全栈工程师的视频,全屏体验更好^_^
笔试题


刷题


简历模板


AI算法


大数据


内推


推荐阅读:
阿里巴巴笔试面试大全
腾讯笔试面试大全
百度笔试面试大全
今日头条笔试面试大全
网易笔试面试大全
Google笔试面试大全
更多笔试面试大全