Advertisement

Spark CoreTaskScheduler源码解析与任务提交机制分析

阅读量:

引言

在上一节《TaskScheduler源码与任务提交原理浅析1》中,已经对TaskScheduler的构建流程进行了说明。本节内容将延续《Stage生成和Stage源码浅析》中提及的submitMissingTasks函数,进一步阐述任务的生成与分配机制。

DAGScheduler中的submitMissingTasks函数

当某一Stage的所有父级Stage均已完成计算或已被缓存存储时,系统将触发submitMissingTasks方法,用以提交该Stage

全部评论 (0)

还没有任何评论哟~