Advertisement

Submit JavaWeb tasks to Spark standalone cluster and monitor

阅读量:
  • 通过Java Web平台向Spark Standalone集群提交作业并实施过程监控
    • 运行环境配置
    • 工程资源获取地址
    • Spark作业提交操作步骤
    • 遇到的疑难问题及对应解决方案
    • 结语

Java Web提交任务到Spark Standalone集群并监控

1. 环境

软件 版本 备注
IDEA 14.1.5
JDK 1.8
Spark 1.6.0 工程maven引用
Spark cdh5.7.3-spark1.6.0 实际集群5.7.3-1.cdh5.7.3.p0.5
Hadoop 2.6.4 工程Maven引用
Hadoop 2.6.0-cdh5.7.3 实际集群参数
Maven 3.3

2. 工程下载路径

该工程的GitHub存储位置为: javaweb_spark_standalone_monitor

3. Spark任务提交流程

此前已有相关的研究实践,了解可通过以下途径将任务提交至Spark Standalone集群:

复制代码
    Stri

全部评论 (0)

还没有任何评论哟~