利用Spark Shell评估Spark集群基于cache mechanism
发布时间
阅读量:
阅读量
第一部分 通过Spark的shell测试Spark的工作
Step_1:启动spark-shell
首先需要初始化Spark集群环境,随后进入Spark Shell交互界面。具体操作步骤为:定位至系统路径/usr/local/spark/spark-1.4.0-bin-hadoop1/sbin,执行命令spark-shell以启动相关进程,实际运行效果如下所示:

Step_2:把Spark安装目录下的"README.md"复制到HDFS系统上
在Master节点中开启一个新的命令行界面,随后进入Spark的安装路径。有关hadoop dfs命令的参数说明如下:

将相关文件传输至HDFS系统的根目录文件夹中:

还没有任何评论哟~
