Advertisement

Windows、Pycharm和Spark的环境配置 Windows、PycharmandSpark的环境配置

阅读量:

一、 环境配置
1)Python环境配置
2)Pycharm可通过官方网站获取安装
3)同时建议下载对应版本的Spark软件包。例如从Spark官网下载1.6.0版本。
- 解压过程需完成并放置于指定路径位置,请参考以下路径设置:D:\spark-1.6.0-bin-hadoop2.6。
- 设置SPARK_HOME变量为D:\spark-1.6.0-bin-hadoop2.6,并将该变量添加至系统环境变量中的PATH字段中以供后续使用。
- 在命令行界面中执行pyspark命令以启动 Spark 应用程序。若操作成功则表明已正确配置好所需环境变量。

这里写图片描述

启动PyCharm软件,在其中创建一个新的Python工程以及一个名为word_count.py的新文件。然后运行以下代码片段以验证spark包的导入是否成功。

复制代码
    import os
    # Path for spark source folder
    os.environ['SPARK_HOME'] = "D:\spark-1.6.0-bin-hadoop2.

全部评论 (0)

还没有任何评论哟~