如何在Spyder中运行spark
生活随笔
收集整理的這篇文章主要介紹了
如何在Spyder中运行spark
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
最終成的配置方法如下:1.安裝好JDK SPARK并設置環境變量。
2.安裝號spyder
3.啟動spyder
在 tools ==> pythonpath manager 中加入如下2個路徑
/opt/spark/python
/opt/spark/python/lib
將/opt/spark 替換成自己的spark實際安裝目錄
4.在SPARK_HOME/python/lib 下會有一個類似py4j-0.9-src.zip的壓縮文件
將其解壓到當前目錄下(SPARK_HOME/python/lib),否則會報錯 找不到py4j
重啟spyder后就可以正常使用了。5.在運行時如果報錯sc沒有被定義。
程序中要加入下面的一段即可。
from pyspark import SparkContext
from pyspark import SparkConf
conf = SparkConf().setAppName("test")
sc = SparkContext(conf=conf)
總結
以上是生活随笔為你收集整理的如何在Spyder中运行spark的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: python split()
- 下一篇: 用ipython 写spark