日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程资源 > 编程问答 >内容正文

编程问答

配置Spark

發(fā)布時間:2025/4/14 编程问答 30 豆豆
生活随笔 收集整理的這篇文章主要介紹了 配置Spark 小編覺得挺不錯的,現(xiàn)在分享給大家,幫大家做個參考.

?

參考《深入理解Spark:核心思想與源碼分析》

  Spark使用Scala進行編寫,而Scala又是基于JVM運行,所以需要先安裝JDK,這個不再贅述。

1.安裝Scala

  安裝獲取Scala:

wget http://download.typesafe.com/scala/2.11.5/scala-2.11.5.tgz

?  將下載的文件移動到自家想要放置的目錄。

  修改壓縮文件的權(quán)限為755(所有者讀寫執(zhí)行,同組成員讀和執(zhí)行,其他成員讀和執(zhí)行)

chmod 755 scala-2.11.5.tgz

?  解壓縮:

tar -xzvf scala-2.11.5.tgz

?  打開/etc/profile,添加scala的環(huán)境變量

vim /etc/profile

?  

  查看scala是否安裝成功:

scala

?  

?2.安裝完scala后,就要安裝spark了

  只接從網(wǎng)站上下載了spark安裝包:

  http://spark.apache.org/downloads.html

  將安裝包移動到自己指定的位置,解壓縮。

  配置環(huán)境變量:

  vim /etc/profile

?  添加spark環(huán)境變量

  

  使環(huán)境變量生效:

  source /etc/profile

?  進入spark的conf文件目錄,

  cd /home/hadoop/spark/spark-2.1.0-bin-hadoop2.7/confcp spark-env.sh.template spark-env.sh

?  在spark-env.sh目錄中添加java hadoop scala的環(huán)境變量

  

  啟動spark:

  cd /home/hadoop/spark/spark-2.1.0-bin-hadoop2.7/sbin./start-all.sh

?  打開瀏覽器,輸入http://localhost:8080

  

   可見Spark已經(jīng)運行了。

http://blog.csdn.net/wuliu_forever/article/details/52605198這個博客寫的很好

轉(zhuǎn)載于:https://www.cnblogs.com/qj4d/p/7110972.html

總結(jié)

以上是生活随笔為你收集整理的配置Spark的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯,歡迎將生活随笔推薦給好友。