日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程资源 > 编程问答 >内容正文

编程问答

Hadoop安装记录

發布時間:2024/8/22 编程问答 48 豆豆
生活随笔 收集整理的這篇文章主要介紹了 Hadoop安装记录 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

參考網頁:http://vampire1126.iteye.com/blog/891693

http://vampire1126.iteye.com/blog/891735

基本上是參照這個博客做下來的,然后自己實現了下。

-----------------------------------------------------正式工作------------------------------------------------------

安裝軟件:

VMware workstation 8

Ubuntu 10.04LTS

總體步驟:

1.安裝Ubuntu,在Ubuntu中裝好jdk,hadoop和ssh-server。

2.配置jdk環境變量,配置hadoop,配置ssh-key

3.單機環境運行hadoop監測是否成功

4.克隆單機hadoop環境的ubuntu,將兩臺ubuntu加入一個局域網

5.配置master和slave的ip,并測試是否ping通

6.在所有結點上配置相關master和slave信息

7.在slave中拷貝master和JobTracker的公鑰,在JobTracker上拷貝master公約

8.啟動hadoop,并用wordcount程序測試是否搭建成功

詳細步驟:

1. 利用VMware安裝虛擬機Ubuntu,我選擇的是10.04,因為10.04是長效支持版本(long-term supported)。常規的安裝過程,不累述。

2. 進入Ubuntu之后,選擇軟件源為中國的源,這里我選擇了163的源。

3. 安裝JDK

a) 在usr下新建Java文件夾,并拷貝下載好的jdk

b) 改變Java目錄為可執行,進入Java這個目錄,并執行安裝。

4. 安裝hadoop

下載hadoop并將其拷貝到usr/local文件夾下,并解壓縮,然后將帶版本號的文件夾重命名為hadoop。對應命令如下:

5. 創建hadoop的用戶組,并在hadoop用戶組中添加hadoop用戶。

6. 為添加的用戶提供root權限。

7. 配置Java變量

打開etc下的profile文件,在文件的后面加上環境變量。

改好后,重新啟動虛擬機。

8. 重啟后使用hadoop用戶登錄

檢測java環境變量是否配置好

9. 安裝ssh-server。我第一次嘗試的時候是在ubuntu11.10,需要事先update一下apt-get

創建一個rsa的ssh-key

將生成的ssh-key加入到信任列表:

10. 配置hadoop

為hadoop添加java環境變量:

配置core-site.xml

(上圖是我已經配置好集群之后的截圖,如果需要是單機環境,將master換為localhost。)

配置mapred-site.xml

(上圖是我已經配置好集群之后的截圖,如果需要是單機環境,將master換為localhost。)

11. 運行測試

格式化namenode

為hadoop用戶賦予hadoop文件夾的使用權限

啟動hadoop

利用jps查看已經啟動的服務

12. 運行wordcount程序

在tmp文件夾下添加一個文件作為測試:

將其上傳到hdf文件系統中:

執行wordcount程序,并將結果上送至result

查看result的結果:

統計結果:

(如果還需要繼續執行其余程序,應該將輸出結果放到其他文件夾,否則會出現fileAlreadyExist的錯誤)

----------------------------------------------至此,單機模式已經匹配完成------------------------------

13. 克隆單機配置好hadoop環境的ubuntu

在VM的library中的Ubuntu點擊右鍵,選擇manage中的clone,然后按照提示做一個完整的克隆。(虛擬機需要在關閉狀態)

14. 將兩臺Ubuntu加入到一個局域網中。

在虛擬機上點擊右鍵,選擇setting,點擊Network Adapter,兩臺都選擇同一個custom模式下同一個虛擬局域網。

15. 設置為其中一臺為Master(因為在虛擬機中,因此隨便選一臺即可,之后不要混淆,實際中應選取性能強勁的為Master),極為UbuntuM,另一臺為UbuntuS(Ubuntu Slave)。

分別配置兩者的IP地址:

Master:

Slave:

并測試能否ping通過:

Master:

Slave ping的地址是192.168.1.10

16. 在所有結點上,配置/usr/local/Hadoop,以下是配置好的截圖,配置過程只需要用gedit或者vi打開該文件并配置即可。

配置hosts

分別用vi打開下面畫線的文件,添加內容或者修改內容,添加和修改的內容用黃線劃出

配置hdfs-sites文件:

17. 在slave上拷貝master的密鑰

將這些密鑰添加到信任列表

18.在JobTracker上拷貝master的公鑰并添加到信任列表

19.刪除/home/hadoop下的tmp文件夾(對所有結點)

20.在master上格式化namenode

21. 啟動hadoop

利用jps查看已經啟動的服務

Master:

Slave:

22.在master上查看系統狀態

23.按照單機模式,利用wordcount,測試成功。

-----------------------------集群模式搭建成功---------------------

轉載于:https://www.cnblogs.com/XuYankang/archive/2012/03/09/2387487.html

總結

以上是生活随笔為你收集整理的Hadoop安装记录的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。