日韩av黄I国产麻豆传媒I国产91av视频在线观看I日韩一区二区三区在线看I美女国产在线I麻豆视频国产在线观看I成人黄色短片

歡迎訪問 生活随笔!

生活随笔

當(dāng)前位置: 首頁 >

Mac上安装hadoop

發(fā)布時間:2025/6/15 27 豆豆
生活随笔 收集整理的這篇文章主要介紹了 Mac上安装hadoop 小編覺得挺不錯的,現(xiàn)在分享給大家,幫大家做個參考.

1.安裝JAVA——之后會運行jar包,肯定需要java的運行環(huán)境

查看java版本: [html]?view plaincopy
  • java?-version??


  • ————————————————————————————————————————————————————————————————————————————
    2.下載hadoop 地址:http://hadoop.apache.org/releases.html

    然后看到

    我沒有選版本太高的,因為不會用

    存放的路徑可以看到:/Users/hadoop

    配置mac os 自身環(huán)境
    這個主要是配置ssh環(huán)境。先在terminal里面輸入
    [html]?view plaincopy
  • <span?style="white-space:pre">????</span>ssh?localhost??
  • 會有錯誤提示信息,表示當(dāng)前用戶沒有權(quán)限。這個多半是系統(tǒng)為安全考慮,默認(rèn)設(shè)置的。更改設(shè)置如下:進入system preference --> sharing --> 勾選remote login,并設(shè)置allow access for all users。再次輸入“ssh localhost",再輸入密碼并確認(rèn)之后,可以看到ssh成功。
    不過這里面還有一個麻煩,就是每次都會要求輸入用戶密碼。《Hadoop實戰(zhàn)》提供了一種免登陸的方法。首先,輸入
    [html]?view plaincopy
  • <span?style="white-space:pre">????</span>ssh-keygen?-t?dsa?-P?''?-f?~/.ssh/id_dsa??
  • ssh-keygen表示生成秘鑰;-t表示秘鑰類型;-P用于提供密語;-f指定生成的秘鑰文件。這個命令在”~/.ssh/“文件夾下創(chuàng)建兩個文件id_dsa和id_dsa.pub,是ssh的一對兒私鑰和公鑰。接下來,將公鑰追加到授權(quán)的key中去,輸入:
    [html]?view plaincopy
  • <span?style="white-space:pre">????</span>cat?~/.ssh/id_dsa.pub?>>?~/.ssh/authorized_keys??
  • ————————————————————————————————————————————————————————————————————————————
    3設(shè)置環(huán)境變量
    在實際啟動Hadoop之前,有三個文件需要進行配置。

    但在這之前,我們需要設(shè)置一下幾個類似Windows的環(huán)境變量,方便以后在命令行敲命令。

    export HADOOP_HOME=/Users/hadoop/hadoop-1.2.1 ? ? ?(根據(jù)你自己的目錄進行設(shè)定)

    export PATH=$PATH:$HADOOP_HOME/bin
    注明:export設(shè)置只對當(dāng)前的bash登錄session有效。這是存在內(nèi)存里面的。如果你嫌麻煩,就直接寫入etc中的profile文件里面就好。 ————————————————————————————————————————————————————————————————————————————
    4.配置hadoop-env.sh
    在Hadoop->conf目錄下,找到hadoop-env.sh,打開編輯進行如下設(shè)置:

    export JAVA_HOME=/System/Library/Frameworks/JavaVM.framework/Versions/1.6.0/Home(去掉注釋)

    export HADOOP_HEAPSIZE=2000(去掉注釋)

    export HADOOP_OPTS="-Djava.security.krb5.realm=OX.AC.UK -Djava.security.krb5.kdc=kdc0.ox.ac.uk:kdc1.ox.ac.uk"(去掉注釋)

    注意第三個配置在OS X上最好進行配置,否則會報“Unable to load realm info from SCDynamicStore”。
    ————————————————————————————————————————————————————————————————————————————
    5.配置core-site.xml——指定了NameNode的主機名與端口 [html]?view plaincopy
  • <?xml?version="1.0"?>??
  • <?xml-stylesheet?type="text/xsl"?href="configuration.xsl"?>??
  • ??
  • <!--?Put?site-specific?property?overrides?in?this?file.?-->??
  • ??
  • <configuration>??
  • ????<property>??
  • ????????<name>hadoop.tmp.dir</name>??
  • ????????<value>hdfs://localhost:9000</value>??
  • ????????<description>A?base?for?other?temporary?directories.</description>??
  • ????</property>??
  • ????<property>??
  • ????????<name>fs.default.name</name>??
  • ????????<value>hdfs://localhost:8020</value>??
  • ????</property>??
  • </configuration>???
  • ————————————————————————————————————————————————————————————————————————————
    6.配置hdfs-site.xml——指定了HDFS的默認(rèn)參數(shù)副本數(shù),因為僅運行在一個節(jié)點上,所以這里的副本數(shù)為1 [html]?view plaincopy
  • <?xml?version="1.0"?>??
  • <?xml-stylesheet?type="text/xsl"?href="configuration.xsl"?>??
  • ??
  • <!--?Put?site-specific?property?overrides?in?this?file.?-->??
  • ??
  • <configuration>??
  • ????<property>??
  • ????????<name>dfs.replication</name>??
  • ????????<value>1</value>??
  • ????</property>??
  • </configuration>???
  • ————————————————————————————————————————————————————————————————————————————
    7.配置mapred-site.xml——指定了JobTracker的主機名與端口 [html]?view plaincopy
  • <?xml?version="1.0"?>??
  • <?xml-stylesheet?type="text/xsl"?href="configuration.xsl"?>??
  • ??
  • <!--?Put?site-specific?property?overrides?in?this?file.?-->??
  • ??
  • <configuration>??
  • ????<property>??
  • ????????<name>mapred.job.tracker</name>??
  • ????????<value>hdfs://localhost:9001/value>??
  • ????</property>??
  • ????<property>??
  • ????????<name>mapred.tasktracker.map.tasks.maximum</name>??
  • ????????<value>2</value>??
  • ????</property>??
  • ????<property>??
  • ????????<name>mapred.tasktracker.reduce.tasks.maximum</name>??
  • ????????<value>2</value>??
  • ????</property>??
  • </configuration>??
  • ————————————————————————————————————————————————————————————————————————————
    8.安裝HDFS 經(jīng)過以上的配置,就可以進行HDFS的安裝了。 [html]?view plaincopy
  • $HADOOP_HOME/bin/hadoop?namenode?-format??

  • 如果出現(xiàn)以下結(jié)果:


    就說明你的HDFS已經(jīng)安裝成功了。

    ————————————————————————————————————————————————————————————————————————————
    9.啟動Hadoop
    很簡單,一條命令搞定。
    [html]?view plaincopy
  • $HADOOP_HOME/bin/start-all.sh??




  • 到這里,hadoop單機偽分布式的環(huán)境就算搭建好了。 下一篇,用最簡單的程序來看下效果。

    總結(jié)

    以上是生活随笔為你收集整理的Mac上安装hadoop的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。

    如果覺得生活随笔網(wǎng)站內(nèi)容還不錯,歡迎將生活随笔推薦給好友。