苦戰了18個小時，終于祭出了一片記敘文！

在這里我只想說：在本機裝虛擬機搞hadoop跟在云服務器上真的不一樣。。。

開始：

Ps: 在看這里的時候，你的java環境應該已經配置了

1.系統環境配置

1.1 下載hadoop，我這里使用3.x版本

下載hadoop地址地址：http://mirror.bit.edu.cn/apache/hadoop/common/

1.2 先關閉防火墻

systemctl stop firewalld.service #停止防火墻

(僅供參考)centos7的方式：

systemctl stop firewalld.service #停止防火墻 systemctl start firewalld.service #開啟防火墻 systemctl status firewalld.service #查看防火墻狀態 systemctl enable firewalld.service #開機自啟 “啟用” systemctl disable firewalld.service #開機自啟 “禁用”

1.3配置系統文件的host

網上幾乎所有的文章都沒說這個，哎，踩了好久

1.3.1進入host文件

vim /etc/hosts

1.3.2修改添加配置（node1是接下來要用的）

0.0.0.0 node1

2.配置hadoop

2.1 解壓

我把hadoop放到了 /usr/local/src/hadoop 目錄下

tar xzvf hadoop-3.1.1.tar.gz

2.2 修改hadoop配置文件

進入hadoop-3.1.1/etc/hadoop中

cd /usr/local/src/hadoop/hadoop-3.1.1/etc/hadoop

2.3修改core-site.xml(寫入到configuration標簽中)

<configuration><property><name>fs.defaultFS</name><value>hdfs://node1:8020</value></property><!-- 臨時文件存儲目錄 根據自己的目錄調整 --><property><name>hadoop.tmp.dir</name><value>/usr/local/src/hadoop/hadoop-3.1.1/datas/tmp</value></property><!-- 緩沖區大小，實際工作中根據服務器性能動態調整 --><property><name>io.file.buffer.size</name><value>8192</value></property><!-- 開啟hdfs的垃圾桶機制，刪除掉的數據可以從垃圾桶中回收，單位分鐘 --><property><name>fs.trash.interval</name><value>10080</value></property> </configuration>

2.4修改 hadoop-env.sh 文件

在文件頭部加上以下內容（注意替換java的環境目錄）

export HDFS_NAMENODE_USER="root" export HDFS_DATANODE_USER="root" export HDFS_SECONDARYNAMENODE_USER="root" export YARN_RESOURCEMANAGER_USER="root" export YARN_NODEMANAGER_USER="root" export JAVA_HOME=/usr/local/src/java/jdk1.8.0_141

如圖：

2.5修改hdfs-site.xml(寫入到configuration標簽中)

注意：修改為自己的文件的存儲路徑

<configuration><!--namenode元數據存放目錄--><property><name>dfs.namenode.name.dir</name><value>file:///usr/local/src/hadoop/hadoop-3.1.1/datas/namenode/namenodedatas</value></property><!--設置文件的塊大小--><property><name>dfs.blocksize</name><value>134217728</value></property><property><name>dfs.namenode.handler.count</name><value>10</value></property><!--datanode數據存放目錄--><property><name>dfs.datanode.data.dir</name><value>file:///usr/local/src/hadoop/hadoop-3.1.1/datas/datanode/datanodeDatas</value></property><!--通過瀏覽器訪問hdfs的端口--><property><name>dfs.namenode.http-address</name><value>node1:50070</value></property><!--設置文件的副本數--><property><name>dfs.replication</name><value>1</value></property><!--設置hdfs的權限訪問--><property><name>dfs.permissions.enabled</name><value>false</value></property><property><name>dfs.namenode.checkpoint.edits.dir</name><value>file:///usr/local/src/hadoop/hadoop-3.1.1/datas/dfs/nn/snn/edits</value></property><property><name>dfs.namenode.secondary.http-address</name><value>node1:50090</value></property><!--日志文件的存放路徑--><property><name>dfs.namenode.edits.dir</name><value>file:///usr/local/src/hadoop/hadoop-3.1.1/datas/dfs/nn/edits</value></property><property><name>dfs.namenode.checkpoint.dir</name><value>file:///usr/local/src/hadoop/hadoop-3.1.1/datas/dfs/snn/name</value></property> </configuration>

2.6修改mapred-site.xml(寫入到configuration標簽中)

注意：修改為自己的文件的存儲路徑

<configuration><!--指定框架--><property><name>mapreduce.framework.name</name><value>yarn</value></property><property><name>mapreduce.map.memory.mb</name><value>1024</value></property><property><name>mapreduce.map.java.opts</name><value>-Xmx512M</value></property><property><name>mapreduce.reduce.memory.mb</name><value>1024</value></property><property><name>mapreduce.reduce.java.opts</name><value>-Xmx512M</value></property><property><name>mapreduce.task.io.sort.mb</name><value>256</value></property><property><name>mapreduce.task.io.sort.factor</name><value>100</value></property><property><name>mapreduce.reduce.shuffle.parallelcopies</name><value>25</value></property><property><name>mapreduce.jobhistory.address</name><value>node1:10020</value></property><property><name>mapreduce.jobhistory.webapp.address</name><value>node1:19888</value></property><property><name>mapreduce.jobhistory.intermediate-done-dir</name><value>/usr/local/src/hadoop/hadoop-3.1.1/datas/jobhsitory/intermediateDoneDatas</value></property><property><name>mapreduce.jobhistory.done-dir</name><value>/usr/local/src/hadoop/hadoop-3.1.1/datas/jobhsitory/DoneDatas</value></property><property><name>yarn.app.mapreduce.am.env</name><value>HADOOP_MAPRED_HOME=/usr/local/src/hadoop/hadoop-3.1.1</value></property><property><name>mapreduce.map.env</name><value>HADOOP_MAPRED_HOME=/usr/local/src/hadoop/hadoop-3.1.1/</value></property><property><name>mapreduce.reduce.env</name><value>HADOOP_MAPRED_HOME=/usr/local/src/hadoop/hadoop-3.1.1</value></property> </configuration>

2.7yarn-site.xml(寫入到configuration標簽中)

注意：修改為自己的文件的存儲路徑

<configuration><property><name>dfs.namenode.handler.count</name><value>100</value></property><property><name>yarn.log-aggregation-enable</name><value>true</value></property><property><name>yarn.resourcemanager.address</name><value>node1:8032</value></property><property><name>yarn.resourcemanager.scheduler.address</name><value>node1:8030</value></property><property><name>yarn.resourcemanager.resource-tracker.address</name><value>node1:8031</value></property><property><name>yarn.resourcemanager.admin.address</name><value>node1:8033</value></property><property><name>yarn.resourcemanager.webapp.address</name><value>node1:8088</value></property><property><name>yarn.resourcemanager.hostname</name><value>node1</value></property><property><name>yarn.scheduler.minimum-allocation-mb</name><value>1024</value></property><property><name>yarn.scheduler.maximum-allocation-mb</name><value>2048</value></property><property><name>yarn.nodemanager.vmem-pmem-ratio</name><value>2.1</value></property><!-- 設置不檢查虛擬內存的值，不然內存不夠會報錯 --><property><name>yarn.nodemanager.vmem-check-enabled</name><value>false</value></property><property><name>yarn.nodemanager.resource.memory-mb</name><value>1024</value></property><property><name>yarn.nodemanager.resource.detect-hardware-capabilities</name><value>true</value></property><property><name>yarn.nodemanager.local-dirs</name><value>file:///usr/local/src/hadoop/hadoop-3.1.1/datas/nodemanager/nodemanagerDatas</value></property><property><name>yarn.nodemanager.log-dirs</name><value>file:///usr/local/src/hadoop/hadoop-3.1.1/datas/nodemanager/nodemanagerLogs</value></property><property><name>yarn.nodemanager.log.retain-seconds</name><value>10800</value></property><property><name>yarn.nodemanager.remote-app-log-dir</name><value>/usr/local/src/hadoop/hadoop-3.1.1/datas/remoteAppLog/remoteAppLogs</value></property><property><name>yarn.nodemanager.remote-app-log-dir-suffix</name><value>logs</value></property><property><name>yarn.nodemanager.aux-services</name><value>mapreduce_shuffle</value></property><property><name>yarn.log-aggregation.retain-seconds</name><value>18144000</value></property><property><name>yarn.log-aggregation.retain-check-interval-seconds</name><value>86400</value></property><!-- yarn上面運行一個任務，最少需要1.5G內存，虛擬機沒有這么大的內存就調小這個值，不然會報錯 --><property><name>yarn.app.mapreduce.am.resource.mb</name><value>800</value></property> </configuration>

2.8worker文件

node1

2.9剛才在文件中設置很多文件的存儲，現在創建文件

直接復制執行就好了

mkdir -p /usr/local/src/hadoop/hadoop-3.1.1/datas/tmp mkdir -p /usr/local/src/hadoop/hadoop-3.1.1/datas/dfs/nn/snn/edits mkdir -p /usr/local/src/hadoop/hadoop-3.1.1/datas/namenode/namenodedatas mkdir -p /usr/local/src/hadoop/hadoop-3.1.1/datas/datanode/datanodeDatas mkdir -p /usr/local/src/hadoop/hadoop-3.1.1/datas/dfs/nn/edits mkdir -p /usr/local/src/hadoop/hadoop-3.1.1/datas/dfs/snn/name mkdir -p /usr/local/src/hadoop/hadoop-3.1.1/datas/jobhsitory/intermediateDoneDatas mkdir -p /usr/local/src/hadoop/hadoop-3.1.1/datas/jobhsitory/DoneDatas mkdir -p /usr/local/src/hadoop/hadoop-3.1.1/datas/nodemanager/nodemanagerDatas mkdir -p /usr/local/src/hadoop/hadoop-3.1.1/datas/nodemanager/nodemanagerLogs mkdir -p /usr/local/src/hadoop/hadoop-3.1.1/datas/remoteAppLog/remoteAppLogs

3.運行hadoop

3.1先配置ssh的免密登錄

直接復制執行就行了

ssh-keygen -t dsa -P '' -f ~/.ssh/id_dsa cat ~/.ssh/id_dsa.pub >> ~/.ssh/authorized_keys chmod 0600 ~/.ssh/authorized_keys

3.2配置環境變量

3.2.1進入目錄

vi /etc/profile

3.2.2配置變量

export HADOOP_HOME=/usr/local/src/hadoop/hadoop-3.1.1 export PATH=:$HADOOP_HOME/bin:$HADOOP_HOME/sbin:$PATH

3.2.3 快速生效

source /etc/profile

3.3 格式化HDFS

為什么要格式化HDFS？
HDFS需要一個格式化的過程來創建存放元數據(image, editlog)的目錄

cd /usr/local/src/hadoop/hadoop-3.1.1 //進入目錄 bin/hdfs namenode -format //執行格式化命令

Ps：執行格式化中間讓你輸入 Y/N 全部輸入Y，注意大寫

3.4 啟動

cd /usr/local/src/hadoop/hadoop-3.1.1 //進入目錄 sbin/start-all.sh //啟動命令

拓展：
sbin/start-all.sh 啟動所有的Hadoop守護進程。包括NameNode、 Secondary NameNode、DataNode、ResourceManager、NodeManager
sbin/stop-all.sh 停止所有的Hadoop守護進程。包括NameNode、 Secondary NameNode、DataNode、ResourceManager、NodeManage

進入瀏覽器輸入：
服務器的ip:50070
服務器的ip:8088即可查看

疑難雜癥總結

1.判斷進程是否開啟

jps

自己判斷缺了那個，如果是按照上面流程執行的話，請檢查配置路徑是否正確，其他自行百度

2.判斷端口有沒有開

netstat -ntlp

判斷端口有沒有開放，端口的后綴是不是0.0.0.0的原因總結
1.上文中講的host映射配置錯誤
2.端口沒有開放
3.阿里服務器的端口沒有設置出入站規則
4.防火墻有沒有關

3.多次格式化HDFS？

每次格式化的時候清空 hdfs文件存儲的目錄：如果按照上文的配置，請看圖
清空這個目錄下的文件，然后重新格式化

與50位技術專家面對面20年技術見證，附贈技術全景圖

總結

以上是生活随笔為你收集整理的Linux Centos7安装hadoop3.x安装流程（跪舔文）的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。