Hadoop配置学习
連接xftp需要設(shè)置C:\Windows\System32\drivers\etc 加入虛擬機(jī)ip地址主機(jī)名
?
1.準(zhǔn)備相關(guān)jar包
2.查詢現(xiàn)有系統(tǒng)中自帶的open jdk
rpm -qa | grep java
--如果有請(qǐng)卸載,nodeps表示強(qiáng)制無依賴
rpm -e --nodeps
?
3./opt該目錄是可選的軟件包安裝目錄,有些軟件包我們可以將它安裝在該目錄中,只有root用戶才有權(quán)限訪問,自己新建opt目錄或使用以下命令:
sudo chmod 777 /opt4.source /etc/profile:重新讀取修改的配置profile文件
5.tar zxcf ...
6.配置文件信息
hadoop-evn.sh
mapred-env.sh
?
yarn-evn.sh
core-site.xml:
hdfs-site.xml:
host
slaves:可不用修改,必須關(guān)閉防火墻
hadoop無法訪問50070端口解決方法:
?https://www.cnblogs.com/zlslch/p/6604189.html
?
hadoop上傳文件錯(cuò)誤org.apache.hadoop.ipc.RemoteException(java.io.IOException):
? ? ? ?查閱資料發(fā)現(xiàn)造成這個(gè)問題的原因可能是使用hadoop namenode -format格式化時(shí)格式化了多次造成那么spaceID不一致,解決方案:
1、停止集群(切換到/sbin目錄下)
$./stop-all.sh
2、刪除在hdfs中配置的data目錄(即在core-site.xml中配置的hadoop.tmp.dir對(duì)應(yīng)文件件)下面的所有數(shù)據(jù);
$ rm -rf /home/hadoop/hdpdata/*
3、重新格式化namenode(切換到hadoop目錄下的bin目錄下)
$ ./hadoop namenode -format
4、重新啟動(dòng)hadoop集群(切換到hadoop目錄下的sbin目錄下)
$./start-all.sh
?http://blog.csdn.net/weiyongle1996/article/details/74094989
?Hadoop偽分布式環(huán)境搭建相關(guān)配置文件:
http://blog.csdn.net/u012893747/article/details/52523867
?
課程:分布式集群、PB級(jí)別網(wǎng)站性能優(yōu)化
轉(zhuǎn)載于:https://www.cnblogs.com/confidentljw/p/7989875.html
總結(jié)
以上是生活随笔為你收集整理的Hadoop配置学习的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 不会Object.definePrope
- 下一篇: 多线程编程学习笔记——任务并行库(三)