cdh中hdfs非ha环境迁移Namenode与secondaryNamenode,从uc机器到阿里;
1.停掉外部接入服務(wù);
2 NameNode Metadata備份;
2.1 備份fsimage數(shù)據(jù),(該操作適用HA和非HA的NameNode),使用如下命令進(jìn)行備份:
[root@cdh01 dfs]# mkdir nn_metadata_back
[root@cdh01 dfs]# hdfs dfsadmin -fetchImage nn_metadata_back/
[root@cdh01 dfs]# ll nn_metadata_back
2.2 備份edits數(shù)據(jù)(該操作適用非HA的NameNode),使用如下命令備份:
[root@cdh01 current]# sudo -u hdfs hdfs dfsadmin –rollEdits
2.3 拷貝edits日志到備份目錄(該操作適用非HA的NameNode),使用如下命令進(jìn)行備份
在CM上找到NameNode的dfs.name.dir配置目錄
?
將/data/dfs/nn/current目錄下的edits_0*開(kāi)頭的文件拷貝至備份目錄
[root@cdh01 dfs]# mkdir nn_metadata_back/edits
[root@cdh01 dfs]# cp /data/dfs/nn/current/edits_0* nn_metadata_back/edits/
[root@cdh01 dfs]#
?
2.4備份VERSION文件(該操作適用于HA和非HA的NameNode),這個(gè)文件不需要定期備份,因?yàn)樗粫?huì)更改,但該文件非常重要,因?yàn)槲募邪薱lusterID一級(jí)其它詳細(xì)信息?
[root@cdh01 dfs]# cp /data/dfs/nn/current/VERSION nn_metadata_back/
[root@cdh01 dfs]# ll nn_metadata_back/
total 1852
drwxr-xr-x 2 root root? ??831488 Oct 17 10:49 edits
-rw-r--r-- 1 root root ????1051656 Oct 17 10:42 fsimage_0000000000007076989
drwx------ 3 root root??? ?4096 Oct 17 14:06 snn
-rw-r--r-- 1 root root???? 173 Oct 17 10:49 VERSION
?
?
3? NameNode Metadata恢復(fù);
3.1通過(guò)CM先將uc機(jī)器上namenode刪除,然后在ali機(jī)器上加一個(gè)namenode節(jié)點(diǎn);
?
3.2 通過(guò)CM為新加的節(jié)點(diǎn)添加NameNode角色;
?
3.3??? 檢查NameNode的dfs.name.dir配置的目錄在服務(wù)器上是否存在,如果不存在則需要手動(dòng)的創(chuàng)建并確保目錄屬主為hdfs:hdfs,且父目錄權(quán)限為700;
[root@cdh01 ~]# mkdir -p /data/disk1/dfs/nn/
[root@cdh01 ~]# chown hdfs:hadoop /data/disk1/dfs/nn
[root@cdh01 ~]# chmod 700 /data/disk1/dfs/nn
?
3.4??? 將VERSION和最后備份的fsimage文件復(fù)制到/data/disk1/dfs/nn/current目錄下
[root@cdh01?dfs]#?mkdir?-p?/data/disk1/dfs/nn/current
[root@cdh01?dfs]#?cp?/data/disk1/nn_metadata_back/VERSION?/data/disk1/dfs/nn/current/
[root@cdh01?dfs]#?cp?/data/disk1/nn_metadata_back/fsimage_0000000000004483704?/data/disk1/dfs/nn/current/
[root@cdh01?dfs]#?cp?/data/disk1/nn_metadata_back/edits/*?/data/disk1/dfs/nn/current/
[root@cdh01?dfs]#?chown?-R?hdfs:hdfs?/data/disk1/dfs/nn/current/
?????
?3. 5 為fsimage文件創(chuàng)建md5校驗(yàn)
?[root@cdh01?dfs]#?cd?nn/current/
[root@cdh01?current]#?md5sum?fsimage_0000000000004483704?>?fsimage_0000000000004483704.md5
[root@cdh01?current]#?ll?fsimage_0000000000004483704*
?
4? 啟動(dòng)namenode,驗(yàn)證服務(wù);
5? 遷移secondary namenode要簡(jiǎn)單些,只需遷移整個(gè)snn目錄到新節(jié)點(diǎn),注意文件權(quán)限,然后通過(guò)cm刪除uc機(jī)器上snn,添加新的snn到ali節(jié)點(diǎn);
?
*****最后在重啟集群后,可能會(huì)發(fā)現(xiàn)hbase master節(jié)點(diǎn)起不來(lái),或者不能切換為active狀態(tài),可以參考以下文章:
https://community.hortonworks.com/questions/33140/hbase-master-fails-to-start.html
轉(zhuǎn)載于:https://www.cnblogs.com/gxc2015/p/9836235.html
總結(jié)
以上是生活随笔為你收集整理的cdh中hdfs非ha环境迁移Namenode与secondaryNamenode,从uc机器到阿里;的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問(wèn)題。
- 上一篇: python语言中的数据类型之字典
- 下一篇: sublime 设置新建文件自动添加au