日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程资源 > 编程问答 >内容正文

编程问答

Hadoop动态扩容,增加节点

發布時間:2024/9/27 编程问答 22 豆豆
生活随笔 收集整理的這篇文章主要介紹了 Hadoop动态扩容,增加节点 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

轉載:https://www.cnblogs.com/mengzj233/p/9759457.html

基礎準備

在基礎準備部分,主要是設置hadoop運行的系統環境

  • 修改系統hostname(通過hostname和/etc/sysconfig/network進行修改)
  • 修改hosts文件,將集群所有節點hosts配置進去(集群所有節點保持hosts文件統一)
  • 設置NameNode(兩臺HA均需要)到DataNode的免密碼登錄(ssh-copy-id命令實現,可以免去cp
    *.pub文件后的權限修改)
  • 修改主節點slave文件,添加新增節點的ip信息(集群重啟時使用)
  • 將hadoop的配置文件scp到新的節點上
  • 添加DataNode

    對于新添加的DataNode節點,需要啟動datanode進程,從而將其添加入集群

  • 在新增的節點上,運行hadoop-daemon.sh start datanode即可
  • 然后在namenode通過hdfs dfsadmin -report查看集群情況
  • 最后還需要對hdfs負載設置均衡,因為默認的數據傳輸帶寬比較低,可以設置為64M,即hdfs dfsadmin
    -setBalancerBandwidth 67108864即可
  • 默認balancer的threshold為10%,即各個節點與集群總的存儲使用率相差不超過10%,我們可將其設置為5%
  • 然后啟動Balancer,sbin/start-balancer.sh -threshold 5,等待集群自均衡完成即可
  • 添加Nodemanager

    由于Hadoop 2.X引入了YARN框架,所以對于每個計算節點都可以通過NodeManager進行管理,同理啟動NodeManager進程后,即可將其加入集群

  • 在新增節點,運行yarn-daemon.sh start nodemanager即可
  • 在ResourceManager,通過yarn node -list查看集群情況
  • 另外更加詳細的參考博文:
    https://blog.csdn.net/qq_38617531/article/details/82973043

    總結

    以上是生活随笔為你收集整理的Hadoop动态扩容,增加节点的全部內容,希望文章能夠幫你解決所遇到的問題。

    如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。