日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程资源 > 编程问答 >内容正文

编程问答

在线实时大数据平台Storm单机部署

發布時間:2025/4/16 编程问答 30 豆豆
生活随笔 收集整理的這篇文章主要介紹了 在线实时大数据平台Storm单机部署 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

centos單機下部署storm,主要用于開發測試用。部署的IP地址用zoo1代替,要注意/etc/hosts下對應ip和主機名。

1、Zookeeper部署

Apache官網http://zookeeper.apache.org/下載zookeeper-3.4.8.tar.gz版本。

1)解壓在/var/zookeeper-3.4.8目錄下

#tar -xzvf/tmp/zookeeper-3.4.8.tar.gz

#cp -R /tmp/zookeeper-3.4.8/var

#rm -rf/tmp/zookeeper-3.4.8

2)建立zookeeper的data目錄和集群myid文件

#mkdir -p/var/zookeeper-3.4.8/zkdata

#cd/var/zookeeper-3.4.8/zkdata

#echo 1>myid

3)配置conf/zoo.cfg文件

拷貝zookeeper-3.4.8的conf/zoo_sample.cfg并重命名為zoo.cfg

#cpconf/zoo_sample.cfgconf/zoo.cfg

#viconf/zoo.cfg

修改dataDir:

dataDir=/var/zookeeper-3.4.8/zkdata

增加集群服務器

server.1=zoo1:2888:3888

說明:

server.A=B:C:D是集群zk使用的。如果是單個zk,可不配置。

A - 是一個數字,表示這是第幾號服務器。與/var/zookeeper-3.4.8/zkdata下的myid文件內容一致

B - 是該服務器的IP地址

C - 表示該服務器與集群中的Leader服務器交換信息的端口

D - 表示如果萬一集群中的Leader服務器掛了,需要各服務器重新選舉時所用的通訊端口

4)zookeeper目錄加入環境變量

#vi/etc/profile

加入:

#zookeeper

exportZOOKEEPER=/var/zookeeper-3.4.8

PATH=$PATH:$ZOOKEEPER/bin

#source /etc/profile

5)啟動和關閉Zookeeper

bin目錄下,配置環境變量,任何目錄下直接執行。

#zkServer.shstart

#zkServer.shstop

6)集群配置

其他機器重復以上步驟,注意myid對應。

2、Storm部署

Apache官網http://storm.apache.org/index.html下載apache-storm-1.0.1.tar.gz版本。

1)解壓在/var/apache-storm-1.0.1

#tar -xzvf/tmp/apache-storm-1.0.1.tar.gz

#cp -R /tmp/apache-storm-1.0.1/var

#rm -rf/tmp/apache-storm-1.0.1

2)配置storm的bin目錄環境變量

#vi/etc/profile

加入:

#storm

exportSTORM=/var/apache-storm-1.0.1

PATH=$PATH:$STORM/bin

#source /etc/profile

3)創建一個Storm的本地數據目錄

#mkdir -p/var/apache-storm-1.0.1/workdir

4)nimbus配置conf/storm.yaml文件

storm.yaml默認配置參見

https://github.com/nathanmarz/storm/blob/master/conf/defaults.yaml

注意:配置項前面空格要去掉。

增加:

storm.local.dir:"/var/apache-storm-1.0.1/workdir "

storm.zookeeper.servers:

- "zoo1"

5)supervisor配置conf/storm.yaml文件

和nimbus配置一樣,不過要增加:

nimbus.host:"zoo1"

supervisor.slots.ports:

???? - 6700

???? - 6701

???? - 6702

其中nimbus.host是nimbus的IP或hostname;supervisor.slots.ports 是配置slot的ip地址。配了幾個地址,就有幾個slot,即幾個worker。如果嘗試提交的topology所聲明的worker數超過當前可用的slot,該topology提交會失敗。

6)啟動storm

在nimbus機器的Storm的bin目錄,已配置環境變量直接執行。

#stormnimbus &

在supervisor機器的Storm的bin目錄,已配置環境變量直接執行。

#stormsupervisor &

可在/var/apache-storm-1.0.1/logs下看日志,日志下分別有nimbus和supervisor。

#jps

17700QuorumPeerMain? //zookeeper進程

30038supervisor?

29948 nimbus

3、Storm命令參數集合

Commands:

activate

classpath

deactivate

dev-zookeeper

drpc

help

jar

kill

list

localconfvalue

logviewer

monitor

nimbus

rebalance

remoteconfvalue

repl

shell

supervisor

ui

version


總結

以上是生活随笔為你收集整理的在线实时大数据平台Storm单机部署的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。