Greenplum集群部署安装指南
目錄
一.官方安裝鏈接
二.Greemplum安裝文件下載
三.數據庫安裝步驟
1.準備工作
(1)修改hostname
(2)關閉SELinux
(3)關閉防火墻
(4)配置/etc/hosts?
(5)修改內核配置參數
(6)配置資源限制參數
(7)磁盤I/O設置
(8)IPC Object Removal
(9)SSH連接閾值
(10)同步系統時鐘
(11)創建用戶和用戶組
(12)創建swap文件
2.安裝Greenplum
(1)安裝gpdb
(2)設置免密登錄
(3)上創建hostlist、standby_seg_hosts、seg_only
(4)使用gpssh-exkeys打通所有服務器
(5)確認安裝
3.創建數據存儲區
(1)在master機器上創建數據存儲區
(2)在stand by機器上創建數據存儲區
(3)在segment機器上創建數據存儲區
4.初始化數據庫
(1)創建初始化配置文件
(2)執行安裝
(3)配置環境變量
(4)允許客戶端連接
四.Command Center安裝步驟
1.準備工作
(1)修改配置文件
(2)安裝gpperfmon數據庫，以及為gpmon用戶創建密碼
(3)創建安裝目錄
2.安裝Greenplum CC
一.官方安裝鏈接
Greenplum
Configuring Your Systems | Pivotal Greenplum Docs
Greenplun Command Center
Installing and Upgrading Pivotal Greenplum Command Center | Tanzu? Greenplum GPCC Docs
二.Greemplum安裝文件下載
Greenplum - greenplum-db-6.11.1-rhel7-x86_64.rpm
https://download.csdn.net/download/qq_29120661/34674895
Greenplum?Command Center - greenplum-cc-web-6.3.0-gp6-rhel7-x86_64.zip
https://download.csdn.net/download/qq_29120661/34675048
三.數據庫安裝步驟
1.準備工作
(1)修改hostname
命名規則：
主機：mdw
stand by: smdw
sgement：sdw1,sdw2,sdw3...
(2)關閉SELinux
使用下面命令，查看狀態
sestatus如果不是SELinuxstatus: disabled，則需要手動關閉
Shell復制代碼
vi /etc/selinux/config SELINUX=disabled(3)關閉防火墻
查看防火墻狀態
如果是iptables，則執行
關閉防火墻
service iptables stop永久關閉防火墻
chkconfig iptables off如果是firewalld，則執行
systemctl status firewalld關閉防火墻
systemctl stop firewalld.service systemctl disable firewalld.service(4)配置/etc/hosts?
每一臺都要配置
vim /etc/hosts192.168.xxx.1 mdw192.168.xxx.2 smdw192.168.xxx.3 sdw1192.168.xxx.4 sdw2192.168.xxx.5 sdw3192.168.xxx.6 sdw4(5)修改內核配置參數
每一臺都要配置（如果所有節點配置相同，可以先配置主機，配置好后分發到各個節點中）
執行getconf _PHYS_PAGES獲取系統的_PHYS_PAGES
執行getconf PAGE_SIZE獲取系統的PAGE_SIZE
vim /etc/sysctl.conf
保存文件后，執行下面命令
awk 'BEGIN {OFMT = "%.0f";} /MemTotal/ {print "vm.min_free_kbytes =", $2 * .03;}' /proc/meminfo >> /etc/sysctl.conf執行命令使之生效
sysctl -p(6)配置資源限制參數
每一臺都要配置
vim ?/etc/security/limits.conf
(7)磁盤I/O設置
每一臺都要配置
先執行
查看磁盤信息
針對每一塊磁盤，執行
由于每次重啟都需要重新執行上述命令，所以可以將上面的命令添加到/etc/rc.d/rc.local文件中每次開機自動執行
添加后賦予一下權限
執行下面兩條命令以修改磁盤IO調度設置和禁用THP提升性能
grubby --update-kernel=ALL --args="elevator=deadline" grubby --update-kernel=ALL --args="transparent_hugepage=never"執行完成后，重啟一下系統以生效
(8)IPC Object Removal
每一臺都要配置
vim /etc/systemd/logind.conf
修改完成后重啟logind生效
service systemd-logind restart(9)SSH連接閾值
每一臺都要配置
vim /etc/ssh/sshd_config
修改完成后重啟sshd生效
service sshd restart(10)同步系統時鐘
每一臺都要配置
在mdw上，vim?/etc/ntp.conf文件。設置服務器指向數據中心的NTP時間服務器的參數。例如（如果?10.6.220.20?是您的數據中心NTP服務器的IP地址）
在mdw上，vim?/etc/ntp.conf
server 10.6.220.20在smdw上，vim?/etc/ntp.conf
server mdw prefer server 10.6.220.20在所有的sdw上，vim?/etc/ntp.conf
server mdw prefer server smdw設置好后，執行下面命令同步ntp(這一步先忽略，安裝好gpssh后再執行)
gpssh -f ./hostlist -v -e 'ntpd'(11)創建用戶和用戶組
每一臺都要配置
groupadd gpadmin useradd gpadmin -r -m -g gpadmin passwd gpadmin輸入密碼
生成gpadmin的ssh密鑰
一路回車即可
為gpadmin用戶授予sudo訪問權限
執行visudo
分配gpadmin到此組
usermod -aG wheel gpadmin(12)創建swap文件
先確認服務器是否存在swap文件或分區，如果已存在，則跳過以下步驟
默認大小等于機器ram大小
每一臺都要配置，使用root賬戶執行
2.安裝Greenplum
(1)安裝gpdb
每一臺都要配置
將安裝包分發至每一臺服務器的/home路徑下，使用root用戶執行
yum install ./greenplum-db-6.11.1-rhel7-x86_64.rpm安裝完成后，修改安裝文件的owner
chown -R gpadmin:gpadmin /usr/local/greenplum*(2)設置免密登錄
只在mdw上執行
切換到dbadmin執行下列操作
su gpadmin應用環境變量
source /usr/local/greenplum-db/greenplum_path.sh使用ssh-copy-id命令將gpadmin公鑰分發到其他服務器上實現免密登錄
ssh-copy-id smdw ssh-copy-id sdw1 ssh-copy-id sdw2 ssh-copy-id sdw3 ...(3)上創建hostlist、standby_seg_hosts、seg_only
只在mdw上執行
創建目錄/home/gpadmin/conf
在該路徑下創建hostlist、standby_seg_hosts、seg_only
hostlist 中填寫所有節點的主機別名
mdw smdw sdw1 sdw2 ...standby_seg_hosts中填寫stand by節點和所有Segment的主機別名
smdw sdw1 sdw2 ...seg_only中只填寫所有Segment的主機別名
sdw1 sdw2 ...(4)使用gpssh-exkeys打通所有服務器
只在mdw上執行
gpssh-exkeys -f hostlist這樣，我們后續就可以通過gpssh命令在主機上同時遠程操控segment機器了
注意了，前面有一個同步ntp的命令還沒有執行，這個時候可以執行下了（在mdw上執行即可）：
gpssh -f ./hostlist -v -e 'ntpd'(5)確認安裝
在mdw機器上登錄gpadmin賬戶，執行命令
gpssh -f hostlist -e 'ls -l /usr/local/greenplum-db'如果上面步驟都執行正確，此時能夠正確登錄到各個節點上，并看到安裝好的數據庫目錄
3.創建數據存儲區
(1)在master機器上創建數據存儲區
Master不存儲user data，僅有system catalog tables和system metadata
在mdw上使用root用戶創建
mkdir -p /data/master chown gpadmin:gpadmin /data/master(2)在stand by機器上創建數據存儲區
如果存在smdw，則在mdw上使用gpadmin用戶執行
source /usr/local/greenplum-db/greenplum_path.sh gpssh -h smdw -e 'sudo mkdir -p /data/master' gpssh -h smdw -e 'sudo chown gpadmin:gpadmin /data/master'(3)在segment機器上創建數據存儲區
在mdw上使用gpadmin用戶執行
source /usr/local/greenplum-db/greenplum_path.sh gpssh -f /home/gpadmin/conf/seg_only -e 'sudo mkdir -p /data/primary;mkdir -p /data/mirror' #針對一臺機器上多segment的部署方式，根據每臺機器的segment數量，創建對應的存儲目錄 gpssh -f /home/gpadmin/conf/seg_only -e 'sudo mkdir -p /data1/primary;mkdir -p /data1/mirror' gpssh -f /home/gpadmin/conf/seg_only -e 'sudo mkdir -p /data2/primary;mkdir -p /data2/mirror' #...... gpssh -f /home/gpadmin/conf/seg_only -e 'sudo chown -R gpadmin:gpadmin /data*'4.初始化數據庫
(1)創建初始化配置文件
在mdw上使用gpadmin用戶執行
su gpadmin mkdir /home/gpadmin/gpconfigs vim /home/gpadmin/gpconfigs/gpinitsystem_config #數據庫代號 ARRAY_NAME="Greenplum Data Platform"#segment前綴 SEG_PREFIX=gpseg#primary segment 起始的端口號 PORT_BASE=40000#指定primary segment的數據目錄 declare -a DATA_DIRECTORY=(/data/primary) #如果每臺機器上有多個segment #declare -a DATA_DIRECTORY=(/data/primary /data1/primary /data2/primary ...)#master所在機器的host name MASTER_HOSTNAME=mdw#master的數據目錄 MASTER_DIRECTORY=/data/master#master的端口 MASTER_PORT=5432#指定bash的版本 TRUSTED_SHELL=ssh#將日志寫入磁盤的間隔，每個段文件通常 =16MB < 2 * CHECK_POINT_SEGMENTS + 1 CHECK_POINT_SEGMENTS=8#字符集 ENCODING=UNICODE#mirror segment 起始的端口號 MIRROR_PORT_BASE=50000#mirror的數據目錄，和主數據目錄對應 declare -a MIRROR_DATA_DIRECTORY=(/data/mirror) #如果每臺機器上有多個segment #declare -a MIRROR_DATA_DIRECTORY=(/data/mirror /data1/mirror /data2/mirror ...)#segment機器列表 MACHINE_LIST_FILE=/home/gpadmin/conf/seg_only(2)執行安裝
在mdw上使用gpadmin用戶執行
如果存在stand by機器，則執行
gpinitsystem -c /home/gpadmin/gpconfigs/gpinitsystem_config -h /home/gpadmin/conf/seg_only -s smdw如果沒有stand by機器，則執行
gpinitsystem -c /home/gpadmin/gpconfigs/gpinitsystem_config -h /home/gpadmin/conf/seg_only(3)配置環境變量
在mdw上使用gpadmin用戶執行
vi ~/.bashrc在文件尾添加
source /usr/local/greenplum-db/greenplum_path.sh export MASTER_DATA_DIRECTORY=/data/master/gpseg-1 #默認登錄使用的端口號 export PGPORT=5432 #默認登錄使用的用戶 export PGUSER=gpadmin #默認登錄使用的數據庫 export PGDATABASE=postgres #如果服務器使用的系統是RHEL 7或CentOS 7，需要增加下面的配置 export LD_PRELOAD=/lib64/libz.so.1 ps保存并source一下
source ~/.bashrc如果存在stand by機器，需將配置文件復制到stand by機器
cd ~ scp .bashrc smdw:`pwd`(4)允許客戶端連接
在mdw上使用gpadmin用戶執行
psql如果前面的配置正確，則會免密登錄到Greenplum數據庫
修改一下gpadmin的密碼
alter role gpadmin with password 'gpadmin';退出數據庫，在mdw機器上使用gpadmin用戶執行
vim $MASTER_DATA_DIRECTORY/pg_hba.conf末尾添加一行
#ADDRESS可以根據實際情況修改成對應的ip段 #連接方式 連接的數據庫 連接的用戶 連接的主機IP 認證方式 host all gpadmin all md5執行命令使配置生效
gpstop -u可以使用外部客戶端工具或開發平臺數據源測試是否配置成功。
四.Command Center安裝步驟
1.準備工作
(1)修改配置文件
在mdw上使用gpadmin用戶執行
編輯postgresql.conf文件
vim $MASTER_DATA_DIRECTORY/postgresql.conf文件末尾添加或修改
gp_enable_gpperfmon=on gpperfmon_port=8888 gp_external_enable_exec=on gpperfmon_log_alert_level=warning編輯pg_hba.conf文件
vim $MASTER_DATA_DIRECTORY/pg_hba.conf文件末尾添加
local gpperfmon gpmon md5 host all gpmon 127.0.0.1/28 md5(2)安裝gpperfmon數據庫，以及為gpmon用戶創建密碼
在mdw上使用gpadmin用戶執行
gpperfmon_install --enable --password gpmon --port 5432重啟數據庫
gpstop -r檢查gp監控是否啟動
ps -ef | grep gpmmon檢查gp監控是否監測到greenplum集群中的每臺主機
psql -d 'gpperfmon' -c 'select * from system_now;'(3)創建安裝目錄
在mdw上使用gpadmin用戶執行
source /usr/local/greenplum-db/greenplum_path.sh gpssh -f /home/gpadmin/conf/hostlist 'sudo mkdir -p /usr/local/greenplum-cc-6.3.0;sudo chown -R gpadmin:gpadmin /usr/local/greenplum-cc-6.3.0' gpssh -f /home/gpadmin/conf/hostlist 'sudo ln -s /usr/local/greenplum-cc-6.3.0 /usr/local/greenplum-cc;sudo chown -R gpadmin:gpadmin /usr/local/greenplum-cc'2.安裝Greenplum CC
在mdw上使用root用戶執行
將文件上傳到/home目錄下并解壓縮，修改owner
unzip /home/greenplum-cc-web-6.3.0-gp6-rhel7-x86_64.zip mv /home/greenplum-cc-web-6.3.0-gp6-rhel7-x86_64 /home/greenplum-cc chown -R gpadmin:gpadmin /home/greenplum-cc切換到gpadmin用戶執行安裝命令
su gpadmin /home/greenplum-cc/gpccinstall-6.3.0執行安裝過程中會提示安裝路徑、端口等，如無特殊要求推薦使用默認設置
安裝完成后，配置環境變量
vi ~/.bashrc末尾增加一行
source /usr/local/greenplum-cc/gpcc_path.sh保存并source一下
source ~/.bashrc將gpadmin下的.bashrc文件以gpadmin用戶的身份分配到除master之外的機器上
gpscp -f /home/gpadmin/conf/standby_seg_hosts ~/.bashrc =:~執行命令啟動監控服務
gpcc start如果存在stand by機器
登錄到smdw上，將主機的pgpass文件拷貝過來
安裝完成后，便可以登錄http://mdwIP:28080查看監控了，2賬戶為gpmon，密碼為四-1-(2)章節中預設的密碼。
總結
以上是生活随笔為你收集整理的Greenplum集群部署安装指南的全部內容，希望文章能夠幫你解決所遇到的問題。
- 上一篇： EasyCVR平台基于萤石云SDK接入的
- 下一篇： 常用RGB颜色表