日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 运维知识 > 数据库 >内容正文

数据库

redis分片_5000+字硬核干货!Redis 分布式集群部署实战

發布時間:2023/12/19 数据库 25 豆豆
生活随笔 收集整理的這篇文章主要介紹了 redis分片_5000+字硬核干货!Redis 分布式集群部署实战 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

原理:

  • Redis集群采用一致性哈希槽的方式將集群中每個主節點都分配一定的哈希槽,對寫入的數據進行哈希后分配到某個主節點進行存儲。
  • 集群使用公式(CRC16 key)& 16384計算鍵key數據那個槽。
  • 16384個slot均勻分布在各個節點上。
  • 集群中每個主節點將承擔一部分槽點的維護,而槽點中存儲著數據,每個主節點都有至少一個從節點用于高可用。

節點通信方式:

  • 開啟一個端口 設置的端口號+10000,用于集群之間節點通信交換信息。
  • 每個節點默認每秒10次選擇隨機5個節點發送ping消息,將自身信息和知道的集群信息傳遞,收到ping消息后返回pong消息做回復,最后通過這種隨機的消息交換,最終每個節點將獲得所有信息。
  • 當某個主節點掛掉,所有節點將會發現主節點掛掉了,作為主節點的從節點,就會接替主節點的工作,然后告訴所有其它節點,他成為了主。這樣其它存活節點,就將它們維護的信息表更新從節點將接任做主,如果都掛掉集群將報錯。當從一個節點操作,根據一致性哈希計算后將存儲在其中一個主節點中,從節點將同步主的數據。

  • redis cluster是去中心化的,集群中的每個節點都是平等的關系,每個節點都保存各自的數據和整個集群的狀態。每個節點都和其他所有節點連接,而且這些連接保持活躍。
  • 搭建集群時,會為每一個分片的主節點,對應一個從節點。實現slaveof功能,同時當主節點down,實現sentinel哨兵的自動failover切換功能

Redis分布式集群(部署):

端口號:7000-7005

本次分布式分片集群在一臺LInux系統即可,只需要安裝多個實例作為集群配置。

安裝ruby環境支持:

yum -y install ruby rubygems

yum安裝2.0.0版本,但是gem需要2.2.2版本以上,所以選擇編譯

下載并安裝ruby環境:

wget https://cache.ruby-lang.org/pub/ruby/2.6/ruby-2.6.1.tar.gz tar xf ruby-2.6.1.tar.gz && cd ruby-2.6.1/ ./configure --prefix=/usr/local/ruby make && make install && echo $? echo 'export PATH=$PATH:/usr/local/ruby/bin' >> /etc/profile source /etc/profile

修改gem工具國內源:

# 查看gem工具源地址 gem sources -l # 添加一個阿里云的gem工具源 gem sources -a http://mirrors.aliyun.com/rubygems/ # 刪除gem工具默認國外源 gem sources --remove https://rubygems.org/ # 下載當前最新版本集群插件 gem install redis -v 4.1.0

集群節點準備:

mkdir /data/700{0..5}

配置7000端口實例:

vim /data/7000/redis.conf port 7000 daemonize yes pidfile /data/7000/redis.pid loglevel notice logfile "/data/7000/redis.log" dbfilename dump.rdb dir /data/7000 protected-mode no cluster-enabled yes cluster-config-file nodes.conf cluster-node-timeout 5000 appendonly yes

拷貝其他端口實例:

# 拷貝配置文件cp /data/7000/redis.conf /data/7001/ cp /data/7000/redis.conf /data/7002/ cp /data/7000/redis.conf /data/7003/ cp /data/7000/redis.conf /data/7004/ cp /data/7000/redis.conf /data/7005/ # 修改配置文件內容 sed -i 's#7000#7001#g' /data/7001/redis.conf sed -i 's#7000#7002#g' /data/7002/redis.conf sed -i 's#7000#7003#g' /data/7003/redis.conf sed -i 's#7000#7004#g' /data/7004/redis.conf sed -i 's#7000#7005#g' /data/7005/redis.conf

啟動所有實例:

redis-server /data/7000/redis.conf redis-server /data/7001/redis.conf redis-server /data/7002/redis.conf redis-server /data/7003/redis.conf redis-server /data/7004/redis.conf redis-server /data/7005/redis.conf

創建命令軟鏈接:

(這個命令過期了,現在使用redis-cli命令)(可選執行命令)

ln -s /usr/local/redis-5.0.2/src/redis-trib.rb /usr/sbin/

查看進程:

ps -ef |grep redis-server

加入所有實例節點到集群管理:

# --replicas 1",1是代表每一個主有一個從,后面的是所有節點的地址與端口信息 redis-cli --cluster create --cluster-replicas 1 127.0.0.1:7000 127.0.0.1:7001 127.0.0.1:7002 127.0.0.1:7003 127.0.0.1:7004 127.0.0.1:7005

分布式主從規則為,前三個實例節點是主,對應的后面三個實例節點為從節點,如果replicas 2,那就多加3個實例節點

查看主節點狀態:

redis-cli -p 7000 cluster nodes|grep master

查看從節點狀態:

redis-cli -p 7000 cluster nodes|grep slave

Redis-分布式集群(管理)

集群節點增加準備:

mkdir /data/700{6..7}拷貝其他端口實例: # 拷貝配置文件cp /data/7000/redis.conf /data/7006/ cp /data/7000/redis.conf /data/7007/# 修改配置文件內容 sed -i 's#7000#7006#g' /data/7006/redis.conf sed -i 's#7000#7007#g' /data/7007/redis.conf

啟動新節點實例:

redis-server /data/7006/redis.conf redis-server /data/7007/redis.conf

查看進程:

ps -ef |grep redis-server

添加主節點:(7000實例是管理節點)

#'把7006實例添加到7000實例這個主節點所在集群內(此時已經有了4個主節點) redis-cli --cluster add-node 127.0.0.1:7006 127.0.0.1:7000

查看主節點狀態:

redis-cli -p 7000 cluster nodes|grep master

轉移slot(重新分片):

#'操作集群管理節點從新分配,并在交互界面指定分片大小、選擇接收分片的節點ID redis-cli --cluster reshard 127.0.0.1:7000How many slots do you want to move (from 1 to 16384)? 4096 #通過人工手動計算數據分片總大小除以主節點后的數字What is the receiving node ID? 2129d28f0a86fc89571e49a59a0739812cff7953 #選擇接收數據分片的節點ID,(這是新增節點7006實例的ID號)Source node #1: all #選擇從哪些源主節點重新分片給新主節點)(all是所有節點 )Do you want to proceed with the proposed reshard plan (yes/no)? yes #確認修改以上的操作

重新查看主節點狀態:(可以看到集群數據的重新分片)

redis-cli -p 7000 cluster nodes|grep master

添加從節點:

#'把7007實例節點添加到7006實例主節點內,并指定對應7006實例主節點坐在集群的管理節點 redis-cli --cluster add-node 127.0.0.1:7007 127.0.0.1:7000 --cluster-slave --cluster-master-id 2129d28f0a86fc89571e49a59a0739812cff7953

查看從節點狀態:

redis-cli -p 7000 cluster nodes|grep slave

集群節點刪除準備:

移動要刪除節點的數據分片:

#'操作集群管理節點從新分配,并在交互界面指定分片大小、選擇接收分片的節點ID redis-cli --cluster reshard 127.0.0.1:7000#方法是根據要刪除master節點的分片位置,然后一個組分一個節點 , 也可以直接移動所有數據片到一個節點 How many slots do you want to move (from 1 to 16384)? 1365 #通過人工手動查看數據分片總大小 What is the receiving node ID? e64f9074a3733fff7baa9a4848190e56831d5447#選擇接收數據分片的節點ID,(這是新增節點7006實例的ID號) Source node #1: 2129d28f0a86fc89571e49a59a0739812cff7953#選擇從哪些源主節點重新分片給新主節點(這是要刪除的主節點的ID號)Source node #2: done #這是結束命令Do you want to proceed with the proposed reshard plan (yes/no)? yes #確認修改以上的操作

重新查看主節點狀態:(可以看到集群數據的重新分片)

redis-cli -p 7000 cluster nodes|grep master

繼續移動數據片:

#'操作集群管理節點從新分配,并在交互界面指定分片大小、選擇接收分片的節點ID redis-cli --cluster reshard 127.0.0.1:7000# 方法是根據要刪除master節點的分片位置,然后一個組分一個節點 , 也可以直接移動所有數據片到一個節點 How many slots do you want to move (from 1 to 16384)? 1366 #通過人工手動查看數據分片總大小 What is the receiving node ID? f6c1aaea3a8c56e0c7dee8ad7ae17e26dd04244c#選擇接收數據分片的節點ID,(這是新增節點7006實例的ID號) Source node #1: 2129d28f0a86fc89571e49a59a0739812cff7953#選擇從哪些源主節點重新分片給新主節點(這是要刪除的主節點的ID號)Source node #2: done #這是結束命令Do you want to proceed with the proposed reshard plan (yes/no)? yes #確認修改以上的操作

重新查看主節點狀態:(可以看到集群數據的重新分片)

redis-cli -p 7000 cluster nodes|grep master

最后一次移動數據片:

#'操作集群管理節點從新分配,并在交互界面指定分片大小、選擇接收分片的節點ID redis-cli --cluster reshard 127.0.0.1:7000#方法是根據要刪除master節點的分片位置,然后一個組分一個節點 , 也可以直接移動所有數據片到一個節點 How many slots do you want to move (from 1 to 16384)? 1365

重新查看主節點狀態:(可以看到集群數據的重新分片)

redis-cli -p 7000 cluster nodes|grep master

刪除清空數據片的主節點:

#'刪除已經清空數據的7006實例 redis-cli --cluster del-node 127.0.0.1:7006 2129d28f0a86fc89571e49a59a0739812cff7953 #刪除沒有主庫的7007實例 redis-cli --cluster del-node 127.0.0.1:7007 821bcf78c5e4c0b08aa7a5d514214b657ebec4ab

其他配置管理:

#內存信息查看 redis-cli -p 6382 -a redhat info memory#設置最大只能使用100MB的內存 redis-cli -p 6382 -a redhat config set maxmemory 102400000
  • 升職加薪必備!運維工程師打怪升級進階成神之路
  • 我沒有開掛的人生!自律和堅持,是我走IT之路的唯一捷徑
  • 全網最新、最全Linux面試題(2020版)!
  • 史上最全、最新的Redis面試題(2020最新版)!
  • 贊!7000 字學習筆記,MySQL 從入門到放棄

如有錯誤或其它問題,歡迎小伙伴留言評論、指正。如有幫助,歡迎點贊+轉發分享。

更多相關開源技術文章,請持續關注民工哥知乎技術專欄。

我是民工哥,一個愛折騰的IT技術老司機,歡迎關注我,我們一起學習,共同成長!!

總結

以上是生活随笔為你收集整理的redis分片_5000+字硬核干货!Redis 分布式集群部署实战的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。