MySQL主从复制(Master-Slave)与读写分离(MySQL-Proxy)实践 转载
?
http://heylinux.com/archives/1004.html
?
MySQL主從復(fù)制(Master-Slave)與讀寫分離(MySQL-Proxy)實踐
?
Mysql作為目前世界上使用最廣泛的免費數(shù)據(jù)庫,相信所有從事系統(tǒng)運維的工程師都一定接觸過。但在實際的生產(chǎn)環(huán)境中,由單臺Mysql作為獨立的數(shù)據(jù)庫是完全不能滿足實際需求的,無論是在安全性,高可用性以及高并發(fā)等各個方面。
因此,一般來說都是通過 主從復(fù)制(Master-Slave)的方式來同步數(shù)據(jù),再通過讀寫分離(MySQL-Proxy)來提升數(shù)據(jù)庫的并發(fā)負載能力 這樣的方案來進行部署與實施的。
如下圖所示:
下面是我在實際工作過程中所整理的筆記,在此分享出來,以供大家參考。
一、MySQL的安裝與配置
具體的安裝過程,建議參考我的這一篇文章:http://heylinux.com/archives/993.html
值得一提的是,我的安裝過程都是源碼包編譯安裝的,并且所有的配置與數(shù)據(jù)等都統(tǒng)一規(guī)劃到了/opt/mysql目錄中,因此在一臺服務(wù)器上安裝完成以后,可以將整個mysql目錄打包,然后傳到其它服務(wù)器上解包,便可立即使用。
二、MySQL主從復(fù)制
場景描述:
主數(shù)據(jù)庫服務(wù)器:192.168.10.130,MySQL已經(jīng)安裝,并且無應(yīng)用數(shù)據(jù)。
從數(shù)據(jù)庫服務(wù)器:192.168.10.131,MySQL已經(jīng)安裝,并且無應(yīng)用數(shù)據(jù)。
2.1 主服務(wù)器上進行的操作
啟動mysql服務(wù)
/opt/mysql/init.d/mysql start
通過命令行登錄管理MySQL服務(wù)器
/opt/mysql/bin/mysql -uroot -p'new-password'
授權(quán)給從數(shù)據(jù)庫服務(wù)器192.168.10.131
mysql> GRANT REPLICATION SLAVE ON *.* to 'rep1'@'192.168.10.131' identified by ‘password’;
查詢主數(shù)據(jù)庫狀態(tài)
Mysql> show master status;
+------------------+----------+--------------+------------------+
| File | Position | Binlog_Do_DB | Binlog_Ignore_DB |
+------------------+----------+--------------+------------------+
| mysql-bin.000005 | 261 | | |
+------------------+----------+--------------+------------------+
記錄下 FILE 及 Position 的值,在后面進行從服務(wù)器操作的時候需要用到。
2.2 配置從服務(wù)器
修改從服務(wù)器的配置文件/opt/mysql/etc/my.cnf
將 server-id = 1修改為 server-id = 10,并確保這個ID沒有被別的MySQL服務(wù)所使用。
啟動mysql服務(wù)
/opt/mysql/init.d/mysql start
通過命令行登錄管理MySQL服務(wù)器
/opt/mysql/bin/mysql -uroot -p'new-password'
執(zhí)行同步SQL語句
mysql> change master to
master_host=’192.168.10.130’,
master_user=’rep1’,
master_password=’password’,
master_log_file=’mysql-bin.000005’,
master_log_pos=261;
正確執(zhí)行后啟動Slave同步進程
mysql> start slave;
主從同步檢查
mysql> show slave status\G
==============================================
**************** 1. row *******************
Slave_IO_State:
Master_Host: 192.168.10.130
Master_User: rep1
Master_Port: 3306
Connect_Retry: 60
Master_Log_File: mysql-bin.000005
Read_Master_Log_Pos: 415
Relay_Log_File: localhost-relay-bin.000008
Relay_Log_Pos: 561
Relay_Master_Log_File: mysql-bin.000005
Slave_IO_Running: YES
Slave_SQL_Running: YES
Replicate_Do_DB:
……………省略若干……………
Master_Server_Id: 1
1 row in set (0.01 sec)
==============================================
其中Slave_IO_Running 與 Slave_SQL_Running 的值都必須為YES,才表明狀態(tài)正常。
如果主服務(wù)器已經(jīng)存在應(yīng)用數(shù)據(jù),則在進行主從復(fù)制時,需要做以下處理:
(1)主數(shù)據(jù)庫進行鎖表操作,不讓數(shù)據(jù)再進行寫入動作
mysql> FLUSH TABLES WITH READ LOCK;
(2)查看主數(shù)據(jù)庫狀態(tài)
mysql> show master status;
(3)復(fù)制數(shù)據(jù)文件
將主服務(wù)器的數(shù)據(jù)文件(整個/opt/mysql/data目錄)復(fù)制到從服務(wù)器,建議通過tar歸檔壓縮后再傳到從服務(wù)器解壓。
(4)取消主數(shù)據(jù)庫鎖定
mysql> UNLOCK TABLES;
2.3 驗證主從復(fù)制效果
主服務(wù)器上的操作
在主服務(wù)器上創(chuàng)建數(shù)據(jù)庫first_db
mysql> create database first_db;
Query Ok, 1 row affected (0.01 sec)
在主服務(wù)器上創(chuàng)建表first_tb
mysql> create table first_tb(id int(3),name char(10));
Query Ok, 1 row affected (0.00 sec)
在主服務(wù)器上的表first_tb中插入記錄
mysql> insert into first_tb values (001,’myself’);
Query Ok, 1 row affected (0.00 sec)
在從服務(wù)器上查看
mysql> show databases;
=============================
+--------------------+
| Database |
+--------------------+
| information_schema |
| first_db |
| mysql |
| performance_schema |
| test |
+--------------------+
5 rows in set (0.01 sec)
=============================
數(shù)據(jù)庫first_db已經(jīng)自動生成
mysql> use first_db
Database chaged
mysql> show tables;
=============================
+--------------------+
| Tables_in_first_db |
+--------------------+
| first_tb |
+--------------------+
1 row in set (0.02 sec)
=============================
數(shù)據(jù)庫表first_tb也已經(jīng)自動創(chuàng)建
mysql> select * from first_tb;
=============================
+------+------+
| id | name |
+------+------+
| 1 | myself |
+------+------+
1 rows in set (0.00 sec)
=============================
記錄也已經(jīng)存在
由此,整個MySQL主從復(fù)制的過程就完成了,接下來,我們進行MySQL讀寫分離的安裝與配置。
三、MySQL讀寫分離
場景描述:
數(shù)據(jù)庫Master主服務(wù)器:192.168.10.130
數(shù)據(jù)庫Slave從服務(wù)器:192.168.10.131
MySQL-Proxy調(diào)度服務(wù)器:192.168.10.132
以下操作,均是在192.168.10.132即MySQL-Proxy調(diào)度服務(wù)器 上進行的。
3.1 MySQL的安裝與配置
具體的安裝過程與上文相同。
3.2 檢查系統(tǒng)所需軟件包
通過 rpm -qa | grep name 的方式驗證以下軟件包是否已全部安裝。
gcc* gcc-c++* autoconf* automake* zlib* libxml* ncurses-devel* libmcrypt* libtool* flex* pkgconfig*
libevent* glib*
若缺少相關(guān)的軟件包,可通過yum -y install方式在線安裝,或直接從系統(tǒng)安裝光盤中找到并通過rpm -ivh方式安裝。
3.3 編譯安裝lua
MySQL-Proxy的讀寫分離主要是通過rw-splitting.lua腳本實現(xiàn)的,因此需要安裝lua。
lua可通過以下方式獲得
從http://www.lua.org/download.html下載源碼包
從rpm.pbone.net搜索相關(guān)的rpm包
download.fedora.redhat.com/pub/fedora/epel/5/i386/lua-5.1.4-4.el5.i386.rpm
download.fedora.redhat.com/pub/fedora/epel/5/x86_64/lua-5.1.4-4.el5.x86_64.rpm
這里我們建議采用源碼包進行安裝
cd /opt/install
wget http://www.lua.org/ftp/lua-5.1.4.tar.gz
tar zvfx lua-5.1.4.tar.gz
cd lua-5.1.4
vi src/Makefile
在 CFLAGS= -O2 -Wall $(MYCFLAGS) 這一行記錄里加上-fPIC,更改為 CFLAGS= -O2 -Wall -fPIC $(MYCFLAGS) 來避免編譯過程中出現(xiàn)錯誤。
make linux
make install
cp etc/lua.pc /usr/lib/pkgconfig/
export PKG_CONFIG_PATH=$PKG_CONFIG_PATH:/usr/lib/pkgconfig
3.4 安裝配置MySQL-Proxy
MySQL-Proxy可通過以下網(wǎng)址獲得:
http://mysql.cdpa.nsysu.edu.tw/Downloads/MySQL-Proxy/
推薦采用已經(jīng)編譯好的二進制版本,因為采用源碼包進行編譯時,最新版的MySQL-Proxy對automake,glib以及l(fā)ibevent的版本都有很高的要求,而這些軟件包都是系統(tǒng)的基礎(chǔ)套件,不建議強行進行更新。
并且這些已經(jīng)編譯好的二進制版本在解壓后都在統(tǒng)一的目錄內(nèi),因此建議選擇以下版本:
32位RHEL5平臺:
http://mysql.cdpa.nsysu.edu.tw/Downloads/MySQL-Proxy/mysql-proxy-0.8.1-linux-rhel5-x86-32bit.tar.gz
64位RHEL5平臺:
http://mysql.cdpa.nsysu.edu.tw/Downloads/MySQL-Proxy/mysql-proxy-0.8.1-linux-rhel5-x86-64bit.tar.gz
測試平臺為RHEL5 32位,因此選擇32位的軟件包
wget http://mysql.cdpa.nsysu.edu.tw/Downloads/MySQL-Proxy/mysql-proxy-0.8.1-linux-rhel5-x86-32bit.tar.gz
tar xzvf mysql-proxy-0.8.1-linux-rhel5-x86-32bit.tar.gz
mv mysql-proxy-0.8.1-linux-rhel5-x86-32bit /opt/mysql-proxy
創(chuàng)建mysql-proxy服務(wù)管理腳本
mkdir /opt/mysql-proxy/init.d/
vim mysql-proxy
3.5 測試讀寫分離效果創(chuàng)建用于讀寫分離的數(shù)據(jù)庫連接用戶
登陸主數(shù)據(jù)庫服務(wù)器192.168.10.130,通過命令行登錄管理MySQL服務(wù)器
/opt/mysql/bin/mysql -uroot -p'new-password'
mysql> GRANT ALL ON *.* TO 'proxy1'@'192.168.10.132' IDENTIFIED BY 'password';
由于我們配置了主從復(fù)制功能,因此從數(shù)據(jù)庫服務(wù)器192.168.10.131上已經(jīng)同步了此操作。
為了清晰的看到讀寫分離的效果,需要暫時關(guān)閉MySQL主從復(fù)制功能
登陸從數(shù)據(jù)庫服務(wù)器192.168.10.131,通過命令行登錄管理MySQL服務(wù)器
/opt/mysql/bin/mysql -uroot -p'new-password'
關(guān)閉Slave同步進程
mysql> stop slave;
Query OK, 0 rows affected (0.00 sec)
連接MySQL-Proxy
/opt/mysql/bin/mysql -uproxy1 -p'password' -P4040 -h192.168.10.132
登陸成功后,在first_db數(shù)據(jù)的first_tb表中插入兩條記錄
mysql> use first_db;
Database changed
mysql> insert into first_tb values (007,’first’);
Query Ok, 1 row affected (0.00 sec)
mysql> insert into first_tb values (110,’second’);
Query Ok, 1 row affected (0.00 sec)
查詢記錄
mysql> select * from first_tb;
=============================
+------+------+
| id | name |
+------+------+
| 1 | myself |
+------+------+
1 rows in set (0.00 sec)
=============================
通過讀操作并沒有看到新記錄
mysql> quit
退出MySQL-Proxy
下面,分別登陸到主從數(shù)據(jù)庫服務(wù)器,對比記錄信息
首先,檢查主數(shù)據(jù)庫服務(wù)器
mysql> select * from first_tb;
=============================
+------+------+
| id | name |
+------+------+
| 1 | myself |
+------+------+
| 007 | first |
+------+------+
| 110 | second |
+------+------+
3 rows in set (0.00 sec)
=============================
兩條新記錄都已經(jīng)存在
然后,檢查從數(shù)據(jù)庫服務(wù)器
mysql> select * from first_tb;
=============================
+------+------+
| id | name |
+------+------+
| 1 | myself |
+------+------+
1 rows in set (0.00 sec)
=============================
沒有新記錄存在
由此驗證,我們已經(jīng)實現(xiàn)了MySQL讀寫分離,目前所有的寫操作都全部在Master主服務(wù)器上,用來避免數(shù)據(jù)的不同步;
另外,所有的讀操作都分攤給了其它各個Slave從服務(wù)器上,用來分擔數(shù)據(jù)庫壓力。
經(jīng)驗分享:
1.當MySQL主從復(fù)制在 show slave status\G 時出現(xiàn)Slave_IO_Running或Slave_SQL_Running 的值不為YES時,需要首先通過 stop slave 來停止從服務(wù)器,然后再執(zhí)行一次本文 2.1與2.2 章節(jié)中的步驟即可恢復(fù),但如果想盡可能的同步更多的數(shù)據(jù),可以在Slave上將master_log_pos節(jié)點的值在之前同步失效的值的基礎(chǔ)上增大一些,然后反復(fù)測試,直到同步OK。因為MySQL主從復(fù)制的原理其實就是從服務(wù)器讀取主服務(wù)器的binlog,然后根據(jù)binlog的記錄來更新數(shù)據(jù)庫。
2.MySQL-Proxy的rw-splitting.lua腳本在網(wǎng)上有很多版本,但是最準確無誤的版本仍然是源碼包中所附帶的lib/rw-splitting.lua腳本,如果有l(wèi)ua腳本編程基礎(chǔ)的話,可以在這個腳本的基礎(chǔ)上再進行優(yōu)化;
3.MySQL-Proxy實際上非常不穩(wěn)定,在高并發(fā)或有錯誤連接的情況下,進程很容易自動關(guān)閉,因此打開--keepalive參數(shù)讓進程自動恢復(fù)是個比較好的辦法,但還是不能從根本上解決問題,因此通常最穩(wěn)妥的做法是在每個從服務(wù)器上安裝一個MySQL-Proxy供自身使用,雖然比較低效但卻能保證穩(wěn)定性;
4.一主多從的架構(gòu)并不是最好的架構(gòu),通常比較優(yōu)的做法是通過程序代碼和中間件等方面,來規(guī)劃,比如設(shè)置對表數(shù)據(jù)的自增id值差異增長等方式來實現(xiàn)兩個或多個主服務(wù)器,但一定要注意保證好這些主服務(wù)器數(shù)據(jù)的完整性,否則效果會比多個一主多從的架構(gòu)還要差;
5.MySQL-Cluster 的穩(wěn)定性也不是太好;
6.Amoeba for MySQL 是一款優(yōu)秀的中間件軟件,同樣可以實現(xiàn)讀寫分離,負載均衡等功能,并且穩(wěn)定性要大大超過MySQL-Proxy,建議大家用來替代MySQL-Proxy,甚至MySQL-Cluster。
轉(zhuǎn)載于:https://www.cnblogs.com/changye/p/3736662.html
總結(jié)
以上是生活随笔為你收集整理的MySQL主从复制(Master-Slave)与读写分离(MySQL-Proxy)实践 转载的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 基于visual Studio2013解
- 下一篇: 【转】数据库设计:物理结构设计