memcache mysql 同步_memcache与mysql数据库同步
mysql memcached UDF(用戶自定義函數)和mysql觸發器在更新mysql數據庫的時候，觸發更新memcache。
1、首先介紹mysql memcached UDF安裝
mysql memcached UDF 安裝詳解
2011-03-31 14:19:12|? 分類： php|字號 訂閱
1：mysql memcached UDF 其實就是通過libmemcached來使用memcache的一系列函數，通過這些函數，你能 對memcache進行get, set, cas, append, prepend, delete, increment, decrement objects操作，如果我們通過mysql trigger來使用這些函數，那么就能通過mysql更好的，更自動的管理memcache!
2:安裝方法：
1)安裝memcache
2)安裝libmemcached
shell> cd libmemcached-0.35
shell> ./configure --with-memcached=/usr/local/bin/memcached
shell> make && make install
shell> echo "/usr/local/lib" >> /etc/ld.so.conf
shell> ldconfig
3)安裝memcached_functions_mysql
shell> tar zxvf memcached_functions_mysql-0.9.tar.gz
shell> cd memcached_functions_mysql-0.9
shell> ./configure --with-mysql=/usr/local/mysql51/bin/mysql_config --with-libmemcached =/usr/local/
shell> make && make install
4)拷貝lib文件到mysql的plugin下面
shell> cp -R /usr/local/lib/libmemcached_functions_mysql.* /usr/local/mysql51/lib/mysql/plugin/
5)添加memcache UDF 函數
在mysql里執行 source install_functions.sql
這樣我們就可以使用mysql memcached UDF 了，我們可以通過下面語句查看是否已經正常安裝
1)查看mysql.func,有很多函數
mysql> select * from mysql.func;
+------------------------------+-----+---------------------------------+----------+
| name???????????????????????? | ret | dl????????????????????????????? | type???? |
+------------------------------+-----+---------------------------------+----------+
| memc_add???????????????????? |?? 2 | libmemcached_functions_mysql.so | function |
| memc_add_by_key????????????? |?? 2 | libmemcached_functions_mysql.so | function |
| memc_servers_set???????????? |?? 2 | libmemcached_functions_mysql.so | function |
2)添加trigger，看是否向memcache里insert、update等
具體的語句，我們可以參照：
1)memcached_functions_mysql-0.9/sql 目錄下的trigger_fun.sql
我們還必須注意以下幾點：
1)mysql 編譯時一定不要帶'--with-mysqld-ldflags=-all-static' 這個參數，因為這樣就限制了mysql 的動態安裝功能了
2)使用時，要觀察mysql.err日志，不知道是有意還是無意，udf更新memcache都會記錄在err日志里，注意清理該日志，否則一下就爆滿了
3)mysql 官網有這樣一句話：
The list of servers used by the memcached UDFs is not persistent over restarts of the MySQL server. If the MySQL server fails, then you must re-set the list of memcached servers.
所以，當我們重啟mysql，我們必須通過select? memc_servers_set('192.168.0.1:11211,192.168.0.2:11211');語句重新注冊memcache服務器！
測試環境在Linux下進行，版本系統為CentOS5.
以下為相關軟件，包括其版本和下載地址：
mysql-5.1.30 下載
memcached-1.2.6 下載
libevent-1.4.7-stable 下載
memcached_functions_mysql-1.1 下載
libmemcached-0.26 下載
編譯安裝MySQL,安裝因個人細好而定，省略許多與測試無關的編譯細節及參數。 [root@localhost ~]#tar xzf mysql-5.1.30.tar_001.gz
[root@localhost ~]#cd mysql-5.1.30
[root@localhost ~]#./configure --prefix=/usr/local/mysql51
[root@localhost ~]#make
[root@localhost ~]#make install
[root@localhost ~]#./scripts/mysql_install_db --user=mysql --skip-name-resolve
[root@localhost ~]#/usr/local/mysql51/bin/mysqld_safe
省略列出安裝memcached和libevent的相關命令，具體可按照實際情況安裝，測試時我將libevent默認安裝，memcached安裝于/usr/local/memcached目錄下。
啟動memcached. /usr/local/memcached/bin/memcached -d -m 50 -u root -p 11211
編譯安裝libmemcache. [root@localhost ~]#tar xzf libmemcached-0.26.tar.gz
[root@localhost ~]#cd libmemcached-0.26
[root@localhost ~]#./configure --with-memcached=/usr/local/memcached/bin/memcached
[root@localhost ~]# make && make install
編譯安裝Memcache UDFs for MySQL. [root@localhost ~]# tar xzf memcached_functions_mysql-1.1.tar.gz
[root@localhost ~]# cd memcached_functions_mysql-1.1
[root@localhost ~]# ./configure --with-mysql-config=/usr/local/mysql51/bin/mysql_config
[root@localhost ~]# make && make install
編譯完成后將編譯好的庫文件復制到mysql的插件目錄下，以便于加載使用。 cp /usr/local/lib/libmemcached_functions_mysql* /usr/local/mysql51/lib/mysql/plugin/
進入memcached_functions_mysql的源碼目錄，在目錄下有相關添加UDF的SQL文件用于初始化。
在mysql的shell中執行memcached_functions_mysql源碼目錄下的sql/install_functions.sql
或者運行memcached_functions_mysql源碼目錄下utils/install.pl這個perl腳本，把memcache function作為UDF加入mysql。
[root@localhost ~]# mysql
檢查安裝是否成功
mysql> select name,dl from mysql.func;
二. 測試用例設計情況：
(1).新建兩張表：urls和results，用來更新urls表里面的內容，讓系統自動更新memcached的內容。results用來記錄更新memcached失敗的記錄。
sql語句如下：
use tests;
drop table if exists urls;
CREATE TABLE `urls` (
`id` int(10) NOT NULL,
`url` varchar(255) NOT NULL DEFAULT '',
PRIMARY KEY (`id`)
);
drop table if exists results;
CREATE TABLE `results` (
`id` int(10) NOT NULL,
`result` varchar(255) NOT NULL DEFAULT 'error',
`time` timestamp NULL DEFAULT CURRENT_TIMESTAMP,
PRIMARY KEY (`id`)
);
(2). 建立三個trigger.
當向urls表里面插入數據時，對memcached執行set操作，trigger如下：
DELIMITER //
DROP TRIGGER IF EXISTS url_mem_insert;
CREATE TRIGGER url_mem_insert
BEFORE INSERT ON urls
FOR EACH ROW BEGIN
set @mm = memc_set(NEW.id, NEW.url);
if @mm <> 0 then
insert into results(id) values(NEW.id);
end if;
END //
DELIMITER ;
當對urls表里面的數據進行更新時，對memcached執行replace操作，trigger如下：
DELIMITER //
DROP TRIGGER IF EXISTS url_mem_update;
CREATE TRIGGER url_mem_update
BEFORE UPDATE ON urls
FOR EACH ROW BEGIN
set @mm = memc_replace(OLD.id,NEW.url);
if @mm <> 0 then
insert into results(id) values(OLD.id);
end if;
END //
DELIMITER ;
當對urls表里面的數據進行刪除操作時，對memcached執行delete操作，trigger如下：
DELIMITER //
DROP TRIGGER IF EXISTS url_mem_delete;
CREATE TRIGGER url_mem_delete
BEFORE DELETE ON urls
FOR EACH ROW BEGIN
set @mm = memc_delete(OLD.ID);
if @mm <> 0 then
insert into results(id) values(OLD.id);
end if;
END //
DELIMITER ;
(3). 設置memcached相關參數
設置同時UDF操作的memcaced的機器IP和端口：
mysql> SELECT memc_servers_set('192.168.3.184:11900');
+---------------------------------------+
| memc_servers_set('192.168.3.184:11900') |
+---------------------------------------+
|???????????????????????????????????? 0 |
+---------------------------------------+
1 row in set (0.00 sec)
mysql> select memc_server_count();
+---------------------+
| memc_server_count() |
+---------------------+
|?????????????????? 1 |
+---------------------+
1 row in set (0.00 sec)
在mysql命令行列出可以修改memcached參數的行為：
mysql> select memc_list_behaviors()/G
*************************** 1. row ***************************
memc_list_behaviors():
MEMCACHED SERVER BEHAVIORS
MEMCACHED_BEHAVIOR_SUPPORT_CAS
MEMCACHED_BEHAVIOR_NO_BLOCK
MEMCACHED_BEHAVIOR_TCP_NODELAY
MEMCACHED_BEHAVIOR_HASH
MEMCACHED_BEHAVIOR_CACHE_LOOKUPS
MEMCACHED_BEHAVIOR_SOCKET_SEND_SIZE
MEMCACHED_BEHAVIOR_SOCKET_RECV_SIZE
MEMCACHED_BEHAVIOR_BUFFER_REQUESTS
MEMCACHED_BEHAVIOR_KETAMA
MEMCACHED_BEHAVIOR_POLL_TIMEOUT
MEMCACHED_BEHAVIOR_RETRY_TIMEOUT
MEMCACHED_BEHAVIOR_DISTRIBUTION
MEMCACHED_BEHAVIOR_BUFFER_REQUESTS
MEMCACHED_BEHAVIOR_USER_DATA
MEMCACHED_BEHAVIOR_SORT_HOSTS
MEMCACHED_BEHAVIOR_VERIFY_KEY
MEMCACHED_BEHAVIOR_CONNECT_TIMEOUT
MEMCACHED_BEHAVIOR_KETAMA_WEIGHTED
MEMCACHED_BEHAVIOR_KETAMA_HASH
MEMCACHED_BEHAVIOR_BINARY_PROTOCOL
MEMCACHED_BEHAVIOR_SND_TIMEOUT
MEMCACHED_BEHAVIOR_RCV_TIMEOUT
MEMCACHED_BEHAVIOR_SERVER_FAILURE_LIMIT
MEMCACHED_BEHAVIOR_IO_MSG_WATERMARK
MEMCACHED_BEHAVIOR_IO_BYTES_WATERMARK
1 row in set (0.00 sec)
設置MEMCACHED_BEHAVIOR_NO_BLOCK為打開狀態，這樣在memcached出現問題時(不能連接時)
數據繼續插入到mysql中，報錯提示，如果不設置此值，如果memcached失敗，mysql需要等到timeout
才可以插入到表中。
mysql> select memc_servers_behavior_set('MEMCACHED_BEHAVIOR_NO_BLOCK','1');
+--------------------------------------------------------------+
| memc_servers_behavior_set('MEMCACHED_BEHAVIOR_NO_BLOCK','1') |
+--------------------------------------------------------------+
|??????????????????????????????????????????????????????????? 0 |
+--------------------------------------------------------------+
1 row in set (0.00 sec)
mysql> select memc_servers_behavior_set('MEMCACHED_BEHAVIOR_TCP_NODELAY','1');
+-----------------------------------------------------------------+
| memc_servers_behavior_set('MEMCACHED_BEHAVIOR_TCP_NODELAY','1') |
+-----------------------------------------------------------------+
|?????????????????????????????????????????????????????????????? 0 |
+-----------------------------------------------------------------+
1 row in set (0.00 sec)
三. 簡單的功能測試：
1. 向表urls里面插入數據，然后查memcached是否也set進數據：
mysql> insert into urls (id,url) values (1, 'http://www.sina.com.cn');
Query OK, 1 row affected, 1 warning (0.00 sec)
mysql> select memc_get('1');
+------------------------+
| memc_get('1')????????? |
+------------------------+
| http://www.sina.com.cn |
+------------------------+
1 row in set (0.00 sec)
1> telnet 192.168.3.184 11900
Trying 192.168.3.184...
Connected to 192.168.3.184 (192.168.3.184).
Escape character is '^]'.
get 1
VALUE 1 0 22
http://www.sina.com.cn
END
2.更新表urls里面的數據，然后查詢memcached里面是否也更新：
mysql> update test.urls set url='http://blog.sina.com.cn' where id=1;
Query OK, 1 row affected, 1 warning (0.00 sec)
Rows matched: 1? Changed: 1? Warnings: 0
mysql> select memc_replace('1','http://blog.sina.com.cn');
+---------------------------------------------+
| memc_replace('1','http://blog.sina.com.cn') |
+---------------------------------------------+
|?????????????????????????????????????????? 0 |
+---------------------------------------------+
1 row in set (0.00 sec)
mysql> select memc_get('1');
+-------------------------+
| memc_get('1')?????????? |
+-------------------------+
| http://blog.sina.com.cn |
+-------------------------+
1 row in set (0.00 sec)
1> telnet 192.168.3.184 11900
Trying 192.168.3.184...
Connected to 192.168.3.184 (192.168.3.184).
Escape character is '^]'.
get 1
VALUE 1 0 23
http://blog.sina.com.cn
END
3.刪除表urls里面的數據，然后查memcached是否也刪除：
mysql> delete from test.urls where id=1;
Query OK, 1 row affected, 1 warning (0.00 sec)
Rows matched: 1? Changed: 1? Warnings: 0
mysql> select memc_get('1');
+---------------+
| memc_get('1') |
+---------------+
| NULL????????? |
+---------------+
1 row in set (0.00 sec)
1> telnet 192.168.3.184 11900
Trying 192.168.3.184...
Connected to 192.168.3.184 (192.168.3.184).
Escape character is '^]'.
get 1
END
四. 利用php腳本insert, update,delete表urls里面的數據，進行測試。
每條記錄的平均長度是：17K
單獨向表urls里面插入10萬條記錄需要的時間為：75秒
單獨對表urls里面更新10萬條記錄需要的時間為：70秒
單獨對表urls里面刪除10萬條記錄需要的時間為：105秒
同時進行30萬數據的insert,update, delete操作需要時間為：241秒
上面操作都沒有memcached失敗情況：
mysql> select * from results;
Empty set (0.00 sec)
測試腳本如下：
插入腳本：
0> more a.php
$conn = mysql_connect("192.168.1.61","test","test") or die(mysql_error());
mysql_select_db("test",$conn) or die(mysql_error());
//$sql = "show tables";
echo date("Y-m-d H:i:s");
//mysql_query($sql) or die(mysql_error());
for ($i=1; $i<=100000; $i++) {
$sql="insert into urls (id,url) values ($i, 'http://$i$i$i$i$i$i$i$i$i$i$i$i$i$i$i$i$i$i$i$i$i$i$i$i$i.com');";
mysql_query($sql) or die(mysql_error());
}
echo "/n";
echo date("Y-m-d H:i:s");
?>
更新腳本：
0> more b.php
$conn = mysql_connect("192.168.1.61","test","test") or die(mysql_error());
mysql_select_db("test",$conn) or die(mysql_error());
//$sql = "show tables";
echo date("Y-m-d H:i:s");
//mysql_query($sql) or die(mysql_error());
for ($i=1; $i<=100000; $i++) {
$sql="update test.urls set url='http://xxxx.$i$i$i$i$i$i$i$i$i$i$i$i$i$i$i$i$i$i$i$i$i$i$i$i$i$i$i.com' where id=$i;";
mysql_query($sql) or die(mysql_error());
}
echo "/n";
echo date("Y-m-d H:i:s");
?>
刪除腳本：
0> more c.php
$conn = mysql_connect("192.168.1.61","test","test") or die(mysql_error());
mysql_select_db("test",$conn) or die(mysql_error());
//$sql = "show tables";
echo date("Y-m-d H:i:s");
//mysql_query($sql) or die(mysql_error());
for ($i=1; $i<=100000; $i++) {
$sql="delete from test.urls where id=$i;";
mysql_query($sql) or die(mysql_error());
}
echo "/n";
echo date("Y-m-d H:i:s");
?>
五. 結論：
測試依賴的環境比較多，可能數據會不準確。整體來看速度還不錯。
適合項目應用相對比較小的場合。
優點：
觸發器中使用 UDFs 直接更新 Memcached 的內容，減輕了應用程序設計和編寫的復雜性。
缺點：
1. 如果出現mysql服務重啟，需要重新設置連接memcached關系(SELECT memc_servers_set('192.168.3.184:11900'))
2. 有可能存在bug問題，導致mysql的crash(測試時沒遇到:)).
真正的線上環境比這個復雜很多。我想到的需要考慮的問題：
1. 網絡因素，mysql和memcached是否放在同一IDC，他們之間的網絡性能是否很好。網絡性能越好，速度肯定越快，如果使用本機的memcached能適當的減少網絡開銷。
2. 插入的數據量，向mysql插入每條記錄的size，以及向memcached里面更新的數據size大小。更新mysql,memcached的數據size越大，更新的速度越慢。
所以前期規劃好，在memcached里面存那兩列(key-value)是關鍵。
3. 延時問題需要考慮，mysql所在機器如果資源使用比較狠，會導致更新memcached慢(出現類似m/s的延時問題)。
4. 考慮容災問題，如果兩者中有down出現時，需要考慮怎么恢復，當前的測試是這樣考慮的：建一張錯誤表，如果在出現更新mc出現問題時，自動把更新錯誤的記錄插到
一張表里面，通過查這張表，可以知道哪些數據在什么時間更新錯誤,如果應用于生產環境，需要考慮監控和出現問題時恢復工作(寫好腳本完善這個工作)。
5. mysql自身因素，例如執行的mysql語句效率，以及連接mysql的client程序(php)的連接開銷等等。
總結
以上是生活随笔為你收集整理的memcache mysql 同步_memcache与mysql数据库同步的全部內容，希望文章能夠幫你解決所遇到的問題。
- 上一篇： java文件不存在就创建_Java中创建
- 下一篇： mysql innodb 事务_Mysq