MySQL优化INSERT的性能
對于一些數(shù)據(jù)量較大的系統(tǒng),面臨的問題除了是查詢效率低下,還有一個很重要的問題就是插入時間長。我們就有一個業(yè)務系統(tǒng),每天的數(shù)據(jù)導入需要4-5個鐘。這種費時的操作其實是很有風險的,假設程序出了問題,想重跑操作那是一件痛苦的事情。因此,提高大數(shù)據(jù)量系統(tǒng)的MySQL insert效率是很有必要的。
1. 一條SQL語句插入多條數(shù)據(jù)。
常用的插入語句如:
| 1 2 | INSERT?INTO?`insert_table`?(`datetime`,?`uid`,?`content`,?`type`)?VALUES?('0',?'userid_0',?'content_0',?0); INSERT?INTO?`insert_table`?(`datetime`,?`uid`,?`content`,?`type`)?VALUES?('1',?'userid_1',?'content_1',?1); |
修改如下:
| 1 | INSERT?INTO?`insert_table`?(`datetime`,?`uid`,?`content`,?`type`)?VALUES?('0',?'userid_0',?'content_0',?0),?('1',?'userid_1',?'content_1',?1); |
修改后的插入操作能夠提高程序的插入效率。這里第二種SQL執(zhí)行效率高的主要原因有兩個,一是減少SQL語句解析的操作, 只需要解析一次就能進行數(shù)據(jù)的插入操作,二是SQL語句較短,可以減少網(wǎng)絡傳輸?shù)腎O。
這里提供一些測試對比數(shù)據(jù),分別是進行單條數(shù)據(jù)的導入與轉(zhuǎn)化成一條SQL語句進行導入,分別測試1百、1千、1萬條數(shù)據(jù)記錄。
?
2. 在事務中進行插入處理。
把插入修改成:
| 1 2 3 4 5 | START?TRANSACTION; INSERT?INTO?`insert_table`?(`datetime`,?`uid`,?`content`,?`type`)?VALUES?('0',?'userid_0',?'content_0',?0); INSERT?INTO?`insert_table`?(`datetime`,?`uid`,?`content`,?`type`)?VALUES?('1',?'userid_1',?'content_1',?1); ... COMMIT; |
使用事務可以提高數(shù)據(jù)的插入效率,這是因為進行一個INSERT操作時,MySQL內(nèi)部會建立一個事務,在事務內(nèi)進行真正插入處理。通過使用事務可以減少創(chuàng)建事務的消耗,所有插入都在執(zhí)行后才進行提交操作。
這里也提供了測試對比,分別是不使用事務與使用事務在記錄數(shù)為1百、1千、1萬的情況。
?
性能測試:
這里提供了同時使用上面兩種方法進行INSERT效率優(yōu)化的測試。即多條數(shù)據(jù)合并為同一個SQL,并且在事務中進行插入。
?
從測試結(jié)果可以看到,insert的效率大概有50倍的提高,這個一個很客觀的數(shù)字。
注意事項:
1. SQL語句是有長度限制,在進行數(shù)據(jù)合并在同一SQL中務必不能超過SQL長度限制,通過max_allowed_packet配置可以修改,默認是1M。
2. 事務需要控制大小,事務太大可能會影響執(zhí)行的效率。MySQL有innodb_log_buffer_size配置項,超過這個值會日志會使用磁盤數(shù)據(jù),這時,效率會有所下降。所以比較好的做法是,在事務大小達到配置項數(shù)據(jù)級前進行事務提交。
?
總結(jié)
以上是生活随笔為你收集整理的MySQL优化INSERT的性能的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 花呗怎么提额度方法 掌握这几个技巧就可
- 下一篇: MySQL中的字符串连接