rocksdb和leveldb性能比较——写性能
前面學習了一下rocksdb,這個db是對leveldb的一個改進,是基于leveldb1.5的版本上的改進,而且leveldb1.5以后也在不斷的優(yōu)化,下面從寫入性能對兩者進行對比。
?
前言
比較的leveldb的版本是1.18,rocksdb的版本是3.10.1.
在比較的時候需要將leveldb和rocksdb的參數(shù)調(diào)成一樣的,本文的參數(shù)為,
memtable 4M,最多2個memtable
level0_slowdown_writes_trigger=8,level0_stop_writes_trigger=12,level0_file_num_compaction_trigger=4,
flush和compaction共用一個進程
leveldb和rocksdb在后臺進程管理的默認配置也是不一樣的,leveldb默認只能有一個后臺進程用于flush和compaction,而rocksdb flush和compaction都會有一個進程,本文特殊沒有說明的rocksdb就是和leveldb一樣的,flush和compaction共用一個進程
場景1
每個key 8byte,沒有value
這個場景在關(guān)系鏈系統(tǒng)里面非常常見,因為關(guān)系鏈系統(tǒng)是key-list,使用leveldb類似系統(tǒng)實現(xiàn)的時候,需要將list中的id提到key里面
得到的測試結(jié)果如下:
| ? | leveldb | rocksdb |
| 請求數(shù) | 10000000 | 10000000 |
| 數(shù)據(jù)量 | 80M | 80M |
| 耗時s | 56 | 73 |
| 吞吐量(Mps) | 1.428571429 | 1.095890411 |
| qps | 178571.4286 | 136986.3014 |
| 是否發(fā)生stall | 否 | 否 |
結(jié)論是leveldb比rocksdb要略勝一籌,由于value為空,整個的吞吐量和磁盤的吞吐量(100Mps到150Mps)還相差比較遠,所以并沒有發(fā)生寫stall的情況。因為沒有發(fā)生stall,所以性能對比完全是內(nèi)存操作的性能的對比。
這個場景比的主要是內(nèi)存的寫操作速度,可以看出leveldb要好一些。
因為主要是內(nèi)存操作,內(nèi)存操作沒有l(wèi)og,(加上log會嚴重影響性能),猜測的原因可能是:
?
場景2
每個key 8byte,value 1000byte。
| ? | leveldb | rocksdb(flush和compaction共用線程) | rocksdb(flush和compaction分開線程) |
| 請求數(shù) | 1000000 | 1000000 | 1000000 |
| 數(shù)據(jù)量 | 1G | 1G | 1G |
| 耗時s | 70 | 138 | 125 |
| 吞吐量(Mps) | 14.62857143 | 7.420289855 | 8.192 |
| qps | 14285.71429 | 7246.376812 | 8000 |
| 是否發(fā)生stall | 是 | 是 | 是 |
結(jié)論仍然是leveldb要更好一些,具體查看LOG文件,可以看出端倪,rocksdb的最后的level分布是:[6 359 148 0 0 0 0],level1文件嚴重超出范圍,這樣level0的文件并到level1上的時候就需要讀入非常多的文件。咋
其中一次8個level0的319個level1的文件進行一次compaction,花費的時間可想而知。
那么為什么會這樣呢?因為rocksdb在挑選compaction的時候,如果level0的文件數(shù)目超出level0_slowdown_writes_trigger的時候得分異常高,所以會一直發(fā)生level0向level1轉(zhuǎn)移的情況,沒有機會level1向level2轉(zhuǎn)移。在這種情況下rocksdb就走向了深淵。。。。leveldb挑選compaction的時候,level0的分值是文件數(shù)目除以kL0_CompactionTrigger,其他level的分值是該level的總文件大小除以這個level的最大byte
?
當rocksdb的flush和compaction分為兩個進程的時候時間稍有減少,可以看出效果很不明顯。這個原因是磁盤是瓶頸,分為兩個進程并不能提高磁盤的吞吐量。
?
結(jié)論
從這個比較中可以看出,在寫量非常大的時候,leveldb的性能還是要優(yōu)于rocksdb的
轉(zhuǎn)載于:https://www.cnblogs.com/jfwang/p/4460191.html
總結(jié)
以上是生活随笔為你收集整理的rocksdb和leveldb性能比较——写性能的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 关于spring事务管理
- 下一篇: 【原创】RabbitMQ 之 Acces