ES性能并沒有想象中那么好。很多時候數據量大了，特別是有幾億條數據的時候，可能第一次搜索的時候，是5-10s，后面反而就快了，可能就幾百毫秒。

說實話，ES 性能優化不要期待著隨手調一個參數，就可以萬能的應對所有的性能慢的場景。也許有的場景是你換個參數，或者調整一下語法，就可以搞定，但是絕對不是所有場景都可以這樣。

下面介紹幾種提高查詢效率的方法：

一、性能優化的殺手锏：Filesystem Cache

你往 ES 里寫的數據，實際上都寫到磁盤文件里去了，查詢的時候，操作系統會將磁盤文件里的數據自動緩存到 Filesystem Cache 里面去。
ES 的搜索引擎嚴重依賴于底層的 Filesystem Cache，你如果給 Filesystem Cache 更多的內存，盡量讓內存可以容納所有的 IDX Segment File 索引數據文件，那么你搜索的時候就基本都是走內存的，性能會非常高。

性能差距究竟可以有多大？我們之前很多的測試和壓測，如果走磁盤一般肯定上秒，搜索性能絕對是秒級別的，1 秒、5 秒、10 秒。

但如果是走 Filesystem Cache，是走純內存的，那么一般來說性能比走磁盤要高一個數量級，基本上就是毫秒級的，從幾毫秒到幾百毫秒不等。

這里有個真實的案例：某個公司 ES 節點有 3 臺機器，每臺機器看起來內存很多 64G，總內存就是 64 * 3 = 192G。

每臺機器給 ES JVM Heap 是 32G，那么剩下來留給 Filesystem Cache 的就是每臺機器才 32G，總共集群里給 Filesystem Cache 的就是 32 * 3 = 96G 內存。

而此時，整個磁盤上索引數據文件，在 3 臺機器上一共占用了 1T 的磁盤容量，ES 數據量是 1T，那么每臺機器的數據量是 300G。這樣性能好嗎？

Filesystem Cache 的內存才 100G，十分之一的數據可以放內存，其他的都在磁盤，然后你執行搜索操作，大部分操作都是走磁盤，性能肯定差。

歸根結底，你要讓 ES 性能好，最佳的情況下，就是你的機器的內存，至少可以容納你的總數據量的一半。

根據我們自己的生產環境實踐經驗，最佳的情況下，是僅僅在 ES 中就存少量的數據，就是你要用來搜索的那些索引，如果內存留給 Filesystem Cache 的是 100G，那么你就將索引數據控制在 100G 以內。

這樣的話，你的數據幾乎全部走內存來搜索，性能非常之高，一般可以在1秒以內。

比如說你現在有一行數據：id，name，age … 30 個字段。但是你現在搜索，只需要根據 id，name，age 三個字段來搜索。

如果你傻乎乎往 ES 里寫入一行數據所有的字段，就會導致說 90% 的數據是不用來搜索的。

結果硬是占據了 ES 機器上的 Filesystem Cache 的空間，單條數據的數據量越大，就會導致 Filesystem Cahce 能緩存的數據就越少。

其實，僅僅寫入 ES 中要用來檢索的少數幾個字段就可以了，比如說就寫入 es id，name，age 三個字段。

然后你可以把其他的字段數據存在 MySQL/HBase 里，我們一般是建議用 ES + HBase 這么一個架構。

HBase 的特點是適用于海量數據的在線存儲，就是對 HBase 可以寫入海量數據，但是不要做復雜的搜索，做很簡單的一些根據 id 或者范圍進行查詢的這么一個操作就可以了。

從 ES 中根據 name 和 age 去搜索，拿到的結果可能就 20 個 doc id，然后根據 doc id 到 HBase 里去查詢每個 doc id 對應的完整的數據，給查出來，再返回給前端。

寫入 ES 的數據最好小于等于，或者是略微大于 ES 的 Filesystem Cache 的內存容量。

然后你從 ES 檢索可能就花費 20ms，然后再根據 ES 返回的 id 去 HBase 里查詢，查 20 條數據，可能也就耗費個 30ms。

可能你原來那么玩兒，1T 數據都放 ES，會每次查詢都是 5~10s，現在可能性能就會很高，每次查詢就是 50ms。

二、數據預熱

假如說，哪怕是你就按照上述的方案去做了，ES 集群中每個機器寫入的數據量還是超過了 Filesystem Cache 一倍。

比如說你寫入一臺機器 60G 數據，結果 Filesystem Cache 就 30G，還是有 30G 數據留在了磁盤上。

其實可以做數據預熱。舉個例子，拿微博來說，你可以把一些大 V，平時看的人很多的數據，提前在后臺搞個系統。

每隔一會兒，自己的后臺系統去搜索一下熱數據，刷到 Filesystem Cache 里去，后面用戶實際上來看這個熱數據的時候，他們就是直接從內存里搜索了，很快。

或者是電商，你可以將平時查看最多的一些商品，比如說 iPhone 8，熱數據提前后臺搞個程序，每隔 1 分鐘自己主動訪問一次，刷到 Filesystem Cache 里去。

對于那些你覺得比較熱的、經常會有人訪問的數據，最好做一個專門的緩存預熱子系統。

就是對熱數據每隔一段時間，就提前訪問一下，讓數據進入 Filesystem Cache 里面去。這樣下次別人訪問的時候，性能一定會好很多。

三、冷熱分離

ES 可以做類似于 MySQL 的水平拆分，就是說將大量的訪問很少、頻率很低的數據，單獨寫一個索引，然后將訪問很頻繁的熱數據單獨寫一個索引。

最好是將冷數據寫入一個索引中，然后熱數據寫入另外一個索引中，這樣可以確保熱數據在被預熱之后，盡量都讓他們留在 Filesystem OS Cache 里，別讓冷數據給沖刷掉。

你看，假設你有 6 臺機器，2 個索引，一個放冷數據，一個放熱數據，每個索引 3 個 Shard。3 臺機器放熱數據 Index，另外 3 臺機器放冷數據 Index。

這樣的話，你大量的時間是在訪問熱數據 Index，熱數據可能就占總數據量的 10%，此時數據量很少，幾乎全都保留在 Filesystem Cache 里面了，就可以確保熱數據的訪問性能是很高的。

但是對于冷數據而言，是在別的 Index 里的，跟熱數據 Index 不在相同的機器上，大家互相之間都沒什么聯系了。

如果有人訪問冷數據，可能大量數據是在磁盤上的，此時性能差點，就 10% 的人去訪問冷數據，90% 的人在訪問熱數據，也無所謂了。

四、Document模型設計

對于 MySQL，我們經常有一些復雜的關聯查詢。在 ES 里該怎么玩兒，ES 里面的復雜的關聯查詢盡量別用，一旦用了性能一般都不太好。

最好是先在 Java 系統里就完成關聯，將關聯好的數據直接寫入 ES 中。搜索的時候，就不需要利用 ES 的搜索語法來完成 Join 之類的關聯搜索了。

Document 模型設計是非常重要的，很多操作，不要在搜索的時候才想去執行各種復雜的亂七八糟的操作。

ES 能支持的操作就那么多，不要考慮用 ES 做一些它不好操作的事情。如果真的有那種操作，盡量在 Document 模型設計的時候，寫入的時候就完成。

另外對于一些太復雜的操作，比如 join/nested/parent-child 搜索都要盡量避免，性能都很差的。

五、分頁性能優化

ES 的分頁是較坑的，為啥呢？舉個例子吧，假如你每頁是 10 條數據，你現在要查詢第 100 頁，實際上是會把每個 Shard 上存儲的前 1000 條數據都查到一個協調節點上。

如果你有 5 個 Shard，那么就有 5000 條數據，接著協調節點對這 5000 條數據進行一些合并、處理，再獲取到最終第 100 頁的 10 條數據。

分布式的，你要查第 100 頁的 10 條數據，不可能說從 5 個 Shard，每個 Shard 就查 2 條數據，最后到協調節點合并成 10 條數據吧？

你必須得從每個 Shard 都查 1000 條數據過來，然后根據你的需求進行排序、篩選等等操作，最后再次分頁，拿到里面第 100 頁的數據。

你翻頁的時候，翻的越深，每個 Shard 返回的數據就越多，而且協調節點處理的時間越長，非常坑爹。所以用 ES 做分頁的時候，你會發現越翻到后面，就越是慢。

我們之前也是遇到過這個問題，用 ES 作分頁，前幾頁就幾十毫秒，翻到 10 頁或者幾十頁的時候，基本上就要 5~10 秒才能查出來一頁數據了。

有什么解決方案嗎？不允許深度分頁（默認深度分頁性能很差）。跟產品經理說，你系統不允許翻那么深的頁，默認翻的越深，性能就越差。

類似于 App 里的推薦商品不斷下拉出來一頁一頁的；類似于微博中，下拉刷微博，刷出來一頁一頁的，你可以用 Scroll API，關于如何使用，自行上網搜索。

Scroll 會一次性給你生成所有數據的一個快照，然后每次滑動向后翻頁就是通過游標 scroll_id 移動，獲取下一頁、下一頁這樣子，性能會比上面說的那種分頁性能要高很多很多，基本上都是毫秒級的。

但是，唯一的一點就是，這個適合于那種類似微博下拉翻頁的，不能隨意跳到任何一頁的場景。

也就是說，你不能先進入第 10 頁，然后去第 120 頁，然后又回到第 58 頁，不能隨意亂跳頁。

所以現在很多產品，都是不允許你隨意翻頁的，App，也有一些網站，做的就是你只能往下拉，一頁一頁的翻。

初始化時必須指定 Scroll 參數，告訴 ES 要保存此次搜索的上下文多長時間。你需要確保用戶不會持續不斷翻頁翻幾個小時，否則可能因為超時而失敗。

除了用 Scroll API，你也可以用 search_after 來做。search_after 的思想是使用前一頁的結果來幫助檢索下一頁的數據。

顯然，這種方式也不允許你隨意翻頁，你只能一頁頁往后翻。初始化時，需要使用一個唯一值的字段作為 Sort 字段。

綜上，簡單總結一下能夠提高ES查詢性能的幾個方法：

1、調優Filesystem Cache性能的方法：

要讓 ES 性能好，最佳的情況下，就是機器的內存，至少可以容納總數據量的一半。索引數據占用的內存最好控制在留給Filesystem Cache的內存容量中。

要做到上面這一點，可以從兩個方面著手改造：

1、給 Filesystem Cache 更多的內存，盡量讓內存可以容納所有的 IDX Segment File 索引數據文件。

2、ES 中僅寫入要用來檢索的少數幾個字段就可以了，這樣可以縮小單條數據的數據量， Filesystem Cahce 能緩存的數據就越多。可以將其他的字段數據存在 MySQL/HBase 里，然后你從 ES 檢索可能就花費 20ms，然后再根據 ES 返回的 id 去 MySQL/HBase 里查詢，查 20 條數據，可能也就耗費個 30ms。

2、數據預熱方法：

對于熱門的搜索詞，后臺系統可以定時自己去搜索一下，這樣，熱門數據就會刷到Filesystem Cache中，后面用戶實際來搜索熱詞時就是直接從內存中搜索了。

3、冷熱分離方法：

將熱門數據寫一個索引，冷門數據單獨寫一個索引，這樣在熱門數據被預熱（即寫入Filesystem Cache）后，不會被冷數據給沖刷掉。

4、document模型設計方法：

ES對復雜關聯查詢不是很擅長，不要在ES中做復雜關聯查詢，最好在Java中完成關聯后直接寫入ES。

5、分頁性能優化方法：
現在要分頁查詢，每頁10條，要查第100頁。若ES有5個shard，那么ES是從每個shard上查出1000條數據，協調節點對這5000條數據進行合并，然后根據需求進行排序、篩選等操作后，再次分頁，拿到里面的第100頁數據。所以翻頁越深，shard返回的數據就越多，協調節點處理時間越長，性能越差。
解決辦法：
1、不允許用戶深度分頁。ES翻得越深，性能越差，深度分頁性能很差。
2、使用Scroll API 或者 search_after來操作翻頁。

參考：https://mp.weixin.qq.com/s/1rsjz31C3BjF3HwkeRdE7Q

總結

以上是生活随笔為你收集整理的Elasticsearch提高查询性能的方法的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。