[译]GC专家系列3-GC调优
原文鏈接：http://www.cubrid.org/blog/dev-platform/how-to-tune-java-garbage-collection/
本篇是GC專家系列的第三篇。在第一篇理解Java垃圾回收中我們學習了幾種不同的GC算法的處理過程，GC的工作方式，新生代與老年代的區別。所以，你應該已經了解了JDK 7中的5種GC類型，以及每種GC對性能的影響。
在第二篇Java垃圾回收的監控中介紹了在真實場景中JVM是如何運行GC，如何監控GC數據以及有哪些工具可用來方便進行GC監控。
在本篇中，我將基于真實的案例來介紹一些GC調優的最佳選項。寫本篇文章時，我假設你已經理解了前兩篇的內容。為了深入理解本部分內容，你最好先瀏覽一下前兩篇的內容——如果你尚未了解的話。
GC調優是必須的嗎
更精確的說，基于Java的服務是否一定需要GC調優？應該說，GC調優并非所有Java服務都必須做的事情。當然這是基于你已經使用了下面的選項或事實：
通過-Xms和-Xmx選項指定了內存大小
使用了-server選項
系統未產生太多超時日志
也就是說，如果你未設置內存大小并且你的系統產生了過多的超時日志，恭喜你需要為你的系統執行GC調優。
但是，請記住：GC調優是不得已時的選擇。
思考一下GC調優的深層原因。垃圾回收器會去清理Java中創建的對象。GC需要清理的對象數據以及GC執行的次數取決于應用創建對象的多少。因此，為了控制GC的執行，首先你需要減少對象的創建。
俗話說“積重難返”。所以我們需要從小處著手，否則它們將不斷壯大直到難以管理。
應該多使用StringBuilder和StringBuffer對象替代String。
減少不必要的日志輸出。
即便如此，面對有些場景我們依然無能為力。我們知道解析XML和JSON會占用大量的內存空間。即便我們盡可能少的使用String，盡可能好的優化日志輸出，然而在解析XML和JSON時仍然會有大量的內存開銷，甚至有10~100MB之多，可我們很難杜絕XML和JSON的使用。但是請記住：XML和JSON會帶來很大的內存開銷。
如果應用的內存占用不斷提升，你就要開始對其進行GC調優了。我把GC調優的目標分為以下兩類：
降低移動到老年代的對象數量
縮短Full GC的執行時間
降低移動到老年代的對象數量
在Oracle JVM中除了JDK 7及最高版本中引入的G1 GC外，其他的GC都是基于分代回收的。也就是對象會在Eden區中創建，然后不斷在Survivor中來回移動。之后如果該對象依然存活，就會被移到老年代中。有些對象，因為占用空間太大以致于在Eden區中創建后就直接移動到了老年代。老年代的GC較新生代會耗時更長，因此減少移動到老年代的對象數量可以降低full GC的頻率。減少對象轉移到老年代可能會被誤解為把對象保留在新生代，然而這是不可能的，相反你可以調整新生代的空間大小。
縮短Full GC耗時
Full GC的單次執行與Minor GC相比，耗時有較明顯的增加。如果執行Full GC占用太長時間(例如超過1秒)，在對外服務的連接中就可能會出現超時。
如果企圖通過縮小老年代空間的方式來降低Full GC執行時間，可能會面臨OutOfMemoryError或者帶來更頻繁的Full GC。
如果通過增加老年代空間來減少Full GC執行次數，單次Full GC耗時將會增加。
因此，需要為老年代空間設置適當的大小。
影響GC性能的選項
在理解Java垃圾回收的結尾，我說過不要有這樣的想法：別人通過某個GC選項獲得了明顯的性能提升，為什么我不直接用這個選項呢。因為不同的服務所擁有的對象數量和對象的生命周期是不同的。
一個簡單場景，如果執行一個任務需要五個條件：A, B, C, D和E，另外一個任務只需要兩個條件A和B，哪個任務會快一些？通常只需要條件A和B的任務會快一些。
Java GC選項的設置也是一樣的道理。設置很多選項未必能提高GC執行速度，相反還可能會更加耗時。GC調優的基本規則是對兩臺或更多的服務器設置不同的選項，并對比性能表現，然后把被證明能提升性能的選項添加到應用服務器上。請記住這一點。
下表列出了與內存相關的且會影響性能的GC選項：
表1: GC調優需要關注的選項
| 堆空間 | -Xms | 啟動JVM時的初始堆空間大小 |
| ? | -Xmx | 堆空間最大值 |
| 新生代空間 | -XX:NewRatio | 新生代與老年代的比例 |
| ? | -XX:NewSize | 新生代大小 |
| ? | -XX:SurvivorRatio | Eden區與Survivor區的比例 |
我經常會使用的選項是：-Xms,?-Xmx?和?-XX:NewRatio，其中-Xms和-Xmx是必須的。而如何設置-XX:NewRatio對性能會有顯著的影響。
可能有人會問如何設置永久代(Perm)的大小， 可以使用-XX:PermSize和-XX:MaxPermSize進行設置，但記住只有發生由Perm空間不足導致的OutOfMemoryError時才需要設置。
另外一個會影響GC性能的選項是GC類型，下表列出了JDK 6.0中能使用的相關設置選項：
表2: GC類型選項
| Serial GC | -XX:+UseSerialGC | ? | |
| Parallel GC | -XX:+UseParallelGC? -XX:ParallelGCThreads=<value> | ? | |
| Parallel Compacting GC | -XX:+UseParallelOldGC | ? | |
| CMS GC | -XX:+UseConcMarkSweepGC? -XX:UseParNewGC? -XX:+CMSParallelRemarkEnabled? -XX:CMSInitiatingOccupancyFraction=<value>? -XX:+UseCMSInitiatingOccupancyOnly | ? | |
| G1 | -XX:+UnlockExperimentalVMOptions? -XX:+UseG1GC | 在JDK6中使用G1時，這兩個選項必須同時設置 | |
除了G1，其他GC類型都是通過每個選行列的第一行選項進行設置。通常最不會使用的是Serial GC，它是為client應用優化和設計的。
還有很多其他影響GC性能的選項，但不如上面這些對性能的影響明顯。另外設置更多選項未必能優化GC的執行時間。
GC調優過程
GC調優過程與一般的性能改進流程很相似，下面會介紹我在GC調優過程中的流程。
1. 監控GC狀態
首先需要監控GC狀態信息以明確在GC操作過程中對系統的影響。具體方式可以回顧上一篇文章：Java 垃圾回收的監控。
2. 分析監控數據并決定是否需要GC調優
然后通過GC操作狀態，對監控結果進行分析，并判斷是否有必要進行GC調優。如果分析結果顯示GC耗時在0.1-0.3秒以內的話，一般不需要花費額外的時間做GC調優。然而，如果GC耗時達到1-3秒甚至10秒以上，就需要立即對系統進行GC調優。
但是如果你的應用分配了10GB的內存，且不能降低內存容量的話，其實是沒辦法進行GC調優的。這種情況下，你首先要去思考為什么需要分配這么大的內存。如果只給應用分配了1GB或者2GB內存，當有OutOfMemeoryError發生時，你需要通過堆dump來分析驗證內存溢出的原因并進行修復。
注釋:?
堆dump是把內存情況按一定格式輸出到文件，可用于檢查Java 內存中的對象和數據情況。可使用JDK中內置的jmap命令創建堆dump文件。創建文件過程中，Java進程會中斷，因此不要在正常運行時系統上做此操作。
3. 設置GC類型和內存大小
如果決定做GC調優，就需要考慮如何選擇GC類型、如何設置內存大小。如果你有多臺服務器，可通過為每臺服務器設置不同的GC選項并對比不同的表現，這一步很重要。
4. 分析GC調優結果
設置GC選項后，至少要收集24小時的GC表現數據，然后就可以著手分析這些數據了。如果足夠幸運，通過分析就剛好找到了最合適的GC選項。否則就需要分析GC日志，并分析內存的分配情況。然后通過不同的調整GC類型和內存大小來找到系統的最優選項。
5. 如果結果可接受，則對所有服務應用調優選項并停止調優
如果GC結果令人滿意，就可以把相應的選項應用到所有服務器并停止GC調優。
下面的章節會詳細介紹每個步驟中的詳細過程。
監控GC狀態并分析GC結果
監控Web應用(WAS: Web Application Server)GC運行狀態的最好方式是使用jstat命令。在Java 垃圾回收的監控部分已經介紹了如何使用jstat命令，所以這里就直接介紹怎么樣來校驗結果數據。
下面的例子中列出了JVM未做GC調優時的數據：
$ jstat -gcutil 21719 1s S0 S1 E O P YGC YGCT FGC FGCT GCT 48.66 0.00 48.10 49.70 77.45 3428 172.623 3 59.050 231.673 48.66 0.00 48.10 49.70 77.45 3428 172.623 3 59.050 231.673看一下表中的YGC和YGCT，YGCT 除以 YGC算出平均單次YGC耗時為0.05秒。也就是說在新生代執行一次垃圾回收的平均耗時為50毫秒。通過這份結果，我們可以無須關注新生代的垃圾回收。
然后再看一下FGCT和FGC，FGCT除以FGC算出平均單次FGC耗時為19.68秒。也就是平均需要消耗19.68秒來執行一次Full GC。上面的結果(共3次Full GC)可能是每次Full GC都耗時19.68秒，也有可能是其中兩次都只耗時1秒，而另外一次卻消耗了58秒。然而不管哪種情況，都迫切需要進行GC調優。
當然也可以通過jstat來校驗結果，不過分析GC的最好方式是使用-verbosegc選項來啟動JVM。在前面的文章中我已經詳細介紹了生成日志的方式以及如何進行分析。就分析-verbosegc日志而言，HPJMeter是我最偏愛的工具，因為它簡單易用。使用HPJMeter可以輕松獲取GC執行時間的開銷以及GC發生的頻率。
如果GC執行時間滿足以下判斷條件，那么GC調優并沒那么必須。
Minor GC執行迅速(50毫秒以內)
Minor GC執行不頻繁(間隔10秒左右一次)
Full GC執行迅速(1秒以內)
Full GC執行不頻繁(間隔10分鐘左右一次)
括號內的值并非絕對，依據應用的服務狀態會有不同。有些服務可能要求Full GC處理速度不能超過0.9秒，另外一些服務可能會寬松些。因此校驗GC結果并根據具體的服務需要，決定是否要進行GC調優。
在校驗GC狀態時，不要只關心Minor GC和Full GC的耗時，也要GC執行次數也同樣重要。如果新生代太小，Minor GC就會頻繁執行(甚至每間隔1秒就要執行一次)。另外，新生代太小導致轉移到老年代的對象增多，也會引起Full GC的頻繁執行。因此使用｀-gccapacity｀配合jstat命令，以檢查內存空間的使用情況。
設置GC類型和內存大小
設置GC類型
Oracle JVM提供了5種GC類型，如果是低于JDK 7的版本，可以使用Parallel GC, Parallel Compacting GC, CMS GC。當然，到底選哪一個并沒有統一的準則或標準。
所以如何選擇合適的GC類型？推薦方案是將這三種GC都應用到應用中進行對比。不過可以明確的是CMS GC肯定比Parallel GCs更快，即然這樣只使用CMS GC便好。然而CMS GC也有出問題的時候，通常Full GC中使用CMS GC會執行更快，如果CMS GC的并發模式失敗，則會出現比Parallel GCs慢的情況。
并發模式失敗
我們來深入看一下并發模式失敗的場景。
Parallel GC與CMS GC最大的區別在于壓縮任務。壓縮任務通過壓縮內存使用來移除內存中的碎片空間，以清理兩塊已分配使用的內存空間中的間隙。
在Parallel GC中，只要執行Full GC便會進行內存壓縮，因此耗時更長。不過Full GC之后，因為壓縮的原故，可以分配連續的空間，所以內存的分配速度為更快一些。
與之相反，CMS GC的執行中并不會伴隨內存壓縮，因此GC速度會更快一些。然而，因為未做內存壓縮， GC清理過程中釋放的內存便會成為空閑空間。因為空間不連續，可能會導致在創建大對象時空間不足。例如，如果老年代尚有300M空閑，卻不能為10MB的對象分配足夠的連續空間。這時便會發生并發模式失敗的警告，并觸發內存壓縮。如果使用CMS GC，在內存壓縮過程中可能會比Parallel GCs更為耗時，也可能會帶來其他問題。關于"并發模式失敗"更詳細的介紹可以看Oracle 工程師的文章：理解CMS GC 日志。
結論就是，要為你的系統尋找合適的GC類型。
每個系統都有一個最適當的GC類型，所以你需要找到這個GC類型。如果你有6臺服務器，建議你為每兩組設置相同的選項，并通過-verbosegc選項對結果進行分析和比較。
調整內存大小
下面先列出內存大小與GC執行次數、每次GC耗時之間的關系：
大內存
會降低GC執行次數
相應的會增加GC執行耗時
小內存
會縮知單次GC耗時
相應的會增加GC執行次數
當然，關于使用大內存還是小內存并沒有唯一正確的答案。如果服務器資源足夠且Full GC執行耗時能控制在1秒以內，使用10GB的內存也是可以的。但大多數時候如果設置內存為10GB，GC執行效果并不盡人意，執行一次Full GC可能要消耗10~30秒（具體時長也會根據對象大小情況而不同）。
既然如此，如何正確設置內存大小。通常情況下，我會推薦500MB大小。這不是說你要把自己的WAS(Web Application Server)內存選項設置為-Xms500和-Xmx500m。基于當前未調優時的場景，檢查Full GC之后內存大小變化。如果Full GC之后尚有300MB空間剩余，這樣最好把內存設置到1GB(300MB(默認使用) + 500MB(老年代最小容量) + 200MB(空閑空間))。這意味著你應該才老年代至少設置500MB空間。如果你有3臺服務器，可以分別設置1GB、1.5GB和2GB，并檢查每臺機器的執行結果。
理論上，根據內存大小不同單次執行GC速度應該是1GB > 1.5GB > 2GB，所以1GB的內存會中三個之中GC速度最快的。但并不能保證1GB的內存Full GC耗時1秒，2GB的內存Full GC耗時2秒。實際耗時與機器性能和對象大小也有關系。所以最好的度量方式是設置每種可能性并分析他們的監控結果。
有設置內存大小時，還需要設置另外一選項：NewRatio。NewRatio是新生代與老年代的比值的倒數(即老年代與新生代的比值)。如果XX:NewRatio=1，就是說新生代 : 老年代的比值為1:1。對于1GB內存，就是新生代與老年代各500MB。如果NewRatio的值是2，則是新生代 : 老年代的值為1:2。因此比值設置的越大，老年代的空間就越大，相應的新生代空間會越小。
設置NewRatio也不是一件重要的事，但可能會對整個GC性能帶來嚴重影響。如果新生代太小，對象就會轉移到老年代，引起頻繁的Full GC，導致更多的耗時。
你可能簡單的認為設置NewRatio=1會帶來最佳的效果，然而并非如此。把NewRatio設置為2或3更容易帶來好的GC表現。當然我也實際遇到過一些這樣的例子。
完成GC調優的最快途徑是什么？通過對比性能測試的結果是得到GC調優結果的最快途徑。通過為每個服務器設置不同的選項并觀察GC狀態，最好能觀察1到2天的數據。如果是通過性能測試來做GC調優的話，要為每個服務器準備相同的負載和業務操作。請求比例的分配也要與業務條件相一致。然而即便是專業的性能測試人員，準備精確的負載數據也并非易事，通常需要花費很大精力來做準備。所以更簡捷的GC調優方式就是對業務應用準備GC選項，然后通過等待GC結果并進行分析，盡管可能需要更長的等待時間。
分析GC調優結果
在應用GC選項并設置-verbosegc后，可以通過tail命令檢查日志是否按期望的方式正常輸出。如果選項未精確的設置或者沒有按期望輸出，你所花費的時間都將白費。如果日志輸出與期望相符，等待1到2天的運行后便可檢查和分析結果。最簡單的方式是把日志文件復制到本地PC，并使用HPJMeter進行分析。
分析過程中主要關注以下數據，下面列表是按我自己定義的優先級列出的。其中決定GC選項的最重要的數據是Full GC執行時間。
Full GC(平均)耗時
Minor GC(平均)耗時
Full GC執行間隔
MinorGC執行間隔
Full GC整體耗時
Minor GC整體耗時
GC整體耗時
Full GC執行次數
Minor GC執行次數
如果足夠幸運，你能恰好找到合適的GC選項，通常你并沒這么幸運。執行GC調優時一定要格外小心，因為如果你試圖一次就完成GC調優，得到的可能會是OutOfMemoryError。
調優案例
上面我們對于GC調優的討論還僅是紙上談兵，現在開始我們看一些具體的GC調優的案例。
案例1
這個例子是為服務S進行的GC優化。對于這個新上線的服務S，在執行Full GC時有些過于耗時。
先看一下jstat -gcutil的結果：
S0 S1 E O P YGC YGCT FGC FGCT GCT 12.16 0.00 5.18 63.78 20.32 54 2.047 5 6.946 8.993在開始進行調優時不用太關心持久代空間的設置，相對而言YGC的數值更值得關注。
從上面的結果中我們可算出執行Minor GC和Full GC的平均時間上的開銷，如下表：
表3：服務S執行Minor GC和Full GC的平均耗時
| Minor GC | 54 | 2.047 | 37 ms |
| Full GC | 5 | 6.946 | 1389 ms |
對于Minor GC來說，37 ms還不算壞，而Full GC的平均耗時1.389 s對于系統來說在執行Full GC時可能會導致頻繁的超時現象，例如DB超時設置為1 s的話就會發生超時。所以這個案例中的系統需要進行GC調優。
首先在開始GC調優之前先檢查當前的內存設置。可以使用jstat -gccapacity選項查看內存的使用情況。下面是服務S的檢查結果：
NGCMN NGCMX NGC S0C S1C EC OGCMN OGCMX OGC OC PGCMN PGCMX PGC PC YGC FGC 212992.0 212992.0 212992.0 21248.0 21248.0 170496.0 1884160.0 1884160.0 1884160.0 1884160.0 262144.0 262144.0 262144.0 262144.0 54 5其中關鍵的數據如下：
新生代使用：212, 992 KB(約208 MB)
老年代使用：1,884,160 KB(約1.8 GB)
所以除去持久代之外的內存分配為2 GB，且新生代 : 老年代為 1:9 (即NewRatio=9)。為了看到更詳細的信息，對系統的三個不同實現均設置了-verbosegc并分別設置了NewRatio選項，除此之外未添加其他選項。
NewRatio = 2
NewRatio = 3
NewRatio = 4
一天之后檢查GC時日志時幸運的發生，在設置NewRatio之后尚未有Full GC發生。
發生了什么？因為大多數對象在創建之后不久就被銷毀，所以新生代里的對象在移到老年代之前就被銷毀掉了。
既然如此，就沒必要再設置其他選項，只是選擇好最佳的NewRatio即可。如何選取最佳NewRatio？只能逐個分析設置不同NewRatio值時的Minor GC的平均耗時。
上面三個NewRatio設置對應的Minor GC平均耗時如下：
NewRatio=2: 45ms
NewRatio=3: 34ms
NewRatio=4: 30ms
因為NewRatio=4時Minor GC具有最小的耗時，所以就是我們選擇的最佳設置，即便此時新生代的空間相對較小。應用此選項后，服務再也沒有Full GC發生。
下面是系統重新設置過選項后，某天通過jstat -gcutil查看到的結果：
S0 S1 E O P YGC YGCT FGC FGCT GCT 8.61 0.00 30.67 24.62 22.38 2424 30.219 0 0.000 30.219你可能認為因為系統接收的請求太少以致于GC發生頻率較低，然而在Minor GC執行了2,424次的情況下系統未發生Full GC。
案例2
下面介紹的是服務A的例子。我們在公司的應用性能管理平臺(APM: Application Performance Manager)上發現服務A的JVM周期性的出現長時間的停頓(超過8秒未有響應)的現象。所以我們決定對其進行GC調優。經過排查我們發現此系統在執行Full GC時太過耗時，需要進行優化。
在著手優化之前，我們為系統加上了-verbosegc選項，輸出結果如下圖：
圖1：GC調優之前的GC耗時
上圖是HPJMeter自動分析結果后提供的系統GC隨著JVM運行的耗時圖。X-軸是JVM從啟動后的運行時間軸，Y-軸是每次GC的響應時間。其中綠色的是Full GC使用的CMS垃圾回收的耗時，藍色的是Minor GC使用的Parallel Scavenge垃圾回收的耗時。
前面我說過CMS GC是最快的，但上圖可看到有場景耗時竟達到15秒之多。什么原因導致這種后果？回想一下我前面說過的：當內存壓縮時CMS將會變慢。另外服務A設置了-Xms1g和-Xmx4g的選項，操作系統為其分配的內存為4 GB。
然后我把GC類型由GMS換成了Parallel GC，并把內存大小設置為2G，NewRatio設置為3。一段時間之后通過jstat -gcutil查看到的結果如下：
S0 S1 E O P YGC YGCT FGC FGCT GCT 0.00 30.48 3.31 26.54 37.01 226 11.131 4 11.758 22.890Full GC的速度提升了，與4GB內存時的15秒相比，現在平均每次只需要3秒。但3秒仍然不盡人意，所以我設計了以下六組選項：
-XX:+UseParallelGC -Xms1536m -Xmx1536m -XX:NewRatio=2
-XX:+UseParallelGC -Xms1536m -Xmx1536m -XX:NewRatio=3
-XX:+UseParallelGC -Xms1g -Xmx1g -XX:NewRatio=3
-XX:+UseParallelOldGC -Xms1536m -Xmx1536m -XX:NewRatio=2
-XX:+UseParallelOldGC -Xms1536m -Xmx1536m -XX:NewRatio=3
-XX:+UseParallelOldGC -Xms1g -Xmx1g -XX:NewRatio=3
哪一個會更快呢？結果顯示內存越小，速度越快。下圖是第六組選項的GC持續時長分布圖，代表了最優的GC性能提升。圖中看到最慢的為1.7秒，而平均值降低到1秒以內。
圖2：使用第六組選項后的GC耗時
因此我把服務A的GC選項調整為了第六組中的設置，然而每天夜里卻連續發生了OutOfMemoryError。個中艱辛不再細說，簡而言之就是批量的數據處理任務導致了JVM內存泄露。到此為止，所有的問題都明了了。
如果只對GC日志做短時間的觀察例把GC調優的結果應用到所有服務器上是一件非常危險的事情。一定要記住，如果GC調優能夠順利執行而無故障只有一條途徑：像分析GC日志一樣分析系統的每一個服務操作。
上面通過兩個GC調優的案例演示了GC調優的具體處理過程。如我所述，案例中的GC選項可以不做調整的應用到那些具有相同CPU、操作系統和 JDK 版本以及執行相同功能的服務上去。然而不要把這些選項應用到你的系統上，因為他們未必適用。
總結
我執行GC調優一般基于經驗而無需通過堆dump后對內存進行詳細的分析，盡管精確的內存狀態可能會帶來更好的GC調優結果。在一般情景，如果內存負載較低時，通過分析內存對象可能效果更好，不過如果服務負載較高，內存空間使用較多時，更推薦基于經驗來做GC調優。
我曾經在一些服務上對G1 GC做過性能測試，不過還沒有全面使用。結果證明G1 GC執行速度比其他任何GC都要快，不過需要把JDK升級到 JDK 7 才能享受到G1帶來的性能提升，另外G1的穩定性目前尚不能完全保證，沒有人知道是否會帶來嚴重的bug。所以大范圍使用 G1 還尚待時日。
當 JDK 7 穩定以后(并不是說它當前不穩定)，并且WAS針對JDK 7做過優化之后，G1也許會穩定的運行在服務器上，到那時也許就不再需要進行GC調優了。
更多GC調優的細節可以在Slideshare上搜索相關材料。我最推薦的是Twitter 工程師 Attila Szegedi寫的這篇我在Twitter學到的關于JVM調優的一切，有時間可以學習一下。
總結
以上是生活随笔為你收集整理的[译]GC专家系列3-GC调优的全部內容，希望文章能夠幫你解決所遇到的問題。
- 上一篇： [译]GC专家系列2：Java 垃圾回收
- 下一篇： [译]GC专家系列4-Apache的Ma