說明

在學習Netty的時候，ByteBuf隨處可見，但是如何高效分配ByteBuf還是很復雜的，Netty的池化內存分配這塊還是比較難的，很多人學習過，看過但是還是云里霧里的，本篇文章就是主要來講解：Netty分配池化的堆外內存的細節，期待可以讓你明白！！！

由于為了更好的表達，文章中的圖我最少畫了6小時，畫的不熟悉，并且也強調一些細節上。

ByteBuf重要性

ByteBuf在Netty中一直存在，讀寫必備！ByteBuf是Netty的數據容器，高效分配ByteBuf至關重要！

Netty從socket讀取數據。

Netty準備把數據寫到socket中去。

通過這里我們就可以看到，再把數據寫socket的之前會判斷是否是堆外內存，如果不是會構造一個directbuffer對象的，細節代碼如下：

if (msg instanceof ByteBuf) { ByteBuf buf = (ByteBuf) msg; if (buf.isDirect()) { return msg; } return newDirectBuffer(buf); }

所以本篇文章就是主要來講解：Netty分配池化的堆外內存的細節，其實分配堆內存的細節很多也是類似的。

備注： 為什么不是堆外內存還要轉堆外內存，為什么加這個判斷，我之前也不理解，忽然有天和滌生大佬討論，討論討論就清晰了，后續有空寫篇。

總覽

本次主要討論的是關于池化內存的分配，PooledByteBufAllocator就是netty分配池化內存的操作入口。

其提供對外常用操作api：

Netty在發送數據的時候會判斷是否是堆外內存，如果不是會進行封裝的：

所有這里我們以分配池化的堆外內存為例，進行本文說明。池化的堆內存分配其實流程都差不多的。

下面我們來看看分配示例demo：

public static void main(String[] args) { ByteBufAllocator alloc = PooledByteBufAllocator.DEFAULT; //tiny規格內存分配 會變成大于等于16的整數倍的數：這里254 會規格化為256 ByteBuf byteBuf = alloc.directBuffer(254); //讀寫bytebuf byteBuf.writeInt(126); System.out.println(byteBuf.readInt()); //很重要，內存釋放 byteBuf.release();}

后續我們都會根據這段簡單的demo進行分析。

操作入口類

PooledByteBufAllocator的初始化：

進去之后可以看到核心類的一初始化操作：

分配理論是jemalloc，可以理解為java版本的jemalloc實現。

PoolThreadCache

通過上圖可以清晰的了解到PoolThreadCache的主要數據結構。

開始的時候，這些Cache里面都是沒有值的，只有在調用free釋放的時候(在后續釋放內存中會講解)，才會把之前分配的內存大小放到該cache的queue里面，其實每次分配的時候都是先看看是否緩存里面有，如果有直接返回，沒有則進行正常的分配流程(內存分配會講解)。

我們來看看PoolArena directArena內容：

下面我們來看看PoolArena結構。

PoolArena

通過下圖可以清晰的了解到PoolArena的主要數據結構。

在PoolArena里面涉及到PoolChunkList和PoolSubpage對應的結構有PoolChunk和PoolSubpage，我們來詳細的看看這2塊內容。

PoolChunk

第一次的時候，PoolChunkList、PoolSubpage都是默認值，需要新增一個Chunk，默認一個Chunk是16M。內部會結構是完全二叉樹一共有4096個節點，有2048個葉子節點(每個葉子節點大小為一個page，就是8k)，非葉子節點的內存大小等于左子樹內存大小加上右子樹內存大小。

完全二叉樹結構如下：

這顆完全二叉樹在java中是使用數組來進行表示的。

唯一需要注意的是，下標是從1開始而不是0.

depthMap的值初始化后不再改變，memoryMap的值則隨著節點分配而改變。

這個值太多就不都截圖了，就是把上面那顆完全二叉樹用數組表示了而已，只是值存的不是節點的下標而是存的樹的深度而已。

depthMap數組值為0表示可以分配16M空間，如果為1 表示可以分配8M，，如果為2表示嗯可以分配4M，如果為3表示可以分配2M ……………………如果為11表示可以分配8k空間。

如果該節點已經分配完成，就設置為12即可。

怎么確定需要分配的大小在深度是多少？

如果需要分配的內存規格化之后，是小于8k，那么在8k上面分配即可(即深度為11)。

如果為8k或者大于8k那么通過下面代碼就可以定位到深度了：

int d = maxOrder - (log2(normCapacity) - pageShifts);

知道深度之后，怎么進行定位到那個節點呢？？？

找到該節點之后，先把該節點顯示占用，在更新起父節點父節點的父………………如下：

SubpagePool

上面的圖就是關于SubpagePool的內存結構了。我們在分配page的時候，根據memoryMap對于的值就知道是否被分配了，那么如果是subpagePool呢？

subpagePool分為2類：tinySubpagePools和smallSubpagePools，大小對于也對于上面的圖里面了，每類都是固定大小的，如果分配256b的大小，那么一個page就是8k，8*1024/256 = 32塊。那么怎么怎么表示每個還被分配了呢？

private final long[] bitmap;

由于一個long占用的字節數為64，我們這里僅僅是需要表示32個，所以使用一個long即可了，二進制每位 1表示已經使用了，0表示還未使用。

由于subpage不僅僅需要定位到完全二叉樹在那個節點，還需要知道在long的第幾個 并且是第幾位，所以要復雜一些：

通過一個long的前32位來表示subpage的第幾個long的第幾位上面，通過后32來表示在完全二叉樹的那個

分配核心

分配入口：ByteBuf byteBuf = alloc.directBuffer(256);

進行跟進代碼：

我們來看：PooledByteBuf buf = newByteBuf(maxCapacity);

構建PooledByteBuf對象。最后返回PooledByteBuf對象。

我們來看下類繼承結構：

所有ByteBuf byteBuf = alloc.directBuffer(256);這句話是沒有什么問題的，不會報錯。

我們來看看newByteBuf(maxCapacity)的細節實現：

這里借助了Netty增加實現的Recycler對象池技術。Recycler設計也非常精巧，后續可以專門寫篇Recycler文章，今天不是重點，我們只要知道由于分配PolledByteBuf對象的代價有點大，如果需要頻繁使用到PolledByteBuf對象，并且對性能有所要求，那么池化技術是一個不錯的選擇(比如我們以前使用的線程池、數據庫連接池等都是類似道理)，池化技術在一定程度上面減少了頻繁創建對象帶來的性能開銷。其實這個類似的思想非常常見(比如我們查詢數據庫成本高，緩存到redis，思路也是一樣的)，在本篇后續中還可以體會到(PoolThreadCache)。

通過PooledByteBuf buf = newByteBuf(maxCapacity);僅僅是獲取到了一個初始對象而已。

分配的核心在：allocate(cache, buf, reqCapacity);

• 先嘗試在1步驟 進行分配，根據不同的類型定位到不同的Caches，如果有進行分配直接返回。
• 如果1步驟 分配不了，進行2步驟上面分配。

2步驟分配細節：看看需要分配的是什么類型 page還是subpage，如果是subpage在根據看看是tinySubpagePools還是smallSubpagePools，找到對應的槽位，看看鏈表里是否有可用的PoolSubpage，如果有就進行分配修改標記退出，如果沒有就現需要在先分配一個page了，根據chunklist的這些看看是否有合適的，如果有合適的，那么在這些已經有的chunk上面進行分配一個page (分配page也是這個情況了)

之后在根據分配到的page，進行該請求大小的分配 (由于一個page可以存儲很多同大小的數量)需要用long的位標記，表示該位置分配了，并且修改完全二叉樹的父等值，分配結束。如果沒有chunk那么需要新分配一塊chunk之后重復上面步驟即可。

釋放核心

釋放入口 ：byteBuf.release();

進行跟進代碼：

通過這段代碼我們就這段放入到相應的queue了：

緩存到了對應的Cache的queue里面了。

文章來源：https://dwz.cn/ESnnz4zJ

作者：零度冰炫

總結

以上是生活随笔為你收集整理的netty发送数据_看完这篇还不清楚Netty的内存管理，那我就哭了的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。