寫在前面

本文主要分析 Linux 系統(tǒng)內(nèi)存統(tǒng)計的一些指標以及進程角度內(nèi)存使用監(jiān)控的一些方法。

開始閱讀這篇文章前，請先簡單閱讀下面的幾篇文章。

• 《進程眼中的線性地址空間》

• 《線程眼中的線性地址空間》

• 《聊聊內(nèi)存管理》

想必這幾篇文章過后，基本概念就不需要再贅述了。所以下文直接就找一臺 Intel x86_64 架構(gòu)下安裝了 64bit Linux 系統(tǒng)的服務(wù)器作為例進行相關(guān)的實驗和結(jié)果分析。Linux 的內(nèi)存管理從物理內(nèi)存管理到虛擬內(nèi)存管理涉及的概念和統(tǒng)計項實在太多，本文從實用和系統(tǒng)運維的角度出發(fā)，只列舉一些最實用的統(tǒng)計。

從 free 命令開始

上面的背景介紹文章把內(nèi)存相關(guān)的基礎(chǔ)概念講的差不多了，這里不再贅述。本文定位是內(nèi)存統(tǒng)計，所以從最基礎(chǔ)的內(nèi)存統(tǒng)計的命令—free命令開始。執(zhí)行free命令，可以看到如下的輸出：

縱向是內(nèi)存和Swap分區(qū)，橫向是統(tǒng)計項。縱向的含義以及Swap不需要解釋，我們看橫向的統(tǒng)計項：

• total — 系統(tǒng)總內(nèi)存(其實就是從?/proc/meminfo?獲取的)

• used — 已使用內(nèi)存

• free — 未使用的內(nèi)存

• shared — 共享內(nèi)存的大小，主要是?tmpfs

• buff / cache —?buffers和cache使用的內(nèi)存之和

• available — 可用內(nèi)存，可以簡單理解為未使用的內(nèi)存和可釋放的內(nèi)存之和(buffer、cache 可以釋放大部分，所以這里近似等于 free + buffer / cache 的大小)

這臺機器的系統(tǒng)和內(nèi)核稍微新一點，這個輸出可能和你看到的不一樣，早先的free命令的輸出是這樣：

這里的shared為0，因為這臺服務(wù)器沒用共享內(nèi)存。這里多解釋下?-/+ buffer/cache?這行，字面意思就是used - buffers/cache和used + buffers/cache。前者指的是從應(yīng)用程序角度系統(tǒng)被用掉了多少內(nèi)存，后者指的是從應(yīng)用程序角度看系統(tǒng)還有多少內(nèi)存能用。聽起來很復(fù)雜，其實說白了就是因為buffers和cached可以被釋放出來，多幾個指標看看系統(tǒng)還能用多少內(nèi)存而已。

下面用幾個公式來解釋這個輸出：

1234567891011

# 內(nèi)存總量 = 已使用內(nèi)存 + 空閑內(nèi)存`total` = `used` + `free`# 系統(tǒng)被用掉的內(nèi)存`-buffers/cache` = `used` - `buffers` - `cached`# 系統(tǒng)還能用的內(nèi)存`+buffers/cache` = `free` + `buffers` + `cached`# 所以，其實還有下面的公式`total` = `-buffers/cache` + `+buffers/cache`

buffers/cached不是100%都能釋放出來使用的，上面的“可用內(nèi)存”其實就是個近似值。最上面新版本系統(tǒng)的輸出中有一個available項目表示可用內(nèi)存，值小于?free + buff/cache，內(nèi)核 3.14 之后支持該特性(雖然也不是絕對意義上的精確的可用內(nèi)存大小，囧)。

這里稍微多說一點buffers?和cached。Linux 2.4.10 內(nèi)核之前，磁盤的緩存有兩種，即?Buffer Cache和?Page Cache。前者緩存管理磁盤文件系統(tǒng)時讀取的塊，后者存放訪問具體文件內(nèi)容時生成的頁。在 2.4.10 之后，Buffer Cache這個概念就不存在了，這些數(shù)據(jù)被放在Page Cache中(這種?Page?被稱為?Buffer Pages)。

簡而言之，現(xiàn)在磁盤的 cache 只有?Page Cache?一種，在Page Cache中，有一種Page叫Buffer Page，這種Page都與一個叫buffer_head的數(shù)據(jù)結(jié)構(gòu)關(guān)聯(lián)，這些頁也就在內(nèi)存統(tǒng)計中用buffers這個指標來單獨統(tǒng)計了。

/proc/meminfo 詳解

很多命令的內(nèi)存統(tǒng)計都是從/proc/meminfo讀取的。鑒于?/proc/meminfo?的 man 文檔(man proc)寫的實在不夠清晰，很多條目居然還是To be documented狀態(tài)，所以這里逐一列舉出來常見的統(tǒng)計項解釋一下。

首先明確一點，內(nèi)核目前并沒有絕對精確的統(tǒng)計所有的內(nèi)存使用量，比如alloc_pages接口申請的內(nèi)存不一定被統(tǒng)計在內(nèi)(除非所有調(diào)用?alloc_pages?的代碼主動進行統(tǒng)計，如果某些不講究的驅(qū)動程序沒有主動統(tǒng)計的話統(tǒng)計值就肯定對不上了)。

先看這三項全局統(tǒng)計：

• MemTotal — 總的全局可用內(nèi)存大小(即物理RAM減去保留的以及內(nèi)核代碼占用的，系統(tǒng)啟動后一般固定不變)

• MemFree — 總的全局未使用內(nèi)存大小

• MemAvailable — 內(nèi)核估計出來的全局可用內(nèi)存大小，非精確值(MemFree不代表所有可用的內(nèi)存，Cache/Buffer、Slab?均有部分可以臨時釋放的內(nèi)存要計算在內(nèi))

用戶進程的內(nèi)存頁分為兩種：

與文件關(guān)聯(lián)的內(nèi)存頁(File-backed Pages), 比如程序文件、讀取文件時數(shù)據(jù)對應(yīng)的緩存頁

與文件無關(guān)的匿名內(nèi)存頁(Anonymous Pages)，比如進程的堆、棧等分配的內(nèi)存

所有Page Cache里的頁面都是File-backed Pages，File-backed Pages在內(nèi)存不足的時候可以直接寫回對應(yīng)的硬盤文件里，即Page-out。而Anonymous Pages在內(nèi)存不足時就只能寫到硬盤上的交換區(qū)Swap里來釋放內(nèi)存，稱之為Swap-out。

Anonymous Pages與用戶進程共存，進程退出則Anonymous pages釋放，而Page Cache即使在進程退出后還可以緩存。

下面是磁盤緩存相關(guān)的統(tǒng)計項：

• Buffers — 塊設(shè)備所占用的緩存頁，比如磁盤文件系統(tǒng)的meta信息如SuperBlock等，直接讀寫塊設(shè)備產(chǎn)生的緩存也統(tǒng)計在這里(例如dd命令)

• Cached — 從磁盤讀取的文件內(nèi)容緩存(即Page cache)

• SwapCached —?Swap中包含的確定要被換出，但是尚未寫入物理交換區(qū)的匿名內(nèi)存頁

• SwapTotal — 可用的磁盤Swap總大小

• SwapFree — 磁盤Swap的free大小

• Dirty — 修改了等待寫回磁盤的內(nèi)存大小

• Writeback — 正在寫回磁盤的內(nèi)存大小

以下幾項和內(nèi)核的頁面回收算法(Page Frame Reclaiming)相關(guān)，Page Cache和所有用戶進程的內(nèi)存(除內(nèi)核棧和HugePages外)都在相關(guān)的LRU Lists上。內(nèi)核在 2.6 以前就引入了增強的LRU算法來解決樸素的LRU算法完全不考慮使用頻率的問題。具體的Active 鏈表和Inactive 鏈表的使用詳情請參閱其他資料。

• Active — 最近使用的內(nèi)存，回收的優(yōu)先級低

• Inactive — 最近較少使用的內(nèi)存，回收的優(yōu)先級高

• Active (anon) —?Active 鏈表中的匿名頁(Anonymous Pages)部分

• Inactive (anon) —?Inactive 鏈表中的匿名頁(Anonymous Pages)部分

• Active (file) —?Active 鏈表中的File-backed Pages部分

• Inactive (file) —?Inactive 鏈表中的File-backed Pages部分

• Unevictable — 禁止換出的頁，對應(yīng)Unevictable 鏈表，其中包括VM_LOCKED的內(nèi)存頁、SHM_LOCK的共享內(nèi)存頁(也統(tǒng)計在Mlocked中)、和Ramfs等

• Mlocked —?mlock()?系統(tǒng)調(diào)用鎖定的內(nèi)存大小

共享內(nèi)存在 Linux 中細分的話可以分為以下幾種：

• SystemV Shared Memory —?shmget

• POSIX Shared Memory —?shm_open

• Shared Anonymous Memory —?mmap(MAP_ANONYMOUS | MAP_SHARED)

共享內(nèi)存在內(nèi)核中都是?基于tmpf機制實現(xiàn)?的。因為基于文件系統(tǒng)所以就不能算是匿名頁，不能計入AnonPages的統(tǒng)計項，而只能計入Cached和Mapped統(tǒng)計項。但是，tmpfs?背后并沒有真實的磁盤文件存在，如果想要被臨時釋放出來，只能通過Swap的方式，所以內(nèi)存頁被鏈接到了Inactive(anon)和Active(anon)里。

也就是說，共享內(nèi)存的頁面屬于File-backed Pages，但是被放在Inactive(anon)和Active(anon)鏈表里，統(tǒng)計也不算在AnonPages里，而是算在Cached和Mapped里。特別地，如果這些頁被mlock()的話，就放在?Unevictable鏈里并計算在內(nèi)。所以從數(shù)值上看，Inactive(anon)項 +?Active(anon)項 不等于AnonPages項，因為前者包括共享內(nèi)存的部分。Active(file)項 +?Inactive(file)項 也不等于?Mapped項，因為前者中包括Unmapped的內(nèi)存，后者還包含共享內(nèi)存的部分(這部分在?Inactive(anon)和Active(anon)里)。

這里有一個情況要注意，與文件關(guān)聯(lián)的頁也有可能是匿名頁(MAP_PRIVATE?映射的頁面被修改時會產(chǎn)生一個匿名頁拷貝)，會被算到AnonPages里。

與此相關(guān)的相關(guān)的統(tǒng)計項有：

• AnonPages — 匿名頁(Anonymous pages)的大小，同時也包含Transparent HugePages (THP)對應(yīng)的 AnonHugePages

• Mapped — 設(shè)備和文件等映射的大小，Mapped統(tǒng)計了Cached中所有的Mapped頁面，是Cached的子集(滿足Cached?-?Mapped?=?Unmapped)。共享內(nèi)存、可執(zhí)行程序的文件、動態(tài)庫、mmap的文件等都統(tǒng)計在這里

• Shmem — 共享內(nèi)存的大小，包括Shared Memory、tmpfs和devtmpfs

注意 Linux 的內(nèi)存是真正使用時才分配的，所以注意這里的大小都是已分配的大小，而不是程序里申請的大小。

下面都是內(nèi)核使用的內(nèi)存相關(guān)的統(tǒng)計項：

• Slab — 內(nèi)核Slab結(jié)構(gòu)使用的大小(就是那個Slab分配器占用的)

• SReclaimable — 內(nèi)核Slab里面可回收的部分(調(diào)用?kmem_getpages()?時帶有 SLAB_RECLAIM_ACCOUNT 標的)

• SUnreclaim —?Slab里面無法回收的大小，等于?Slab項 -?SReclaimable項

• KernelStack — 分配給內(nèi)核棧的大小(每個用戶線程都會分配一個Kernel Stack，系統(tǒng)調(diào)用syscall、trap、exception后進入內(nèi)核態(tài)執(zhí)行代碼時候使用)

• PageTables — 頁表的大小(就是經(jīng)常掛在嘴上的那個頁表)

• NFS_Unstable — 發(fā)送到服務(wù)端但尚未提交的 NFS 頁的大小

• Bounce — 塊設(shè)備 “bounce buffers” 部分的大小(有些老設(shè)備只能訪問低端內(nèi)存，比如 16M 以下，這部分分配的 buffer 統(tǒng)計在這里)

• WritebackTmp — FUSE 用于寫回磁盤的緩沖區(qū)的大小

• VmallocTotal — vmalloc 區(qū)域大小

• VmallocUsed — vmalloc 區(qū)域使用大小

• VmallocChunk — vmalloc 區(qū)域最大的 free 連續(xù)區(qū)塊大小

• HardwareCorrupted — 系統(tǒng)檢測到內(nèi)存的硬件故障的內(nèi)存大小(問題頁會被記錄不再使用)

之前說過，HugePages 是獨立統(tǒng)計的，如果進程使用了?HugePages，是不會計入自身的RSS/PSS?的。注意下面的?AnonHugePages?指的是透明大頁(THP，Transparent HugePages)，THP是統(tǒng)計在進程的RSS/PSS里的，要注意區(qū)別。下面是相關(guān)的統(tǒng)計項：

• AnonHugePages — 透明大頁 THP 使用的大小

• HugePages_Total — 內(nèi)存大頁的總量，對應(yīng)?/proc/sys/vm/nr_hugepages，可以動態(tài)改

• HugePages_Free — 內(nèi)存大頁中 free 的大小

• HugePages_Rsvd — 內(nèi)存大頁中能分配出來的大小

• HugePages_Surp — 內(nèi)存大頁中超過?/proc/sys/vm/nr_hugepages的大小， 最大值由?/proc/sys/vm/nr_overcommit_hugepages?限制

• Hugepagesize — 內(nèi)存大頁的頁大小

進程級別的統(tǒng)計

先介紹幾個通用概念：

• VSS -?Virtual Set Size，虛擬內(nèi)存大小，包含共享庫占用的全部內(nèi)存，以及分配但未使用內(nèi)存

• RSS -?Resident Set Size，實際使用物理內(nèi)存，包含了共享庫占用的全部內(nèi)存

• PSS -?Proportional Set Size，實際使用的物理內(nèi)存，共享庫占用的內(nèi)存按照進程數(shù)等比例劃分

• USS -?Unique Set Size，進程獨自占用的物理內(nèi)存，不包含共享庫占用的內(nèi)存

/proc/{pid}/smaps 文件

在/proc/{pid}/smaps文件對應(yīng)每個進程的詳細內(nèi)存分段統(tǒng)計。截取一部分：

下面分別解釋下含義：

• Size：映射的大小(mapping size)

• Rss：實際駐留在RAM的內(nèi)存大小(包括共享庫的大小，不包括已經(jīng)交換出去的頁面)

• Pss：Rss 的基礎(chǔ)上，把共享庫的大小均攤給所有被映射的進程后的大小

• Shared_Clean：共享的Clean內(nèi)存的大小

• Shared_Dirty：共享的Dirty內(nèi)存的大小

• Private_Clean：私有的Clean內(nèi)存的大小

• Private_Dirty：私有的Dirty內(nèi)存的大小

• Referenced：當前被標記為引用的頁的大小

• Anonymous：匿名內(nèi)存的大小

• AnonHugePages：透明大頁內(nèi)存的大小

• Swap：Swap的大小

• KernelPageSize：內(nèi)核頁大小

• MMUPageSize：MMU頁大小

• Locked：被mlock()的內(nèi)存大小

• VmFlags：頁的標志位，有點多這里不列舉，詳見參考資料 [4]

可以看到Rss這個指標實際上是包含了共享庫的大小的，不同的進程會共享這個映射的，如果想通過累加這個值來計算所有進程用到的內(nèi)存的話就不準確了，而Pss把共享庫的大小均攤給了所有用到映射了這個庫的進程，所以累加起來就不會重復(fù)計算共享庫大小了。

P.S. 最新的內(nèi)核文檔提到了要加smaps_rollup這個統(tǒng)計，支持Pss_Anon、Pss_File和Pss_Shmem三個分類統(tǒng)計，這個在進程級別看，用到內(nèi)存就很清晰了。

我們可以累加一下這個值看看某進程用到的內(nèi)存總和：

注意單位是KB，所以這里進程用到的內(nèi)存是 1.17 GB 左右。

這是個使用共享內(nèi)存作為存儲的服務(wù)，所以這是符合預(yù)期的。如果想要看排除共享內(nèi)存的部分，那要看Anonymous部分的總和：

所以實際匿名內(nèi)存使用是 63 MB 左右。

top 命令

top命令中關(guān)于內(nèi)存使用的統(tǒng)計：

內(nèi)存相關(guān)的統(tǒng)計有VIRT、RES、SHR、SWAP、CODE、DATA、USED

• VIRT —?Virtual Memory Size，虛擬內(nèi)存大小，包括所有代碼、數(shù)據(jù)和共享庫，以及已交換的頁面和已映射但未使用的內(nèi)存

• RES —?Resident Memory Size，駐留內(nèi)存大小，共享的內(nèi)存比如動態(tài)庫也會計算在內(nèi)

• SHR —?Shared Memory Size，共享的內(nèi)存大小，并非所有共享的內(nèi)存都是常駐的

• SWAP — Swapped Size，非駐留內(nèi)存大小

• CODE — Code Size，程序可執(zhí)行代碼的大小

• DATA — Data + Stack Size，可執(zhí)行代碼以外的物理內(nèi)存量，也稱為數(shù)據(jù)駐留集大小

• USED — Memory in Use，RES + SWAP 的大小

其他的內(nèi)存查看命令

常用的還有這些：vmstat、sar、slabtop、kmstat、ps、prstat、pmap等等。懶得寫了，有問題看man文檔得了。

參考文獻

[1] Understanding the Linux Kernel, Daniel Plerre Bovet / Marco Cesati, 2005-11

[2] Professional Linux Kernel Architecture, Wolfgang Mauerer, 2008-10-13

[3] Systems Performance: Enterprise and the Cloud, Brendan Gregg, 2013-10-26

[4]?https://raw.githubusercontent.com/torvalds/linux/master/Documentation/filesystems/proc.txt

[5]?https://en.wikipedia.org/wiki/Resident_set_size

[6]?https://en.wikipedia.org/wiki/Proportional_set_size

[7]?https://en.wikipedia.org/wiki/Unique_set_size

總結(jié)

以上是生活随笔為你收集整理的linux 统计_聊聊 Linux 的内存统计的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。