日韩av黄I国产麻豆传媒I国产91av视频在线观看I日韩一区二区三区在线看I美女国产在线I麻豆视频国产在线观看I成人黄色短片

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 运维知识 > linux >内容正文

linux

​Linux CPU 性能优化指南

發布時間:2024/2/28 linux 65 豆豆
生活随笔 收集整理的這篇文章主要介紹了 ​Linux CPU 性能优化指南 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

本文作者:allenxguo,騰訊 QQ 音樂后臺開發工程師

本文主要幫助理解 CPU 相關的性能指標,常見的 CPU 性能問題以及解決方案梳理。


系統平均負載

簡介

系統平均負載:是處于可運行或不可中斷狀態的平均進程數。

可運行進程:使用 CPU 或等待使用 CPU 的進程

不可中斷狀態進程:正在等待某些 IO 訪問,一般是和硬件交互,不可被打斷(不可被打斷的原因是為了保護系統數據一致,防止數據讀取錯誤)

查看系統平均負載

首先top命令查看進程運行狀態,如下:

PID USER PR NI VIRT RES SHR S %CPU %MEM TIME+ COMMAND 10760 user 20 0 3061604 84832 5956 S 82.4 0.6 126:47.61 Process 29424 user 20 0 54060 2668 1360 R 17.6 0.0 0:00.03 **top**

程序狀態Status進程可運行狀態為R,不可中斷運行為D(后續講解 top 時會詳細說明)

top查看系統平均負載:

top - 13:09:42 up 888 days, 21:32, 8 users, load average: 19.95, 14.71, 14.01 Tasks: 642 total, 2 running, 640 sleeping, 0 stopped, 0 zombie %Cpu0 : 37.5 us, 27.6 sy, 0.0 ni, 30.9 id, 0.0 wa, 0.0 hi, 3.6 si, 0.3 st %Cpu1 : 34.1 us, 31.5 sy, 0.0 ni, 34.1 id, 0.0 wa, 0.0 hi, 0.4 si, 0.0 st ... KiB Mem : 14108016 total, 2919496 free, 6220236 used, 4968284 buff/cache KiB Swap: 0 total, 0 free, 0 used. 6654506 avail Mem

這里的load average就表示系統最近 1 分鐘、5 分鐘、15 分鐘的系統瓶頸負載。

uptime查看系統瓶頸負載

[root /home/user]# uptime13:11:01 up 888 days, 21:33, 8 users, load average: 17.20, 14.85, 14.10
查看 CPU 核信息

系統平均負載和 CPU 核數密切相關,我們可以通過以下命令查看當前機器 CPU 信息:

lscpu查看 CPU 信息:

[root@Tencent-SNG /home/user_00]# lscpu Architecture: x86_64 CPU op-mode(s): 32-bit, 64-bit Byte Order: Little Endian CPU(s): 8 ... L1d cache: 32K L1i cache: 32K L2 cache: 4096K NUMA node0 CPU(s): 0-7 // NUMA架構信息

cat /proc/cpuinfo查看每個 CPU 核的信息:

processor : 7 // 核編號7 vendor_id : GenuineIntel cpu family : 6 model : 6 ...
系統平均負載升高的原因

一般來說,系統平均負載升高意味著 CPU 使用率上升。但是他們沒有必然聯系,CPU 密集型計算任務較多一般系統平均負載會上升,但是如果 IO 密集型任務較多也會導致系統平均負載升高但是此時的 CPU 使用率不一定高,可能很低因為很多進程都處于不可中斷狀態,等待 CPU 調度也會升高系統平均負載。

所以假如我們系統平均負載很高,但是 CPU 使用率不是很高,則需要考慮是否系統遇到了 IO 瓶頸,應該優化 IO 讀寫速度。

所以系統是否遇到 CPU 瓶頸需要結合 CPU 使用率,系統瓶頸負載一起查看(當然還有其他指標需要對比查看,下面繼續講解)

案例問題排查

stress是一個施加系統壓力和壓力測試系統的工具,我們可以使用stress工具壓測試 CPU,以便方便我們定位和排查 CPU 問題。

yum install stress // 安裝stress工具
stress 命令使用
// --cpu 8:8個進程不停的執行sqrt()計算操作// --io 4:4個進程不同的執行sync()io操作(刷盤)// --vm 2:2個進程不停的執行malloc()內存申請操作// --vm-bytes 128M:限制1個執行malloc的進程申請內存大小stress --cpu 8 --io 4 --vm 2 --vm-bytes 128M --timeout 10s

我們這里主要驗證 CPU、IO、進程數過多的問題

CPU 問題排查

使用stress -c 1模擬 CPU 高負載情況,然后使用如下命令觀察負載變化情況:

uptime:使用uptime查看此時系統負載:

# -d 參數表示高亮顯示變化的區域 $ watch -d uptime ... load average: 1.00, 0.75, 0.39

mpstat:使用mpstat -P ALL 1則可以查看每一秒的 CPU 每一核變化信息,整體和top類似,好處是可以把每一秒(自定義)的數據輸出方便觀察數據的變化,最終輸出平均數據:

13:14:53 CPU %usr %nice %sys %iowait %irq %soft %steal %guest %gnice %idle 13:14:58 all 12.89 0.00 0.18 0.00 0.00 0.03 0.00 0.00 0.00 86.91 13:14:58 0 100.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 13:14:58 1 0.40 0.00 0.20 0.00 0.00 0.20 0.00 0.00 0.00 99.20

由以上輸出可以得出結論,當前系統負載升高,并且其中 1 個核跑滿主要在執行用戶態任務,此時大多數屬于業務工作。所以此時需要查哪個進程導致單核 CPU 跑滿:

pidstat:使用pidstat -u 1則是每隔 1 秒輸出當前系統進程、CPU 數據:

13:18:00 UID PID %usr %system %guest %CPU CPU Command 13:18:01 0 1 1.00 0.00 0.00 1.00 4 systemd 13:18:01 0 3150617 100.00 0.00 0.00 100.00 0 stress ...

top:當然最方便的還是使用top命令查看負載情況:

top - 13:19:06 up 125 days, 20:01, 3 users, load average: 0.99, 0.63, 0.42 Tasks: 223 total, 2 running, 221 sleeping, 0 stopped, 0 zombie %Cpu(s): 14.5 us, 0.3 sy, 0.0 ni, 85.1 id, 0.0 wa, 0.0 hi, 0.0 si, 0.0 st KiB Mem : 16166056 total, 3118532 free, 9550108 used, 3497416 buff/cache KiB Swap: 0 total, 0 free, 0 used. 6447640 avail MemPID USER PR NI VIRT RES SHR S %CPU %MEM TIME+ COMMAND 3150617 root 20 0 10384 120 0 R 100.0 0.0 4:36.89 stress

此時可以看到是stress占用了很高的 CPU。

IO 問題排查

我們使用stress -i 1來模擬 IO 瓶頸問題,即死循環執行 sync 刷盤操作:uptime:使用uptime查看此時系統負載:

$ watch -d uptime ..., load average: 1.06, 0.58, 0.37

mpstat:查看此時 IO 消耗,但是實際上我們發現這里 CPU 基本都消耗在了 sys 即系統消耗上。

Average: CPU %usr %nice %sys %iowait %irq %soft %steal %guest %gnice %idle Average: all 0.33 0.00 12.64 0.13 0.00 0.00 0.00 0.00 0.00 86.90 Average: 0 0.00 0.00 99.00 1.00 0.00 0.00 0.00 0.00 0.00 0.00 Average: 1 0.00 0.00 0.33 0.00 0.00 0.00 0.00 0.00 0.00 99.67

IO 無法升高的問題

iowait 無法升高的問題,是因為案例中 stress 使用的是 sync()系統調用,它的作用是刷新緩沖區內存到磁盤中。對于新安裝的虛擬機,緩沖區可能比較小,無法產生大的 IO 壓力,這樣大部分就都是系統調用的消耗了。所以,你會看到只有系統 CPU 使用率升高。解決方法是使用 stress 的下一代 stress-ng,它支持更豐富的選項,比如stress-ng -i 1 --hdd 1 --timeout 600(--hdd 表示讀寫臨時文件)。

Average: CPU %usr %nice %sys %iowait %irq %soft %steal %guest %gnice %idle Average: all 0.25 0.00 0.44 26.22 0.00 0.00 0.00 0.00 0.00 73.09 Average: 0 0.00 0.00 1.02 98.98 0.00 0.00 0.00 0.00 0.00 0.00

pidstat:同上(略)

可以看出 CPU 的 IO 升高導致系統平均負載升高。我們使用pidstat查找具體是哪個進程導致 IO 升高的。

top:這里使用 top 依舊是最方面的查看綜合參數,可以得出stress是導致 IO 升高的元兇。

pidstat 沒有 iowait 選項:可能是 CentOS 默認的sysstat太老導致,需要升級到 11.5.5 之后的版本才可用。

進程數過多問題排查

進程數過多這個問題比較特殊,如果系統運行了很多進程超出了 CPU 運行能,就會出現等待 CPU 的進程。使用stress -c 24來模擬執行 24 個進程(我的 CPU 是 8 核)uptime:使用uptime查看此時系統負載:

$ watch -d uptime ..., load average: 18.50, 7.13, 2.84

mpstat:同上(略)

pidstat:同上(略)

可以觀察到此時的系統處理嚴重過載的狀態,平均負載高達 18.50

top:我們還可以使用top命令查看此時Running狀態的進程數,這個數量很多就表示系統正在運行、等待運行的進程過多。

總結

通過以上問題現象及解決思路可以總結出:

  • 平均負載高有可能是 CPU 密集型進程導致的

  • 平均負載高并不一定代表 CPU 使用率高,還有可能是 I/O 更繁忙了

  • 當發現負載高的時候,你可以使用 mpstat、pidstat 等工具,輔助分析負載的來源

  • 總結工具:mpstat、pidstat、top和uptime

    CPU 上下文切換

    CPU 上下文:CPU 執行每個任務都需要知道任務從哪里加載、又從哪里開始運行,也就是說,需要系統事先幫它設置好 CPU 寄存器和程序計數器(Program Counter,PC)包括 CPU 寄存器在內都被稱為 CPU 上下文。

    CPU 上下文切換:CPU 上下文切換,就是先把前一個任務的 CPU 上下文(也就是 CPU 寄存器和程序計數器)保存起來,然后加載新任務的上下文到這些寄存器和程序計數器,最后再跳轉到程序計數器所指的新位置,運行新任務。

    CPU 上下文切換:分為進程上下文切換、線程上下文切換以及中斷上下文切換。

    進程上下文切換

    從用戶態切換到內核態需要通過系統調用來完成,這里就會發生進程上下文切換(特權模式切換),當切換回用戶態同樣發生上下文切換。

    一般每次上下文切換都需要幾十納秒到數微秒的 CPU 時間,如果切換較多還是很容易導致 CPU 時間的浪費在寄存器、內核棧以及虛擬內存等資源的保存和恢復上,這里同樣會導致系統平均負載升高。

    Linux 為每個 CPU 維護一個就緒隊列,將 R 狀態進程按照優先級和等待 CPU 時間排序,選擇最需要的 CPU 進程執行。這里運行進程就涉及了進程上下文切換的時機:

  • 進程時間片耗盡、。

  • 進程在系統資源不足(內存不足)。

  • 進程主動sleep。

  • 有優先級更高的進程執行。

  • 硬中斷發生。

  • 線程上下文切換

    線程和進程:

  • 當進程只有一個線程時,可以認為進程就等于線程。

  • 當進程擁有多個線程時,這些線程會共享相同的虛擬內存和全局變量等資源。這些資源在上下文切換時是不需要修改的。

  • 線程也有自己的私有數據,比如棧和寄存器等,這些在上下文切換時也是需要保存的。

  • 所以線程上下文切換包括了 2 種情況:

  • 不同進程的線程,這種情況等同于進程切換。

  • 通進程的線程切換,只需要切換線程私有數據、寄存器等不共享數據。

  • 中斷上下文切換

    中斷處理會打斷進程的正常調度和執行,轉而調用中斷處理程序,響應設備事件。而在打斷其他進程時,就需要將進程當前的狀態保存下來,這樣在中斷結束后,進程仍然可以從原來的狀態恢復運行。

    對同一個 CPU 來說,中斷處理比進程擁有更高的優先級,所以中斷上下文切換并不會與進程上下文切換同時發生。由于中斷會打斷正常進程的調度和執行,所以大部分中斷處理程序都短小精悍,以便盡可能快的執行結束。

    查看系統上下文切換

    vmstat:工具可以查看系統的內存、CPU 上下文切換以及中斷次數:

    // 每隔1秒輸出 $ vmstat 1 procs -----------memory---------- ---swap-- -----io---- -system-- ------cpu-----r b swpd free buff cache si so bi bo in cs us sy id wa st3 0 0 157256 3241604 5144444 0 0 20 0 26503 33960 18 7 75 0 0 17 0 0 159984 3241708 5144452 0 0 12 0 29560 37696 15 10 75 0 06 0 0 162044 3241816 5144456 0 0 8 120 30683 38861 17 10 73 0 0

    cs:則為每秒的上下文切換次數。

    in:則為每秒的中斷次數。

    r:就緒隊列長度,正在運行或等待 CPU 的進程。

    b:不可中斷睡眠狀態的進程數,例如正在和硬件交互。

    pidstat:使用pidstat -w選項查看具體進程的上下文切換次數:

    $ pidstat -w -p 3217281 1 10:19:13 UID PID cswch/s nvcswch/s Command 10:19:14 0 3217281 0.00 18.00 stress 10:19:15 0 3217281 0.00 18.00 stress 10:19:16 0 3217281 0.00 28.71 stress

    其中cswch/s和nvcswch/s表示自愿上下文切換和非自愿上下文切換。

    自愿上下文切換:是指進程無法獲取所需資源,導致的上下文切換。比如說, I/O、內存等系統資源不足時,就會發生自愿上下文切換。

    非自愿上下文切換:則是指進程由于時間片已到等原因,被系統強制調度,進而發生的上下文切換。比如說,大量進程都在爭搶 CPU 時,就容易發生非自愿上下文切換

    案例問題排查

    這里我們使用sysbench工具模擬上下文切換問題。

    先使用vmstat 1查看當前上下文切換信息:

    $ vmstat 1 procs -----------memory---------- ---swap-- -----io---- -system-- ------cpu-----r b swpd free buff cache si so bi bo in cs us sy id wa st2 0 0 514540 3364828 5323356 0 0 10 16 0 0 4 1 95 0 01 0 0 514316 3364932 5323408 0 0 8 0 27900 34809 17 10 73 0 01 0 0 507036 3365008 5323500 0 0 8 0 23750 30058 19 9 72 0 0

    然后使用sysbench --threads=64 --max-time=300 threads run模擬 64 個線程執行任務,此時我們再次vmstat 1查看上下文切換信息:

    $ vmstat 1 procs -----------memory---------- ---swap-- -----io---- -system-- ------cpu-----r b swpd free buff cache si so bi bo in cs us sy id wa st2 0 0 318792 3385728 5474272 0 0 10 16 0 0 4 1 95 0 01 0 0 307492 3385756 5474316 0 0 8 0 15710 20569 20 8 72 0 01 0 0 330032 3385824 5474376 0 0 8 16 21573 26844 19 9 72 0 02 0 0 321264 3385876 5474396 0 0 12 0 21218 26100 20 7 73 0 06 0 0 320172 3385932 5474440 0 0 12 0 19363 23969 19 8 73 0 0 14 0 0 323488 3385980 5474828 0 0 64 788 111647 3745536 24 61 15 0 0 14 0 0 323576 3386028 5474856 0 0 8 0 118383 4317546 25 64 11 0 0 16 0 0 315560 3386100 5475056 0 0 8 16 115253 4553099 22 68 9 0 0

    我們可以明顯的觀察到:

  • 當前 cs、in 此時劇增。

  • sy+us 的 CPU 占用超過 90%。

  • r 就緒隊列長度達到 16 個超過了 CPU 核心數 8 個。

  • 分析 cs 上下文切換問題

    我們使用pidstat查看當前 CPU 信息和具體的進程上下文切換信息:

    // -w表示查看進程切換信息,-u查看CPU信息,-t查看線程切換信息 $ pidstat -w -u -t 110:35:01 UID PID %usr %system %guest %CPU CPU Command 10:35:02 0 3383478 67.33 100.00 0.00 100.00 1 sysbench10:35:01 UID PID cswch/s nvcswch/s Command 10:45:39 0 3509357 - 1.00 0.00 kworker/2:2 10:45:39 0 - 3509357 1.00 0.00 |__kworker/2:2 10:45:39 0 - 3509702 38478.00 45587.00 |__sysbench 10:45:39 0 - 3509703 39913.00 41565.00 |__sysbench

    所以我們可以看到大量的sysbench線程存在很多的上下文切換。

    分析 in 中斷問題

    我們可以查看系統的watch -d cat /proc/softirqs以及watch -d cat /proc/interrupts來查看系統的軟中斷和硬中斷(內核中斷)。我們這里主要觀察/proc/interrupts即可。

    $ watch -d cat /proc/interrupts RES: 900997016 912023527 904378994 902594579 899800739 897500263 895024925 895452133 Rescheduling interrupts

    這里明顯看出重調度中斷(RES)增多,這個中斷表示喚醒空閑狀態 CPU 來調度新任務執行,

    總結

  • 自愿上下文切換變多了,說明進程都在等待資源,有可能發生了 I/O 等其他問題。

  • 非自愿上下文切換變多了,說明進程都在被強制調度,也就是都在爭搶 CPU,說明 CPU 的確成了瓶頸。

  • 中斷次數變多了,說明 CPU 被中斷處理程序占用,還需要通過查看/proc/interrupts文件來分析具體的中斷類型。

  • CPU 使用率

    除了系統負載、上下文切換信息,最直觀的 CPU 問題指標就是 CPU 使用率信息。Linux 通過/proc虛擬文件系統向用戶控件提供系統內部狀態信息,其中/proc/stat則是 CPU 和任務信息統計。

    $ cat /proc/stat | grep cpu cpu 6392076667 1160 3371352191 52468445328 3266914 37086 36028236 20721765 0 0 cpu0 889532957 175 493755012 6424323330 2180394 37079 17095455 3852990 0 0 ...

    這里每一列的含義如下:

  • user(通??s寫為 us),代表用戶態 CPU 時間。注意,它不包括下面的 nice 時間,但包括了 guest 時間。

  • nice(通??s寫為 ni),代表低優先級用戶態 CPU 時間,也就是進程的 nice 值被調整為 1-19 之間時的 CPU 時間。這里注意,nice 可取值范圍是 -20 到 19,數值越大,優先級反而越低。

  • system(通??s寫為 sys),代表內核態 CPU 時間。

  • idle(通常縮寫為 id),代表空閑時間。注意,它不包括等待 I/O 的時間(iowait)。

  • iowait(通常縮寫為 wa),代表等待 I/O 的 CPU 時間。

  • irq(通??s寫為 hi),代表處理硬中斷的 CPU 時間。

  • softirq(通??s寫為 si),代表處理軟中斷的 CPU 時間。

  • steal(通??s寫為 st),代表當系統運行在虛擬機中的時候,被其他虛擬機占用的 CPU 時間。

  • guest(通常縮寫為 guest),代表通過虛擬化運行其他操作系統的時間,也就是運行虛擬機的 CPU 時間。

  • guest_nice(通常縮寫為 gnice),代表以低優先級運行虛擬機的時間。

  • 這里我們可以使用top、ps、pidstat等工具方便的查詢這些數據,可以很方便的看到 CPU 使用率很高的進程,這里我們可以通過這些工具初步定為,但是具體的問題原因還需要其他方法繼續查找。

    這里我們可以使用perf top方便查看熱點數據,也可以使用perf record可以將當前數據保存起來方便后續使用perf report查看。

    CPU 使用率問題排查

    這里總結一下 CPU 使用率問題及排查思路:

  • 用戶 CPU 和 Nice CPU 高,說明用戶態進程占用了較多的 CPU,所以應該著重排查進程的性能問題。

  • 系統 CPU 高,說明內核態占用了較多的 CPU,所以應該著重排查內核線程或者系統調用的性能問題。

  • I/O 等待 CPU 高,說明等待 I/O 的時間比較長,所以應該著重排查系統存儲是不是出現了 I/O 問題。

  • 軟中斷和硬中斷高,說明軟中斷或硬中斷的處理程序占用了較多的 CPU,所以應該著重排查內核中的中斷服務程序。

  • CPU 問題排查套路

    CPU 使用率

    CPU 使用率主要包含以下幾個方面:

  • 用戶 CPU 使用率,包括用戶態 CPU 使用率(user)和低優先級用戶態 CPU 使用率(nice),表示 CPU 在用戶態運行的時間百分比。用戶 CPU 使用率高,通常說明有應用程序比較繁忙。

  • 系統 CPU 使用率,表示 CPU 在內核態運行的時間百分比(不包括中斷)。系統 CPU 使用率高,說明內核比較繁忙。

  • 等待 I/O 的 CPU 使用率,通常也稱為 iowait,表示等待 I/O 的時間百分比。iowait 高,通常說明系統與硬件設備的 I/O 交互時間比較長。

  • 軟中斷和硬中斷的 CPU 使用率,分別表示內核調用軟中斷處理程序、硬中斷處理程序的時間百分比。它們的使用率高,通常說明系統發生了大量的中斷。

  • 除在虛擬化環境中會用到的竊取 CPU 使用率(steal)和客戶 CPU 使用率(guest),分別表示被其他虛擬機占用的 CPU 時間百分比,和運行客戶虛擬機的 CPU 時間百分比。

  • 平均負載

    反應了系統的整體負載情況,可以查看過去 1 分鐘、過去 5 分鐘和過去 15 分鐘的平均負載。

    上下文切換

    上下文切換主要關注 2 項指標:

  • 無法獲取資源而導致的自愿上下文切換。

  • 被系統強制調度導致的非自愿上下文切換。

  • CPU 緩存命中率

    CPU 的訪問速度遠大于內存訪問,這樣在 CPU 訪問內存時不可避免的要等待內存響應。為了協調 2 者的速度差距出現了 CPU 緩存(多級緩存)。如果 CPU 緩存命中率越高則性能會更好,我們可以使用以下工具查看 CPU 緩存命中率,工具地址、項目地址 perf-tools

    # ./cachestat -t Counting cache functions... Output every 1 seconds. TIME HITS MISSES DIRTIES RATIO BUFFERS_MB CACHE_MB 08:28:57 415 0 0 100.0% 1 191 08:28:58 411 0 0 100.0% 1 191 08:28:59 362 97 0 78.9% 0 8 08:29:00 411 0 0 100.0% 0 9 08:29:01 775 20489 0 3.6% 0 89 08:29:02 411 0 0 100.0% 0 89 08:29:03 6069 0 0 100.0% 0 89 08:29:04 15249 0 0 100.0% 0 89 08:29:05 411 0 0 100.0% 0 89 08:29:06 411 0 0 100.0% 0 89 08:29:07 411 0 3 100.0% 0 89 [...]

    總結

    通過性能指標查工具(CPU 相關)

    性能指標工具說明
    平均負載uptime
    top
    uptime 簡單展示最近一段時間的平均負載
    top 展示更多指標
    CPU 使用率vmstat
    mpstat
    top
    sar
    /proc/stat
    top、vmstat、mpstat 只可以動態查看當前,而 sar 可以查看歷史
    /proc/stat 是其他性能工具的數據來源
    進程 CPU 使用率top
    pidstat
    ps
    htop
    atop
    top、ps 可以以排序方式展示進程 CPU、pidstat 不可排序展示
    htop、atop 則以不同顏色展示各類數據更直觀
    系統上下文切換vmstat展示上下文切換此時、運行狀態、不可中斷狀態進程數量
    進程上下文切換pidstat展示項很多,包括進程上下文切換信息
    軟中斷top
    /proc/softirqs
    mpstat
    top 可查看軟中斷 CPU 使用率
    /proc/softirqs 和 mpstat 則可以查看每個 CPU 上的累計信息
    硬中斷vmstat
    /proc/interrupts
    vmstat 查看總中斷次數信息
    /proc/interrupts 查看各種中斷在每個 CPU 核心上的累計信息
    網絡dstat
    sar
    tcpdump
    dstat、sar 較詳細的展示出總的網絡收發情況
    tcpdump 提供動態抓取數據包的能力
    IOdstat、sar2 者都提供了詳細的 IO 整體情況
    CPU 信息/proc/cpuinfo
    lscpu
    都可以查看 CPU 信息
    系統分析perf
    execsnoop
    perf 分析各種內核函數調用、熱點函數信息
    execsnoop 監控短時進程

    根據工具查性能指標(CPU 相關)

    性能工具CPU 性能指標
    uptime5、10、15 分鐘內的平均負載展示
    top平均負載、運行隊列、CPU 各項使用率、進程狀態和 CPU 使用率
    htoptop 增強版,以不同顏色區分不同類型進程,展示更直觀
    atopCPU、內存、磁盤、網絡資源全訪問監控,十分齊全
    vmstat系統整體 CPU 使用率、上下文切換次數、中斷次數,還包括處于運行(r)和不可中斷狀態(b)的進程數量
    pidstat進程、線程(-t)的每個 CPU 占用信息,中斷上下文切換次數
    /proc/softirqs展示每個 CPU 上的軟中斷類型及次數
    /proc/inerrupts展示每個 CPU 上的硬中斷類型及次數
    ps每個進程的狀態和 CPU 使用率
    pstree進程的父子關系展示
    dstat系統整體 CPU 使用率(以及相關 IO、網絡信息)
    sar系統整體 CPU 使用率,以及使用率歷史信息
    strace跟蹤進程的系統調用
    perfCPU 性能事件分析,例如:函數調用鏈、CPU 緩存命中率、CPU 調度等
    execsnoop短時進程分析

    CPU 問題排查方向

    有了以上性能工具,在實際遇到問題時我們并不可能全部性能工具跑一遍,這樣效率也太低了,所以這里可以先運行幾個常用的工具 top、vmstat、pidstat 分析系統大概的運行情況然后在具體定位原因。

    top 系統CPU => vmstat 上下文切換次數 => pidstat 非自愿上下文切換次數 => 各類進程分析工具(perf strace ps execsnoop pstack)top 用戶CPU => pidstat 用戶CPU => 一般是CPU計算型任務top 僵尸進程 => 各類進程分析工具(perf strace ps execsnoop pstack)top 平均負載 => vmstat 運行狀態進程數 => pidstat 用戶CPU => 各類進程分析工具(perf strace ps execsnoop pstack)top 等待IO CPU => vmstat 不可中斷狀態進程數 => IO分析工具(dstat、sar -d)top 硬中斷 => vmstat 中斷次數 => 查看具體中斷類型(/proc/interrupts)top 軟中斷 => 查看具體中斷類型(/proc/softirqs) => 網絡分析工具(sar -n、tcpdump) 或者 SCHED(pidstat 非自愿上下文切換)

    CPU 問題優化方向

    性能優化往往是多方面的,CPU、內存、網絡等都是有關聯的,這里暫且給出 CPU 優化的思路,以供參考。

    程序優化
  • 基本優化:程序邏輯的優化比如減少循環次數、減少內存分配,減少遞歸等等。

  • 編譯器優化:開啟編譯器優化選項例如gcc -O2對程序代碼優化。

  • 算法優化:降低蘇研發復雜度,例如使用nlogn的排序算法,使用logn的查找算法等。

  • 異步處理:例如把輪詢改為通知方式

  • 多線程代替多進程:某些場景下多線程可以代替多進程,因為上下文切換成本較低

  • 緩存:包括多級緩存的使用(略)加快數據訪問

  • 系統優化
  • CPU 綁定:綁定到一個或多個 CPU 上,可以提高 CPU 緩存命中率,減少跨 CPU 調度帶來的上下文切換問題

  • CPU 獨占:跟 CPU 綁定類似,進一步將 CPU 分組,并通過 CPU 親和性機制為其分配進程。

  • 優先級調整:使用 nice 調整進程的優先級,適當降低非核心應用的優先級,增高核心應用的優先級,可以確保核心應用得到優先處理。

  • 為進程設置資源限制:使用 Linux cgroups 來設置進程的 CPU 使用上限,可以防止由于某個應用自身的問題,而耗盡系統資源。

  • NUMA 優化:支持 NUMA 的處理器會被劃分為多個 Node,每個 Node 有本地的內存空間,這樣 CPU 可以直接訪問本地空間內存。

  • 中斷負載均衡:無論是軟中斷還是硬中斷,它們的中斷處理程序都可能會耗費大量的 CPU。開啟 irqbalance 服務或者配置 smp_affinity,就可以把中斷處理過程自動負載均衡到多個 CPU 上。

  • 參考

    極客時間:Linux 性能優化實戰

    總結

    以上是生活随笔為你收集整理的​Linux CPU 性能优化指南的全部內容,希望文章能夠幫你解決所遇到的問題。

    如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。

    夜色成人网 | 亚洲国产欧美一区二区三区丁香婷 | 中文字幕一区三区 | 中文字幕av有码 | 国产精品久久久久久久久免费 | 色5月婷婷| 成人在线视频免费看 | 免费在线播放av电影 | 一区二区三区中文字幕在线观看 | 久久久久综合 | 久久高清免费观看 | www.91国产| 欧美中文字幕久久 | 黄色三级免费看 | 国产福利精品一区二区 | 精品国产aⅴ一区二区三区 在线直播av | 成人av动漫在线观看 | 中文字幕欧美日韩va免费视频 | 欧美日韩精品免费观看 | 国产成人精品久 | 国产一级做a爱片久久毛片a | 不卡的av中文字幕 | 人人看人人 | 黄色成人影视 | 亚洲综合欧美日韩狠狠色 | www在线观看国产 | 亚洲精品网站在线 | 久久黄色a级片 | 久久精品福利视频 | 久久tv | 一级黄色片毛片 | 深夜国产在线 | 久久9视频| 久久综合九色99 | 午夜精品一二三区 | 美女av在线免费 | avcom在线| 色婷婷综合久久久久中文字幕1 | 久久公开免费视频 | 一区二区三区高清 | 成人蜜桃网 | 在线播放精品一区二区三区 | 在线视频成人 | 久久久av免费| 91最新视频在线观看 | 亚洲综合视频在线播放 | 日韩欧美专区 | av不卡网站 | 91麻豆福利 | 99热超碰在线 | 一区二区三区在线免费 | 成人国产综合 | 人人插人人 | 国产精品白浆 | 亚洲精品国产精品国自产 | 久久成人在线 | 欧美黑人xxxx猛性大交 | 日韩黄色软件 | 五月天婷婷在线观看视频 | 91在线看免费 | 97国产精品一区二区 | 9i看片成人免费看片 | 日日夜夜噜噜噜 | 天天躁天天狠天天透 | 国产无套精品久久久久久 | 日韩大片免费在线观看 | 热久久免费国产视频 | 九九在线国产视频 | 男女精品久久 | 成人黄色免费观看 | 亚洲色综合 | 亚洲美女精品视频 | 免费成人av在线 | 国产精品久久人 | 久草在线视频中文 | 在线免费精品视频 | 免费a网址 | 日韩精品中文字幕有码 | 久久久久久久久久久免费视频 | 国产va精品免费观看 | 日本公妇在线观看高清 | 91久久电影 | 香蕉在线观看 | 日韩av一区二区三区四区 | 天天干天天操天天入 | 又紧又大又爽精品一区二区 | 日韩中文字幕在线观看 | 91天堂在线观看 | 日日色综合 | 波多野结衣在线观看视频 | 欧美激情视频一区二区三区免费 | 九九九视频精品 | 免费高清无人区完整版 | 国产999在线 | 91看片淫黄大片91 | 免费福利在线 | 午夜精品久久久久久久99热影院 | 黄视频网站大全 | 中中文字幕av在线 | 成人精品视频 | 五月婷av| 国产精品成人品 | 久久婷婷综合激情 | 五月婷婷综合在线观看 | 国产精品片 | 免费在线中文字幕 | 在线观看免费成人av | 成人9ⅰ免费影视网站 | 婷婷播播网 | 探花视频在线版播放免费观看 | 国产精品99久久久久久宅男 | 国内精品一区二区 | 成人精品一区二区三区电影免费 | 国产在线观看污片 | 高清精品在线 | 日韩免费成人 | 美女精品在线 | 尤物九九久久国产精品的分类 | 国产色影院 | 免费成人在线观看 | 国产精品毛片一区视频 | 狠狠婷婷 | 97爱爱爱 | 亚洲精品美女久久久久网站 | 在线观看精品视频 | 成人av在线影视 | 国产综合小视频 | www黄免费 | 激情久久一区二区三区 | 亚洲国产精品一区二区久久,亚洲午夜 | 黄色天堂在线观看 | 黄色精品久久久 | 最新中文字幕视频 | 久久99网 | 91精品视频一区二区三区 | 亚洲狠狠丁香婷婷综合久久久 | 亚洲女同ⅹxx女同tv | 人人看人人做人人澡 | 干 操 插| 精品久久精品久久 | 日韩一区二区免费在线观看 | 久久av影视 | 99精品在线观看视频 | 国产成人61精品免费看片 | 一区二区av | 欧美精品在线观看 | 51久久夜色精品国产麻豆 | 精品一区91 | 久久综合九色综合欧美就去吻 | 奇米网8888| 欧美色图亚洲图片 | 天天干天天做天天操 | 国产一区在线免费观看视频 | 亚州精品视频 | 日韩欧美精品在线视频 | www日韩在线 | 婷婷国产一区二区三区 | 综合色站| 国产成人一区二区三区久久精品 | 五月天综合婷婷 | 午夜久久精品 | 狠狠的日日 | 日本中文字幕网 | 国产精品 欧美 日韩 | 久久久久久久久国产 | 国产99久久久精品视频 | 精品在线视频一区 | 亚洲激情视频 | 91精品推荐 | 99久久婷婷国产精品综合 | 97人人网| 久久久午夜精品福利内容 | 制服丝袜天堂 | 日韩在线播放视频 | 成人午夜性影院 | 国语精品久久 | 97福利| 日韩三级视频 | 在线视频中文字幕一区 | 欧美一区二区三区在线视频观看 | 成人一区二区三区中文字幕 | 欧美aaa一级 | 日本xxxxav | 久久九九影视 | 免费在线一区二区 | 天天干,天天操 | 久草资源在线观看 | 成人理论电影 | 91pony九色丨交换 | 中文字幕中文字幕在线中文字幕三区 | 91精品色| 久久成| 激情丁香综合五月 | 成人精品视频 | 日本大尺码专区mv | 国产精品第一页在线观看 | 黄av免费在线观看 | 日日夜夜天天久久 | 中文在线8新资源库 | 99久久日韩精品视频免费在线观看 | 亚洲精品日韩在线观看 | 国产精品成人av久久 | 精品视频123区在线观看 | 国产1区2区3区在线 亚洲自拍偷拍色图 | 99久热精品 | 欧美aaaxxxx做受视频 | 麻豆传媒视频在线免费观看 | www.91成人 | 蜜桃视频精品 | 日日干夜夜草 | 99久热精品 | 久草在线观 | 欧美日韩中文字幕综合视频 | 国产精品永久免费观看 | 久久久久久久久久久免费av | 97福利视频| 国产精品一区二区三区视频免费 | 在线观看一二三区 | 一区中文字幕 | 国产精品成人av在线 | 亚洲精品综合欧美二区变态 | 久久99国产综合精品免费 | 狠狠色免费| 国产一区二区在线免费播放 | 99久久精品免费看国产 | 一区二区三区免费在线观看视频 | 日韩在线观看中文 | 激情婷婷在线观看 | 91精品久久久久久综合五月天 | 日韩免费视频网站 | 中文字幕在线观看第一区 | 狠狠的操狠狠的干 | av一本久道久久波多野结衣 | 最新国产一区二区三区 | 久影院| 日本久久久久久久久久久 | 婷婷六月色 | 国产在线播放一区二区 | 狠狠ri| 日韩欧美在线综合网 | 999久久久免费视频 午夜国产在线观看 | www99精品| 四川bbb搡bbb爽爽视频 | 国产三级久久久 | 日本中文不卡 | 久久久影院官网 | 精品国内| 国产精品午夜8888 | 欧美一级在线观看视频 | 亚洲国产美女久久久久 | 在线视频观看亚洲 | 国产精品第10页 | 国产精品亚洲片夜色在线 | 久久香蕉一区 | 天天操夜夜曰 | 精品久久久影院 | 日韩天天操 | 看片一区二区三区 | 亚洲乱码久久 | www.狠狠干 | 亚洲无毛专区 | 日韩欧美xxxx | 久久精视频 | 黄色毛片在线看 | 久久久观看 | 欧美综合在线视频 | 色就是色综合 | 黄色三级免费网址 | 日本99热 | 日韩欧美精品在线观看 | 欧女人精69xxxxxx| 97成人精品视频在线播放 | 日韩欧美在线观看一区二区三区 | 看污网站| 亚洲高清激情 | 亚洲影院色 | 在线色亚洲 | 蜜臀av性久久久久蜜臀av | 97精品欧美91久久久久久 | 九九免费在线观看视频 | 91传媒在线观看 | 成人av午夜| 亚洲日日日 | 亚洲视频观看 | 一级片视频在线 | 久久国产精品一区二区三区四区 | 国产99久久久欧美黑人 | 天天操夜夜操 | 日日干夜夜骑 | 日日干日日 | 一区二区三区免费 | 国产一区免费 | 国内小视频 | 国产精品电影一区二区 | 成人毛片一区 | 国产玖玖精品视频 | 九九热视频在线 | 久久精品99| av专区在线| 午夜黄色一级片 | 国产第一页在线观看 | 欧美日比视频 | 综合成人在线 | 成年人视频在线免费播放 | 亚洲高清视频在线观看免费 | 日韩黄色在线电影 | 国产亚洲成人网 | 亚洲欧美视屏 | 999视频在线播放 | 精品日韩视频 | 亚洲性视频| 国产精品一区二区三区久久久 | 久久综合久久88 | 人人要人人澡人人爽人人dvd | 手机在线欧美 | 国产日韩在线观看一区 | 国产精品丝袜在线 | 成人在线一区二区三区 | 亚洲精品国产第一综合99久久 | 激情欧美xxxx | 精品一区二区亚洲 | 久久精品一区二区三区视频 | 日韩精品一区二区三区免费视频观看 | 激情五月婷婷激情 | 国产手机在线观看 | 91精品婷婷国产综合久久蝌蚪 | 日本三级全黄少妇三2023 | 91中文在线观看 | 在线播放国产一区二区三区 | 精品黄色在线观看 | 韩日av在线 | 天天综合91 | 午夜久久福利视频 | 在线观看成人小视频 | 日韩av在线免费播放 | 日韩精品久久一区二区 | 日韩在线精品视频 | 久久精品亚洲 | 天堂入口网站 | 国产精品丝袜 | 国产精品麻豆三级一区视频 | 制服丝袜一区二区 | 中文字幕在线看视频 | 国产主播大尺度精品福利免费 | 人人澡人人爽欧一区 | 国产精品欧美日韩在线观看 | 免费观看特级毛片 | 欧美 日韩 国产 成人 在线 | 欧美狠狠操 | 韩国av免费| 九九热在线视频 | 极品嫩模被强到高潮呻吟91 | 亚洲国产精品999 | 久久日韩精品 | 日韩在线免费观看视频 | 精品一区精品二区高清 | 成人综合婷婷国产精品久久免费 | 国产精品av免费在线观看 | 日韩免费在线网站 | 欧美亚洲国产日韩 | 亚洲国产片色 | 深爱激情久久 | 亚洲不卡在线 | 久久激情久久 | 东方av在线免费观看 | 日韩综合一区二区三区 | 中文字幕高清有码 | 国产亚洲va综合人人澡精品 | 中国一级片视频 | 久久色在线观看 | 欧美激情精品一区 | 中文字幕丝袜美腿 | 亚洲天堂自拍视频 | 精品一区二三区 | 国产视频欧美视频 | 黄色一级大片免费看 | 精品久久久网 | 天天在线视频色 | 久久亚洲国产精品 | 国产精品区免费视频 | 91最新在线 | 亚洲欧美婷婷六月色综合 | 久保带人 | 韩国一区二区三区在线观看 | 国产精品成人自产拍在线观看 | 亚洲黄色片一级 | 不卡av免费在线观看 | 国产免费观看av | 激情av网址 | 美女精品在线 | 国产成人精品午夜在线播放 | 久久视频免费在线 | 亚洲毛片一区二区三区 | 久久国产精品免费 | 国产99一区视频免费 | 99精品视频一区二区 | 国产精品区二区三区日本 | 天天干夜夜想 | 亚洲精品一区二区三区高潮 | 亚洲国产精品成人va在线观看 | 久久国内精品视频 | 久久九九久久精品 | 91成品人影院 | 亚洲乱码在线观看 | 欧美不卡在线 | av免费观看高清 | 久久精品成人欧美大片古装 | 国产精品久久久久久久久久了 | 成人手机在线视频 | 99一级片 | 国产成人精品一区二区三区在线观看 | 免费国产在线视频 | 日韩成人免费在线 | 青青久草在线 | 久久99精品久久久久久久久久久久 | 亚洲一区网站 | 五月天六月丁香 | 久草在线免费看视频 | 激情片av| 激情综合中文娱乐网 | 四季av综合网站 | 国产亚洲成av人片在线观看桃 | av在线播放国产 | 在线观看国产永久免费视频 | 亚洲免费观看视频 | 中文字幕视频在线播放 | 免费亚洲成人 | 亚洲精品国偷自产在线91正片 | 欧美视频xxx | 免费久久99精品国产婷婷六月 | 国产精品在线看 | 91传媒91久久久 | 9久久精品 | 激情综合啪啪 | 99热最新在线 | 欧美另类69 | 欧美激情综合网 | 人人干天天射 | 在线观看国产永久免费视频 | 国产系列在线观看 | 久久精品亚洲一区二区三区观看模式 | 亚洲精品国精品久久99热一 | 欧美成人区| 成人免费在线观看av | 婷婷色5月 | 亚洲国产成人精品久久 | 日韩精品免费在线观看视频 | 欧美资源| av电影免费在线播放 | 狠狠网 | 免费视频久久久久 | 人人擦 | 97超碰在线人人 | 亚洲一区免费在线 | 国产高清视频免费观看 | 97在线影视 | 久久躁日日躁aaaaxxxx | 日日日视频 | 在线观看中文字幕2021 | 久久久久国产a免费观看rela | 国产麻豆剧果冻传媒视频播放量 | 国产美女网 | www.天天干.com | 婷婷伊人综合亚洲综合网 | 国产精品黄网站在线观看 | 国产午夜三级一区二区三桃花影视 | 九九色综合 | 精品国产乱码久久久久久1区二区 | 2024国产在线| 亚洲精品视频免费在线观看 | 高清av在线免费观看 | 日韩在线看片 | 国产一级性生活 | 天天激情天天干 | 美女视频免费精品 | 亚洲电影一区二区 | 丁香婷婷电影 | 国产日产精品一区二区三区四区的观看方式 | 日韩中文字幕91 | 亚洲精品国产麻豆 | 欧美激情片在线观看 | 亚洲精品福利在线 | 99久久综合国产精品二区 | 国产高清视频在线播放一区 | 精品美女久久 | 波多野结衣综合网 | 日韩,中文字幕 | 午夜精品电影一区二区在线 | 在线看免费 | 97精品国自产拍在线观看 | 国产视频一区在线免费观看 | 久久av电影 | 国产日女人 | 国产一区精品在线观看 | 日韩v在线 | 黄色午夜网站 | 久久亚洲视频 | 亚洲欧美日韩一级 | 精品亚洲视频在线观看 | japanesefreesex中国少妇 | 婷五月天激情 | 最近中文字幕完整视频高清1 | 超碰97中文 | 亚洲蜜桃在线 | 久久久久久福利 | 亚洲尺码电影av久久 | 手机av永久免费 | 欧美日韩一区二区久久 | 黄色小说在线观看视频 | 狠狠操天天射 | 香蕉视频在线播放 | 欧美一区二区三区特黄 | 伊人久久国产精品 | 亚洲国产视频在线 | 免费黄色小网站 | 国产黄色成人av | 五月婷婷电影网 | 91久久国产自产拍夜夜嗨 | 成人性生交大片免费观看网站 | 最近中文字幕高清字幕在线视频 | 中文字幕亚洲高清 | 成人精品在线 | 西西4444www大胆艺术 | 狠狠狠狠狠干 | av亚洲产国偷v产偷v自拍小说 | 亚州黄色一级 | 日韩高清二区 | 精品国模一区二区三区 | 成人在线免费av | 黄色毛片大全 | 国产九九精品视频 | 天天操夜夜爱 | 国产精品国产三级国产 | 精品女同一区二区三区在线观看 | 欧美在线视频一区二区三区 | 国产日产精品久久久久快鸭 | 日本福利视频在线 | 日韩免费成人av | 国产精品成人av在线 | 五月av在线 | 国产一在线精品一区在线观看 | 91精品久久久久久久久久久久久 | 国产在线小视频 | 亚洲九九 | 国产亚洲va综合人人澡精品 | 91中文字幕视频 | 91久久精品一区 | 中文字幕制服丝袜av久久 | 久操久| 91精品国产一区二区在线观看 | 999视频网 | 免费看片网页 | 欧美另类交在线观看 | 国产成人a亚洲精品v | 亚州精品在线视频 | 人人看人人 | 香蕉网在线观看 | 黄色国产在线 | 99久久这里有精品 | 久久草草热国产精品直播 | 国产高清绿奴videos | 国产一二区在线观看 | 亚洲国产婷婷 | 久久精品婷婷 | 亚洲涩综合 | 伊人伊成久久人综合网小说 | www.在线观看视频 | 91成人精品视频 | 五月婷婷色综合 | 精品亚洲欧美无人区乱码 | 久久高清免费视频 | 国产精品久久久久免费 | 日韩精品久久久久久 | 亚洲第五色综合网 | 欧美另类网站 | 国产精品观看在线亚洲人成网 | 日韩免费中文字幕 | 国产精品高潮呻吟久久av无 | 97精品国产91久久久久久久 | 日本久久高清视频 | 亚洲一区二区视频在线 | 国产精品一区二区果冻传媒 | 国产又黄又爽又猛视频日本 | 中文字幕成人网 | 国内精品久久久久影院优 | 日韩字幕在线观看 | 人人揉人人揉人人揉人人揉97 | 91久久国产露脸精品国产闺蜜 | 亚洲综合视频在线 | 久久99热精品这里久久精品 | 日韩久久一区 | 九九在线免费视频 | 一区二区三区不卡在线 | 成人在线视频论坛 | 天天天操天天天干 | 久久久一本精品99久久精品66 | 国产剧情久久 | 99精品乱码国产在线观看 | 激情视频免费在线观看 | 日韩四虎 | 国产黄a三级三级 | 伊人婷婷网 | 人人干在线 | 超薄丝袜一二三区 | 精品国产乱码久久久久 | 国产精品99在线播放 | 黄色成人小视频 | 丁香久久五月 | 99爱这里只有精品 | 久久成人高清 | 97在线视频免费 | 亚洲成人av电影 | 五月婷婷色播 | 天天草av| 欧美日韩国产免费视频 | 高清av免费看 | 国内综合精品午夜久久资源 | 日韩美女一级片 | 中文字幕在线久一本久 | 夜添久久精品亚洲国产精品 | 国产精品免费观看久久 | 天天干天天拍天天操天天拍 | 成人免费视频观看 | 欧美福利视频一区 | 亚洲精品在线免费观看视频 | 午夜久久久久 | 国产成人免费精品 | 欧美韩国日本在线 | 伊人激情综合 | 亚洲成人黄色av | 9999国产| 色香com.| 欧美另类亚洲 | 亚洲精品一区二区网址 | 欧美日韩国产二区三区 | 一区三区在线欧 | 免费黄色看片 | 亚洲综合成人婷婷小说 | 色91在线视频 | 91精品国产乱码久久桃 | 欧美日韩另类在线观看 | 人人插人人射 | jizzjizzjizz亚洲| 久av电影| av综合av | 国内精品一区二区 | 97精品久久 | 久久久国产精品一区二区中文 | 97视频在线观看网址 | 久草在线资源观看 | 成人99免费视频 | 精品久久久久久久久久久久久久久久 | a在线v| 亚洲一区尤物 | 欧美日韩精品在线观看 | 五月综合 | 日韩久久久久久久久 | 日日夜夜天天久久 | 久草在线免费在线观看 | 高清不卡免费视频 | 亚洲欧美国产精品 | 日日激情 | 亚洲精品综合一二三区在线观看 | 国产精品中文字幕av | www色综合| 性色av一区二区三区在线观看 | 99久久精品国产一区 | 亚洲精品久久激情国产片 | 在线观看中文字幕2021 | 国产福利一区二区三区视频 | 欧美精品免费视频 | 免费99精品国产自在在线 | 久久草精品 | 国产精品午夜8888 | 99国产精品久久久久老师 | 99热在| 国产麻豆精品久久一二三 | 在线观看亚洲精品 | 午夜三级在线 | 国产玖玖视频 | 一区精品久久 | 久久日本视频 | 亚洲成年人av | 国产精品成人一区二区三区 | 黄色视屏av | 韩国视频一区二区三区 | 天天曰夜夜操 | 亚洲视屏一区 | 日韩欧美视频免费看 | 99在线视频播放 | 免费黄色特级片 | 99热手机在线| 成年美女黄网站色大片免费看 | 美女福利视频网 | 欧美亚洲成人xxx | 综合激情婷婷 | 涩涩网站在线看 | 美女视频黄的免费的 | 黄色大全免费网站 | 国产麻豆精品在线观看 | 九九热视频在线免费观看 | 在线亚洲成人 | 天天草天天摸 | 亚洲精品国偷自产在线91正片 | 免费情缘 | 91自拍视频在线 | 日本女人在线观看 | 一区二区三区免费网站 | 亚洲年轻女教师毛茸茸 | 国产亚洲视频中文字幕视频 | 久久国语露脸国产精品电影 | 国产精品毛片久久久久久久久久99999999 | 久久99精品久久久久久久久久久久 | 免费看一级特黄a大片 | 亚洲精品88欧美一区二区 | 五月天天天操 | 亚洲欧美日韩国产精品一区午夜 | 天天操天天射天天操 | 久草视频中文 | 中日韩三级视频 | 日韩黄色免费电影 | 久久久综合 | 日韩精品综合在线 | 日日弄天天弄美女bbbb | 在线影院 国内精品 | 亚洲综合色婷婷 | 99精品免费在线观看 | 国产精品午夜免费福利视频 | 久久免费视频在线观看30 | 久久午夜羞羞影院 | 亚洲精品综合在线 | 日韩理论 | 日韩av一区二区三区四区 | 狠狠操狠狠干天天操 | 欧美精品免费在线观看 | 久久精品日产第一区二区三区乱码 | 黄色a视频免费 | 综合伊人久久 | 婷婷六月天丁香 | 午夜av日韩 | 久久久精品在线观看 | 国内精自线一二区永久 | 亚洲精品资源在线 | 亚洲激情视频在线 | а天堂中文最新一区二区三区 | 日韩电影在线观看一区二区三区 | 天天曰视频 | 日本三级在线观看中文字 | 一区二区精品在线视频 | 国产综合福利在线 | www.com黄| 97福利社| 午夜精品久久 | 免费视频三区 | 精品美女国产在线 | 美女黄网站视频免费 | 99精品视频在线播放免费 | 亚洲国产精品影院 | 国产精品免费久久 | 一区三区在线欧 | 一区二区三区中文字幕在线 | 国产色小视频 | 99精品视频一区二区 | 国产小视频在线播放 | 91精品国产麻豆国产自产影视 | 天天操天天操天天操天天操天天操天天操 | 亚洲国产美女久久久久 | 午夜av免费观看 | 色婷婷88av视频一二三区 | 500部大龄熟乱视频使用方法 | 99爱在线观看 | 中文字幕在线免费 | 日韩精品一区二区三区免费观看 | 激情在线网站 | 高清不卡毛片 | 97色婷婷成人综合在线观看 | 久久久国产精品一区二区三区 | 国产亚洲精品久久久久久无几年桃 | 亚洲免费在线视频 | 亚欧洲精品视频在线观看 | 精品国产一区二区三区蜜臀 | 日韩av免费网站 | 午夜精品三区 | 久久久久久精 | av在线免费播放 | 免费国产一区二区视频 | 五月天电影免费在线观看一区 | 麻豆精品传媒视频 | 国产中文欧美日韩在线 | 色婷婷97| 日韩一级成人av | 国产精品小视频网站 | 国产精品私人影院 | 亚洲精品1234区 | 国产丝袜高跟 | 亚洲精品视频中文字幕 | 在线观看视频你懂的 | 手机av电影在线观看 | 日本中文字幕观看 | 国产精品乱码高清在线看 | 久久99九九99精品 | 在线观看黄网站 | 国产精品第2页 | 亚洲国产精品一区二区久久hs | 97超碰国产精品 | 国产精品久久久久一区二区 | 亚洲国产日韩欧美在线 | 天天综合网国产 | 天天操一操| 91在线色 | 高潮久久久 | 日韩av伦理片 | wwwwwww黄| 超碰在97 | 99久久国产免费,99久久国产免费大片 | 激情丁香婷婷 | 久久久久国产成人免费精品免费 | 色综合天天天天做夜夜夜夜做 | 免费在线观看毛片网站 | 国产精品免费观看国产网曝瓜 | 久久av影视| 亚洲免费在线观看视频 | 国产精品99在线播放 | 91黄视频在线 | 在线观看完整版免费 | 欧美日韩免费观看一区=区三区 | av中文字幕网 | 免费视频国产 | 欧美日韩在线观看视频 | 国产91九色视频 | 国产成人久久av977小说 | 亚洲精品视频免费观看 | avove黑丝| 日韩av播放在线 | 日本系列中文字幕 | 中文字幕第一页av | 香蕉视频免费看 | av福利在线导航 | 国产成人a v电影 | 国产精品久久久久久久久久久久午 | 中文字幕成人在线 | 韩国av三级 | 亚洲视频1 | 国产一卡二卡在线 | 久久久久福利视频 | 黄色一级大片在线免费看产 | 国产精品免费不 | 国产视频久 | 韩国一区二区av | 日本三级国产 | 国产精品一区二区av日韩在线 | 欧美激情在线网站 | 黄色片亚洲 | 91伊人久久大香线蕉蜜芽人口 | 日韩欧美在线视频一区二区 | 天天操天天干天天操天天干 | 99久久精品国产毛片 | 中文字幕av在线电影 | 蜜臀久久99精品久久久无需会员 | 日一日操一操 | 激情丁香综合 | 精品国产乱码一区二区三区在线 | 久草在线免费在线观看 | 日本中文字幕在线视频 | 日日夜夜天天 | 国产日产高清dvd碟片 | 亚洲成人精品影院 | 91精品办公室少妇高潮对白 | 国产一级一片免费播放放a 一区二区三区国产欧美 | 成人免费看视频 | 日韩成人精品 | 日韩电影在线一区二区 | 91久久偷偷做嫩草影院 | 亚洲综合在线播放 | 国产亚洲一级高清 | 91亚洲精品久久久蜜桃借种 | 久久久国产一区二区 | 啪啪午夜免费 | 中文字幕视频一区二区 | 免费污片 | 国产在线播放一区二区 | 99免费在线观看 | 97超碰人人干 | 国产成人精品亚洲日本在线观看 | 久久蜜桃av| 偷拍视频一区 | 国产精品手机视频 | 波多野结衣视频在线 | 国产成人一区二 | 九九精品毛片 | 日日干天天爽 | 麻豆国产网站 | 在线观看91精品国产网站 | 五月婷婷在线视频观看 | 丁香视频免费观看 | 亚洲午夜av电影 | 高清在线观看av | 中文字幕2021 | 亚洲黄色在线免费观看 | 午夜av电影院 | 曰本免费av| 97在线观看免费观看高清 | 91av在线看 | 亚洲视频在线播放 | 88av视频| 一本色道久久精品 | 日本护士三级少妇三级999 | 久久在线精品视频 | 亚州精品一二三区 | 亚洲免费在线 | 国产精品色视频 | 日韩在线播放视频 | 欧美一级片播放 | 日本最大色倩网站www | 成人福利在线观看 | 久久久视屏 | 99久久精品午夜一区二区小说 | 三级a视频 | 色婷婷福利 | www.色爱| 在线播放一区二区三区 | 97成人精品区在线播放 | 99欧美视频 | 九九免费在线看完整版 | 天天摸天天操天天爽 | 成人国产精品 | 91av久久| 亚洲精品99久久久久久 | 日韩专区在线 | 日韩理论电影网 | 免费视频一区二区 | www好男人 | 亚洲成人精品在线观看 | 久久久久国产精品厨房 | 国产免费一区二区三区最新6 | 亚洲va欧美va国产va黑人 | 久久精品99久久 | 日韩视频一区二区 | 色吧av色av| 99视频这里只有 | 国产韩国精品一区二区三区 | 500部大龄熟乱视频 欧美日本三级 | 最新色站 | 亚洲理论视频 | 国产视频日韩视频欧美视频 | 国产高清专区 | 中文字幕高清 | 成年免费在线视频 | 免费麻豆网站 | 亚洲精品短视频 | 国产精品一区二区无线 | 亚洲国产精品成人av | 国产视频精品免费 | 91视频高清完整版 | 欧美久久久久久久久中文字幕 | 91久久久国产精品 | 天天爱综合| 欧美精品一级视频 | 久久综合在线 | 国产高清日韩欧美 | 日本中文字幕一二区观 | 天天爽天天搞 | 特级西西人体444是什么意思 | 国产偷v国产偷∨精品视频 在线草 | 久久99久久99久久 | 精品国产乱子伦一区二区 | 九色91福利| 精品国产一区二区三区久久久久久 | 欧美日韩精品免费观看 | 国产成人精品日本亚洲999 | 国产另类xxxxhd高清 | 在线看片视频 | 日日干综合 | 免费网站在线观看人 | 天堂av高清| 精品免费在线视频 | 久久成人亚洲欧美电影 | 国产手机视频精品 | 婷婷草 | 国产中文字幕在线看 | 超碰公开97 | 国产精品乱码高清在线看 | 蜜臀av网站| 国产国语在线 | 天堂va在线高清一区 | 视频在线在亚洲 | 国产精品免费在线 | 亚洲精品黄 | 国产在线理论片 | 日韩欧美精品在线 | 美国av大片 | 一区二区三区电影 | 日韩精品一区二区三区高清免费 | 亚洲国产中文字幕在线视频综合 | 韩国av在线播放 | 国产不卡一 | 国产精品1区2区3区 久久免费视频7 | 人人舔人人插 |