日韩av黄I国产麻豆传媒I国产91av视频在线观看I日韩一区二区三区在线看I美女国产在线I麻豆视频国产在线观看I成人黄色短片

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程资源 > 编程问答 >内容正文

编程问答

如何回答性能优化的问题,才能打动阿里面试官?

發(fā)布時間:2024/8/23 编程问答 52 豆豆
生活随笔 收集整理的這篇文章主要介紹了 如何回答性能优化的问题,才能打动阿里面试官? 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.


阿里妹導讀:日常工作中,我們多少都會遇到應用的性能問題。在阿里面試中,性能優(yōu)化也是常被問到的題目,用來考察是否有實際的線上問題處理經驗。面對這類問題,阿里工程師齊光給出了詳細流程。來阿里面試前,先看看這篇文章哦。

性能問題和Bug不同,后者的分析和解決思路更清晰,很多時候從應用日志(文中的應用指分布式服務下的單個節(jié)點)即可直接找到問題根源,而性能問題,其排查思路更為復雜一些。

對應用進行性能優(yōu)化,是一個系統性的工程,對工程師的技術廣度和技術深度都有所要求。一個簡單的應用,它不僅包含了應用代碼本身,還和容器(虛擬機)、操作系統、存儲、網絡、文件系統等緊密相關,線上應用一旦出現了性能問題,需要我們從多方面去考慮。

與此同時,除了一些低級的代碼邏輯引發(fā)的性能問題外,很多性能問題隱藏的較深,排查起來會比較困難,需要我們對應用的各個子模塊、應用所使用的框架和組件的原理有所了解,同時掌握一定的性能優(yōu)化工具和經驗。

本文總結了我們在進行性能優(yōu)化時常用的一些工具及技巧,目的是希望通過一個全面的視角,去感知性能優(yōu)化的整體脈絡。本文主要分為下面三個部分:

  • 第一部分會介紹性能優(yōu)化的一些背景知識。
  • 第二部分會介紹性能優(yōu)化的通用流程以及常見的一些誤區(qū)。
  • 第三部分會從系統層和業(yè)務層的角度,介紹高效的性能問題定位工具和高頻性能瓶頸點分布。
  • 本文中提到的線程、堆、垃圾回收等名詞,如無特別說明,指的是 Java 應用中的相關概念。

    1.性能優(yōu)化的背景

    前面提到過,應用出現性能問題和應用存在缺陷是不一樣的,后者大多數是由于代碼的質量問題導致,會導致應用功能性的缺失或出現風險,一經發(fā)現,會被及時修復。而性能問題,可能是由多方面的因素共同作用的結果:代碼質量一般、業(yè)務發(fā)展太快、應用架構設計不合理等,這些問題處理起來一般耗時較長、分析鏈路復雜,大家都不愿意干,因此可能會被一些臨時性的補救手段所掩蓋,如:系統水位高或者單機的線程池隊列爆炸,那就集群擴容增加機器;內存占用高/高峰時段 OOM,那就重啟分分鐘解決......

    臨時性的補救措施只是在給應用埋雷,同時也只能解決部分問題。譬如,在很多場景下,加機器也并不能解決應用的性能問題,如對時延比較敏感的一些應用必須把單機的性能優(yōu)化到極致,與此同時,加機器這種方式也造成了資源的浪費,長期來看是得不償失的。對應用進行合理的性能優(yōu)化,可在應用穩(wěn)定性、成本核算獲得很大的收益。

    上面我們闡述了進行性能優(yōu)化的必要性。假設現在我們的應用已經有了性能問題(eg. CPU 水位比較高),準備開始進行優(yōu)化工作了,在這個過程中,潛在的痛點會有哪些呢?下面列出一些較為常見的:

  • 對性能優(yōu)化的流程不是很清晰。初步定為一個疑似瓶頸點后,就興高采烈地吭哧吭哧開始干,最終解決的問題其實只是一個淺層次的性能瓶頸,真實的問題的根源并未觸達;
  • 對性能瓶頸點的分析思路不是很清晰。CPU、網絡、內存......這么多的性能指標,我到底該關注什么,應該從哪一塊兒開始入手?
  • 對性能優(yōu)化的工具不了解。遇到問題后,不清楚該用哪個工具,不知道通過工具得到的指標代表什么。
  • 2.性能優(yōu)化的流程

    在性能優(yōu)化這個領域,并沒有一個嚴格的流程定義,但是對于絕大多數的優(yōu)化場景,我們可以將其過程抽象為下面四個步驟。

  • 準備階段:主要工作是是通過性能測試,了解應用的概況、瓶頸的大概方向,明確優(yōu)化目標;
  • 分析階段:通過各種工具或手段,初步定位性能瓶頸點;
  • 調優(yōu)階段:根據定位到的瓶頸點,進行應用性能調優(yōu);
  • 測試階段:讓調優(yōu)過的應用進行性能測試,與準備階段的各項指標進行對比,觀測其是否符合預期,如果瓶頸點沒有消除或者性能指標不符合預期,則重復步驟2和3。
  • 下圖即為上述四個階段的簡要流程。

    2.1 通用流程詳解

    在上述通用流程的四個步驟當中,步驟2和3我們會在接下來兩個部分重點進行介紹。首先我們來看一下,在準備階段和測試階段,我們需要做一些什么。

    | 2.1.1 準備階段

    準備階段是非常關鍵的一步,不能省略。

    首先,需要對我們進行調優(yōu)的對象進行詳盡的了解,所謂知己知彼,百戰(zhàn)不殆。

  • 對性能問題進行粗略評估,過濾一些因為低級的業(yè)務邏輯導致的性能問題。譬如,線上應用日志級別不合理,可能會在大流量時導致 CPU 和磁盤的負載飆高,這種情況調整日志級別即可;
  • 了解應用的的總體架構,比如應用的外部依賴和核心接口有哪些,使用了哪些組件和框架,哪些接口、模塊的使用率較高,上下游的數據鏈路是怎么樣的等;
  • 了解應用對應的服務器信息,如服務器所在的集群信息、服務器的 CPU/內存信息、安裝的 Linux 版本信息、服務器是容器還是虛擬機、所在宿主機混部后是否對當前應用有干擾等;
  • 其次,我們需要獲取基準數據,然后結合基準數據和當前的一些業(yè)務指標,確定此次性能優(yōu)化的最終目標。

  • 使用基準測試工具獲取系統細粒度指標。可以使用若干 Linux 基準測試工具(eg. jmeter、ab、loadrunnerwrk、wrk等),得到文件系統、磁盤 I/O、網絡等的性能報告。除此之外,類似 GC、Web 服務器、網卡流量等信息,如有必要也是需要了解記錄的;
  • 通過壓測工具或者壓測平臺(如果有的話),對應用進行壓力測試,獲取當前應用的宏觀業(yè)務指標,譬如:響應時間、吞吐量、TPS、QPS、消費速率(對于有 MQ 的應用)等。壓力測試也可以省略,可以結合當前的實際業(yè)務和過往的監(jiān)控數據,去統計當前的一些核心業(yè)務指標,如午高峰的服務 TPS。
  • | 2.1.2 測試階段

    進入到這一階段,說明我們已經初步確定了應用性能瓶頸的所在,而且已經進行初步的調優(yōu)了。檢測我們調優(yōu)是否有效的方式,就是在仿真的條件下,對應用進行壓力測試。注意:由于 Java 有 JIT(just-in-time compilation)過程,因此壓力測試時可能需要進行前期預熱。

    如果壓力測試的結果符合了預期的調優(yōu)目標,或者與基準數據相比,有很大的改善,則我們可以繼續(xù)通過工具定位下一個瓶頸點,否則,則需要暫時排除這個瓶頸點,繼續(xù)尋找下一個變量。

    2.2 注意事項

    在進行性能優(yōu)化時,了解下面這些注意事項可以讓我們少走一些彎路。

  • 性能瓶頸點通常呈現 2/8 分布,即80%的性能問題通常是由20%的性能瓶頸點導致的,2/8 原則也意味著并不是所有的性能問題都值得去優(yōu)化;
  • 性能優(yōu)化是一個漸進、迭代的過程,需要逐步、動態(tài)地進行。記錄基準后,每次改變一個變量,引入多個變量會給我們的觀測、優(yōu)化過程造成干擾;
  • 不要過度追求應用的單機性能,如果單機表現良好,則應該從系統架構的角度去思考; 不要過度追求單一維度上的極致優(yōu)化,如過度追求 CPU 的性能而忽略了內存方面的瓶頸;
  • 選擇合適的性能優(yōu)化工具,可以使得性能優(yōu)化取得事半功倍的效果;
  • 整個應用的優(yōu)化,應該與線上系統隔離,新的代碼上線應該有降級方案。
  • 3.瓶頸點分析工具箱

    性能優(yōu)化其實就是找出應用存在性能瓶頸點,然后設法通過一些調優(yōu)手段去緩解。性能瓶頸點的定位是較困難的,快速、直接地定位到瓶頸點,需要具備下面兩個條件:

  • 恰到好處的工具;
  • 一定的性能優(yōu)化經驗。
  • 工欲善其事,必先利其器,我們該如何選擇合適的工具呢?不同的優(yōu)化場景下,又該選擇那些工具呢?

    首選,我們來看一下大名鼎鼎的「性能工具(Linux Performance Tools-full)圖」,想必很多工程師都知道,它出自系統性能專家 Brendan Gregg。該圖從 Linux 內核的各個子系統出發(fā),列出了我們在對各個子系統進行性能分析時,可使用的工具,涵蓋了監(jiān)測、分析、調優(yōu)等性能優(yōu)化的方方面面。除了這張全景圖之外,Brendan Gregg 還單獨提供了基準測試工具(Linux Performance Benchmark Tools)圖、性能監(jiān)測工具(Linux Performance Observability Tools)圖等,更詳細的內容請參考 Brendan Gregg 的網站說明。

    上面這張圖非常經典,是我們做性能優(yōu)化時非常好的參考資料,但事實上,我們在實際運用的時候,會發(fā)現可能它并不是最合適的,原因主要有下面兩點:

    1)對分析經驗要求較高。上面這張圖其實是從 Linux 系統資源的角度去觀測性能指標的,這要求我們對 Linux 各個子系統的功能、原理要有所了解。舉例:遇到性能問題了,我們不會拿每個子系統下的工具都去試一遍,大多數情況是:我們懷疑某個子系統有問題,然后根據這張圖上列舉的工具,去觀測或者驗證我們的猜想,這無疑拔高了對性能優(yōu)化經驗的要求;

    2)適用性和完整性不是很好。我們在分析性能問題時,從系統底層自底向上地分析是較低效的,大多數時候,從應用層面去分析會更加有效。性能工具(Linux Performance Tools-full)圖只是從系統層一個角度給出了工具集,如果從應用層開始分析,我們可以使用哪些工具?哪些點是我們首先需要關注的?

    鑒于上面若干痛點,下面給出了一張更為實用的「性能優(yōu)化工具圖譜」,該圖分別從系統層、應用層(含組件層)的角度出發(fā),列舉了我們在分析性能問題時首先需要關注的各項指標(其中?標注的是最需要關注的),這些點是最有可能出現性能瓶頸的地方。需要注意的是,一些低頻的指標或工具,在圖中并沒有列出來,如 CPU 中斷、索引節(jié)點使用、I/O事件跟蹤等,這些低頻點的排查思路較復雜,一般遇到的機會也不多,在這里我們聚焦最常見的一些就可以了。

    對比上面的性能工具(Linux Performance Tools-full)圖,下圖的優(yōu)勢在于:把具體的工具同性能指標結合了起來,同時從不同的層次去描述了性能瓶頸點的分布,實用性和可操作性更強一些。系統層的工具分為CPU、內存、磁盤(含文件系統)、網絡四個部分,工具集同性能工具(Linux Performance Tools-full)圖中的工具基本一致。組件層和應用層中的工具構成為:JDK 提供的一些工具 + Trace 工具 + dump 分析工具 + Profiling 工具等。

    這里就不具體介紹這些工具的具體用法了,我們可以使用 man 命令得到工具詳盡的使用說明,除此之外,還有另外一個查詢命令手冊的方法:info。info 可以理解為 man 的詳細版本,如果 man 的輸出不太好理解,可以去參考 info 文檔,命令太多,記不住也沒必要記住。

    上面這張圖該如何使用?

    首先,雖然從系統、組件、應用兩個三個角度去描述瓶頸點的分布,但在實際運行時,這三者往往是相輔相成、相互影響的。系統是為應用提供了運行時環(huán)境,性能問題的本質就是系統資源達到了使用的上限,反映在應用層,就是應用/組件的各項指標開始下降;而應用/組件的不合理使用和設計,也會加速系統資源的耗盡。因此,分析瓶頸點時,需要我們結合從不同角度分析出的結果,抽出共性,得到最終的結論。

    其次,建議先從應用層入手,分析圖中標注的高頻指標,抓出最重要的、最可疑的、最有可能導致性能的點,得到初步的結論后,再去系統層進行驗證。這樣做的好處是:很多性能瓶頸點體現在系統層,會是多變量呈現的,譬如,應用層的垃圾回收(GC)指標出現了異常,通過 JDK 自帶的工具很容易觀測到,但是體現在系統層上,會發(fā)現系統當前的 CPU 利用率、內存指標都不太正常,這就給我們的分析思路帶來了困擾。

    最后,如果瓶頸點在應用層和系統層均呈現出多變量分布,建議此時使用 ZProfiler、JProfiler 等工具對應用進行 Profiling,獲取應用的綜合性能信息(注:Profiling 指的是在應用運行時,通過事件(Event-based)、統計抽樣(Sampling Statistical)或植入附加指令(Byte-Code instrumentation)等方法,收集應用運行時的信息,來研究應用行為的動態(tài)分析方法)。譬如,可以對 CPU 進行抽樣統計,結合各種符號表信息,得到一段時間內應用內的代碼熱點。

    下面介紹在不同的分析層次,我們需要關注的核心性能指標,同時,也會介紹如何初步根據這些指標,判斷系統或應用是否存在性能瓶頸點,至于瓶頸點的確認、瓶頸點的成因、調優(yōu)手段,將會在下一部分展開。

    3.1 CPU&&線程

    和 CPU 相關的指標主要有以下幾個。常用的工具有 top、 ps、uptime、 vmstat、 pidstat等。

  • CPU利用率(CPU Utilization)
  • CPU 平均負載(Load Average)
  • 上下文切換次數(Context Switch)
  • top - 12:20:57 up 25 days, 20:49, 2 users, load average: 0.93, 0.97, 0.79

    Tasks: 51 total, 1 running, 50 sleeping, 0 stopped, 0 zombie
    %Cpu(s): 1.6 us, 1.8 sy, 0.0 ni, 89.1 id, 0.1 wa, 0.0 hi, 0.1 si, 7.3 st
    KiB Mem : 8388608 total, 476436 free, 5903224 used, 2008948 buff/cache
    KiB Swap: 0 total, 0 free, 0 used. 0 avail Mem

    PID USER PR NI VIRT RES SHR S %CPU %MEM TIME+ COMMAND

    119680 admin 20 0 600908 72332 5768 S 2.3 0.9 52:32.61 obproxy
    65877 root 20 0 93528 4936 2328 S 1.3 0.1 449:03.61 alisentry_cli

    第一行顯示的內容:當前時間、系統運行時間以及正在登錄用戶數。load average 后的三個數字,依次表示過去 1 分鐘、5 分鐘、15 分鐘的平均負載(Load Average)。平均負載是指單位時間內,系統處于可運行狀態(tài)(正在使用 CPU 或者正在等待 CPU 的進程,R 狀態(tài))和不可中斷狀態(tài)(D 狀態(tài))的平均進程數,也就是平均活躍進程數,CPU 平均負載和 CPU 使用率并沒有直接關系。

    第三行的內容表示 CPU 利用率,每一列的含義可以使用 man 查看。CPU 使用率體現了單位時間內 CPU 使用情況的統計,以百分比的方式展示。計算方式為:CPU 利用率 = 1 - (CPU 空閑時間)/ CPU 總的時間。需要注意的是,通過性能分析工具得到的 CPU 的利用率其實是某個采樣時間內的 CPU 平均值。注:top 工具顯示的的 CPU 利用率是把所有 CPU 核的數值加起來的,即 8 核 CPU 的利用率最大可以到達800%(可以用 htop 等更新一些的工具代替 top)。

    使用 vmstat 命令,可以查看到「上下文切換次數」這個指標,如下表所示,每隔1秒輸出1組數據:

    $ vmstat 1

    procs -----------memory---------- ---swap-- -----io---- -system-- ------cpu-----
    r b swpd free buff cache si so bi bo in cs us sy id wa st
    0 0 0 504804 0 1967508 0 0 644 33377 0 1 2 2 88 0 9

    上表的 cs(context switch) 就是每秒上下文切換的次數,按照不同場景,CPU 上下文切換還可以分為中斷上下文切換、線程上下文切換和進程上下文切換三種,但是無論是哪一種,過多的上下文切換,都會把 CPU 時間消耗在寄存器、內核棧以及虛擬內存等數據的保存和恢復上,從而縮短進程真正運行的時間,導致系統的整體性能大幅下降。vmstat 的輸出中 us、sy 分別用戶態(tài)和內核態(tài)的 CPU 利用率,這兩個值也非常具有參考意義。

    vmstat 的輸只給出了系統總體的上下文切換情況,要想查看每個進程的上下文切換詳情(如自愿和非自愿切換),需要使用 pidstat,該命令還可以查看某個進程用戶態(tài)和內核態(tài)的 CPU 利用率。

    CPU 相關指標異常的分析思路是什么?

    1)CPU 利用率:如果我們觀察某段時間系統或應用進程的 CPU利用率一直很高(單個 core 超過80%),那么就值得我們警惕了。我們可以多次使用 jstack 命令 dump 應用線程棧查看熱點代碼,非 Java 應用可以直接使用 perf 進行 CPU 采采樣,離線分析采樣數據后得到 CPU 執(zhí)行熱點(Java 應用需要符號表進行堆棧信息映射,不能直接使用 perf得到結果)。

    2)CPU 平均負載:平均負載高于 CPU 數量 70%,意味著系統存在瓶頸點,造成負載升高的原因有很多,在這里就不展開了。需要注意的是,通過監(jiān)控系統監(jiān)測平均負載的變化趨勢,更容易定位問題,有時候大文件的加載等,也會導致平均負載瞬時升高。如果 1 分鐘/5 分鐘/15 分鐘的三個值相差不大,那說明系統負載很平穩(wěn),則不用關注,如果這三個值逐漸降低,說明負載在漸漸升高,需要關注整體性能;

    3)CPU 上下文切換:上下文切換這個指標,并沒有經驗值可推薦(幾十到幾萬都有可能),這個指標值取決于系統本身的 CPU 性能,以及當前應用工作的情況。但是,如果系統或者應用的上下文切換次數出現數量級的增長,就有很大概率說明存在性能問題,如非自愿上下切換大幅度上升,說明有太多的線程在競爭 CPU。

    上面這三個指標是密切相關的,如頻繁的 CPU 上下文切換,可能會導致平均負載升高。如何根據這三者之間的關系進行應用調優(yōu),將在下一部分介紹。

    CPU 上的的一些異動,通常也可以從線程上觀測到,但需要注意的是,線程問題并不完全和 CPU 相關。與線程相關的指標,主要有下面幾個(均都可以通過 JDK 自帶的 jstack 工具直接或間接得到):

  • 應用中的總的線程數;
  • 應用中各個線程狀態(tài)的分布;
  • 線程鎖的使用情況,如死鎖、鎖分布等;
  • 關于線程,可關注的異常有:

    1)線程總數是否過多。過多的線程,體現在 CPU 上就是導致頻繁的上下文切換,同時線程過多也會消耗內存,線程總數大小和應用本身和機器配置相關;

    2)線程的狀態(tài)是否異常。觀察 WAITING/BLOCKED 線程是否過多(線程數設置過多或鎖競爭劇烈),結合應用內部鎖使用的情況綜合分析;

    3)結合 CPU 利用率,觀察是否存在大量消耗 CPU 的線程。

    3.2 內存&&堆

    和內存相關的指標主要有以下幾個,常用的分析工具有:top、free、vmstat、pidstat 以及 JDK 自帶的一些工具。

  • 系統內存的使用情況,包括剩余內存、已用內存、可用內存、緩存/緩沖區(qū);
  • 進程(含 Java 進程)的虛擬內存、常駐內存、共享內存;
  • 進程的缺頁異常數,包含主缺頁異常和次缺頁異常;
  • Swap 換入和換出的內存大小、Swap 參數配置;
  • JVM 堆的分配,JVM 啟動參數;
  • JVM 堆的回收,GC 情況。
  • 使用 free 可以查看系統內存的使用情況和 Swap 分區(qū)的使用情況,top 工具可以具體到每個進程,如我們可以用使用 top 工具查看 Java 進程的常駐內存大小(RES),這兩個工具結合起來,可用覆蓋大多數內存指標。下面是使用 free命令的輸出:

    $free -h

    total used free shared buff/cache available

    Mem: 125G 6.8G 54G 2.5M 64G 118G

    Swap: 2.0G 305M 1.7G

    上述輸出各列的具體含義在這里不在贅述,也比較容易理解。重點介紹下 swap 和 buff/cache 這兩個指標。

    Swap 的作用是把一個本地文件或者一塊磁盤空間作為內存來使用,包括換出和換入兩個過程。Swap 需要讀寫磁盤,所以性能不是很高,事實上,包括 ElasticSearch 、Hadoop 在內絕大部分 Java 應用都建議關掉 Swap,這是因為內存的成本一直在降低,同時這也和 JVM 的垃圾回收過程有關:JVM在 GC 的時候會遍歷所有用到的堆的內存,如果這部分內存被 Swap 出去了,遍歷的時候就會有磁盤 I/O 產生。Swap 分區(qū)的升高一般和磁盤的使用強相關,具體分析時,需要結合緩存使用情況、swappiness 閾值以及匿名頁和文件頁的活躍情況綜合分析。

    buff/cache 是緩存和緩沖區(qū)的大小。緩存(cache):是從磁盤讀取的文件的或者向磁盤寫文件時的臨時存儲數據,面向文件。使用 cachestat 可以查看整個系統緩存的讀寫命中情況,使用 cachetop 可以觀察每個進程緩存的讀寫命中情況。緩沖區(qū)(buffer)是寫入磁盤數據或從磁盤直接讀取的數據的臨時存儲,面向塊設備。free 命令的輸出中,這兩個指標是加在一起的,使用 vmstat 命令可以區(qū)分緩存和緩沖區(qū),還可以看到 Swap 分區(qū)換入和換出的內存大小。

    了解到常見的內存指標后,常見的內存問題又有哪些?總結如下:

  • 系統剩余內存/可用不足(某個進程占用太多、系統本身內存不足),內存溢出;
  • 內存回收異常:內存泄漏(進程在一段時間內內存使用持續(xù)走高)、GC 頻率異常;
  • 緩存使用過大(大文件讀取或寫入)、緩存命中率不高;
  • 缺頁異常過多(頻繁的 I/O 讀);
  • Swap 分區(qū)使用異常(使用過大);
  • 內存相關指標異常后,分析思路是怎么樣的?

  • 使用 free/top 查看內存的全局使用情況,如系統內存的使用、Swap 分區(qū)內存使用、緩存/緩沖區(qū)占用情況等,初步判斷內存問題存在的方向:進程內存、緩存/緩沖區(qū)、Swap 分區(qū);
  • 觀察一段時間內存的使用趨勢。如通過 vmstat 觀察內存使用是否一直在增長;通過 jmap 定時統計對象內存分布情況,判斷是否存在內存泄漏,通過 cachetop 命令,定位緩沖區(qū)升高的根源等;
  • 根據內存問題的類型,結合應用本身,進行詳細分析。
  • 舉例:使用 free 發(fā)現緩存/緩沖區(qū)占用不大,排除緩存/緩沖區(qū)對內存的影響后 -> 使用 vmstat 或者 sar 觀察一下各個進程內存使用變化趨勢 -> 發(fā)現某個進程的內存時候用持續(xù)走高 -> 如果是 Java 應用,可以使用 jmap / VisualVM / heap dump 分析等工具觀察對象內存的分配,或者通過 jstat 觀察 GC 后的應用內存變化 -> 結合業(yè)務場景,定位為內存泄漏/GC參數配置不合理/業(yè)務代碼異常等。

    3.3 磁盤&&文件

    在分析和磁盤相關的問題時,通常是將其和文件系統同時考慮的,下面不再區(qū)分。和磁盤/文件系統相關的指標主要有以下幾個,常用的觀測工具為 iostat和 pidstat,前者適用于整個系統,后者可觀察具體進程的 I/O。

  • 磁盤 I/O 利用率:是指磁盤處理 I/O 的時間百分比;
  • 磁盤吞吐量:是指每秒的 I/O 請求大小,單位為 KB;
  • I/O 響應時間,是指 I/O 請求從發(fā)出到收到響應的間隔,包含在隊列中的等待時間和實際處理時間;
  • IOPS(Input/Output Per Second):每秒的 I/O 請求數;
  • I/O 等待隊列大小,指的是平均 I/O 隊列長度,隊列長度越短越好;
  • 使用 iostat 的輸出界面如下:

    $iostat -dx

    Linux 3.10.0-327.ali2010.alios7.x86_64 (loginhost2.alipay.em14) 10/20/2019?x86_64?(32 CPU)

    Device: rrqm/s wrqm/s r/s w/s rkB/s wkB/s avgrq-sz avgqu-sz await r_await w_await svctm %util
    sda 0.01 15.49 0.05 8.21 3.10 240.49 58.92 0.04 4.38 2.39 4.39 0.09 0.07

    上圖中 %util ,即為磁盤 I/O 利用率,同 CPU 利用率一樣,這個值也可能超過 100%(存在并行 I/O);rkB/s 和 wkB/s分別表示每秒從磁盤讀取和寫入的數據量,即吞吐量,單位為 KB;磁盤 I/O處理時間的指標為 r_await 和 w_await 分別表示讀/寫請求處理完成的響應時間,svctm 表示處理 I/O 所需要的平均時間,該指標已被廢棄,無實際意義。r/s + w/s 為 IOPS 指標,分別表示每秒發(fā)送給磁盤的讀請求數和寫請求數;aqu-sz 表示等待隊列的長度。

    pidstat 的輸出大部分和 iostat 類似,區(qū)別在于它可以實時查看每個進程的 I/O 情況。

    如何判斷磁盤的指標出現了異常?

  • 當磁盤 I/O 利用率長時間超過 80%,或者響應時間過大(對于 SSD,從 0.0x 毫秒到 1.x 毫秒不等,機械磁盤一般為5ms~10ms),通常意味著磁盤 I/O 存在性能瓶頸;
  • 如果 %util 很大,而 rkB/s 和 wkB/s 很小,一般是因為存在較多的磁盤隨機讀寫,最好把隨機讀寫優(yōu)化成順序讀寫,(可以通過 strace 或者 blktrace 觀察 I/O 是否連續(xù)判斷是否是順序的讀寫行為,隨機讀寫應可關注 IOPS 指標,順序讀寫可關注吞吐量指標);
  • 如果 avgqu-sz 比較大,說明有很多 I/O 請求在隊列中等待。一般來說,如果單塊磁盤的隊列長度持續(xù)超過2,一般認為該磁盤存在 I/O 性能問題。
  • 3.4 網絡

    網絡這個概念涵蓋的范圍較廣,在應用層、傳輸層、網絡層、網絡接口層都有不同的指標去衡量。這里我們討論的「網絡」,特指應用層的網絡,通常使用的指標如下:

  • 網絡帶寬:表示鏈路的最大傳輸速率;
  • 網絡吞吐:表示單位時間內成功傳輸的數據量大小;
  • 網絡延時:表示從網絡請求發(fā)出后直到收到遠端響應,所需要的時間;
  • 網絡連接數和錯誤數;
  • 一般來說,應用層的網絡瓶頸有如下幾類:

  • 集群或機器所在的機房的網絡帶寬飽和,影響應用 QPS/TPS 的提升;
  • 網絡吞吐出現異常,如接口存在大量的數據傳輸,造成帶寬占用過高;
  • 網絡連接出現異常或錯誤;
  • 網絡出現分區(qū)。
  • 帶寬和網絡吞吐這兩個指標,一般我們會關注整個應用的,通過監(jiān)控系統可直接得到,如果一段時間內出現了明顯的指標上升,說明存在網絡性能瓶頸。對于單機,可以使用 sar 得到網絡接口、進程的網絡吞吐。

    使用 ping 或者 hping3 可以得到是否出現網絡分區(qū)、網絡具體時延。對于應用,我們更關注整個鏈路的時延,可以通過中間件埋點后輸出的 trace 日志得到鏈路上各個環(huán)節(jié)的時延信息。

    使用 netstat、ss 和 sar 可以獲取網絡連接數或網絡錯誤數。過多網絡鏈接造成的開銷是很大的,一是會占用文件描述符,二是會占用緩存,因此系統可以支撐的網絡鏈接數是有限的。

    3.5 工具總結

    可以看到的是,在分析 CPU、內存、磁盤等的性能指標時,有幾種工具是高頻出現的,如 top、vmstat、pidstat,這里稍微總結一下:

  • CPU:top、vmstat、pidstat、sar、perf、jstack、jstat;
  • 內存:top、free、vmstat、cachetop、cachestat、sar、jmap;
  • 磁盤:top、iostat、vmstat、pidstat、du/df;
  • 網絡:netstat、sar、dstat、tcpdump;
  • 應用:profiler、dump分析。
  • 上述的很多工具,大部分是用于查看系統層指標的,在應用層,除了有 JDK 提供的一系列工具,一些商用的產品如 gceasy.io(分析 GC 日志)、fastthread.io(分析線程 dump 日志)也是不錯的。

    排查 Java 應用的線上異常或者分析應用代碼瓶頸,可以使用阿里開源的 Arthas ,這個工具非常強大,下面簡單介紹下。

    Arthas 主要面向線上應用實時診斷,解決的是類似「線上應用異常了,需要在線進行分析和定位」的問題,當然,Arthas 提供的一些方法調用追蹤工具,對我們排查諸如「慢查詢」等問題,也是非常有幫助的。Arthas 提供的主要功能有:

  • 獲取線程統計,如線程持有的鎖統計、CPU 利用率統計等;
  • 類加載信息、動態(tài)類加載、方法加載信息;
  • 調用棧追蹤,調用耗時統計;
  • 方法調用參數、結果檢測;
  • 系統配置、應用配置信息;
  • 反編譯加載類;
  • ....
  • 需要注意的是,性能工具只是解決性能問題的手段,我們了解常用工具的一般用法即可,不要在工具學習上投入過多精力。


    原文鏈接
    本文為云棲社區(qū)原創(chuàng)內容,未經允許不得轉載。

    總結

    以上是生活随笔為你收集整理的如何回答性能优化的问题,才能打动阿里面试官?的全部內容,希望文章能夠幫你解決所遇到的問題。

    如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。

    日韩美女av在线 | 成人黄色电影免费观看 | 夜夜爽88888免费视频4848 | 99精品乱码国产在线观看 | 国产精品video | 国产91在线观看 | 国产一区二区中文字幕 | 亚洲欧洲精品一区二区精品久久久 | 91激情视频在线观看 | a级国产乱理论片在线观看 特级毛片在线观看 | 天天射天天操天天色 | 亚洲精品在线二区 | 成人免费观看网站 | 中文字幕 婷婷 | 少妇bbbb搡bbbb搡bbbb | 中文字幕国语官网在线视频 | 国产成人一区二区三区在线观看 | 欧美日韩91 | 亚洲欧美观看 | 麻花天美星空视频 | 国产美女视频免费观看的网站 | 免费国产亚洲视频 | 中文字幕资源网在线观看 | 成年人在线免费看片 | 日日操操操 | 国产永久免费高清在线观看视频 | 久久成人精品视频 | 久久噜噜少妇网站 | 免费久久99精品国产婷婷六月 | 手机在线中文字幕 | 黄色av电影 | 久久久www免费电影网 | 久久国产高清 | 亚洲国产精品久久久久婷婷884 | 开心丁香婷婷深爱五月 | 亚洲成av人影片在线观看 | 亚洲精品动漫成人3d无尽在线 | 国产精品密入口果冻 | 婷婷中文字幕综合 | 色资源二区在线视频 | 最新91在线视频 | 日韩av资源在线观看 | 高清av影院 | 狠狠插天天干 | 一区二区高清在线 | 亚洲人成人在线 | 久久久久www | 91最新视频在线观看 | 国产视频精品免费播放 | 欧美国产91 | 欧美日韩亚洲精品在线 | 日韩免费高清在线观看 | 在线观看av免费观看 | 日日添夜夜添 | 片网址| 在线观看完整版 | 亚洲一二三久久 | 中文字幕在线国产 | 午夜日b视频 | 激情丁香婷婷 | 国产精品国内免费一区二区三区 | 91热爆在线观看 | 美女网站视频色 | 国产69精品久久久久久久久久 | av大全在线播放 | www亚洲国产 | 91九色蝌蚪在线 | 黄色精品网站 | 国产精品久久久久久久久软件 | 在线导航av| 97在线观看免费观看 | 精品视频在线观看 | 精品国产网址 | 1区2区视频 | 久久视频国产 | 欧美综合国产 | 成人免费视频网址 | 一区中文字幕在线观看 | 久久天堂精品视频 | 国产精品国产三级国产aⅴ9色 | 在线免费观看视频一区二区三区 | 亚洲国产精品va在线看黑人 | 久章草在线 | 免费黄色av电影 | 五月天久久 | 国产精品女人久久久久久 | 玖玖在线观看视频 | 在线观看av免费观看 | 91视频麻豆 | 国产黄大片 | 日韩电影在线观看中文字幕 | 五月天天在线 | 丁香色婷 | 亚洲国产午夜 | 欧美韩国日本在线 | 国产亚州精品视频 | 国产精品久久久久久久久久久久冷 | 日韩在线首页 | 国内精品在线一区 | 欧美日韩不卡在线 | 最新av电影网站 | 久久免费观看少妇a级毛片 久久久久成人免费 | 免费高清男女打扑克视频 | 欧美在线一级片 | 久久久一本精品99久久精品 | av在线h| 久久人人97超碰国产公开结果 | 中文字幕中文字幕在线中文字幕三区 | 精品国产久 | 日韩高清av | av不卡免费看 | 国产视频99 | 日韩最新理论电影 | 久久99国产精品久久 | 五月婷婷亚洲 | 在线观看视频在线观看 | 久久免费99精品久久久久久 | 99久久99热这里只有精品 | 91麻豆精品国产91久久久无需广告 | 成人一级黄色片 | 狠狠gao| 国产精品久久久影视 | 黄色av一级片 | 九九久久久久99精品 | 日韩高清dvd | 超碰97免费在线 | 国产精品毛片一区 | 午夜精品一区二区三区免费视频 | 一区二区三区韩国免费中文网站 | 亚洲第一区精品 | 激情丁香久久 | 久久天天综合网 | 久久视频免费 | 91在线看片| 在线观看电影av | 久久久久区 | 国产精品精品国产婷婷这里av | 色婷婷综合久久久久 | 高清一区二区三区 | 99视频在线看 | 国产97在线视频 | 国产精品自产拍在线观看蜜 | 日韩电影在线一区 | 国产视频一区在线播放 | 久久黄色免费 | 9797在线看片亚洲精品 | 亚洲国产婷婷 | 久久久久国产成人精品亚洲午夜 | 不卡av电影在线观看 | 7777精品伊人久久久大香线蕉 | 成人免费看视频 | 五月婷婷综合网 | 玖玖视频网| 亚洲伦理一区二区 | 99热这里只有精品免费 | 欧美激情精品久久久久久变态 | 在线观看视频你懂得 | 美女精品久久久 | 91传媒在线 | 久久精品79国产精品 | 日韩激情在线视频 | 久久综合之合合综合久久 | 在线观看中文字幕一区二区 | 中日韩在线 | av888.com | 欧美在线视频一区二区三区 | 久久久久久久毛片 | 6080yy精品一区二区三区 | 亚洲精品在线网站 | 国产精品第52页 | 久久影院亚洲 | 91cn国产在线 | 久久久观看 | 成人黄色小说网 | 久草网首页 | 91成人免费在线 | 在线观看免费成人 | 在线不卡中文字幕播放 | 亚洲精品国偷自产在线91正片 | 二区三区在线视频 | 九色91在线视频 | 久久69精品久久久久久久电影好 | 中文国产成人精品久久一 | 91在线国产观看 | 香蕉网站在线观看 | 国产精品一区二区av麻豆 | 欧美人人爱 | 激情综合网五月婷婷 | 亚洲欧美激情精品一区二区 | 99久久99视频只有精品 | 韩国精品福利一区二区三区 | 激情久久伊人 | 婷婷亚洲最大 | 欧美日韩视频在线观看免费 | 视频在线观看日韩 | 日韩a级免费视频 | 特级西西www44高清大胆图片 | 日本天天色 | 免费在线国产 | 欧美日韩免费观看一区二区三区 | av爱干| 久久久 精品 | 91成人免费看片 | 国产一在线精品一区在线观看 | 国产69精品久久久久久久久久 | 中文字幕免费不卡视频 | 亚洲国产播放 | 综合精品久久 | 日本一区二区三区视频在线播放 | 国产精品999久久久 久产久精国产品 | 中文国产成人精品久久一 | 国产精品美女久久久久久免费 | 色99在线 | 国产精品久久99综合免费观看尤物 | 极品美女被弄高潮视频网站 | 6080yy午夜一二三区久久 | av电影免费在线看 | 在线免费观看视频 | 色婷婷久久久 | 精品久久久久久久久中文字幕 | 女人高潮特级毛片 | 色欧美88888久久久久久影院 | 亚洲激情综合网 | 91精品资源| 一区二区三区免费在线观看视频 | 精品一区在线看 | 免费精品国产 | 天天操天天射天天 | 久草青青在线观看 | 亚洲片在线观看 | 中文视频在线看 | 色 免费观看 | 国产精品麻| 中文字幕在线播放一区 | 亚洲精品永久免费视频 | 四虎影视4hu4虎成人 | 中文字幕免费高清 | 中文字幕免费久久 | 亚洲经典视频在线观看 | 欧美日韩中文在线视频 | 国产又粗又猛又黄又爽 | 久久露脸国产精品 | 久久视频一区 | 超碰999| 欧美激情第八页 | 免费成人看片 | 日韩av手机在线看 | 在线免费看片 | 99国内精品久久久久久久 | 国产不卡在线视频 | 国产一区在线看 | 国产韩国精品一区二区三区 | 久久黄色片 | 亚洲作爱视频 | 亚洲 综合 专区 | 日韩成人在线一区二区 | 亚洲激情中文 | 日日干影院 | 午夜性生活片 | 五月激情综合婷婷 | 嫩小bbbb摸bbb摸bbb | 国产一性一爱一乱一交 | 婷婷免费视频 | 激情五月看片 | 国产区精品 | 亚洲精品久久久久999中文字幕 | 国产精品 日韩精品 | 91精品区| 精品日韩中文字幕 | 欧美日韩中 | 日韩久久电影 | 97国产小视频 | 欧美日韩综合在线 | 午夜久久久久久久久久久 | 97精品国产91久久久久久 | 成人cosplay福利网站 | 黄色国产在线观看 | 91豆花在线 | 亚洲成人第一区 | 91久久国产露脸精品国产闺蜜 | 就要干b | 国产黄色在线观看 | 亚洲第一av在线 | 在线免费高清一区二区三区 | 91av在线视频免费观看 | 亚洲精品综合在线观看 | 久久国产精品99久久久久久丝袜 | 又黄又刺激视频 | 91福利视频久久久久 | 在线导航av| 久久久久久国产一区二区三区 | 欧美日韩超碰 | 最近在线中文字幕 | 五月综合网站 | 欧美资源 | 亚洲人片在线观看 | www.91av在线 | 精品伦理一区二区三区 | 在线观看视频在线 | japanesexxxhd奶水| 中文字幕乱码日本亚洲一区二区 | 99爱视频 | 久久夜夜爽 | 一区在线观看视频 | 欧美视频网址 | 毛片网站在线看 | 免费男女羞羞的视频网站中文字幕 | 久草视频免费播放 | 九九九九色 | 探花视频在线版播放免费观看 | 九九视频热 | 成人国产一区二区 | 国产成人精品一区二区三区在线 | 蜜桃视频日韩 | 最近久乱中文字幕 | 亚洲九九九在线观看 | 亚洲精品视频播放 | 又黄又刺激视频 | 久久99视频精品 | 激情视频一区 | 国产 日韩 欧美 自拍 | 国内视频在线 | 久久成人国产精品免费软件 | 国产精品久久久久久a | 久久国产综合视频 | 成人一区二区三区中文字幕 | 区一区二区三在线观看 | 午夜影院日本 | 97碰碰精品嫩模在线播放 | 高清久久久久久 | 色婷婷激情五月 | 日韩天天操 | 九九热1| 国产一区二区三精品久久久无广告 | 精品在线一区二区三区 | 丁香综合av | 精品一区久久 | 少妇自拍av | 国产一级大片在线观看 | 成人午夜电影免费在线观看 | 狠狠的日| 一区二区网| 欧美另类v | 久草资源在线观看 | 麻豆久久精品 | 国产亚洲午夜高清国产拍精品 | 国内免费久久久久久久久久久 | 乱男乱女www7788| 色婷婷激婷婷情综天天 | 国产热re99久久6国产精品 | 国产欧美精品一区二区三区四区 | 特级黄色片免费看 | 亚洲国产成人在线 | 国内揄拍国内精品 | aaawww | 狠狠成人 | 91成人天堂久久成人 | 婷婷在线视频观看 | 五月婷在线播放 | 久久网页 | 天天干天天摸天天操 | 在线精品观看 | 九九综合久久 | 国产精品成人国产乱 | 香蕉在线观看视频 | 在线精品观看 | 蜜臀久久99精品久久久久久网站 | 午夜精品福利一区二区三区蜜桃 | 成年人在线 | 视频一区在线播放 | www.啪啪.com| 一本到视频在线观看 | 一区二区三区在线免费观看视频 | 国产高清久久久 | 婷婷精品进入 | 美女黄频在线观看 | 亚洲精品在线观看的 | 精品自拍网 | v片在线看 | 午夜久久精品 | 美女视频久久黄 | 91视频免费网址 | 亚洲成人频道 | 午夜精品久久久久久久99热影院 | 五月天丁香视频 | 中文字幕在 | 国产在线无 | 婷婷精品在线 | 91麻豆精品国产91久久久久久 | 欧美成人精品欧美一级乱黄 | 久久精品免费播放 | 日韩www在线 | 日本视频精品 | 成人国产精品免费观看 | 日韩免费电影在线观看 | 久草视频在线免费 | 成人91免费视频 | 亚洲精品黄色片 | 99在线观看视频网站 | 日韩精品亚洲专区在线观看 | 91av免费在线观看 | 国产一区成人 | 亚洲精品欧洲精品 | 九九热免费视频在线观看 | 在线观看福利网站 | 日批网站免费观看 | 国产又粗又猛又黄又爽的视频 | 国产在线精品福利 | 久久久久免费看 | 久久久国产一区二区三区四区小说 | 免费成人在线电影 | 午夜婷婷综合 | 99精品欧美一区二区蜜桃免费 | 天天射天天色天天干 | 久久伊人精品天天 | 国产精品区在线观看 | 天天激情 | 日韩亚洲在线 | h动漫中文字幕 | 九九九九九国产 | 青青啪| 久久精品国产99国产 | 免费观看成人 | 国产精品久久久一区二区 | 久久久久久久久久久久久影院 | 免费成人在线电影 | 久草在线视频首页 | 亚洲免费av片 | 国内精品免费 | 天堂va欧美va亚洲va老司机 | 成人国产精品久久久久久亚洲 | 国产日产精品久久久久快鸭 | 日韩字幕在线观看 | 狠狠色丁香婷婷综合久小说久 | 99精品在线免费在线观看 | 一区二区三区动漫 | 国产精品6 | 黄色软件大全网站 | 欧美日韩精品在线观看 | 欧美久久九九 | 亚洲国产精品小视频 | 四虎在线永久免费观看 | 日韩精品中文字幕在线观看 | 911国产| 国产成人在线综合 | 99精品国产99久久久久久福利 | 久久综合在线 | 日日操狠狠干 | 热久久精品在线 | 中文字幕日韩av | 国内视频在线观看 | 久久久久久久久久国产精品 | 午夜精品久久一牛影视 | 91传媒免费在线观看 | 亚洲欧美日本A∨在线观看 青青河边草观看完整版高清 | 久久精品国产一区二区电影 | 久久久综合色 | 国产九色在线播放九色 | 国产精品久久久久久超碰 | 欧美成人精品欧美一级乱 | 亚洲视频免费视频 | 91视频com | 欧美日韩高清在线观看 | 一区二区视频欧美 | 久久久久国产成人免费精品免费 | 日韩午夜一级片 | 又黄又爽又色无遮挡免费 | 黄色a大片 | 国产精品美女久久久久久网站 | 国产成人精品亚洲日本在线观看 | 综合天堂av久久久久久久 | 欧美综合色在线图区 | 国产精品第7页 | 免费亚洲婷婷 | 国产精品99久久久久久大便 | 久久免费视频4 | 99久久日韩精品免费热麻豆美女 | 国产福利精品一区二区 | 美女网站在线观看 | 九九久久影视 | 天天干,天天射,天天操,天天摸 | av观看免费在线 | 在线观看日韩免费视频 | 狠狠干天天射 | 日日夜夜网站 | 国产精品国产毛片 | 视频 国产区| 久久久久久久久久久高潮一区二区 | 精壮的侍卫呻吟h | 免费成人在线观看 | 免费色网站| 岛国片在线| 美女视频又黄又免费 | 亚洲第一区在线观看 | 日本最新高清不卡中文字幕 | 欧美亚洲精品在线观看 | 亚洲女同videos | 成人黄色大片在线免费观看 | 欧美久久久久久久久 | 欧美精品久久久久久久亚洲调教 | www.天天综合 | 日韩理论片 | 亚洲成人xxx | 六月激情丁香 | 久久国内精品 | 国产高清精 | 国产91欧美 | 夜色.com| 免费av在 | 免费在线激情电影 | 国产精品免费小视频 | 亚洲好视频 | 午夜精品av在线 | 久草在线在线视频 | 亚洲精品国偷拍自产在线观看 | 中文有码在线视频 | 高清av免费看 | 欧美另类xxx | 欧美黑人猛交 | 99久久99久国产黄毛片 | 久久国产精品一国产精品 | 欧美一区二区三区免费看 | 日韩精品视频第一页 | 九九有精品 | 国产精品精品视频 | 婷婷伊人综合亚洲综合网 | 在线视频欧美日韩 | 18+视频网站链接 | 欧美精品国产综合久久 | 欧美亚洲免费在线一区 | 91精品欧美一区二区三区 | 色综合天天视频在线观看 | 国产热re99久久6国产精品 | 欧美伊人网 | 久久一精品 | 欧美日韩3p | 国产看片 色 | 日韩在线电影一区二区 | 高清av免费看 | 久久精品爱视频 | 久草91视频 | a黄色| 国产精品aⅴ | 一区二区三区免费在线观看视频 | 久久毛片高清国产 | 久久影院一区 | 久久天天综合网 | 久久精品com| 国产精品永久免费观看 | 97超碰资源站 | 天天在线操 | 成人黄色电影免费观看 | 我要看黄色一级片 | av中文字幕在线免费观看 | 丁香久久婷婷 | 久久五月婷婷丁香 | 97超碰中文字幕 | a在线免费观看视频 | 欧美aa一级片 | 日韩免费视频观看 | 国产精品一区二区久久精品爱微奶 | 在线观看国产永久免费视频 | 成人国产精品久久久 | 天天草天天草 | 中文字幕乱码视频 | 香蕉免费在线 | 66av99精品福利视频在线 | 国产精品美女久久久 | 国产伦理久久 | 久久久久久久18 | 美女在线黄 | 人人干网| 韩国av免费观看 | 精品久久久久久久久久久久久久久久久久 | 久久艹免费| 欧美极度另类性三渗透 | 免费高清在线观看成人 | 午夜视频导航 | 日日夜夜添| 国产精品va视频 | 天天曰天天干 | 九九在线视频 | 日韩理论电影在线观看 | 国产视频一区在线播放 | 色吊丝在线永久观看最新版本 | 涩涩成人在线 | 国产高清视频色在线www | 97国产一区二区 | 久久麻豆精品 | 激情视频久久 | 亚洲精品高清视频在线观看 | 中文字幕超清在线免费 | 五月婷婷开心中文字幕 | 国产伦精品一区二区三区… | 午夜影院一级片 | 国产经典三级 | 精品1区二区 | 五月花激情 | 亚洲综合欧美日韩狠狠色 | 美女网色 | 特级黄色片免费看 | 久久五月精品 | 91片黄在线观 | 天天干人人干 | 伊人成人激情 | 国产在线理论片 | 天天射一射 | 国产精品日韩精品 | 成av在线 | 亚洲精品男人天堂 | 亚洲成人资源 | 在线岛国av | 日韩网站在线 | 亚洲作爱视频 | av不卡在线看 | 视色网站 | 国内精品久久久久久久久久 | 日韩av黄| 国产一区二区三区黄 | 人人干97 | 91香蕉亚洲精品 | 2021国产精品 | 国产第一福利 | 久草com | 免费久久久久久久 | 免费黄在线观看 | 日韩在观看线 | 成人免费视频网站 | av电影在线免费观看 | 欧美激情第十页 | 日本乱视频 | 日韩欧美精品一区二区三区经典 | 国产成年免费视频 | 337p日本欧洲亚洲大胆裸体艺术 | 久久久久亚洲精品成人网小说 | 日韩免费电影 | 色网站在线看 | 日韩欧美成 | 不卡国产在线 | 日本久久高清视频 | 91日韩精品视频 | 91福利视频免费观看 | 久久这里只有精品1 | 91在线小视频 | 草久久影院 | 亚洲国产精品传媒在线观看 | 久草网视频在线观看 | 久久精品国产成人精品 | 99精品在线观看 | www.亚洲精品在线 | 看黄色91 | 久久国产精品免费 | 日韩在线 一区二区 | 国产精品九九久久99视频 | 国产午夜精品理论片在线 | 成人亚洲综合 | 久久亚洲免费视频 | 午夜影院一级片 | 中文一区在线观看 | 黄网av在线 | 国产亚洲成人精品 | 久久久精品亚洲 | 91成人免费在线 | 国产一区二区三区高清播放 | www黄色av| 免费在线观看国产黄 | 伊人五月在线 | 人人爽人人香蕉 | 中文字幕二区三区 | 国产护士av | 国产精品原创在线 | 天天操夜夜想 | 国内视频一区二区 | 亚洲欧美日韩中文在线 | 视频在线亚洲 | 欧美a级成人淫片免费看 | www.天天色.com | 亚洲精品久久久久58 | 国产精品免费在线视频 | 九九九在线观看视频 | 天天色天天干天天色 | 国产精品久久久999 国产91九色视频 | 国产一区二区不卡视频 | 久久久www成人免费精品张筱雨 | 国产拍揄自揄精品视频麻豆 | 亚洲综合在线一区二区三区 | 国外成人在线视频网站 | 97在线观看免费视频 | 五月婷婷久 | 丁香婷五月 | 成人在线超碰 | 亚洲成人免费在线观看 | 色婷婷午夜 | 国产麻豆精品一区 | 免费观看高清 | 国产艹b视频 | 亚洲国产最新 | 久久网站av| www.av在线播放| 欧美一级性视频 | 在线观看黄网 | 欧美国产亚洲精品久久久8v | 精品国产网址 | 精品久久网 | 午夜精品视频免费在线观看 | 四虎在线永久免费观看 | 五月天激情综合 | www.色综合.com | 最新日韩在线 | 国产美女视频一区 | 69视频网站 | 免费黄色在线网站 | 99在线国产 | 免费久久片 | 免费在线黄色av | 久久国产一区二区三区 | 国产精品九九久久99视频 | 成人久久毛片 | 亚洲电影久久久 | 日韩国产精品毛片 | 四虎影视欧美 | 成人免费视频网址 | 911免费视频 | 久久精品一二三区白丝高潮 | 久久久久久久av麻豆果冻 | 色综合天天在线 | 国产视频精选在线 | 911精品美国片911久久久 | www.在线看片.com | 免费观看91视频大全 | 国产破处视频在线播放 | 人人插人人费 | 国产黄色精品在线观看 | 国产电影黄色av | 中文字幕资源网 | 高清久久久 | 在线香蕉视频 | 欧美一级专区免费大片 | 91人人澡人人爽 | 在线观看香蕉视频 | 色噜噜狠狠狠狠色综合久不 | 久久96国产精品久久99漫画 | av三级在线免费观看 | 中文资源在线观看 | 久久精品一区二区三区四区 | 国产精品手机看片 | 精品国产一区二区三区久久久蜜臀 | 国产精品日韩在线观看 | 国产小视频福利在线 | 国产精品久久9 | 久久精品小视频 | av电影久久 | 91精品视频免费在线观看 | 国产破处在线视频 | 91av视频在线观看 | 五月开心六月伊人色婷婷 | 97人人澡人人添人人爽超碰 | 色精品视频 | 免费观看v片在线观看 | 黄色日批网站 | 免费久久99精品国产婷婷六月 | av电影在线免费 | 色婷婷免费 | 探花视频网站 | 国产香蕉视频在线观看 | 91在线超碰| 欧美日韩在线精品 | 五月激情婷婷丁香 | 久久国产精品久久精品国产演员表 | 亚洲精品国产欧美在线观看 | 国产精品嫩草在线 | 日韩在线观看视频一区二区三区 | 97色国产 | 狠狠干天天色 | 久久精品高清视频 | 激情婷婷综合网 | 精品国产_亚洲人成在线 | 国产精品原创 | 欧美日韩国产综合网 | 国产手机精品视频 | 一区二区三区在线免费播放 | 国产精品12345| 国产精品第7页 | 成年人在线免费看 | 麻豆成人精品 | 国产成人精品午夜在线播放 | 99在线精品视频观看 | 国产精品亚洲a | 欧美作爱视频 | 国产精品久久久久久久电影 | 日韩欧美一区二区三区视频 | 精品成人在线 | 国产精品综合在线观看 | 黄色免费在线看 | 久久综合欧美精品亚洲一区 | 成人 亚洲 欧美 | 亚洲精品视频免费 | 久久这里只有精品首页 | 天天干天天干天天射 | 香蕉网址 | 国产馆在线播放 | 在线观看免费av网 | 久久中文字幕视频 | 在线观看国产永久免费视频 | 日本在线观看中文字幕无线观看 | 免费成人av在线看 | 一区二区观看 | 国产精品久久一区二区无卡 | 欧美精品小视频 | 中文字幕中文中文字幕 | 日韩av中文| 欧美在线视频二区 | 久久免费大片 | 亚洲黄a | 日韩精品视频第一页 | 亚洲精品一区二区三区四区高清 | 日韩欧美区 | 久久网址 | 免费男女羞羞的视频网站中文字幕 | 亚洲综合网站在线观看 | 日韩精品视频免费在线观看 | 91在线免费公开视频 | 四虎天堂 | 操操操人人人 | 在线视频你懂 | 免费能看的av | 午夜三级毛片 | 91九色在线播放 | 国产丝袜高跟 | 亚洲激情久久 | 国产99亚洲| 激情网五月天 | 精品电影一区 | 欧美日韩高清在线观看 | 日韩欧美在线一区二区 | av先锋影音少妇 | 人人爽人人爽人人片av免 | 好看的国产精品视频 | 日本婷婷色 | 久久久久激情视频 | 国产精久久久 | 在线免费黄色av | 亚洲精品国产精品久久99 | 天无日天天操天天干 | 国产v亚洲v | 久久精品免费电影 | 最近字幕在线观看第一季 | adn—256中文在线观看 | 波多野结衣资源 | 精品国产视频在线观看 | 超碰人人在线 | 美女久久视频 | 日韩在线视频精品 | 免费网站看v片在线a | 91免费观看视频在线 | 国产精品久久久久永久免费 | 五月婷婷激情六月 | 婷婷激情五月 | 天天色天天射天天操 | 欧美激情另类 | www日日 | 五月激情丁香图片 | 亚洲一级电影 | 麻豆视频在线免费看 | 色香网| 国产在线精品国自产拍影院 | 免费观看9x视频网站在线观看 | 久久国产精品成人免费浪潮 | 久久久久久久久电影 | 丁香激情网 | 激情久久久久 | 美女黄网站视频免费 | 中文字幕在线观 | 五月婷婷综合久久 | 久久男人视频 | 日日躁夜夜躁xxxxaaaa | 婷久久| 成年人电影免费在线观看 | 国产一区二区三区视频在线 | 夜夜操夜夜干 | 天天操天天操一操 | 超碰97人人射妻 | 国产精品免费av | 国内精品久久久久久久影视麻豆 | 国产最新福利 | 久久99国产精品免费 | 97人人模人人爽人人喊网 | 最近中文字幕在线 | 色操插 | 日本动漫做毛片一区二区 | 九九热1| 国产一区二区三区在线免费观看 | 天天搞天天干天天色 | 99视频偷窥在线精品国自产拍 | 久久久精品国产一区二区电影四季 | 99久久久免费视频 | 亚洲乱码精品 | 日韩在线免费视频观看 | 五月婷婷开心 | 欧美 亚洲 另类 激情 另类 | 国产精品福利在线观看 | 国产精品美女免费看 | 欧美成人中文字幕 | 高清中文字幕 | 日韩精品一区二区三区三炮视频 | 色久五月 | 91中文字幕一区 | 国产极品尤物在线 | 在线精品视频在线观看高清 | 极品美女被弄高潮视频网站 | 亚洲精品毛片一级91精品 | 手机av电影在线 | 黄色av电影一级片 | 探花视频在线版播放免费观看 | 久久久久看片 | 992tv又爽又黄的免费视频 | 97超碰网| 国产99区| 99精品视频在线播放观看 | 国产一区二区三区免费在线 | 四虎影视成人永久免费观看视频 | 天天天天天天天天操 | 在线有码中文 | 国产偷国产偷亚洲清高 | 欧美一级电影在线观看 | 91精品啪 | 少妇bbw搡bbbb搡bbbb | 欧美a性| 亚洲狠狠丁香婷婷综合久久久 | 免费看一及片 | 国产精品丝袜在线 | 久草视频在线免费 | 香蕉影视 | 亚洲精品小视频在线观看 | 国产a级精品 | 97国产大学生情侣白嫩酒店 | 狠狠躁夜夜躁人人爽超碰97香蕉 | 丁香婷婷射 | 欧美怡红院视频 | 午夜美女福利 | 日韩网站在线播放 | 日韩伦理一区二区三区av在线 | 久久久国产精品视频 | 成人小视频在线 | 国产成人区 | 久久99精品一区二区三区三区 | 天天操夜夜拍 | 日韩黄视频 | 日韩欧美视频在线观看免费 | 免费碰碰| 久久99精品久久久久久三级 | 亚洲天堂网在线播放 | 99免费在线视频 | 丁香久久婷婷 | 中文字幕亚洲精品日韩 | 亚洲精品动漫成人3d无尽在线 | 中文字幕色婷婷在线视频 | 久久久久亚洲精品国产 | 国产电影一区二区三区四区 | 精品国产乱码一区二 | 91视频亚洲| 久久免费精品视频 | 国产小视频在线看 | 91av亚洲| 色欧美日韩 | 黄网站www| 在线观看国产一区 | 国产只有精品 | 蜜臀久久99静品久久久久久 | 国产欧美最新羞羞视频在线观看 | 久久99深爱久久99精品 | 亚洲一片黄 | 国产精品涩涩屋www在线观看 | 久久精品中文字幕一区二区三区 | 丁香婷婷深情五月亚洲 | 国产18精品乱码免费看 | 四虎永久视频 | 男女激情麻豆 | 免费观看视频黄 | 亚洲国内精品 | 国产精品一区在线播放 | 伊人导航 | 天堂av在线中文在线 | 国产精品无av码在线观看 | 色com| 激情一区二区三区欧美 | 91九色在线观看视频 | 国产精品久久久久久爽爽爽 | 成人在线免费观看网站 | 精品国产美女 | 亚洲激色 | 日本精品在线看 | 国产精品久久久久久久午夜 | 亚洲精品在线资源 | 天天干婷婷 | 午夜91在线| 91看片在线观看 | 97国产精品 |