日韩av黄I国产麻豆传媒I国产91av视频在线观看I日韩一区二区三区在线看I美女国产在线I麻豆视频国产在线观看I成人黄色短片

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程资源 > 编程问答 >内容正文

编程问答

vdbench - 性能压力测试工具

發布時間:2023/12/31 编程问答 38 豆豆
生活随笔 收集整理的這篇文章主要介紹了 vdbench - 性能压力测试工具 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

? ? ? ? 《存儲工具系列文章》主要介紹存儲相關的測試和調試工具,包括不限于dd、fio、vdbench、iozone、iometer、cosbench等性能負載工具,及strace等調試工具。


1. 概述

????????vdbench是一個I/O工作負載生成器,通常用于驗證數據完整性和度量直接附加(或網絡連接)存儲性能。

????????vdbench可以運行在windows、linux環境,可用于測試文件系統或塊設備基準性能。

2. 安裝部署

2.1?? ?Linux平臺

????????一、安裝jdk

[root@node1 vdbench50406]# rpm -ivh jdk-8u144-linux-x64.rpm

????????配置jdk環境變量,明確jdk安裝目錄,本次實踐為/usr/java/jdk1.8.0_144

[root@node1 vdbench50406]# echo 'JAVA_HOME=/usr/java/jdk1.8.0_144' >> /etc/profile [root@node1 vdbench50406]# echo 'PATH=$JAVA_HOME/bin:$PATH' >> /etc/profile [root@node1 vdbench50406]# echo 'CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar' >> /etc/profile [root@node1 vdbench50406]# echo 'export PATH' >> /etc/profile [root@node1 vdbench50406]# echo 'export JAVA_HOME' >> /etc/profile [root@node1 vdbench50406]# echo 'export CLASSPTH' >> /etc/profile

????????使環境變量生效

[root@node1 vdbench50406]# source /etc/profile

????????二、vdbench解壓

????????解壓縮vdbench安裝包,切換到vdbench解壓縮目錄執行對應參數文件即可

[root@node1 vdbench50406]# unzip vdbench50406.zip

2.2?? ?Windows平臺

????????一、部署jdk環境

????????直接安裝jdk軟件即可(環境變量在安裝完成后會自動添加)

????????二、vdbench使用

????????解壓縮vdbench軟件包,切換到vdbench解壓縮目錄執行對應參數文件即可

3.?配置參數說明

????????vdbench可用于文件系統及塊設備基準性能測試,以下主要介紹文件系統及塊存儲的常用測試參數

????????vdbench所有測試參數都定義到一個參數文件內,在運行時按照順序被讀取執行相應操作,在參數文件定義時需要執行順序進行定義。

3.1 文件系統

????????文件系統參數文件定義順序為:HD、FSD、FWD、RD。

3.1.1 hd(host define)

? ? ? ? 非必選項,單機運行時不需要配置HD參數,一般只有在多主機聯機測試時才需要配置。

hd=default,vdbench=/root/vdbench50406,user=root,shell=ssh hd=hd1,system=node241 hd=hd2,system=node242 hd=hd3,system=node243

????????hd:標識主機定義的名稱,多主機運行時,可以使用hd1、hd2、hd3…區分

????????system:主機IP地址或主機名

????????vdbench:vdbench執行文件存放路徑,當多主機存放路徑不同時,可在hd定義時單獨指定

????????user:slave和master通信使用用戶

????????shell:可選值為rsh、ssh或vdbench,默認值為rsh,多主機聯機測試時,mater和slave主機間通信方式

  • 當參數值為rsh時,需要配置master和slave主機rsh互信,考慮到rsh使用明文傳輸,安全級別不夠,通常情況下不建議使用這種通信方式;
  • 當參數值為ssh時,需要配置master和slave主機ssh互信,通常Linux主機聯機時使用此通信方式;
  • 當參數值為vdbench,需要在所有slave主機運行vdbench rsh啟用vdbench本身的rsh守護進程,通常Window主機聯機時使用此通信方式。

3.1.2 FSD(File System Define)

fsd=default,openflags=directio,depth=2,width=3,files=2,size=128k fsd=fsd1,anchor=/mnt/client1 fsd=fsd2,anchor=/mnt/client2 fsd=fsd3,anchor=/mnt/client3

????????fsd:標識文件系統定義的名稱,多文件系統時(fsd1、fsd2、fsd3…),可以指定default(將相同的參數作為所有fsd的默認值)

????????openflags:通過設置為o_direct或directio,以無緩沖緩存的方式進行讀寫操作

????????anchor:文件寫入目錄,linux指定路徑為/dir01;windows指定路徑為E:\dir01;

????????depth:創建目錄層級數(即目錄深度)

????????width:每層文件夾的子文件夾數

????????files:測試文件個數(vdbench測試過程中會生成多層級目錄結構,實際只有最后一層目錄會生成測試文件)

????????size:每個測試文件大小

????????**distribution= ** 可選值為bottom或all,默認為bottom

–當參數值為bottom時,程序只在最后一層目錄寫入測試文件

–當參數值為all時,程序在每一層目錄都寫入測試文件

????????shared:可選值為yes或no,默認值為no,一般只有在多主機聯機測試時指定

????????vdbench不允許不同的slave之間共享同一個目錄結構下的所有文件,因為這樣會帶來很大的開銷,但是它們允許共享同一個目錄結構。加入設置了shared=yes,那么不同的slave可以平分一個目錄下所有的文件來進行訪問,相當于每個slave有各自等分的訪問區域,因此不能測試多個客戶的對同一個文件的讀寫–當多主機聯機測試時,寫入的根目錄anchor為同一個路徑時,需要指定參數值為yes

????????說明

hd=default,vdbench=/root/vdbench50406,user=root,shell=ssh hd=hd1,system=node1 hd=hd2,system=node2 hd=hd3,system=node3 fsd=fsd1,anchor=/client/,depth=2,width=100,files=100,size=4k,shared=yes

????????計算公式如下:

最后一層生成文件夾個數=width^depth

測試文件個數=(width^depth)*files

fsd=fsd1,anchor=/dir1,depth=2,width=3,files=2,size=128k

????????以上述參數為例,生成目錄結構及測試文件如下:

????????最后一層文件夾數=3^2=9 最后一層文件數=9*2=18

/dir1/ ├── no_dismount.txt ├── vdb.1_1.dir │ ? ├── vdb.2_1.dir │ ? │ ? ├── vdb_f0001.file │ ? │ ? └── vdb_f0002.file │ ? ├── vdb.2_2.dir │ ? │ ? ├── vdb_f0001.file │ ? │ ? └── vdb_f0002.file │ ? └── vdb.2_3.dir │ ? ? ? ├── vdb_f0001.file │ ? ? ? └── vdb_f0002.file ├── vdb.1_2.dir │ ? ├── vdb.2_1.dir │ ? │ ? ├── vdb_f0001.file │ ? │ ? └── vdb_f0002.file │ ? ├── vdb.2_2.dir │ ? │ ? ├── vdb_f0001.file │ ? │ ? └── vdb_f0002.file │ ? └── vdb.2_3.dir │ ? ? ? ├── vdb_f0001.file │ ? ? ? └── vdb_f0002.file ├── vdb.1_3.dir │ ? ├── vdb.2_1.dir │ ? │ ? ├── vdb_f0001.file │ ? │ ? └── vdb_f0002.file │ ? ├── vdb.2_2.dir │ ? │ ? ├── vdb_f0001.file │ ? │ ? └── vdb_f0002.file │ ? └── vdb.2_3.dir │ ? ? ? ├── vdb_f0001.file │ ? ? ? └── vdb_f0002.file └── vdb_control.file12 directories, 20 files

3.1.3 FWD(FileSystem Workload Defile)

fwd=default,operation=read,xfersize=4k,fileio=sequential,fileselect=random,threads=2 fwd=fwd1,fsd=fsd1,host=hd1 fwd=fwd2,fsd=fsd2,host=hd2 fwd=fwd3,fsd=fsd3,host=hd3

????????fwd:標識文件系統工作負載定義的名稱,多文件系統工作負載定義時,可以使用fwd1、fwd2、fwd3…區分

????????fsd:標識此工作負載使用文件存儲定義的名稱

????????host:標識此工作負載使用主機

????????operation:可選值為read或write,文件操作方式

????????rdpct:可選值為0~100,讀操作占比百分比,一般混合讀寫時需要指定,當值為60時,則混合讀寫比為6:4

????????fileio:可選值為random或sequential,標識文件 I/O 將執行的方式

????????fileselect: random或sequential,標識選擇文件或目錄的方式

????????xfersizes:數據傳輸(讀取和寫入操作)處理的數據大小(即單次IO大小)

????????threads:此工作負載的并發線程數量

注:

1、默認情況下,預填數據工作負載定義為threads=8,xfersize=128k,即預填數據使用8線程,IO大小為128K 如需更改默認預填數據工作負載定義,則需要增加參數指定線程數和IO大小(fwd=format,threads=nn,xfersize=nn)

3.1.4 RD(Run Define)

rd=rd1,fwd=(fwd1-fwd3),fwdrate=max,format=restart,elapsed=604800,interval=10

????????rd:標識文件系統運行定義的名稱。

????????fwd:標識文件系統工作負載定義的名稱。

????????fwdrate:每秒執行的文件系統操作數量。設置為max,表示不做任何限制,按照最大強度自適應
????????format: 可選值為no、yes、或restart,標識預處理目錄和文件結構的方式

  • no:默認參數值,不執行format預處理操作,如測試目錄不存在文件時,vdbench會由于無可用文件讀寫而異常退出
  • yes:表示刪除測試目錄已有文件結構,并且重新創建新的文件結構
  • restart:表示只創建未生成的目錄或文件,并且增大未達到實際大小的文件

????????elapsed:默認值為30,測試運行持續時間(單位為秒)

????????interval:結果輸出打印時間間隔(單位為秒)

3.2 塊設備

????????塊設備參數文件定義順序為:HD、SD、WD、RD

3.2.1 HD(Host Define)

????????非必選項,單機運行時不需要配置HD參數,一般只有在多主機聯機測試時才需要配置

hd=default,vdbench=/root/vdbench50406,user=root,shell=ssh hd=hd1,system=node241 hd=hd2,system=node242 hd=hd3,system=node243

????????參數解析參照文件系統的hd系列參數

3.2.2 SD(Storage Define)

sd=sd1,hd=hd1,lun=/dev/sdb,openflags=o_direct,threads=6 sd=sd3,hd=hd2,lun=/dev/sdb,openflags=o_direct,threads=6 sd=sd6,hd=hd3,lun=/dev/sdb,openflags=o_direct,threads=6

????????sd: 標識存儲定義的名稱

????????hd: 標識主機定義的名稱

????????lun: 寫入塊設備,linux使用sdb盤,則指定路徑為/dev/sdb;windows使用G盤,則指定路徑為\\.\G:;

????????openflags: 通過設置為o_direct或directio,以無緩沖緩存的方式進行讀寫操作

????????threads: 對SD的最大并發I/O請求數量

3.2.3 WD(Workload Define)

wd=wd1,sd=sd*,seekpct=100,rdpct=100,xfersize=8k,skew=40 wd=wd2,sd=sd*,seekpct=100,rdpct=0,xfersize=8k,skew=10 wd=wd3,sd=sd*,seekpct=100,rdpct=100,xfersize=1024k,skew=40 wd=wd4,sd=sd*,seekpct=100,rdpct=0,xfersize=1024k,skew=10

????????wd: 標識工作負載定義的名稱

????????sd: 標識存儲定義的名稱

????????seekpct: 可選值為0或100(也可使用sequential或random表示),默認值為100,隨機尋道的百分比,設置為0時表示順序,設置為100時表示隨機。

????????rdpct:讀取請求占請求總數的百分比,設置為0時表示寫,設置為100時表示讀

????????xfersize: 要傳輸的數據大小。默認設置為4k

????????skew: 非必選項,一般在多個工作負載時需要指定,表示該工作負載占總工作量百分比(skew總和為100)

3.2.4 RD(Run Define)

rd=rd1,wd=wd*,iorate=max,maxdata=400GB,warmup=30,elapse=604800,interval=5

????????rd: 標識運行定義的名稱

????????wd: 標識工作負載定義的名稱

????????iorate: 常用可選值為100、max,此工作負載的固定I/O速率

  • –當參數值為100時,以每秒100個I/Os的速度運行工作負載,當參數值設置為一個低于最大速率的值時,可以達到限制讀寫速度的效果
  • –當參數值為max時,以最大的I/O速率運行工作負載,一般測試讀寫最大性能時,該參數值均為max

????????warmup: 預熱時間(單位為秒),默認情況下vdbench會將第一個時間間隔輸出數據排除在外,程序在預熱時間內的測試不納入最終測試結果中(即預熱結束后,才開始正式測試)

  • –當interval為5、elapsed為600時,測試性能為2~elapsed/interval(avg_2-120)時間間隔內的平均性能
  • –當interval為5、warmup為60、elapsed為600時,測試性能為1+(warmup/interval)~(warmup+elapsed)/interval(avg_13-132)時間間隔內的平均性能

????????maxdata:讀寫數據大小,通常情況下,當運行elapsed時間后測試結束;當同時指定elapsed和maxdata參數值時,以最快運行完的參數為準(即maxdata測試時間小于elapsed時,程序寫完elapsed數據量后結束)

  • –當參數值為100以下時,表示讀寫數據量為總存儲定義大小的倍數(如maxdata=2,2個存儲定義(每個存儲定義數據量為100G),則實際讀寫數據大小為400G)
  • –當參數值為100以上時,表示數據量為實際讀寫數據量(可以使用單位M、G、T等)

????????elapsed: 默認值為30,測試運行持續時間(單位為秒)

????????interval: 報告時間間隔(單位為秒)

4 測試案例

4.1 單機測試

4.1.1 Linux平臺

示例如下,單節點針對裸盤測試,1M順序寫,測試時間600s,預熱時間60s,報告時間間隔2s

[root@node241 vdbench50406]# cat Single-RawDisk.html? sd=sd1,lun=/dev/sdb,openflag=o_direct wd=wd1,sd=sd1,seekpct=0,rdpct=0,xfersize=1M rd=rd1,wd=wd1,iorate=max,warmup=60,elapsed=600,interval=2 [root@node241 vdbench50406]#? [root@node241 vdbench50406]# ./vdbench -f Single-RawDisk.html

4.1.2 Windows平臺

????????示例如下,單節點針對文件系統測試,1M順序寫,目錄深度為2,每層目錄數為3,每個目錄文件數為10,每個文件大小為200M,測試時間為600s,報告時間時間2s

E:\vdbench50406>more "Single FileSystem.txt" fsd=fsd1,anchor=E:\Sigle-FileSystem,depth=2,width=3,files=10,size=200M fwd=fwd1,fsd=fsd1,operation=write,xfersize=1M,fileio=sequential,fileselect=rando m,threads=2 rd=rd1,fwd=fwd1,fwdrate=max,format=yes,elapsed=600,interval=5 E:\vdbench50406> E:\vdbench50406>vdbench -f "Single FileSystem.txt"

4.2 聯機測試

4.2.1 Linux平臺

????????一、配置多主機ssh互信

????????二、master主機運行測試參數文件即可

????????示例如下,三節點針對裸盤聯機測試,1M順序寫,測試數據量為400G,預熱時間30s,報告間隔5s

[root@node241 vdbench50406]# cat Multi-RawDisk hd=default,vdbench=/root/vdbench50406,user=root,shell=ssh hd=hd1,system=node241 hd=hd2,system=node242 hd=hd3,system=node243 sd=sd1,hd=hd1,lun=/dev/sdb,openflag=o_direct sd=sd2,hd=hd2,lun=/dev/sdb,openflag=o_direct sd=sd3,hd=hd3,lun=/dev/sdb,openflag=o_direct wd=wd1,sd=sd*,seekpct=0,rdpct=0,xfersize=1M rd=rd1,wd=wd1,iorate=max,maxdata=100M,elapsed=64800,warmup=30,interval=5 [root@node241 vdbench50406]#? [root@node241 vdbench50406]# ./vdbench -f Multi-RawDisk

4.2.2 Windows平臺

????????一、所有slave主機運行vdbench本身rsh守護進程

????????E:\vdbench50406>vdbench rsh

????????二、master主機運行測試參數文件即可

????????示例如下,三節點針對文件系統聯機測試,1M順序寫,目錄深度為2,每層目錄數為3,每個目錄文件數為10000,每個文件大小為200M,測試時間為600s,報告間隔1s

E:\vdbench50406>more "Multi FileSystem.txt" hd=default,vdbench=E:\vdbench50406,user=Micah,shell=vdbench hd=hd1,system=66.66.66.250 hd=hd2,system=66.66.66.252 fsd=fsd1,anchor=Z:\Sigle-FileSystem-01,depth=2,width=3,files=10000,size=200M fsd=fsd2,anchor=Z:\Sigle-FileSystem-02,depth=2,width=3,files=10000,size=200M fwd=default,operation=write,xfersize=1M,fileio=sequential,fileselect=random,threads=16 fwd=fwd1,fsd=fsd1,host=hd1 fwd=fwd2,fsd=fsd2,host=hd2 rd=rd1,fwd=fwd*,fwdrate=max,format=yes,elapsed=600,interval=1 E:\vdbench50406> E:\vdbench50406>vdbench -f "Multi FileSystem.txt"

4.3 常見測試參數

4.3.1 4M順序寫

????????目錄深度2、單級目錄數100、單個目錄文件數100、單文件大小4M、IO塊大小1M、順序寫。

hd=default,vdbench=/root/vdbench50406,user=root,shell=ssh hd=hd1,system=node21 hd=hd2,system=node22 hd=hd3,system=node23 hd=hd4,system=node24 hd=hd5,system=node25 hd=hd6,system=node26 fsd=fsd1,anchor=/client/test01,depth=2,width=100,files=100,size=4M,shared=yes fwd=format,threads=24,xfersize=1m fwd=default,xfersize=1m,fileio=sequential,fileselect=sequential,operation=write,threads=24 fwd=fwd1,fsd=fsd1,host=hd1 fwd=fwd2,fsd=fsd1,host=hd2 fwd=fwd3,fsd=fsd1,host=hd3 fwd=fwd4,fsd=fsd1,host=hd4 fwd=fwd5,fsd=fsd1,host=hd5 fwd=fwd6,fsd=fsd1,host=hd6 rd=rd1,fwd=fwd*,fwdrate=max,format=restart,elapsed=600,interval=1

4.3.1 4M順序讀

????????目錄深度2、單級目錄數100、單個目錄文件數100、單文件大小4M、IO塊大小1M、順序讀

hd=default,vdbench=/root/vdbench50406,user=root,shell=ssh hd=hd1,system=node21 hd=hd2,system=node22 hd=hd3,system=node23 hd=hd4,system=node24 hd=hd5,system=node25 hd=hd6,system=node26 fsd=fsd1,anchor=/client/test02,depth=2,width=100,files=100,size=4M,shared=yes fwd=format,threads=24,xfersize=1m fwd=default,xfersize=1m,fileio=sequential,fileselect=sequential,operation=read,threads=24 fwd=fwd1,fsd=fsd1,host=hd1 fwd=fwd2,fsd=fsd1,host=hd2 fwd=fwd3,fsd=fsd1,host=hd3 fwd=fwd4,fsd=fsd1,host=hd4 fwd=fwd5,fsd=fsd1,host=hd5 fwd=fwd6,fsd=fsd1,host=hd6 rd=rd1,fwd=fwd*,fwdrate=max,format=restart,elapsed=600,interval=1

4.3.2 8M混合讀寫

????????目錄深度2、單級目錄數100、單個目錄文件數100、單文件大小8M、IO塊大小1M、混合讀寫(讀寫比為6:4)

hd=default,vdbench=/root/vdbench50406,user=root,shell=ssh hd=hd1,system=node21 hd=hd2,system=node22 hd=hd3,system=node23 hd=hd4,system=node24 hd=hd5,system=node25 hd=hd6,system=node26 fsd=fsd1,anchor=/client/test03,depth=2,width=100,files=100,size=8M,shared=yes fwd=format,threads=24,xfersize=1m fwd=default,xfersize=1m,fileio=random,fileselect=random,rdpct=60,threads=24 fwd=fwd1,fsd=fsd1,host=hd1 fwd=fwd2,fsd=fsd1,host=hd2 fwd=fwd3,fsd=fsd1,host=hd3 fwd=fwd4,fsd=fsd1,host=hd4 fwd=fwd5,fsd=fsd1,host=hd5 fwd=fwd6,fsd=fsd1,host=hd6 rd=rd1,fwd=fwd*,fwdrate=max,format=restart,elapsed=600,interval=1

5 測試結果解析

????????當vdbench運行完負載測試后,會在安裝目錄下生成output文件夾,里邊包含測試結果文件。

5.1 輸出文件

errorlog.html

當運行測試啟用數據校驗時,它可能會包含一些錯誤信息,如:無效的密鑰讀取、無效的 lba 讀取(一個扇區的邏輯字節地址)、無效的 SD 或 FSD 名稱讀取、數據損壞、壞扇區。

flatfile.html

vdbench 生成的一種逐列的 ASCII 格式的信息,可以使用parseflat參數解析結果

histogram.html

一種包含報告柱狀圖的響應時間、文本格式的文件


logfile.html

包含 Java 代碼寫入控制臺窗口的每行信息的副本。logfile.html 主要用于調試用途

parmfile.html

包含測試運行配置參數信息

summary.html

記錄全部數據信息,顯示每個報告間隔內總體性能情況及工作負載情況,以及除第一個間隔外的所有間隔的加權平均值

totals.html

記錄全部數據計算之后的平均值,一般測試結果從該文件取值,除第一個間隔外所有間隔的加權平均值

5.2 文件系統結果分析

????????測試參數:

hd=default,vdbench=E:\vdbench50406,user=Micah,shell=vdbench hd=hd1,system=66.66.66.250 hd=hd2,system=66.66.66.252 fsd=fsd1,anchor=Z:\Sigle-FileSystem-01,depth=2,width=3,files=10,size=4M fsd=fsd2,anchor=Z:\Sigle-FileSystem-02,depth=2,width=3,files=10,size=4M fwd=default,operation=write,xfersize=1M,fileio=sequential,fileselect=random,threads=2 fwd=fwd1,fsd=fsd1,host=hd1 fwd=fwd2,fsd=fsd2,host=hd2 rd=rd1,fwd=fwd*,fwdrate=max,format=yes,elapsed=600,interval=5

????????測試結果:
?

18:47:03.001 Starting RD=format_for_rd1六月 04, 2020 .Interval. .ReqstdOps... ...cpu%... ?read ....read..... ....write.... ..mb/sec... mb/sec .xfer.. ...mkdir.... ...rmdir.... ...create... ....open.... ...close.... ...delete...rate ? resp total ?sys ? pct ? rate ? resp ? rate ? resp ?read write ?total ? ?size ?rate ? resp ?rate ? resp ?rate ? resp ?rate ? resp ?rate ? resp ?rate ? resp 18:48:40.218 ? avg_2-20 ? 57.6 ?6.244 ?13.4 2.99 ? 0.0 ? ?0.0 ?0.000 ? 57.6 ?6.244 ?0.00 ?7.20 ? 7.20 ?131072 ? 0.2 104.49 ? 0.2 41.526 ? 1.8 7527.0 ? 1.8 192.01 ? 1.8 7134.3 ? 1.8 21.98418:48:42.000 Starting RD=rd1; elapsed=600; fwdrate=max. For loops: None18:58:42.205 ?avg_2-120 ? ?6.2 ?1.063 ?13.0 2.80 ? 0.0 ? ?0.0 ?0.000 ? ?6.2 ?1.063 ?0.00 ?6.24 ? 6.24 1048576 ? 0.0 ?0.000 ? 0.0 ?0.000 ? 0.0 ?0.000 ? 1.6 47.864 ? 1.6 2401.1 ? 0.0 ?0.000

??? ?totals.html

一般包括兩個部分,第一部分為文件存儲目錄結構及數據填充的平均性能值,第二部分為執行測試過程中除第一個時間間隔外所有時間間隔平均性能值,主要看第二部分的內容

??? ?Interval:報告間隔序號,測試結果一般為除第一個時間間隔外所有時間間隔加權平均值,如elapsed=600,interval=5,則性能結果為第2個間隔到第120個間隔的平均值(avg_2-120)

??? ?ReqstdOps:Rate:每秒讀寫I/O個數(讀寫IOPS),可以通過rd運行定義參數fwdrate控制;當fwdrate為max時,以最大I/O速率運行工作負載;當fwdrate為低于最大I/0速率的一個數值時,可以限制讀寫速度,以固定I/O速率運行工作負載。
Resp:讀寫請求響應時間(讀寫時延),單位為ms

??? ?cpu%

tatol:總的cpu占用率
sys:系統cpu占用率

??? ?read pct

? ? ? ? 讀取請求占總請求數百分比占比,當為0時表示寫,當為100時表示讀

??? ?read

rate:每秒讀I/O個數(讀IOPS)
resp:讀請求響應時間(讀時延),單位為ms

??? ?write

rate:每秒寫I/O個數(寫IOPS)
resp:寫請求響應時間(寫時延),單位為ms

??? ?mb/sec

read:每秒讀取速度
write:每秒寫入速度
total:每秒讀寫速度總和

??? ?xfersize

每個讀寫I/O傳輸數據量(即單個讀寫I/O大小),單位為字節B

5.3?? ?塊設備結果分析

測試參數如下:

messagescan=no hd=default,vdbench=/root/vdbench50406,user=root,shell=ssh hd=hd1,system=node241 hd=hd2,system=node242 hd=hd3,system=node243 sd=sd1,hd=hd1,lun=/dev/sdb,openflag=o_direct sd=sd2,hd=hd2,lun=/dev/sdb,openflag=o_direct sd=sd3,hd=hd3,lun=/dev/sdb,openflag=o_direct wd=wd1,sd=sd*,seekpct=0,rdpct=0,xfersize=1M rd=rd1,wd=wd1,iorate=max,elapsed=600,warmup=30,interval=5

測試結果如下:

19:02:15.001 Starting RD=rd1; I/O rate: Uncontrolled MAX; elapsed=600 warmup=30; For loops: NoneJun 04, 2020 ?interval ? ? ? ?i/o ? MB/sec ? bytes ? read ? ? resp ? ? read ? ?write ? ? resp ? ? resp queue ?cpu% ?cpu%rate ?1024**2 ? ? i/o ? ?pct ? ? time ? ? resp ? ? resp ? ? ?max ? stddev depth sys+u ? sys 19:12:46.068 avg_7-126 ? ? ?82.74 ? ?82.74 1048576 ? 0.00 ?289.158 ? ?0.000 ?289.158 2092.803 ?155.103 ?23.9 ?16.3 ?14.2

??? ?interval

報告間隔序號,測試結果一般為除第一個時間時間外所有時間間隔加權平均值,如有設置預熱時間,則這部分測試數據也需要排除在外
如elapsed=600,warmup=30,interval=5,則性能測試結果為第7個間隔到第126個間隔的平均值(avg_7-126)

??? ?i/o rate

每秒讀寫I/O個數(讀寫IOPS),可以通過rd運行定義參數iorate控制
當iorate為max時,以最大I/O速率運行工作負載
當iorate為低于最大I/0速率的一個數值時,可以限制讀寫速度,以固定I/O速率運行工作負載

??? ?MB/sec

每秒讀寫速度(讀寫帶寬)
注:按官方手冊說明,

??? ?bytes i/0

每個讀寫I/O傳輸數據量(即單個讀寫I/O大小),單位為字節B,可以通過wd工作負載定義參數xfersize控制

??? ?read pct

讀取請求占請求總數的百分比,可以通過wd工作負載定義參數rdpct控制
當rdpct為0時,表示測試模型為寫
當rdpct為100時,表示測試模型為讀

??? ?resp time

請求響應時間(讀寫時延),單位為毫秒ms

??? ?read resp

讀取請求響應時間,單位為毫秒ms

??? ?write resp

寫入請求響應時間,單位為毫秒ms

??? ?resp max

最大請求響應時間,單位為毫秒ms

??? ?resp stddev

請求響應時間標準偏差,單位為毫秒ms

??? ?queue depth

讀寫I/0隊列深度

??? ?cpu% sys+u

內核態空間及用戶態空間CPU占用率

??? ?cpu% sys

內核態空間CPU占用率

6 常見問題

6.1 open failed for xxx

一、問題描述:

????????使用vdbench測試過程中,測試中斷,報錯信息如下:

19:37:41.155 19:37:44.813 error: 20 19:37:41.155 19:37:44.813 file_open(), open /trash/64M/vdb.1_47.dir/vdb.2_24.dir/vdb_f0002.file failed 19:37:41.155 19:37:44.814 error: 20 19:37:41.155 19:37:44.814 file_open(), open /trash/64M/vdb.1_47.dir/vdb.2_24.dir/vdb_f0003.file failed 19:37:41.156 19:37:44.814 Maximum native memory allocation: ? ?1,048,576; Current allocation: ? ?1,048,576 19:37:41.156 19:37:44.814 Maximum native memory allocation: ? ?1,048,576; Current allocation: ? ?1,048,576 19:37:41.156 19:37:44.814 error: 20 19:37:41.156 19:37:44.814? 19:37:41.156 19:37:44.814 open failed for /trash/64M/vdb.1_47.dir/vdb.2_24.dir/vdb_f0002.file 19:37:41.156 19:37:44.814? 19:37:41.158 java.lang.RuntimeException: open failed for /trash/64M/vdb.1_47.dir/vdb.2_24.dir/vdb_f0002.file

二、原因分析:

????????默認vdbench限制了java內存使用量,測試期間java運行內存不足才導致測試異常中斷。

三、處理措施:

增大vdbench運行腳本的java內存參數

[root@node40 ~]# cat vdbench50406/vdbench if [ "$1" == "SlaveJvm" ]; then$java -client -Xmx10240m -Xms128m -cp $cp Vdb.SlaveJvm $*exit $? else$java -client -Xmx10240m ?-Xms64m ?-cp $cp Vdb.Vdbmain $*exit $? fi

注:Xmx表示jvm最大內存分配池,Xms表示初始內存分配池
進程初始以Xms內存大小啟動,當空余堆內存小于40%時,jvm會增大內存至Xmx;當空余堆內存大于70%時,jvm會減少內存至Xms;為避免每次GC后JVM重新分配內存,可以將Xmx和Xms設置為相同的參數值。

6.2 linux/aarch64.so does not exist

一、問題描述

????????arm服務器運行vdbench,出現共享庫不匹配問題linux/aarch64.so does not exist,提示需要手動編譯。

二、原因分析:

????????vdbench根目錄動態庫文件linux/linux64.so為基于x86編譯的,需要基于aarch64重新編譯linux/linux64.so動態庫文件

[root@node163 vdbench50407]# ls linux/ config.sh ?linux32.so ?linux64.so ?sparc64.so [root@node163 vdbench50407]# file linux/linux64.so? linux/linux64.so: ELF 64-bit LSB shared object, x86-64, version 1 (SYSV), statically linked, BuildID[sha1]=34a31f32956f21153c372a95e73c02e84ddd29f8, not stripped

三、處理措施:

第一步:準備源碼

????????下載vdbench50407源碼包,下載地址:vdbench50407.src.zip

????????解壓縮源碼包,創建linux目錄

mkdir vdbench50407-srcunzip vdbench50407.src.zip -d vdbench50407-src/cd vdbench50407-src/src/mkdir linux

第二步:完善代碼

????????進入Jni目錄下,修改make.linux文件,主要修改如下:

????????– 指定vdbench源碼路徑(vdb=xx)

????????– 指定jdk路徑(java=xx),通常在/usr/lib/jvm/路徑下

????????– 刪除全文-m32和-m64字符

cd Jni/ sed -i 's#vdb=$mine/vdbench504#vdb=/root/vdbench50407-src/src#g' make.linux sed -i 's#java=/net/sbm-240a.us.oracle.com/export/swat/swat_java/linux/jdk1.5.0_22/#java=/usr/lib/jvm/java-1.8.0-openjdk/#g' make.linux sed -i 's/-m32//g' make.linux? sed -i 's/-m64//g' make.linux

第三步:編譯安裝

????????執行源碼編譯操作./make.linux

????????執行成功后會在../linux目錄下生成linux32.so和linux64.so文件,將linux64.so文件拷貝到vdbench測試工具根目錄linux/aarch64.so下,重新運行vdbench測試

[root@node163 Jni]# ./make.linux target directory: /root/vdbench50407-src/src Compiling 32 bit Linking 32 bitCompiling 64 bit Linking 64 bit[root@node163 Jni]# ll ../linux/ total 160 -rwxrwxrwx 1 root root 78656 Feb ?9 14:54 linux32.so -rwxrwxrwx 1 root root 78656 Feb ?9 14:54 linux64.so[root@node163 Jni]# cp ../linux/linux64.so /root/vdbench50407/linux/aarch64.so

6.3 Raw device ‘sd=sd1,lun=\.\G:’ does not exist, or no permissions.

一、問題描述:

????????windows系統下使用vdbench測試裸盤性能,腳本運行失敗,提示Raw device 'sd=sd1,lun=\\.\G:' does not exist, or no permissions.

D:\vdbench50406>more raw-test.txt sd=sd1,lun=\\.\G: wd=wd1,sd=sd1,seekpct=0,rdpct=0,xfersize=1M rd=rd1,wd=wd1,iorate=max,maxdata=100M,elapsed=64800,warmup=30,interval=5D:\vdbench50406>vdbench.bat -f raw-test.txt Copyright (c) 2000, 2016, Oracle and/or its affiliates. All rights reserved. Vdbench distribution: vdbench50406 Wed July 20 15:49:52 MDT 2016 For documentation, see 'vdbench.pdf'.17:35:24.328 input argument scanned: '-fraw-test.txt' 17:35:24.375 Starting slave: D:\vdbench50406\vdbench SlaveJvm -m localhost -n localhost-10-220119-17.35.24.293 -l localhost-0 -p 5570 17:35:24.834 All slaves are now connected 17:35:25.263 Raw device 'sd=sd1,lun=\\.\G:' does not exist, or no permissions. 17:35:25.764 17:35:25.764 Please check above failures 17:35:25.765 java.lang.RuntimeException: Please check above failuresat Vdb.common.failure(common.java:335)at Vdb.InfoFromHost.matchDataWithSds(InfoFromHost.java:674)at Vdb.InfoFromHost.receiveInfoFromHost(InfoFromHost.java:485)at Vdb.SlaveOnMaster.processSlave(SlaveOnMaster.java:151)at Vdb.SlaveOnMaster.run(SlaveOnMaster.java:42)

二、處理措施:

????????1、檢查裸盤路徑是否正確,如測試G盤裸盤性能,則測試參數指定為lun=\\.\G:
????????2、檢查是否有執行權限,cmd窗口需要以管理員身份運行

6.4 Minimum required Java version for Vdbench is 1.7.0

一、問題描述

??????????Linux下運行vdbench失敗,提示Minimum required Java version for Vdbench is 1.7.0; Vdbench terminated.

root@node65:/home/vdbench50406# ./vdbench -tCopyright (c) 2000, 2016, Oracle and/or its affiliates. All rights reserved. Vdbench distribution: vdbench50406 Wed July 20 15:49:52 MDT 2016 For documentation, see 'vdbench.pdf'.* * * * Minimum required Java version for Vdbench is 1.7.0;? * You are currently running 11.0.9.1 * Vdbench terminated. * * * CTRL-C requested. vdbench terminating

二、處理措施:

????????查看官方相關說明,vdbench50407以前的版本,存在java檢測功能(vdbench50407版本已移除),在不變更現有環境java版本的情況下,可升級版本至vdbench50407版本解決。

? ?// Removed as per 50407 because of java 1.10.x//checkJavaVersion();//....private static void checkJavaVersion(){if (common.get_debug(common.USE_ANY_JAVA))return;if (!JVMCheck.isJREValid(System.getProperty("java.version"), 1, 7, 0)){System.out.print("*\n*\n*\n");System.out.println("* Minimum required Java version for Vdbench is 1.7.0; \n" +"* You are currently running " + System.getProperty("java.version") +"\n* Vdbench terminated.");System.out.println("*\n*\n*\n");System.exit(-99);}}

????????版本發布說明:# Vdbench 50407 is now available

50407rc29

* ? The check to make sure you are running java 1.7 or higher has been removed.

7 參考資料

[01] https://blog.csdn.net/Micha_Lu/article/details/109227774
?

總結

以上是生活随笔為你收集整理的vdbench - 性能压力测试工具的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。

中文在线√天堂 | 一区二区视频在线免费观看 | 九色精品免费永久在线 | 久久免费视频观看 | 国产成人一区二区在线观看 | 一区二区三区四区影院 | 国产香蕉av | 在线观看成年人 | 久操中文字幕在线观看 | 欧美精彩视频 | 亚洲精品一区二区三区高潮 | 欧美日韩午夜爽爽 | 成人久久亚洲 | 亚洲精选在线观看 | 热99久久精品 | 国产精品18久久久久久久 | 午夜久久久久久久久久影院 | 狠狠躁夜夜躁人人爽超碰91 | 在线免费国产视频 | 91精品国产99久久久久久红楼 | 午夜视频在线观看网站 | 日韩系列在线 | 激情久久久 | 播五月综合 | 免费看黄在线观看 | 美女在线观看网站 | 欧亚日韩精品一区二区在线 | 日韩在线观看中文字幕 | 日韩网站在线 | 日韩在线电影一区二区 | 91视频久久久久久 | 在线看国产精品 | 国产又黄又硬又爽 | 欧美日韩视频在线观看一区二区 | 欧洲黄色片| 日韩久久久 | av看片网| 国产99在线免费 | 日本aaaa级毛片在线看 | 中文字幕av在线电影 | 在线 视频 一区二区 | 九九久久久久久久久激情 | 中文字幕视频一区 | 久久久久久久久久久电影 | 国产剧情一区 | 色婷婷电影网 | 波多野结衣电影久久 | 三级午夜片 | 一级黄色片在线免费看 | 天天干天天想 | 日韩视频欧美视频 | 久久国内免费视频 | av导航福利 | 成人亚洲网 | 91黄视频在线 | 国产在线高清视频 | 成 人 黄 色 视频播放1 | 久久艹影院 | 国产高清小视频 | 久久艹免费| 中文字幕乱码视频 | 精品一区精品二区 | 免费看一级黄色大全 | 狠狠色丁香九九婷婷综合五月 | 波多野结衣在线观看一区 | 精品影院一区二区久久久 | 中文字幕在线免费看 | 久久精品国产一区二区 | 亚洲干 | www.com黄色| 久久精品区 | 午夜精品久久久久久久99 | 成人午夜影视 | 国产黄色av网站 | 黄色免费观看视频 | 丁香高清视频在线看看 | 国产精品福利在线观看 | 992tv人人网tv亚洲精品 | 免费十分钟| 久久看毛片 | 欧美日韩3p| 伊甸园永久入口www 99热 精品在线 | 中文字幕人成人 | 四虎影视欧美 | 国产精品96久久久久久吹潮 | 五月婷婷一级片 | 97视频在线免费播放 | av在线播放快速免费阴 | 久久伦理电影 | www178ccom视频在线 | 亚洲一区久久 | 国产免费精彩视频 | 一区精品久久 | 成人香蕉视频 | 久草在线看片 | 国产91精品在线播放 | 极品国产91在线网站 | 欧美日韩伦理在线 | 操久久免费视频 | 成人污视频在线观看 | 欧美日韩高清免费 | 国产精品一级在线 | 久久一区二区三区四区 | 国产视频1区2区3区 久久夜视频 | 九九国产精品视频 | 色吊丝在线永久观看最新版本 | 狠狠狠狠狠狠干 | 91在线视频观看 | 国产最新视频在线观看 | 久久91久久久久麻豆精品 | 超级碰碰免费视频 | 夜色资源网 | 一级黄色片在线免费看 | 国产精品乱码一区二三区 | 天天色天天射天天干 | 久久国产精品99久久人人澡 | 精品国产伦一区二区三区免费 | 日韩激情第一页 | 久久精品男人的天堂 | 中文字幕久久久精品 | 天天插天天狠天天透 | 久久婷婷精品 | 欧美成人精品欧美一级乱 | 国产在线观看你懂得 | 久久精品中文字幕 | av色一区| 国产精品在线看 | 国产大片免费久久 | 免费a v网站 | 免费在线观看视频a | 伊人视频 | 正在播放国产一区 | 亚洲视频免费在线观看 | 制服丝袜在线 | 国产精美视频 | 视频在线观看一区 | 国产视频一 | 日韩在线激情 | 精品一区免费 | 亚州激情视频 | 欧美精品中文在线免费观看 | 久久激情视频 久久 | 美女福利视频一区二区 | 国产一区免费观看 | 一区二区理论片 | 黄色录像av| 欧美va天堂va视频va在线 | 久久精品视频在线免费观看 | 久久免费视频网 | 波多野结衣一区三区 | 国产黄色播放 | 国产xx在线| 狠狠干夜夜操天天爽 | 欧美激情精品久久久久久免费 | 免费毛片一区二区三区久久久 | 色综合综合 | 成人精品视频 | 最近中文字幕mv免费高清在线 | 国产色爽 | 国产91精品久久久久久 | 婷婷av网 | 夜夜骑日日操 | 中文字幕在线观看第一区 | 免费久草视频 | 成人国产精品久久久久久亚洲 | 亚洲国产精品成人综合 | 精品福利在线视频 | 成人在线免费视频 | 久久情侣偷拍 | 日韩精品国产一区 | 在线观看精品视频 | 成人黄色电影免费观看 | 五月色婷 | 久久96国产精品久久99软件 | 国产精品6999成人免费视频 | 久久香蕉电影网 | 日产中文字幕 | 91在线视频免费观看 | 在线观看视频99 | 亚洲国产精品一区二区久久hs | 美女视频a美女大全免费下载蜜臀 | a级黄色片视频 | 草免费视频 | 国产黄色免费电影 | 久久久久国产一区二区三区 | av在线免费观看网站 | 美女网站视频免费黄 | 在线免费观看黄色大片 | 婷婷六月色 | 最新中文字幕在线资源 | 亚洲欧美日韩精品一区二区 | 超碰97人| 国产一级免费观看视频 | 99激情网| 97在线视频免费观看 | а中文在线天堂 | 成+人+色综合 | 高清av影院 | 久久久麻豆精品一区二区 | 国产精品伦一区二区三区视频 | 中文字幕第一页在线播放 | 高清免费av在线 | 成人一级| 久久深夜| 国产精品丝袜 | 欧美日韩中 | 国产区 在线| 久久免费一级片 | 亚洲高清视频一区二区三区 | 午夜影视一区 | 亚洲最新视频在线播放 | 久久深爱网| 成年人在线看视频 | 在线a视频免费观看 | 国产精品99爱 | 久久一区二区三区国产精品 | 国产99免费视频 | 欧美a影视 | 麻豆首页 | 天天爽天天碰狠狠添 | 色偷偷av男人天堂 | 天天干夜夜 | a视频在线观看 | 国产精品一区二区三区在线免费观看 | 天天爽夜夜爽精品视频婷婷 | 久精品视频免费观看2 | 在线看黄网站 | 亚洲欧美国产精品18p | 免费三级黄色片 | 99在线观看视频网站 | 在线观看色视频 | 久久成年人 | 特级大胆西西4444www | 99热在线国产 | 免费福利片2019潦草影视午夜 | 亚洲va欧洲va国产va不卡 | 日韩av看片 | 丁香九月激情综合 | 人人狠狠综合久久亚洲 | 五月天综合激情 | 在线观看日本高清mv视频 | 天天天综合网 | 在线看日韩av | 国内亚洲精品 | 成片免费 | 国产手机在线观看视频 | 日韩电影中文字幕在线观看 | 国产成人免费高清 | 香蕉在线观看 | 四川妇女搡bbbb搡bbbb搡 | 午夜av电影 | 国产亚洲精品久久久久5区 成人h电影在线观看 | 久久成人黄色 | 亚洲综合五月 | 久草综合在线观看 | 69视频国产 | 亚洲国产资源 | 国产理论一区二区三区 | 免费看一级黄色大全 | 久草电影在线观看 | 九九免费观看全部免费视频 | www.亚洲在线 | 国产精品大片免费观看 | 亚洲日本va午夜在线电影 | 毛片黄色一级 | 亚洲午夜在线视频 | 久久久九色精品国产一区二区三区 | 麻豆精品在线视频 | 狠狠干综合 | 日韩精品中文字幕在线观看 | www.色婷婷| 91大神精品视频 | 欧美午夜性生活 | 久久99精品久久久久婷婷 | 在线看国产一区 | 日韩精品首页 | 综合五月 | 射射色 | 精品在线小视频 | 久久综合操 | 久久理论影院 | 日日夜夜狠狠干 | 国产婷婷vvvv激情久 | 天天射天天干天天插 | 最新国产精品拍自在线播放 | www.狠狠操 | 在线观看911视频 | 99久久视频| 久久久国产网站 | 免费日韩一区二区 | 色婷五月天 | 精品久久久久久综合 | 最近中文字幕视频完整版 | 久久久久久国产一区二区三区 | 粉嫩av一区二区三区四区五区 | 五月综合激情 | 三级黄色大片在线观看 | 99久久久久久 | 国产资源网站 | 欧美在线一二 | 在线国产中文字幕 | 99草在线视频 | 久精品视频 | 毛片网站在线观看 | 日韩黄色在线 | 欧美91精品 | 日韩精品一区二区免费视频 | 美女国产在线 | 欧美日韩啪啪 | 麻豆观看 | 超碰人人乐 | 97超碰人人澡人人 | 中文字幕亚洲欧美日韩 | 中文字幕在线观看完整版 | 99视频免费 | 国产二区精品 | 天天综合人人 | 91视频免费看网站 | 又色又爽又激情的59视频 | 五月天激情视频在线观看 | 在线91精品| 97精品超碰一区二区三区 | 国产中文字幕一区二区三区 | 香蕉视频在线观看免费 | 日本精品一区二区三区在线观看 | 中文字幕第一页在线播放 | 99久久综合国产精品二区 | 天天干视频在线 | 美女网站视频久久 | 中文字幕精品三级久久久 | 国产精品久久一区二区无卡 | 黄色www免费 | 日韩免费三区 | 国产精品九九久久久久久久 | 园产精品久久久久久久7电影 | 人人看97| 99热精品在线 | 中文字幕第一页在线 | 久久99精品久久久久婷婷 | 精品一二三区 | 亚洲91中文字幕无线码三区 | 欧美日韩视频一区二区三区 | 99精品免费观看 | 国产亚洲va综合人人澡精品 | 91一区二区在线 | 天天干天天拍天天操天天拍 | 国产手机在线 | 中文字幕在线观看完整 | 久久精品一区二区三区国产主播 | 国产99久久99热这里精品5 | 日本精品va在线观看 | 久久成人国产精品 | 国产精品久久久久国产a级 激情综合中文娱乐网 | 国内免费的中文字幕 | 国产在线精品一区二区三区 | 国产一区二区久久久 | 国产大片黄色 | 狠狠做六月爱婷婷综合aⅴ 日本高清免费中文字幕 | 美女性爽视频国产免费app | 久久久国产精华液 | 超碰精品在线 | 成人av资源网站 | 欧美日韩中文国产 | 久久久久麻豆v国产 | av免费在线网 | 97视频在线看 | 高清av网站 | 又黄又爽免费视频 | 国产综合婷婷 | 婷婷色亚洲 | 中文字幕在线免费看线人 | 国产精品不卡在线观看 | 日日干影院 | 日日成人网 | 国产精品免费视频久久久 | 亚洲精品婷婷 | 99麻豆视频 | 天天综合日 | 在线国产专区 | 日韩精品久久久久久久电影99爱 | 麻豆久久久久 | 在线亚洲欧美视频 | 在线观看亚洲免费视频 | 91丨九色丨91啦蝌蚪老版 | 国产一级特黄毛片在线毛片 | 成年人黄色在线观看 | 日韩精品1区2区 | 国产精品毛片一区二区在线看 | 久草9视频| 在线观看黄色大片 | 九九精品久久久 | 日韩欧美久久 | 亚洲精品视频免费观看 | 99视频精品在线 | 日韩在线国产精品 | 国产xxxx做受性欧美88 | 国产成人精品一区二区在线观看 | 欧洲精品久久久久毛片完整版 | 久久艹国产视频 | 国产超碰97 | 久久精品视频国产 | 伊人一级 | 特及黄色片 | 人人澡视频 | a特级毛片 | 999ZYZ玖玖资源站永久 | 亚洲毛片在线观看. | 免费午夜网站 | 麻花豆传媒mv在线观看 | 久久久穴 | 9797在线看片亚洲精品 | 亚洲五月婷 | 中文字幕一区二区三区乱码在线 | 亚洲一区二区高潮无套美女 | 香蕉久久久久久久 | 亚州精品视频 | 国产精品久久99综合免费观看尤物 | 成年人在线免费看视频 | 99久久精品免费看国产四区 | 麻豆久久久久久久 | 国产成人精品久久亚洲高清不卡 | 欧美伦理电影一区二区 | 久久超级碰 | 99久久夜色精品国产亚洲 | 黄av免费在线观看 | 色综合久久久久综合体桃花网 | 五月天久久综合网 | 丝袜美女在线 | 免费福利在线观看 | 日韩网站在线 | 国产精品久久久久影视 | 欧美另类老妇 | 亚洲精欧美一区二区精品 | 一区二区三区在线影院 | 在线观看日本高清mv视频 | 热热热热热色 | 亚洲精品在线视频播放 | 成人免费视频网站 | 日韩二三区 | 正在播放亚洲精品 | 人人狠狠 | 视频在线在亚洲 | 69久久夜色精品国产69 | 亚洲一级黄色大片 | 超碰在线个人 | 99中文字幕视频 | 精品国产网址 | 免费黄色a网站 | 99国产在线视频 | 91成人观看 | 亚洲精品乱码久久久久v最新版 | 九色精品免费永久在线 | 狠狠色丁香久久婷婷综 | 黄色三级网站在线观看 | 免费看一级黄色大全 | 中文字幕国产在线 | 中文字幕888 | 国产免费亚洲高清 | 色av网站 | 日本天天操 | 在线播放国产精品 | 国产91免费在线 | 日批视频在线 | 在线中文字幕网站 | 国产精品久久久久久久久久白浆 | 蜜桃av人人夜夜澡人人爽 | 在线视频精品 | 香蕉网站在线观看 | 欧美在线18 | 日本h在线播放 | 草莓视频在线观看免费观看 | 久久免费视频这里只有精品 | 国产高清视频在线观看 | 91插插插免费视频 | 欧美日韩啪啪 | 777xxx欧美 | 久久久免费观看完整版 | 手机在线日韩视频 | 天天天综合 | www看片网站 | 国产亚洲精品久久久久久久久久久久 | 青青视频一区 | 日韩va欧美va亚洲va久久 | 亚洲精品视频大全 | 婷婷综合在线 | 日日噜噜噜噜夜夜爽亚洲精品 | 中文字幕一区二区三区四区久久 | 日本精品久久久一区二区三区 | 国产综合小视频 | 国产在线色站 | 欧美色图东方 | 欧美日韩一区二区免费在线观看 | 国产精品免费av | 免费男女羞羞的视频网站中文字幕 | 天堂av在线免费观看 | 亚洲男模gay裸体gay | 国产福利精品一区二区 | 色黄www小说 | 国产精品k频道 | 丁香六月天 | 又黄又刺激的网站 | 狂野欧美激情性xxxx欧美 | 久久精品视频免费观看 | 久久午夜鲁丝片 | 在线播放日韩av | 婷婷丁香狠狠爱 | 免费高清国产 | 免费在线观看中文字幕 | 日韩网站中文字幕 | 日韩爱爱网站 | 草久久久久 | 国产精品99久久久精品 | 久久久99国产精品免费 | 四虎成人精品永久免费av | 一区二区三区四区不卡 | 国产免费嫩草影院 | 毛片网站在线观看 | 国产精品黑丝在线观看 | 手机av观看| 9久久精品 | 免费在线观看av网址 | 91av在线免费播放 | 天天干天天操天天干 | 亚洲一区二区精品在线 | 日韩a级黄色 | 在线国产能看的 | 午夜国产影院 | 免费av片在线 | 天天夜操| 国产美女精品视频 | 国产高清视频免费在线观看 | 亚洲国产精品第一区二区 | 91你懂的| 亚洲午夜久久久久 | 国产精品va在线观看入 | 亚洲 欧美 另类人妖 | 又粗又长又大又爽又黄少妇毛片 | 国产成人一区二区啪在线观看 | 久久av免费观看 | 66av99精品福利视频在线 | 午夜狠狠干 | 91精品视频免费观看 | 欧美在线a视频 | 黄色电影在线免费观看 | 中文字幕日韩av | 国产一区二区播放 | 国精产品999国精产品岳 | 草莓视频在线观看免费观看 | 丁香六月欧美 | 国产免费观看视频 | 日韩免费中文字幕 | 国产视频在线免费观看 | 成人a v视频 | 久久久国产一区二区三区四区小说 | 欧美精品一区二区在线播放 | 亚洲综合在线观看视频 | 亚洲精品乱码久久久久久高潮 | 一区 二区 精品 | 99精品免费久久久久久日本 | 成人av网站在线观看 | 亚洲九九九在线观看 | 色综合久| 婷婷激情综合 | 天天干天天干天天色 | 国产馆在线播放 | 久久一本综合 | 午夜久操 | 国产a级免费 | 国产精品人人做人人爽人人添 | 免费在线观看国产精品 | 天天摸天天干天天操天天射 | 在线视频欧美日韩 | 在线观看免费国产小视频 | 久久久网站| 中文字幕字幕中文 | 91国内在线| 日本久久综合网 | 久久综合色天天久久综合图片 | 成人黄色片在线播放 | 国产精品久久久久久模特 | 免费99视频 | 在线国产精品视频 | 欧美日韩久久一区 | 亚洲一级片| 色a在线观看 | 久久久久久久久久网站 | 毛片网站观看 | 国产麻豆精品久久一二三 | 国产高清视频 | 国产高清一区二区 | 91精品国产综合久久福利不卡 | 激情五月婷婷激情 | 九九热免费在线观看 | 在线视频观看你懂的 | 美女黄频 | 亚洲精品久久久蜜桃直播 | 久久专区 | 在线观看日本韩国电影 | 亚洲精品视频www | 国产一级一片免费播放放 | 天天干天天爽 | 香蕉网站在线观看 | 97精品欧美91久久久久久 | 久久黄色a级片 | 亚州精品一二三区 | 五月天综合色激情 | 亚洲色图av | 99久久精品免费看国产麻豆 | 一级淫片在线观看 | 在线免费国产视频 | 国产又粗又长的视频 | 在线免费高清一区二区三区 | 久久综合狠狠综合久久激情 | 国产精品久久久久四虎 | 久久综合久久八八 | 成人黄色av网站 | 国产精品毛片一区二区在线 | 欧美日韩国产精品一区 | 99久久久久成人国产免费 | 午夜久久美女 | 久久蜜桃av | 成人久久久久久久久久 | 亚洲春色综合另类校园电影 | 成+人+色综合| 三级大片网站 | 国产美女视频免费观看的网站 | 久要激情网| 国产一区二区在线免费播放 | 成人毛片一区二区三区 | 久久久黄视频 | 99久久精品国产一区二区成人 | 久久国产精品99久久久久 | 国产小视频你懂的在线 | 日韩www在线 | .国产精品成人自产拍在线观看6 | 国产亚洲视频在线观看 | 久久超碰在线 | 一区二区三区不卡在线 | 久久久国产精品麻豆 | 国产 日韩 中文字幕 | 日韩激情影院 | 网址你懂的在线观看 | 久久婷婷五月综合色丁香 | 91.dizhi永久地址最新 | 在线小视频你懂得 | 毛片二区 | 国色天香永久免费 | 久久人人97超碰精品888 | 久久国产精品久久精品国产演员表 | 日韩免费观看一区二区三区 | 久久久久久久久久久久久国产精品 | 国产淫片免费看 | 欧美一级性视频 | 亚洲在线免费视频 | 国产精品第7页 | 亚洲精品美女 | 欧美吞精 | 欧美日本三级 | 中文字幕一区二区三区精华液 | 九色视频自拍 | 色偷偷男人的天堂av | 亚洲激情校园春色 | 97成人资源 | 亚洲天天在线日亚洲洲精 | 狠狠干狠狠艹 | 日日干av | 国内精品久久久久久久久 | 国产一级性生活 | 国产一级高清视频 | 久久免费公开视频 | 国产精品视频99 | 探花国产在线 | 99精品国产99久久久久久97 | 亚洲最大在线视频 | 午夜精品一区二区三区在线播放 | 亚洲成人av在线 | 成人羞羞视频在线观看免费 | 国产做a爱一级久久 | 91视频免费观看 | 国产精品美女视频 | 亚洲精品高清一区二区三区四区 | 亚洲精品久久久久999中文字幕 | 日本精品视频一区 | 三级黄色大片在线观看 | 欧美亚洲成人免费 | 欧美日韩调教 | 婷婷深爱激情 | 国产激情电影综合在线看 | 天堂av在线免费 | 4hu视频| 久久精品看片 | 超碰国产在线播放 | 亚洲欧洲一区二区在线观看 | 精品在线免费观看 | 日韩在线视频一区二区三区 | 美女久久99| 成人h电影 | 天堂av最新网址 | 午夜av免费看 | 爱情影院aqdy鲁丝片二区 | 精品久久影院 | av千婊在线免费观看 | 五月天中文字幕 | 国产精品1区2区在线观看 | 国产精品永久在线观看 | 日韩在线观看一区二区三区 | 91人人视频在线观看 | 手机在线小视频 | 中文字幕在线观看视频一区 | 天天射天天干天天操 | 欧美一级视频免费 | 天天艹日日干 | 国产成人福利在线 | 久久综合久久久久88 | 国内久久精品视频 | 精品久久一二三区 | 一区二区电影网 | 免费看一级特黄a大片 | 色综合天 | 91日韩免费 | 夜夜夜夜爽| 日韩欧美在线视频一区二区三区 | 992tv又爽又黄的免费视频 | 日日夜夜中文字幕 | 亚洲日本在线一区 | 中文字幕一区二区在线观看 | 国产一区成人在线 | 在线观看一区视频 | 99久久一区 | 午夜18视频在线观看 | 免费在线观看av电影 | 视频在线99 | 夜夜视频 | 国产高清黄 | 婷婷久久久久 | 国产九九热| 亚洲高清激情 | 成人一级片在线观看 | 亚洲一区网| 久久久久久久久免费视频 | 日韩a级黄色片 | 四虎永久免费在线观看 | 黄色片网站| 久免费| 亚洲区另类春色综合小说校园片 | 日韩特黄一级欧美毛片特黄 | 美腿丝袜一区二区三区 | 久久成熟| 不卡电影一区二区三区 | 五月婷香蕉久色在线看 | 美女视频黄免费的久久 | 久久精品伊人 | 色a在线观看 | 中文字幕一区二区三区精华液 | 中文字幕美女免费在线 | 99精品乱码国产在线观看 | 亚洲精品一区二区三区高潮 | 在线亚洲激情 | 91成人免费电影 | www免费网站在线观看 | 日本久久久久久科技有限公司 | 天天操天天草 | 亚洲黄色软件 | 亚州av网站| 久久9999久久免费精品国产 | 久久国产成人午夜av影院潦草 | 久久亚洲区 | 久草视频免费播放 | 麻豆久久久久久久 | 精品日本视频 | 国产粉嫩在线观看 | 人人干免费 | 久久久一本精品99久久精品66 | 亚洲国产影院 | 成人三级网址 | 中文字幕久久精品 | wwwwww色| 国产精品精品视频 | 国产经典 欧美精品 | 欧美日在线观看 | 国内精品久久久久久久久久清纯 | 欧美精品久久久久久久久久白贞 | 日韩av电影网站在线观看 | 成人午夜电影久久影院 | 色综合久久中文字幕综合网 | 国产成人精品女人久久久 | 日韩免费av网址 | 99久久精品久久久久久清纯 | 四虎海外影库www4hu | 国产精品久久久久久久久久久久午 | 久久久久久麻豆 | 91视频 - x99av | 国产日韩在线播放 | 99九九99九九九视频精品 | 欧美欧美| 在线观看中文av | 国产精品午夜免费福利视频 | 国产精品美女网站 | 欧美日韩视频 | 99热官网 | 麻豆mv在线观看 | 日本精品一二区 | 国产一二区精品 | 欧美 日韩 视频 | 丁香六月天 | 美女国产网站 | 久久躁日日躁aaaaxxxx | 亚洲一级免费电影 | 日韩免费三区 | 国产另类av| 欧美视频在线观看免费网址 | 又污又黄网站 | 天堂在线一区二区三区 | 99精品视频在线观看 | 区一区二区三在线观看 | 欧美精品在线观看免费 | 久久婷婷国产色一区二区三区 | 国产 欧美 日韩 | 在线日韩亚洲 | 午夜aaaa| 久草在线资源观看 | 国产中文字幕亚洲 | 久久免费视频网站 | 精品久久中文 | 91麻豆精品国产午夜天堂 | 中文在线www | 一级做a视频| 天天躁日日躁狠狠 | 国产一性一爱一乱一交 | 成人黄色小说网 | 久久免费精品视频 | 亚洲成av片人久久久 | 狠狠的干狠狠的操 | 麻豆精品在线视频 | 中文字幕91| 97电影院网 | 久久九九九九 | 亚洲精品综合一二三区在线观看 | 欧美一级久久久久 | 午夜av在线播放 | 成人app在线免费观看 | 91在线免费观看网站 | 最新中文字幕在线观看视频 | 亚洲综合欧美日韩狠狠色 | 欧美日产一区 | 婷婷免费在线视频 | www色| 久草在线费播放视频 | 精品久久1 | 国产精品综合av一区二区国产馆 | 天天操比 | 免费三级大片 | 99久热在线精品视频成人一区 | 国产精品va最新国产精品视频 | 狠狠色丁香九九婷婷综合五月 | 一区二区三区在线视频111 | 亚洲精品中文在线 | 亚洲精品免费在线播放 | 日韩成人在线一区二区 | 欧美精品久久久久久久免费 | 午夜国产一区二区 | 亚洲国产精品激情在线观看 | 久久久片 | 伊人狠狠操 | 亚洲精品久久激情国产片 | 91精品视屏| 国产一区二区手机在线观看 | 波多野结衣视频一区二区三区 | 视频在线91 | 日韩久久久久久久久久久久 | 国产96在线| 国产成人av在线 | 五月婷网| 伊人网综合在线观看 | 精品久久久久久电影 | 丰满少妇一级 | 成人免费毛片aaaaaa片 | 九九免费在线观看视频 | 综合久色 | 天天综合久久综合 | 国产九九九精品视频 | 热久久国产精品 | 丝袜av一区 | 亚洲欧洲精品一区二区精品久久久 | 亚洲1级片 | 亚洲视频久久 | 国产爽视频| 国产又粗又猛又色又黄网站 | 99久久久久久 | 人人插人人澡 | 福利一区二区在线 | 91精品办公室少妇高潮对白 | 亚洲天堂色婷婷 | 国产精品国产三级国产 | 国产一区视频在线观看免费 | a在线一区 | 狠狠色丁香久久婷婷综 | 免费久草视频 | 久久久久久久久久久网 | 久草在线精品观看 | 久爱精品在线 | 麻豆视频免费在线观看 | 在线视频久 | 日批视频在线播放 | 国产一区视频在线观看免费 | 国产亚洲精品成人av久久影院 | 激情欧美丁香 | 一级黄色在线免费观看 | 精品久久久成人 | 在线日韩 | 97成人精品视频在线播放 | 免费在线观看成人av | 欧美中文字幕久久 | 成人一级片在线观看 | 国产v在线观看 | 麻豆视频免费观看 | 国产精品1区2区在线观看 | 一本一本久久a久久精品综合妖精 | 国产精品免费久久久 | 碰超在线| 综合五月婷婷 | 午夜久操 | www.狠狠色| 奇米777777| 成人av在线网| 国产精品99久久久久久久久久久久 | 99精品国产99久久久久久福利 | 91网址在线观看 | 中文字幕日韩国产 | 国产亚洲在线 | 伊人国产在线播放 | 成人 亚洲 欧美 | 欧美激情精品久久久久久变态 | 激情五月婷婷丁香 | 黄网站色视频 | 二区在线播放 | 色综合久久五月天 | 成人在线免费看视频 | 99视频99| 婷婷丁香社区 | 手机看片福利 | 五月综合激情婷婷 | 美女网站色 | 午夜18视频在线观看 | 日韩中文字幕亚洲一区二区va在线 | 国产亚洲成人网 | 99视频在线| 99精品视频在线观看免费 | 在线观看国产日韩欧美 | 国产成人久久精品亚洲 | 2023亚洲精品国偷拍自产在线 | 欧美日韩国产一二 | 激情文学综合丁香 | 91亚洲精品久久久中文字幕 | 久久精品91久久久久久再现 | 久久乱码卡一卡2卡三卡四 五月婷婷久 | 手机在线中文字幕 | 国产精品男女啪啪 | 天天射,天天干 | 91成人在线免费观看 | 日韩精品一区二区在线观看视频 | 日本深夜福利视频 | 欧美日韩精品久久久 | 天天插狠狠干 | 在线播放一区 | 久久久久久欧美二区电影网 | 久久综合成人网 | 国产一区二区三区免费在线 | 狠狠狠色丁香婷婷综合激情 | www在线免费观看 | 亚洲伦理中文字幕 | 欧美日韩一级视频 | 在线v| 久草av在线播放 | 91成人在线视频 | 狠狠的操你 | 亚洲在线成人精品 | 日韩精品一区二区三区不卡 | aaa毛片视频 | 国产精品岛国久久久久久久久红粉 | 91成年人视频 | 九九综合在线 | 国产一区二区影院 | 97在线观看免费视频 | 国产精品激情偷乱一区二区∴ | 国产精品久久 | 欧美一级免费片 | 精品国产视频在线 | 成年人在线免费视频观看 | 国产精品久久久久久久久久久免费看 | 日韩精品在线观看av | 精品久久久久_ | 日韩一二三 | 免费情趣视频 | 天天天综合网 | 免费看片网址 | 黄色aa久久 | 中文字幕国产 |