日韩av黄I国产麻豆传媒I国产91av视频在线观看I日韩一区二区三区在线看I美女国产在线I麻豆视频国产在线观看I成人黄色短片

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程语言 > c/c++ >内容正文

c/c++

VCS的安装信息

發布時間:2024/3/24 c/c++ 39 豆豆
生活随笔 收集整理的這篇文章主要介紹了 VCS的安装信息 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
目 錄
1 VCS簡介 7
2 概念/原理 8
2.1 集群 8
2.2 資源和資源類型 9
2.3 資源組 9
2.4 資源依賴關系 9
2.5 代理 10
3 VCS資源/代理介紹 10
3.1 普通資源 10
3.2 Oracle資源 14
3.3 DB2資源 15
4 VCS安裝/補丁 16
4.1 安裝準備 16
4.2 VCS安裝 16
4.3 補丁安裝 18
4.4 檢查狀態 18
5 VCS規劃/配置 19
5.1 規劃 19
5.2 配置 20
5.2.1 添加資源組 20
5.2.2 添加資源 20
5.2.3 設定資源依賴關系 22
5.2.4 調整資源類型與屬性 22
5.3 配置檢驗 23
5.3.1 雙機啟動 23
5.3.2 雙機切換 24
5.3.3 系統退出 24
5.3.4 應用停止 24
5.3.5 單個心跳網絡故障 24
6 VCS管理/維護 25
6.1 啟動VCS雙機 25
6.2 停止VCS雙機 25
6.3 狀態查詢 25
6.4 基本管理操作 27
7 VCS方案比較 27
7.1 SMS GW 27
7.2 PortalOne 28
7.2.1 DB2 29
7.2.2 PortalOne 29
7.3 MDSP 30
7.3.1 ORACLE 30
7.3.2 DB2 30
7.4 TopEng SLTS 31
7.5 GFEP 32
7.6 PISA 32
7.6.1 Service Server 32
7.6.2 MC Server 33
7.6.3 DBMS Server 34
7.6.4 Media Server 35
8 附錄 36
8.1 集群分裂 36
8.2 業務流程 36
8.2.1 集群啟動 36
8.2.2 資源上線 37
8.2.3 資源下線 37
8.2.4 資源組上線 37
8.2.5 資源組下線 38
8.2.6 資源故障 38
8.2.7 節點故障 39
8.2.8 網絡連接故障 39
8.2.9 資源組手工切換 39
8.2.10 資源組故障切換 39
8.3 配置文件 40
8.3.1 main.cf 40
8.3.2 types.cf 40
8.4 VCS日志 41
8.5 故障處理 42
8.5.1 VCS啟動 42
8.5.2 資源組 42
8.5.3 資源 43
8.6 VCS故障實例 44
8.6.1 切換后故障不自動恢復 44
8.6.2 集群進入ADMIN_WAIT狀態 45
8.6.3 集群進入STALE_ADMIN_WAIT狀態 45


Veritas VCS雙機方案白皮書
關鍵詞:VCS、雙機、故障切換

摘 要: 本文介紹了VCS集群軟件的雙機安裝、設計、配置、典型故障等內容,并比較業軟不同產品的方案。

術語清單
術語 中文名稱 解釋
Cluster 群集 高可用性的計算機系統
System 節點 服務器
Resource 資源 監控對象
Service Group 資源組 切換的最小單位


1 VCS簡介
VCS(VERITAS Cluster Server)是由VERITAS公司提供的集群管理軟件。VCS提供了一個集群系統解決方案,應用于部署業務雙機系統,可監控系統和應用服務,并方便的實現主備機快速切換,從而解決單點故障問題。當發生故障時,VCS在主機上停止應用、卸載磁盤、釋放浮動IP,在備機上綁定浮動IP、掛載磁盤、啟動應用。每臺服務器最少要配置三塊網卡,其中一塊網卡加載浮動IP對外提供業務,另外兩塊是VCS的心跳網卡。

VCS使用集群通信查詢資源組和資源的狀態,以及集群狀態變化的事件,如節點加入、節點退出、節點故障。下圖是VCS集群通訊的總體架構,其中心跳線之間的通信由模塊LLT和GAB實現。HAD進程是VCS的核心進程,hashadow監控HAD進程的運行,如果HAD進程異常中止,hashadow會將HAD進程進行重啟動。而對應用的監控在Agents中實現。在集群中Agents監控資源的狀態并和HAD交互資源狀態,然后本地HAD通過GAB和LLT與集群中的其它節點交互信息。

? HAD (High-Availability Daemon)
HAD是運行于每個系統的高可用進程,HAD被看作是“VCS的發動機”。它從本機接收各種Agents的信息,然后把這些信息轉發到其它系統。它也能從其它系統接受消息來跟新本地系統狀態。HAD被同樣運行在每個系統的hashadow所監控。
? GAB (Group Membership Services/Atomic Broadcast)
GAB用于監控集群成員的數量、探測集群狀態和分發信息到集群中各系統(節點)。VCS的集群成員是指通過心跳線連接在一起的擁有相同的群組ID的系統。當一個系統加入群組以后,GAB就會發出一條“加入群組”的消息。群組成員關系則是通過周期性心跳來維護,當一個系統在心跳超時時間內沒有接收到心跳,就認為對端已經故障或從群組中脫離。
? LLT (Low Latency Transport)
LLT用來實現集群中系統之間的通信,它用來發送、接收心跳消息,從而監測群中的節點是否“健康”。LLT提供了一個快速、內核到內核的通信并且監測網絡的連接狀態,其相當于其它系統中的IP協議棧。
2 概念/原理
2.1 集群
VCS集群是由許多(一般為兩個)連接在一起的節點(即服務器/小型機)組成。集群中的節點擁有相同的集群ID,它們通過冗余的私有網絡連接在一起,周期性傳遞心跳、信號。
2.2 資源和資源類型
資源(Resource)是提供業務的硬件或軟件實體,如:網卡、IP、數據庫等。VCS通過唯一的名字來識別每一個資源。同一資源類型的資源擁有相似的特征,例如兩個IP資源都是通過IP類型定義的。VCS資源啟動、停止、檢測的方法依資源類型的不同而不同,如IP資源的啟動就是把IP地址分配給網卡,IP資源的監測就是檢測IP地址是否綁定在網卡上。
2.3 資源組
VCS的資源組(Service Group)是運行在集群上的一組相關資源的集合,其中包含了一些相互關聯的資源。例如,一個Web應用的資源組可能包含下面的資源:
◆ 卷組
◆ 卷
◆ 文件系統
◆ 數據庫
◆ 網卡
◆ 浮動IP
◆ 應用程序
資源組是業務切換的基本單位,VCS資源的啟動、停止、監測、重啟等操作都以資源組為單位。例如,當資源組被拉起來以后,資源組中的所有資源都會被拉起來。在一個集群中可以定義多個資源組。
2.4 資源依賴關系
單個資源在運行時可能要依賴其它類型的資源,如IP地址資源依賴于網卡資源,因此在資源上線時要保證一定的先后順序。VCS中設計了資源的依賴關系,即資源間的父/子關系,子資源在父資源之前上線,在父資源之后下線。這樣當一個資源組上、下線時,資源組中的所有的資源就會根據資源之間的依賴關系依次上、下線。下面是資源組依賴關系的示例:

在上圖中,上層的(父)資源要依賴于下層的(子)資源,例如Volume資源依賴Disk Group資源,而Mount資源依賴Volume資源。
2.5 代理
代理(Agent)是控制一種特定類型資源的程序,VCS通過代理來管理各類資源,每一類資源對應一種代理。代理在資源和VCS之間扮演了一種“媒介”的作用,即在資源和VCS之間傳遞信息。例如,VCS要拉起Oracle資源,但VCS不需要認識Oracle資源,它只要把上線命令傳遞給Oracle的代理,Oracle的代理就會執行Oracle的啟動命令。
VCS對資源的管理非常靈活,如果在資源組中沒有添加某資源,則說明VCS不會通過代理該資源進行直接的控制和監控。此時VCS仍可在其它資源的代理中調用腳本來間接的控制該資源,并通過監控整個應用的狀態來間接的監控該資源。
3 VCS資源/代理介紹
本章介紹一些常見的VCS代理,更詳細的描述請參考《VCS Agents Reference Guide》。
3.1 普通資源
1、 DiskReservation
為節點保留(reserve)并監控SCSI磁盤,磁盤被某節點保留后其它節點無法訪問或更改,從而避免數據損壞。DiskRerservation支持指定多個裸磁盤設備,支持保留整個磁盤或保留一定比例的磁盤空間。
功能 備注
Online 保留指定的磁盤
Offline 釋放保留的磁盤
Monitor 監控保留磁盤的狀態
關鍵屬性 備注
Disks 需要保留的裸磁盤設備列表,如{"/dev/sdb","/dev/sdc","/dev/sdd","/dev/sde"}。注意:列表中的設備順序在不同系統中必須相同。
Percentage 保留磁盤空間的百分比,范圍51~100,缺省為100。
2、 DiskGroup
控制并監控VxVM(Veritas Volume Manager)磁盤組,因此該代理使用VxVM命令。DiskGroup資源依賴于DiskReservation資源。為了保證數據的一致性,當有數據寫入磁盤組中的卷時,DiskGroup代理禁止切換。
功能 備注
Online 使用vxdg命令加載(import)磁盤組
Offline 使用vxdg命令卸載(export)磁盤組
Monitor 使用vxdg命令監控磁盤組狀態
關鍵屬性 備注
DiskGroup 通過VxVM配置的磁盤組,如oradg
StartVolumes 設置為1時,加載磁盤組后online腳本啟動所有邏輯卷。缺省為1
StopVolumes 設置為1時,卸載磁盤組前offline腳本停止所有邏輯卷。缺省為1
3、 Volume
控制并監控VxVM卷,Volume資源依賴于DiskGroup資源。
功能 備注
Online 使用vxrecover命令啟動卷
Offline 使用vxvol命令停止卷
Monitor 通過裸設備接口讀塊(block),從而監控卷狀態
關鍵屬性 備注
DiskGroup 卷所在的磁盤組
Volume 通過VxVM配置的卷
4、 LVMVolumeGroup
控制并監控LVM2(Logical Volume Manager)卷組,因此該代理使用LVM2命令。LVMVolumeGroup資源依賴于DiskReservation資源。
功能 備注
Online 使用vgimport命令加載卷組
Offline 使用vxexport命令卸載卷組
Monitor 使用vxdisplay命令監控卷組狀態
關鍵屬性 備注
VolumeGroup 通過LVM2配置的卷組,如datavg1
StartVolumes 設置為1時,加載卷組后online腳本啟動所有邏輯卷。缺省為0
5、 Mount
控制并監控文件系統或NFS的客戶掛接點。
功能 備注
Online 將塊設備掛載到目錄上
Offline 卸載(unmount)塊設備
Monitor 監控文件系統是否已掛載
Clean 強制卸載塊設備
關鍵屬性 備注
BlockDevice 需要掛載的塊設備,如/dev/vx/dsk/db2dg/lv_db2
如果設備是LVM2卷,則格式為:/dev/mapper/volume-group-logical-volume,如/dev/mapper/datavg1-lvinfox
如果文件系統類型是NFS,則格式為:server:/path/to/share,如vcslnx1.veritas.com:/usr/share1
FsckOpt fsck命令參數,如-y %-n。當非NFS掛載處理失敗時,代理使用此參數運行fsck命令并嘗試重新掛載
MountPoint 掛接點目錄,如/infoxshare
FSType 文件系統類型,支持的類型有vxfs, bind, ext2, ext3, nfs等
6、 IP
控制在接口上配置虛擬(浮動)IP及其子網掩碼。IP資源依賴于NIC資源。
功能 備注
Online 在NIC上配置IP地址,并檢查是否有其它系統也在使用該IP地址
Offline 卸載Address屬性指定的IP地址
Monitor 監控接口并測試其上IP地址的狀態
Clean 卸載指定接口上的IP地址
關鍵屬性 備注
Address 浮動IP地址,如10.0.0.1
Device 浮動IP所在的網卡,如eth1,bond0
NetMask 浮動IP的子網掩碼,如255.255.255.128
Options ifconfig命令參數,如broadcast 10.10.10.255。代理使用ifconfig命令將IP地址配置到接口上,Options是執行命令時的參數
7、 NIC
監控配置的網卡。當網絡連接中斷或網卡故障時,網卡被標識為FAULTED。
功能 備注
Monitor 監控配置的網卡(Network Interface Card)。如果NIC自行維護連接狀態,代理使用MII確定資源狀態;否則,代理向NetworkHosts屬性列表中的所有主機發送ping包,并在ping測試成功時標識NIC資源狀態online;當NetworkHosts屬性列表為空或ping測試失敗時,代理通過判斷NIC收到的報文數有增長是標識NIC資源狀態online
關鍵屬性 備注
Device 要監控的網卡
8、 NFS
控制并監控NFS文件系統所需的nfsd、mountd、statd、lockd守護進程(daemon)。
功能 備注
Online 啟動守護進程
Offline 終止守護進程
Monitor 監控守護進程
Clean 終止守護進程
9、 Share
為遠端系統掛接的NFS文件系統設置、取消本地資源的共享,并監控本地資源。Share資源依賴于NFS資源。
功能 備注
Online 為指定的客戶端導出/共享(Export/Share)一個目錄
Offline 取消導出目錄的共享
Monitor 監控導出目錄的共享
關鍵屬性 備注
PathName 共享目錄的路徑
Client 指定的客戶端地址,“*”表示不限制
10、 Application
Application是最常用的代理,其作用是啟動并監控應用資源。Application資源的依賴關于隨系統上下文而不同,一般包括IP、Mount等資源。
功能 備注
Online 在特定的用戶上下文環境中使用指定的參數運行StartProgram
Offline 在特定的用戶上下文環境中使用指定的參數運行StopProgram
Monitor 在指定MonitorProgram的情況下,代理在特定的用戶上下文環境中運行MonitorProgram。從而監控應用
100表示offline
101-110表示online(可信度不同)
110表示100%可信的online狀態
Clean 終止PidFiles或MonitorProcesses中指定的進程。如果定義了CleanProgram,代理執行CleanProgram
關鍵屬性 備注
StartProgram 啟動應用資源的可執行文件(包括腳本)
StopProgram 終止應用資源的可執行文件
CleanProgram 強行終止應用資源的可執行文件
MonitorProgram 監控應用資源的可執行文件(MonitorProgram、PidFiles、MonitorProcesses中至少選擇一個)
MonitorProcesses 需監控和強行終止(Clean)的應用資源的進程名列表
PidFiles 需監控和強行終止的應用資源的進程ID列表
User 執行StartProgram、StopProgram、MonitorProgram、CleanProgram的用戶
3.2 Oracle資源
1、 Oracle
啟動并監控Oracle進程。
功能 備注
Online 調用svrmgrl或sqlplus命令啟動Oralce數據庫:startup pfile=$PFile force
Offline 使用指定參數調用svrmgrl或sqlplus命令終止Oralce數據庫:shutdown immediate
Monitor 監控Oracle狀態。Oracle代理提供了兩級監控模式:
1、基礎監控時,代理通過檢測關鍵進程判斷Oracle是否在運行(具體方法在操作系統進程表中查找ora_dbw、ora_smon、ora_pmon、ora_lgwr進程);
2、詳細監控時,代理在測試表中執行事務以確定Oracle功能正常
Clean 調用svrmgrl或sqlplus命令強制終止Oralce數據庫:shutdown abort。
如果shutdown命令不起作用,代理從進程表中獲取和配置實例關聯的進程并將其kill掉
關鍵屬性 備注
Sid 代表數據庫實例的$ORACLE_SID變量
Owner /etc/passwd中定義的數據庫表和文件的所有者
Home Oracle二進制文件和配置文件的路徑,即$ORACLE_HOME
DetailMonitor 詳細監控的檢測周期。缺省為0,即不激活詳細監控
MonScript 詳細監控的腳本及其路徑
User 連接數據庫進行詳細監控的數據庫用戶
Pword 上述數據庫用戶經加密后的密碼
Table 使用User/Pword進行更新(update)操作的表名
2、 Netlsnr
控制并監控Oracle監聽器進程(Listener Process),監聽器進程負責監聽客戶端的連接請求并將其轉交給數據庫服務器進程。
功能 備注
Online 使用lsnrctl start $LISTENER命令啟動監聽器進程
Offline 使用lsnrctl stop $LISTENER命令終止監聽器進程
Monitor 監控監聽器進程狀態。Netlsnr代理提供了兩級監控模式:
1、基礎監控時,代理通過檢測tnslsnr進程判斷監聽器進程是否在運行;
2、詳細監控時,代理使用lsnrctl status $LISTENER命令檢測監聽器狀態
Clean 從進程表中查找tnslsnr $Listener進程并將其kill掉
關鍵屬性 備注
Owner /etc/passwd中定義的數據庫表和文件的所有者
Home Oracle二進制文件和配置文件的路徑,即$ORACLE_HOME(環境變量)
TnsAdmin 監聽器配置文件(listener.ora)的路徑,即$TNS_ADMIN,缺省值為/var/opt/oracle
Listener 監聽器名稱,缺省值為LISTENER
MonScript 詳細監控的腳本及其路徑。當本屬性為空或非法時,不激活詳細監控
3、 Sqlnet
VCS3.5版本使用Sqlnet代理監控Oracle監聽器資源,其功能和配置與Netlsnr基本相同。
3.3 DB2資源
1、 Db2udb
啟動并監控DB2 UDB進程。
功能 備注
Online 使用db2start或db2gcf命令啟動DB2實例
Offline 使用db2stop或db2gcf命令終止DB2實例
Monitor 監控DB2實例狀態。Db2udb代理提供了兩級監控模式:
1、淺層監控時,代理通過執行db2nps或db2gcf命令監控DB2 UDB實例;
2、深度監控時,代理執行查詢語句檢測DB2實例的狀態
Clean 使用db2nkill或db2gcf命令終止DB2實例
關鍵屬性 備注
DB2InstOwner 啟動DB2 UDB實例(instance)的實例所有者(Owner)的用戶ID,如db2inst1
DB2InstHome 保存DB2實例配置文件的DB2 UDB主目錄,如/home/db2inst1
IndepthMonitor 設置為1表示激活深度監控,缺省值為0
DatabaseName 進行深度監控的DB2數據庫名稱,如mdpdb
4 VCS安裝/補丁
4.1 安裝準備
1、 配置網卡IP,并測試IP是否可用;
2、 配置主機名,并將對方主機的IP和名字加入到/etc/hosts;
3、 設置SSH,建立雙機信任關系。
# ssh-keygen -t dsa
# cd /root/.ssh
# cp id_dsa.pub authorized_keys
# scp -r /root/.ssh root@host2: /root/.ssh
4.2 VCS安裝
下面VCS的關鍵安裝步驟,部分接受默認選項的步驟沒有羅列出來。另外,不同版本的VCS,其安裝流程可能有少部分不同。
1. 以root用戶登錄,插入安裝光盤并mount
#mount /media/cdrom
2. 進入安裝目錄,執行安裝命令
#cd /media/cdrom/sles9_i586/cluster_server
#./installvcs
3. 確定安裝VCS的系統(節點)
Enter the system names separated by spaces on which to install VCS: DB1 DB2
VCS可以自動在多臺服務器上安裝,在這里輸入所有要安裝VCS的系統(主機)名,并確認系統名已被設置在/etc/hosts中了。
4. 輸入并驗證License
VCS Licensing Verification:
Checking VCS license key on DB1 .................................... not licensed
Enter a VCS license key for DB1: [?] XXX-XXXX-XXXX-XXXX-XXXX-XX
Registering XXX-XXXX-XXXX-XXXX-XXXX-XX on DB1 ........ Done
Do you want to enter another license key for DB 1? [y,n,q,?] (n)
Registering XXX-XXXX-XXXX-XXXX-XXXX-XX on DB2
Checking VCS license key on DB2 .................................... Cluster Server
Do you want to enter another license key for DB 2? [y,n,q,?] (n)
5. 選擇安裝全部組件
installvcs can install the following optional VCS rpms:
VRTSvxfen VERITAS I/O Fencing
VRTSvcsmn VERITAS Cluster Server Man Pages
VRTSvcsApache VERITAS Cluster Server Apache Agent
VRTSvcsdc VERITAS Cluster Server Documentation
VRTScscm VERITAS Cluster Server Cluster Manager
VRTScssim VERITAS Cluster Server Simulator
1) Install all of the optional rpms
2) Install none of the optional rpms
3) View rpm descriptions and select optional rpms
Select the optional rpms to be installed on all systems? [1-3,q,?] (1)
6. 選擇配置VCS
It is optional to configure VCS now. If you choose to configure VCS later, you can either do so manually or run the installvcs -configure command.
Are you ready to configure VCS? [y,n,q] (y)
7. 配置集群的名稱和ID
To configure VCS the following is required:
A unique Cluster name
A unique Cluster ID number between 0-255
Two or more NIC cards per system used for heartbeat links
One or more heartbeat links are configured as private links
One heartbeat link may be configured as a low priority link
All systems are being configured to create one cluster
Enter the unique cluster name: [?] DB_cluster
Enter the unique Cluster ID number between 0-255: [b,?] 1
8. 設置心跳網卡
Discovering NICs on DB1 ...discovered eth0 eth1 eth2 eth3
Enter the NIC for the first private heartbeat NIC on north: [b,?] eth2
Would you like to configure a second private heartbeat link? [y,n,q,b,?] (y)
Enter the NIC for the second private heartbeat NIC on north: [b,?] eth3
Would you like to configure a third private heartbeat link?[y,n,q,b,?] (n)
Do you want to configure an additional low priority heartbeat link? [y,n,q,b,?] (n)
Are you using the same NICs for private heartbeat links on all systems? [y,n,q,b,?] (y)
9. 增加VCS用戶
The following information is required to add VCS users:
A user name
A password for the user
User privileges (Administrator, Operator, or Guest)
Do you want to set the username and/or password for the Admin user (default username = 'admin', password='password')? [y,n,q] (n)
Do you want to add another user to the cluster? [y,n,q] (n)
10. 配置集群管理器
The following information is required to configure Cluster Manager:
A public NIC used by each system in the cluster
A Virtual IP address and netmask for Cluster Manager
Do you want to configure Cluster Manager (Web Console) [y,n,q] (y)
Active NIC devices discovered on DB1: eth0 eth1 eth2 eth3
Enter the NIC for Cluster Manager (Web Console) to use on DB1: [b, ?] (eth0)
Is eth0 to be the public NIC used by all systems [y,n,q,b,?] (y)
Enter the Virtual IP address for Cluster Manager: [b, ?] (10.71.104.144)
Enter the netmask for IP 10.71.104.144: [b, ?] (255.255.255.128)
11. 不配置SMTP及SNMP
The following information is required to configure SMTP notification:
The domain-based hostname of the SMTP server
The email address of each SMTP recipient
A minimum severity level of messages to send to each recipient
Do you want to configure SMTP notification? [y,n,q] (y) n
The following information is required to configure SNMP notification:
System names of SNMP consoles to receive VCS trap messages
SNMP trap daemon port numbers for each console
A minimum severity level of messages to send to each console
Do you want to configure SNMP notification? [y,n,q] (n)
12. 設置全局集群信息
The following is required to configure the Global Cluster Option:
A public NIC used by each system in the cluster
A Virtual IP address and netmask
The Virtual IP address and NIC may be the same as those configured for Cluster Manager (Web Console)
Do you want to configure the Global Cluster Option? [y,n,q] (y)
Enter the Virtual IP address for the Global Cluster Option: [b,?] (10.71.104.144)
13. 選擇非同步安裝模式安裝
VCS can be installed on systems consecutively or simultaneously. Installing rpms on systems consecutively takes more time but allows for better error handling.
Would you like to install Cluster Server on all systems simultaneously? [y,n,q] (y) n
設置上述選項后開始安裝,安裝完后系統自動啟動VCS。
4.3 補丁安裝
安裝完VCS標準版本后,通常還需要安裝VCS補丁,其過程見下。
1. 準備補丁
到Veritas的網站上下載http://seer.support.veritas.com/docs/277561.htm需要安裝的補丁或到yf-ftp上進行下載,并將補丁程序上傳到安裝了VCS服務器上,然后分別執行下述操作。
2. 解壓補丁
#tar xzvf sf_ha.cd.4.1.00.11.RP1_sles9.tar_277561.gz
選擇相應CPU的補丁文件再解壓
#tar xzvf sf_ha.cd1.4.1.00.11.RP1_sles9_i586.tar.gz
3. 安裝補丁
進入sles9_i586/cluster_server/rpms目錄
#cd ./ sles9_i586/cluster_server/rpms
順次執行以下安裝操作
#rpm -Uv VRTSvxfen-4.1.00.11-RP1_SLES9.i586.rpm
#rpm -Uv VRTSgab-4.1.00.11-RP1_SLES9.i586.rpm
#rpm -Uv VRTSllt-4.1.00.11-RP1_SLES9.i586.rpm
#rpm -Uv VRTSvcsdr-4.1.00.11-RP1_SLES9.i586.rpm
進入/etc/rc.d/rc5.d目錄,啟動gab、llt、vcs
#/etc/rc.d/rc5.d/S06llt start
#/etc/rc.d/rc5.d/S07gab start
#/etc/rc.d/rc5.d/S08vcs start
4.4 檢查狀態
待兩臺服務器都打完補丁,等待1分鐘左右,運行lltconfig和gabconfig檢查VCS的狀態。
DB2:/etc/rc.d/rc5.d # lltconfig
LLT is running
DB2:/etc/rc.d/rc5.d # gabconfig -a
GAB Port Memberships
=========================================================
Port a gen eef703 membership 01
Port h gen eef706 membership 01
5 VCS規劃/配置
配置VCS可以通過基于WEB的集群管理控制臺、集群管理器(JAVA控制臺)、命令行、直接修改配置文件(VCS未啟動時),其配置效果完全一致。下面的介紹以命令行為例。
5.1 規劃
規劃VCS雙機包括設定集群名、主機名、網絡及IP地址、資源組及資源等。業軟主要采用基于磁盤陣列的雙機方案,即應用程序和配置文件安裝在服務器上,數據文件放在共享磁盤陣列中。當發生切換時主機應用先停下來,然后切換,磁盤陣列對于新主機變成可訪問,最后在新主機上啟動應用。
在上述雙機方案中,需要通過浮動IP對外提供服務。雖然原理上加載浮動IP對外提供服務的網卡可以在任何一塊網卡上,但并不推薦采用心跳網卡對外提供服務,而是專門使用一塊網卡對外提供服務。因此VCS雙機中的每臺主機至少需要三塊網卡:其中兩塊做心跳線,一塊對外提供服務。
下述雙機方案中兩臺服務器組成的集群為cluster1,兩個節點分別為srv1和srv2:
srv1
服務類型 網卡編號 Adapter IP Address Mask
心跳網卡 Eth3 192.168.1.5 255.255.255.0
Eth4 192.168.2.5 255.255.255.0
服務網卡 Eth6 10.70.100.197 255.255.255.128
srv2
服務類型 網卡編號 Adapter IP Address Mask
心跳網卡 Eth3 192.168.1.7 255.255.255.0
Eth4 192.168.2.7 255.255.255.0
服務網卡 Eth6 10.70.100.195 255.255.255.128
按照上面的規劃,雙機系統邏輯結構如下圖所示。

5.2 配置
請在集群中的一個節點上以root用戶執行以下操作。
5.2.1 添加資源組
首先將配置設為R/W模式,然后創建資源組,指定資源組的系統列表(資源組僅在系統列表中的系統上線,相當于將系統加入集群,只不過是以資源組為單位的),并指定資源組的自動啟動列表(資源組僅自動啟動列表中的系統啟動,相當于確定業務資源組的系統),最后將資源組配置寫入磁盤。
#haconf -makerw
#hagrp -add infoxgrp
#hagrp -modify infoxgrp SystemList linux5 0 linux7 1
#hagrp -modify infoxgrp AutoStartList linux5 linux7
#haconf -dump
5.2.2 添加資源
資源包括:Application×2,Mount×3,LVMVolumeGroup,IP。
在資源組infoxgrp中增加Application類型的資源infoxapp,設置其為關鍵資源(故障時重啟或切換),同時設置腳本的運行環境(用戶名),指定資源的啟動/停止/清除/監控腳本(其中,清除腳本用于強行關閉應用,是可選項),然后清空Pid文件列表和監控進程列表(不使用這兩種監控方法),最后設置VCS不監控該資源(暫時)。
#hares -add infoxapp Application infoxgrp
#hares -modify infoxapp Critical 1
#hares -modify infoxapp User root
#hares -modify infoxapp StartProgram /home/infox/shell/app/start.sh
#hares -modify infoxapp StopProgram /home/infox/shell/app/stop.sh
#hares -modify infoxapp CleanProgram /home/infox/shell/app/stop.sh
#hares -modify infoxapp MonitorProgram /home/infox/shell/app/monitor.sh
#hares -modify infoxapp PidFiles -delete -keys
#hares -modify infoxapp MonitorProcesses -delete -keys
#hares -modify infoxapp Enabled 0
在資源組infoxgrp中增加Application類型的資源infoxdb2,其屬性設置類似infoxapp。
#hares -add infoxdb2 Application infoxgrp
#hares -modify infoxdb2 Critical 1
#hares -modify infoxdb2 User root
#hares -modify infoxdb2 StartProgram /home/infox/shell/db2/db2start.sh
#hares -modify infoxdb2 StopProgram /home/infox/shell/db2/db2stop.sh
#hares -modify infoxdb2 CleanProgram /home/infox/shell/db2/db2stop.sh
#hares -modify infoxdb2 MonitorProgram /home/infox/shell/db2/db2monitor.sh
#hares -modify infoxdb2 PidFiles -delete -keys
#hares -modify infoxdb2 MonitorProcesses -delete -keys
#hares -modify infoxdb2 Enabled 0
在資源組infoxgrp中增加Mount類型的資源infoxsharemt,設置其為關鍵資源,配置VxFS屬性(SnapUmount/CkptUmount缺省值),設置掛接點(路徑)及對應的塊設備,文件系統類型,當掛接過程失敗時執行fsck命令的參數,最后設置VCS不監控該資源。
#hares -add infoxsharemt Mount infoxgrp
#hares -modify infoxsharemt Critical 1
#hares -modify infoxsharemt SnapUmount 0
#hares -modify infoxsharemt CkptUmount 1
#hares -modify infoxsharemt MountPoint /infoxshare
#hares -modify infoxsharemt BlockDevice /dev/mapper/datavg1-lvinfox
#hares -modify infoxsharemt FSType ext2
#hares -modify infoxsharemt FsckOpt %-n
#hares -modify infoxsharemt Enabled 0
在資源組infoxgrp中增加Mount類型的資源infoxbackkmt,其屬性設置類似infoxsharemt。
#hares -add infoxbackkmt Mount infoxgrp
#hares -modify infoxbackkmt Critical 1
#hares -modify infoxbackkmt SnapUmount 0
#hares -modify infoxbackkmt CkptUmount 1
#hares -modify infoxbackkmt MountPoint /back
#hares -modify infoxbackkmt BlockDevice /dev/mapper/datavg1-lvback
#hares -modify infoxbackkmt FSType ext2
#hares -modify infoxbackkmt FsckOpt %-n
#hares -modify infoxbackkmt Enabled 0
在資源組infoxgrp中增加Mount類型的資源infoxdbmt,其屬性設置類似infoxsharemt。
#hares -add infoxdbmt Mount infoxgrp
#hares -modify infoxdbmt Critical 1
#hares -modify infoxdbmt SnapUmount 0
#hares -modify infoxdbmt CkptUmount 1
#hares -modify infoxdbmt MountPoint /home/db2data
#hares -modify infoxdbmt BlockDevice /dev/mapper/dbvg1-db2lv1
#hares -modify infoxdbmt FSType ext2
#hares -modify infoxdbmt FsckOpt %-n
#hares -modify infoxdbmt Enabled 0
在資源組infoxgrp中增加LVMVolumeGroup類型的資源infoxvg,設置其為關鍵資源,設置卷組上線腳本在卷組import后啟動其中所有的卷,確定卷組名,最后設置VCS不監控該資源。
#hares -add infoxvg LVMVolumeGroup infoxgrp
#hares -modify infoxvg Critical 1
#hares -modify infoxvg StartVolumes 1
#hares -modify infoxvg VolumeGroup datavg1
#hares -modify infoxvg Enabled 0
在資源組infoxgrp中增加IP類型的資源infoxserviceip,設置其為關鍵資源,確定其所屬網卡、IP地址、掩碼,最后設置VCS不監控該資源。
#hares -add infoxserviceip IP infoxgrp
#hares -modify infoxserviceip Critical 1
#hares -modify infoxserviceip Device eth6
#hares -modify infoxserviceip Address 10.70.100.196
#hares -modify infoxserviceip NetMask 255.255.255.0
#hares -modify infoxserviceip Enabled 0
將配置寫入磁盤。
#haconf -dump
5.2.3 設定資源依賴關系
設置資源間的依賴關系,從而確定啟動/終止是資源上/下線的順序。具體的講,父資源在子資源上線后上線,在子資源下線前下線。
#hares -link infoxapp infoxserviceip
#hares -link infoxapp infoxvg
#hares -link infoxapp infoxsharemt
#hares -link infoxapp infoxbackkmt
#hares -link infoxapp infoxdb2
#hares -link infoxdb2 infoxserviceip
#hares -link infoxdb2 infoxvg
#hares -link infoxdb2 infoxdbmt
#hares -link infoxsharemt infoxserviceip
#hares -link infoxsharemt infoxvg
#hares -link infoxbackkmt infoxserviceip
#hares -link infoxbackkmt infoxvg
#hares -link infoxdbmt infoxserviceip
#hares -link infoxdbmt infoxvg
#hares -link infoxvg infoxserviceip
將資源組中的資源設置為被監控狀態。然后將配置寫入磁盤。
#hagrp -enableresources infoxgrp
#haconf -dump
5.2.4 調整資源類型與屬性
(根據資源類型)設置資源的監控時間間隔(單位:秒)。缺省值60。
#hatype -modify Application MonitorInterval 60
#hatype -modify LVMVolumeGroup MonitorInterval 20
設置下線資源的監控時間間隔(單位:秒)。缺省值300;設置為0時表示不監控。
#hatype -modify Application OfflineMonitorInterval 0
#hatype -modify IP OfflineMonitorInterval 0
#hatype -modify LVMVolumeGroup OfflineMonitorInterval 0
#hatype -modify Mount OfflineMonitorInterval 0
設置LVM VolumeGroup類型資源上線的超時時間間隔(單位:秒)。缺省值60。
#hatype -modify LVMVolumeGroup OnlineTimeout 60
設置資源上線等待間隔最大值(單位:個)。即上線過程執行完后,VCS等待資源“真正”上線的“監控時間間隔”最大值。缺省值2。
#hatype -modify Application OnlineWaitLimit 30
#hatype -modify IP OnlineWaitLimit 30
#haconf -dump
5.3 配置檢驗
配置雙機系統后,要進行以下檢驗。
5.3.1 雙機啟動
檢驗雙機啟動的步驟如下:
步驟1 初始化雙機環境,以root 用戶登錄linux5,執行以下命令。
#hastart
#hagrp -offline infoxgrp -sys linux5
#hagrp -offline infoxgrp -sys linux7
步驟2 啟動雙機,執行以下命令。
#hagrp -online infoxgrp -sys linux5
步驟3 查詢雙機狀態,執行下面命令。
#hastatus
步驟4 查看心跳線狀態,執行下面命令。
#lltstat -n
#gabconfig -a
#hastatus -summary
正常情況如下,主機linux5和備機linux7均為RUNNING狀態,資源組infoxgrp在一個節點上ONLINE,在另一節點上OFFLINE。
-- SYSTEM STATE
-- System State Frozen
A linux5 RUNNING 0
A linux7 RUNNING 0
-- GROUP STATE
-- Group System Probed AutoDisabled State
B infoxgrp linux5 Y N ONLINE
B infoxgrp linux7 Y N OFFLINE
5.3.2 雙機切換
檢驗雙機切換是否正常,執行以下命令。
#hagrp -switch infoXGRP -to linux7
#hastatus -summary
正常情況下,資源組切換到另一節點ONLINE。
-- SYSTEM STATE
-- System State Frozen
A linux5 RUNNING 0
A linux7 RUNNING 0
-- GROUP STATE
-- Group System Probed AutoDisabled State
B infoXGRP linux5 Y N OFFLINE
B infoXGRP linux7 Y N ONLINE

總結

以上是生活随笔為你收集整理的VCS的安装信息的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。

视频一区在线播放 | 日日操狠狠干 | 国产精品美女免费视频 | 国产精品一区二区久久 | 日韩高清在线一区二区三区 | 国产美女精品人人做人人爽 | 美女视频黄是免费的 | 日韩videos| 欧美日韩中文国产一区发布 | 福利电影久久 | 国产一卡在线 | 特级西西人体444是什么意思 | 91秒拍国产福利一区 | 久久视频国产精品免费视频在线 | a天堂免费 | 麻豆国产视频下载 | 欧美黄在线| 免费碰碰| 亚洲成人在线免费 | 中文超碰字幕 | 欧美另类重口 | 国产成人一区二区三区免费看 | 色九九影院 | 成人影音av | 亚洲欧美激情插 | 亚洲高清av | 日韩三区在线 | 日韩视频精品在线 | 激情婷婷综合网 | 欧美激情视频一区 | 天天操天天干天天操天天干 | 91在线产啪| 国产一级片不卡 | 久久久国产影院 | 天天射天天艹 | 欧美日bb | 日韩在线资源 | 精品国产一区二区三区四区在线观看 | a视频在线播放 | 久草免费在线视频观看 | 激情五月看片 | 国产中文字幕一区 | 99久久毛片 | 奇米网在线观看 | 国产精品入口66mio女同 | 免费看一级一片 | 国产精品久久久电影 | a特级毛片 | 久久久精品网站 | 美女免费视频一区 | 国产精品一区在线观看 | 国产精品久久久久久久免费 | 在线观看视频在线观看 | 久久草草影视免费网 | 欧美va电影 | 中文在线免费一区三区 | 日韩激情精品 | 国产亚洲精品电影 | 中国成人一区 | 少妇自拍av | 精品久久五月天 | 亚洲激情小视频 | 久久av免费 | 91看片在线播放 | 成人av中文字幕 | 超级碰碰视频 | 色婷婷激情四射 | 久久人人爽人人爽人人片av免费 | 欧美色图p| 欧美精品在线视频观看 | 午夜私人影院久久久久 | 婷婷亚洲激情 | 91一区啪爱嗯打偷拍欧美 | 天堂网中文在线 | 亚洲另类在线视频 | 日韩欧美在线高清 | 国产精品毛片一区 | 不卡的av在线播放 | 午夜精品一区二区三区免费视频 | 五月婷婷综合在线 | 国产精品美女 | 五月天电影免费在线观看一区 | 国产午夜精品一区二区三区嫩草 | 狠狠躁18三区二区一区ai明星 | 麻豆果冻剧传媒在线播放 | 国产精品6 | 九九色综合 | 草久在线观看视频 | 日日夜夜人人天天 | 欧美日韩精品区 | 很黄很色很污的网站 | 国产亚洲精品女人久久久久久 | 99免费在线观看视频 | 欧美国产91 | 国产精品久久久久久麻豆一区 | 91亚洲精品乱码久久久久久蜜桃 | 国产二区电影 | 国产一区二区在线免费观看 | 在线av资源| 免费福利在线视频 | 日韩国产精品久久久久久亚洲 | 91mv.cool在线观看 | 久久免费视频观看 | 欧美夫妻生活视频 | 天堂在线一区二区 | 超碰97中文 | 中文字幕激情 | 91在线视频免费播放 | 99在线视频播放 | 日日夜夜狠狠操 | 天天天干夜夜夜操 | 国产中文伊人 | 人人爽人人爽人人片av | 97视频免费看| 久久久久久久网 | 午夜黄色一级片 | 久久精品美女视频 | 91大片成人网 | 国产高清在线一区 | 97精品久久人人爽人人爽 | 有码视频在线观看 | 看毛片网站 | 免费在线成人av | 国产专区在线播放 | 麻豆高清免费国产一区 | 亚洲激精日韩激精欧美精品 | 亚洲精品国产自产拍在线观看 | 91在线看视频免费 | 国产黄色精品 | 伊人狠狠色 | 免费观看成人av | 黄色精品国产 | 在线免费91| 国产一级黄大片 | 婷婷丁香九月 | 91精品国产麻豆国产自产影视 | 日韩高清在线不卡 | 亚洲成av人片在线观看 | 国内精品久久久久久久久久清纯 | 国产在线欧美 | 国产精品久久久久婷婷二区次 | 久久免费视频一区 | 日韩中文字幕在线不卡 | 91在线成人 | 激情五月视频 | 热久久视久久精品18亚洲精品 | 久久精品1区2区 | 波多野结衣精品视频 | 国产成人99久久亚洲综合精品 | 99视频这里有精品 | 日韩av免费观看网站 | 婷婷色中文字幕 | 日韩免费视频 | 超碰在97 | 又黄又爽又刺激视频 | 青春草免费在线视频 | 国产免费又粗又猛又爽 | 女人18片毛片90分钟 | 一区视频在线 | 久久精品国产成人精品 | 日韩精品一区二区三区免费观看视频 | 四虎在线观看网址 | 免费视频黄 | 日本久久精品视频 | 国产精品成人免费精品自在线观看 | 久久热首页 | 久久人人爽人人爽人人片 | 在线观看中文av | 伊人五月在线 | 久久这里只有精品视频99 | 伊人资源视频在线 | 亚洲精品久久久久999中文字幕 | 国产精品免费久久久久久久久久中文 | 久久综合久久88 | 精品久久久久久亚洲综合网站 | 黄色www免费 | 日韩高清毛片 | 五月婷婷一级片 | 97在线观看免费 | 最近中文字幕免费 | 久久精品国产成人 | 天无日天天操天天干 | 狠狠操操网| 欧美日韩久| 日韩视频在线观看免费 | 免费在线看成人av | 国产一区二区不卡视频 | 国产视频18| 国产精品av在线免费观看 | 五月综合激情婷婷 | 97在线观看免费高清完整版在线观看 | 91免费看黄色 | 天天躁日日躁狠狠躁 | 91视频在线观看大全 | 91黄色影视 | 国产成人一级电影 | 在线天堂日本 | 婷婷中文字幕 | 亚洲天堂社区 | 日韩美女久久 | 国产一线二线三线性视频 | 91亚洲夫妻| 国产乱码精品一区二区三区介绍 | 日韩系列在线 | 在线观看精品一区 | 在线观看国产高清视频 | 久久视频在线看 | 亚洲最大av在线播放 | 日韩中文字幕免费视频 | 波多野结衣一区二区 | 99久久精品国产观看 | 欧美国产日韩一区二区三区 | 国产亚洲精品成人 | 精品久久久久久一区二区里番 | 亚洲一区二区黄色 | 欧美午夜a | 亚洲人久久 | 亚洲日本在线一区 | 国产成人a亚洲精品v | 天堂av在线网址 | free. 性欧美.com| 国产原创中文在线 | 日韩精品在线一区 | 五月开心激情网 | 国产区精品视频 | 日韩黄在线观看 | 91亚洲精品久久久中文字幕 | 亚洲精品欧美精品 | 高清中文字幕 | www.色婷婷| 精品主播网红福利资源观看 | 久久成人午夜 | 嫩草伊人久久精品少妇av | 在线看片中文字幕 | 美女黄视频免费 | 天堂在线一区二区三区 | 韩日av一区二区 | 精品国产乱码久久久久久浪潮 | 亚洲黄色免费 | 韩国精品视频在线观看 | 久草在线精品观看 | 国产在线一区二区 | 91黄色在线视频 | 国产精品 日韩 | 久久久久久久久久久久久久免费看 | 在线观看网站黄 | 国产乱码精品一区二区三区介绍 | 国产精品嫩草影院9 | 日韩理论在线播放 | 婷婷色吧| 日韩理论电影在线 | 深爱激情婷婷网 | 国产精品第72页 | 午夜精品999| 欧美激情精品 | 精品在线免费视频 | 久久精品免费看 | av三级av | 水蜜桃亚洲一二三四在线 | 久久99精品久久久久久秒播蜜臀 | 不卡精品视频 | 国产字幕av | av无限看| 最新av网站在线观看 | 狠狠做深爱婷婷综合一区 | 免费国产在线精品 | 日韩在线免费视频观看 | 色网站黄| 麻豆91在线观看 | a黄色大片| 黄色一级免费电影 | 在线激情小视频 | 91成人小视频 | 婷婷精品进入 | 亚洲国产婷婷 | 看片黄网站 | 国产中文字幕一区二区 | 亚洲欧美日韩一级 | 一本一本久久a久久精品综合妖精 | 亚洲精品影视在线观看 | 婷婷丁香激情五月 | 九九精品视频在线看 | 1区2区3区在线观看 三级动图 | 亚洲高清国产视频 | 久久这里只有精品1 | 91日韩在线专区 | 日韩成人xxxx| 色五婷婷 | a级片韩国 | 日本久久免费电影 | 99精品系列| 99re国产| 91精品久久久久久久久久入口 | 久99久中文字幕在线 | 精品久久久久久亚洲 | 免费福利影院 | 中文字幕在线观看1 | 亚洲精品久久久久www | 九九爱免费视频 | 丁香影院在线 | 国产区精品 | 狠狠狠色丁香婷婷综合久久五月 | 91精品一区二区三区久久久久久 | 免费韩国av | av一区二区三区在线播放 | 久久精品官网 | 亚洲精品欧美成人 | 韩国在线一区二区 | 美女免费黄视频网站 | 欧美精品一区二区在线播放 | 国产精品手机在线观看 | 欧美a级免费视频 | 色99网| 免费看污网站 | 香蕉视频在线播放 | av在线播放网址 | 国产免费叼嘿网站免费 | 激情网第四色 | 国内精品免费久久影院 | 日日骑 | 在线免费国产视频 | 日本激情视频中文字幕 | 五月婷香 | 天天射天天舔天天干 | 97碰在线| 国产亚洲精品久久久久久久久久久久 | 日日爽天天操 | 人人澡澡人人 | 99国产高清 | 亚洲免费在线视频 | 少妇搡bbbb搡bbb搡忠贞 | 日韩免费一区二区 | 国产精品地址 | 91亚洲欧美 | 久在线观看 | 精品视频免费观看 | 亚洲免费永久精品国产 | 国产日韩精品一区二区在线观看播放 | a级国产乱理伦片在线播放 久久久久国产精品一区 | 日女人电影 | 欧美激情视频一区二区三区免费 | 欧美日韩在线观看一区二区三区 | 97在线超碰| 免费成人在线观看 | 精品99免费视频 | 亚洲欧美在线观看视频 | 国产麻豆视频免费观看 | 久久久精品高清 | 久久夜夜操| 国产玖玖在线 | 99综合久久 | 国产黄色观看 | 成人av播放| 亚洲一区二区精品 | 久久电影中文字幕视频 | 久久免费看a级毛毛片 | 中文字幕在线影视资源 | 麻豆视频免费在线 | 亚洲夜夜爽| 亚洲综合视频在线播放 | 色五月激情五月 | 国产精品18毛片一区二区 | 永久免费观看视频 | 91热视频在线观看 | 成人午夜片av在线看 | 国产午夜精品福利视频 | 日韩视频一区二区 | 国产精品区免费视频 | 超薄丝袜一二三区 | av观看网站| 国产精品男女视频 | 天天拍天天干 | 久久免费视频一区 | 久久国产电影院 | 久久免费视频这里只有精品 | 夜夜操天天操 | 中日韩男男gay无套 日韩精品一区二区三区高清免费 | 国内久久久 | 一级免费av| 国产黑丝一区二区三区 | 免费黄a大片 | 三级av在线播放 | 亚洲爱av| 91精品亚洲影视在线观看 | 97人人精品 | 亚洲九九| 精品国产一区二区在线 | 久久久久久久久久久福利 | 中日韩免费视频 | 91污视频在线观看 | 深夜免费网站 | 日本久久视频 | 成人福利在线 | 日韩欧美69| 在线播放日韩av | av中文字幕电影 | 热久久免费国产视频 | 久久久久久国产一区二区三区 | 久久久精品国产免费观看一区二区 | 日韩手机在线观看 | 日韩精品久久一区二区三区 | 国产黄色av影视 | 一区二区网 | www日| 99国产在线视频 | 国际精品久久久久 | 国产一区成人 | 中文字幕日韩有码 | 日韩中文字幕第一页 | 草久久久久 | 国产精品永久在线观看 | 97日日| 在线免费观看一区二区三区 | 黄色免费视频在线观看 | 久久婷婷一区二区三区 | 天天干.com | 激情电影在线观看 | 久久久91精品国产一区二区精品 | 涩五月婷婷 | 一区二区三区久久精品 | 免费亚洲黄色 | 免费观看xxxx9999片 | 久久爱992xxoo | 亚洲欧美乱综合图片区小说区 | 在线观看aaa | www.xxxx欧美 | 国产精品麻豆三级一区视频 | 国产理论影院 | 久久深夜 | 伊人网综合在线观看 | 91精品国产99久久久久久红楼 | 久久经典视频 | 亚洲国产久| 日韩高清dvd | 少妇av片| 欧美影片 | 成人蜜桃网 | 国产精品入口a级 | 麻豆视频免费看 | 99热在| 国产精品成人av在线 | 久久午夜网| 18网站在线观看 | 啪啪小视频网站 | 国产精品久久久久久久婷婷 | 91麻豆免费版| 97超视频 | 狠狠色丁香婷婷综合橹88 | 国产人成免费视频 | 在线精品视频免费播放 | 国产 一区二区三区 在线 | 欧美激情精品久久久久久免费 | 日韩精品一区二区三区在线视频 | 国产中文欧美日韩在线 | 在线黄色免费av | 中文字幕在线看人 | 国产精品美女999 | 一区二区三区四区免费视频 | 欧美黑人xxxx猛性大交 | 一区二区三区精品在线 | 色综合久久五月 | 免费久久精品视频 | 日韩黄色大片在线观看 | 久久国产精品偷 | 国产精品国产三级国产不产一地 | 99久久精品国产毛片 | 日韩中文字幕免费在线播放 | 808电影免费观看三年 | 一级黄色片在线免费观看 | 国产91全国探花系列在线播放 | 亚洲毛片一区二区三区 | 可以免费看av | 国产精品免费在线视频 | 一区精品久久 | 狠狠夜夜 | 久久精品一区二区国产 | 久久综合九色九九 | 91亚洲国产成人久久精品网站 | 国产一区欧美日韩 | 午夜av激情 | 欧美日韩亚洲在线 | 草久久av| 丁香综合网 | 免费在线观看毛片网站 | 中文字幕在线播放一区二区 | 国产字幕在线观看 | www黄色av | 亚洲国产精品成人综合 | 国产精品s色| 亚洲精品在线免费播放 | 午夜精品久久久久久久久久久 | 久久观看免费视频 | 一本一本久久a久久精品综合小说 | 久久在草 | 最新av免费在线观看 | 中文字幕黄色 | 久久九九免费视频 | www.干| 成人免费视频播放 | 欧美午夜性| 91av影视 | 亚洲美女精品区人人人人 | 超碰在线人 | 亚洲狠狠| 午夜精品一区二区三区在线 | 99久久综合国产精品二区 | 久久爽久久爽久久av东京爽 | 99久精品 | 91探花国产综合在线精品 | 久草久草在线 | 精品视频久久 | 毛片基地黄久久久久久天堂 | 国产精品欧美日韩 | 丁香视频| 久久久久成人精品亚洲国产 | 亚洲第一中文字幕 | 久久国产精品成人免费浪潮 | 国产99久久精品一区二区永久免费 | 午夜12点 | 天天曰天天 | 亚洲精品视频免费在线 | 国产精品高潮呻吟久久久久 | 久久99国产精品二区护士 | 久久艹艹| 精品国产一区二区三区四区在线观看 | 玖操 | 久久精品视频网站 | 在线观看亚洲视频 | 久久精品国产亚洲a | 91插插插网站 | 少妇精69xxtheporn | 久久久网址 | 国产一区二区在线观看视频 | 天堂av在线网 | 亚洲首页 | 欧美一区二区三区四区夜夜大片 | 在线观看亚洲国产 | 狠狠插天天干 | 国产成人一二片 | 天天操夜夜拍 | 成年人视频在线免费播放 | 91麻豆精品国产91久久久更新时间 | 免费日韩一区二区三区 | 欧美日产在线观看 | 日本中文字幕高清 | 精品在线观看视频 | 亚洲欧美日韩精品久久奇米一区 | 精品久久久久国产 | 天天射天天做 | 深爱激情开心 | 国产一二三区av | 国产精品成人国产乱 | 天天干一干 | 欧美一二三区在线观看 | 另类老妇性bbwbbw高清 | 久久久精品国产免费观看一区二区 | 欧美大香线蕉线伊人久久 | 亚洲精品国产精品99久久 | 久久免费视频精品 | 中文字幕一区二区三区四区在线视频 | 毛片播放网站 | 麻豆久久 | 欧美精品久久久久久久免费 | 亚洲天天综合网 | 91av在线电影 | 成人一级免费电影 | 在线网址你懂得 | 久久超碰网 | 人人爽人人搞 | 久久综合福利 | 狠狠操狠狠操 | 亚洲在线视频免费 | 日日干av | 欧美色图狠狠干 | 亚洲成人在线免费 | 看片一区二区三区 | 午夜久久福利视频 | 九九免费在线观看 | 人人爽人人av | 伊人宗合| 亚洲婷久久| 午夜国产福利在线 | 国产999在线观看 | 日韩免费电影在线观看 | 久久精品一区二区三区四区 | 91在线看视频 | 国产91在线观看 | 免费日韩高清 | 日本乱视频 | 久久精品日产第一区二区三区乱码 | 一区免费观看 | 日本爱爱片 | 亚洲综合在线播放 | 美国av片在线观看 | 99精品热视频只有精品10 | 欧美日韩精品影院 | 亚洲精品免费观看 | 99久热在线精品 | 一级性视频 | 日韩在线一级 | 久久免费看视频 | 在线免费观看黄网站 | 亚洲天天草 | 伊人五月天 | 成人免费观看完整版电影 | 看片在线亚洲 | 狠狠色丁香久久婷婷综合_中 | 精品国精品自拍自在线 | av免费电影在线 | 亚州精品成人 | 国产精品伦一区二区三区视频 | 久久久黄视频 | 2020天天干夜夜爽 | 亚洲一级片在线观看 | 亚洲综合视频在线观看 | 成人av影视观看 | 成年人在线看片 | 亚洲成年人在线播放 | 一级一片免费看 | 国产精品一区二区视频 | av资源免费看 | 久久精品久久国产 | 在线国产专区 | 1024手机在线看 | www.色五月 | 91在线超碰 | 日日碰狠狠躁久久躁综合网 | av大全在线免费观看 | 九9热这里真品2 | 天天操天天摸天天爽 | 天天操天天射天天爱 | 国产精品18毛片一区二区 | 一级黄色片网站 | 国产亚洲成av人片在线观看桃 | 精品久久网站 | 国产人成在线视频 | 天无日天天操天天干 | 日韩中文字幕第一页 | 超碰97成人 | 激情婷婷欧美 | 国产成人精品一二三区 | 日韩免费高清在线 | 激情亚洲综合在线 | 国产精品久久久久久久久久久久午夜 | 欧美成人tv | 中文字幕韩在线第一页 | 精品中文字幕在线 | 一区二区三区在线不卡 | 青青啪 | 国产在线1区 | www免费网站在线观看 | 亚洲综合精品在线 | 天干啦夜天干天干在线线 | 人人看97 | 国产精品a级 | 韩国av一区二区三区在线观看 | 中文字幕高清免费日韩视频在线 | 亚洲一区视频免费观看 | 91色九色 | 五月开心婷婷 | 日本黄色免费观看 | 亚洲免费婷婷 | 丁香婷婷久久 | 黄色在线看网站 | 99久久www免费 | 国产亚洲小视频 | 顶级bbw搡bbbb搡bbbb| 岛国av在线免费 | 91色在线观看 | 丁香花五月 | 中文字幕av影院 | 久免费视频 | 亚洲国产网址 | 色综合久久88色综合天天免费 | www.99av | 毛片激情永久免费 | 国内久久视频 | 黄色高清视频在线观看 | 日韩欧美视频一区二区三区 | 激情影院在线 | 国产精品成人av在线 | 91欧美视频网站 | 在线黄色国产电影 | 91在线免费播放 | 久久久网站 | 精品国产精品国产偷麻豆 | 在线黄频| 色婷婷影视 | 国产精品久久久久久久久免费 | 久久久男人的天堂 | 激情小说网站亚洲综合网 | 亚洲精品国精品久久99热一 | 中文字幕av网站 | 精品一区在线看 | 久久黄色片 | 欧美一二三在线 | 激情综合一区 | av片子在线观看 | 久章操 | 日韩精品五月天 | 成年人电影免费看 | 日韩精品网址 | 欧洲色吧 | 天堂av观看 | 国产高清一区二区 | 黄色成人av网址 | 91久久爱热色涩涩 | 国产精品久久久久av | 国产69精品久久久久9999apgf | 国产色综合 | 青青河边草免费观看完整版高清 | 婷婷丁香自拍 | 亚洲国产精品成人va在线观看 | 成人小视频免费在线观看 | 成年人免费电影 | 日本精品一区二区在线观看 | 久久视频中文字幕 | 偷拍久久久 | 美女视频久久黄 | 97香蕉视频 | 久草在线综合网 | 美女免费视频网站 | 久久伊人色综合 | 国产视频97 | 亚洲成av人片一区二区梦乃 | 中文字幕中文字幕在线中文字幕三区 | 国产精品丝袜 | 国产精品一区在线 | 日韩电影黄色 | 免费试看一区 | 午夜婷婷在线观看 | 久久久久北条麻妃免费看 | 亚洲精品久久久久久国 | 国产精品精品视频 | www.天天干 | 久久只有精品 | 中文字幕人成乱码在线观看 | 99精品国产亚洲 | 在线你懂的视频 | 欧美小视频在线观看 | 久久99视频免费观看 | 日本大片免费观看在线 | 色综合咪咪久久网 | 国产精品电影一区二区 | 国产精品中文久久久久久久 | 日韩网| 国产成人精品一区二区三区网站观看 | 成年人在线观看 | 亚洲精品女人 | 91精品视频一区二区三区 | 成人影片免费 | 一级片免费观看视频 | 国产黄色免费在线观看 | 亚洲国产一区二区精品专区 | 色www精品视频在线观看 | 国产成人综合在线观看 | 亚洲人在线 | 日韩av免费观看网站 | 久久福利电影 | 欧美在线一级片 | 免费网站黄色 | 亚洲精品在线资源 | 91高清一区 | 久久综合久久综合这里只有精品 | 国产精品久久久久久久免费 | 国产精品99久久久久的智能播放 | 亚洲播放一区 | 五月激情av | 亚洲精品字幕在线观看 | 欧美极品久久 | 日韩在线中文字幕 | 黄色免费网站下载 | 日韩av快播电影网 | 亚洲手机天堂 | 精品在线一区二区 | 中文国产在线观看 | 91丝袜美腿 | 欧美色图88 | 精品国产1区2区3区 国产欧美精品在线观看 | 久久草草热国产精品直播 | 国产一区二区三精品久久久无广告 | 欧美一级免费 | free. 性欧美.com | 丁香婷婷色综合亚洲电影 | 成人h动漫在线看 | 国产麻豆精品一区 | 99欧美视频 | 久久精品国产成人精品 | 欧美污网站 | 久久免费看a级毛毛片 | 国产手机在线 | 综合网久久| 国产视频在线观看免费 | 精品国内自产拍在线观看视频 | 久久久免费精品国产一区二区 | 狠狠狠狠狠狠操 | 在线观看亚洲视频 | 亚洲在线免费视频 | 久久天| 国产亚洲精品电影 | 少妇啪啪av入口 | 久久免费看视频 | 亚洲国产精品500在线观看 | 亚洲一区不卡视频 | av3级在线 | 国内成人精品2018免费看 | 性色av免费在线观看 | 91探花在线| 亚洲91av| 一区二区激情视频 | 亚洲高清免费在线 | 天天操网 | 精品国产精品久久一区免费式 | 成人h电影 | 色欧美88888久久久久久影院 | 久久综合成人网 | 99精品在线观看 | 人人超在线公开视频 | 91九色视频导航 | 久久伦理影院 | 激情五月婷婷综合网 | 免费看黄色小说的网站 | 91一区二区三区久久久久国产乱 | 黄色一级大片免费看 | 色噜噜噜 | av免费看在线| 久久精品一区二 | 国产精品99久久久久久有的能看 | 国产中文在线字幕 | 波多野结衣网址 | 国产亚洲精品久久久久久电影 | 日韩午夜三级 | 综合网在线视频 | 成人羞羞免费 | 国产电影一区二区三区四区 | 日日夜夜精品免费视频 | 69视频永久免费观看 | 亚洲 欧美 成人 | 五月婷婷丁香在线观看 | 国产成人福利在线观看 | 日韩精品免费在线观看 | 中文字幕国语官网在线视频 | 国产成人精品亚洲a | 中文字幕在线观看一区 | www.色爱| 免费在线看成人av | 中字幕视频在线永久在线观看免费 | 国产蜜臀av | 日韩一区二区三区免费视频 | 久久蜜臀av| 婷婷在线色 | 天天人人综合 | 成人午夜影院在线观看 | 欧美精品一区二区在线观看 | 热久久在线视频 | 99精品欧美一区二区蜜桃免费 | 青草视频免费观看 | 久久久久久久久久国产精品 | 欧美日韩p片 | 国产麻豆精品一区 | 青草视频在线免费 | 色视频成人在线观看免 | 国内精品久久久久影院一蜜桃 | 久久a国产| 久久伊人国产精品 | 久久久久久久影院 | 久久久在线视频 | 97在线看| 久久九九影院 | 又爽又黄又刺激的视频 | 成人av亚洲 | 亚洲精品456在线播放乱码 | 色五月激情五月 | 91亚洲精品在线 | 成人不用播放器 | 色播五月激情五月 | 四虎永久免费网站 | 亚洲成av人片一区二区梦乃 | 97精品国产97久久久久久 | 国产最新视频在线 | 狠狠色网| 黄av资源| 亚洲精品美女在线观看播放 | 五月婷婷丁香色 | 在线看毛片网站 | 黄污视频大全 | av黄色在线观看 | 国产99区 | 99免费看片| 在线免费黄网站 | 久久在线精品视频 | 国产亚洲精品精品精品 | 久久国产露脸精品国产 | 国产一二区视频 | 日韩精品免费一区 | 色就是色综合 | 人人草在线视频 | 久久久久久免费网 | 久久国产成人午夜av影院潦草 | 欧美精品亚洲二区 | 91自拍成人 | 天天夜夜狠狠操 | 国产又粗又猛又爽又黄的视频先 | 五月天中文字幕mv在线 | 日韩在线观看一区二区 | 丝袜美腿一区 | 国产精品久久电影网 | 黄色片免费电影 | 国产第页| 日韩性xxxx | 天天操天天干天天操天天干 | 国产一级免费观看视频 | 国产日韩欧美在线 | 久免费视频| av三级av | 久久久久看片 | 午夜私人影院久久久久 | 麻豆国产精品va在线观看不卡 | 国产一区免费观看 | 91精品在线免费观看 | 99精品国产在热久久 | 日韩有码在线观看视频 | 色瓜 | 日本三级不卡视频 | 蜜臀久久99精品久久久无需会员 | 西西大胆啪啪 | 丝袜美腿在线 | 99视频精品在线 | 日日精品 | 午夜久久影院 | 99草在线视频 | 一区二区三区中文字幕在线观看 | 国产成人一级电影 | 久久99精品国产一区二区三区 | 97精品免费视频 | 久久精品99国产精品日本 | 久久国语露脸国产精品电影 | 99久久久久免费精品国产 | 伊人看片 | 国产成人av网 | 国产精品一区免费在线观看 | 亚州国产精品久久久 | 尤物九九久久国产精品的分类 | 日本黄色a级大片 | 99精品欧美一区二区三区 | 国产高清久久 | 国产精品99精品 | 欧美一区免费观看 | 婷婷av色综合 | 国产一级免费在线 | 天天操天天操天天操天天 | 久久超碰网 | 99精品视频免费全部在线 | 免费黄色av | 精品久久久久久久久久久久久久久久 | 国产色视频网站2 | 精品国产一区二区三区蜜臀 | 国产视频99 | 日韩高清网站 | 日韩黄色一区 | 国产精品久久久久久久久久三级 | 欧美一级片播放 | 亚洲精品美女在线 | 中文字幕一区在线 | 蜜桃av人人夜夜澡人人爽 | 欧美日韩一级在线 | 成人黄色电影在线观看 | av先锋中文字幕 | 日韩欧美电影 | 五月综合网站 | 亚洲视屏在线播放 | 久久免费视频1 | 在线观看岛国片 | www.狠狠操.com | 欧美日韩国产一区二区三区在线观看 | 日韩av在线影视 | 狠狠狠操| 91天天操 | 午夜视频播放 | 色婷婷亚洲精品 | 美女网站在线观看 | 日日夜夜免费精品 | 欧美中文字幕第一页 | 久热超碰| 亚洲国产精品成人综合 | 麻豆影视在线免费观看 | 成人影片免费 | 免费观看91视频大全 | 天天插天天狠天天透 | av黄色国产| 色综合久久精品 | 国产精品一区二区三区在线 | 在线观看国产福利片 | 天天综合网在线 | 日韩精品一区二区三区电影 | 伊人午夜视频 | 日韩一二三 | 中文字幕高清 |