日韩av黄I国产麻豆传媒I国产91av视频在线观看I日韩一区二区三区在线看I美女国产在线I麻豆视频国产在线观看I成人黄色短片

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 人文社科 > 生活经验 >内容正文

生活经验

手动安装ceph

發布時間:2023/11/27 生活经验 70 豆豆
生活随笔 收集整理的這篇文章主要介紹了 手动安装ceph 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

?

?

一、獲取軟件

?

獲取二進制包

?

準備工作:

所有 Ceph 部署都需要 Ceph 軟件包(除非是開發),你應該安裝相應的密鑰和推薦的軟件包

密鑰:(推薦) 不管你是用倉庫還是手動下載,你都需要用密鑰校驗軟件包。如果你沒有密鑰,就會收到安全警告。有兩個密鑰:一個用于發布(常用)、一個用于開發(僅適用于程序員和 QA ),請按需選擇,詳情見安裝密鑰。

Ceph:(必要) 所有 Ceph 部署都需要 Ceph 發布的軟件包,除非你部署開發版軟件包(僅有開發版、 QA 、和尖端部署)。詳情見添加 Ceph 庫。
Ceph Development:(可選) 如果你在做 Ceph 開發、為 Ceph 做構建測試、或者急需開發版中的尖端功能,可以安裝開發版軟件包,詳情見 添加 Ceph 開發庫 。
Apache
/FastCGI:(可選) 如果你想部署 Ceph 對象存儲服務,那么必須安裝 Apache 和 FastCGI 。 Ceph 庫提供的 Apache 和 FastCGI 二進制包和來自 Apache 的是一樣的,但它打開了 100-continue 支持。如果你想啟用 Ceph 對象網關、且支持 100-continue ,那必須從 Ceph 庫下載 Apache/FastCGI 軟件包。詳情見添加 Apache/CGI 源。

?

?

安裝密鑰

?

?

把密鑰加入你系統的可信密鑰列表內,以消除安全告警。對主要發行版(如 dumplingemperorfirefly )和開發版(如 release-name-rc1release-name-rc2 )應該用 release.asc 密鑰;開發中的測試版應使用 autobuild.asc 密鑰(開發者和 QA )

?

注意:這里只針對centos而言

?

?

執行下列命令安裝 release.asc 密鑰

sudo rpm --import 'https://download.ceph.com/keys/release.asc'

?

執行下列命令安裝 autobuild.asc 密鑰(僅對 QA 和開發者):

?

sudo rpm --import 'https://download.ceph.com/keys/autobuild.asc'

?

添加 Ceph 庫

適合 CentOS/RHEL 和其他發行版(通過 YUM 安裝)的包位于:

?

http://download.ceph.com/rpm-{release-name}

?

RPM 二進制包

對于主要發布,你可以在 /etc/yum.repos.d/ 目錄下新增一個 Ceph 庫:創建 ceph.repo 。在下例中,需要用 Ceph 主要發布名(如 dumplingemperor )替換 {ceph-release} 、用 Linux 發行版名( el6rhel6 等)替換 {distro} 。你可以到 http://download.ceph.com/rpm-{ceph-release}/ 看看 Ceph 支持哪些發行版。有些 Ceph 包(如 EPEL )必須優先于標準包,所以你必須確保設置了 priority=2

[ceph]
name=Ceph packages for $basearch
baseurl=http://download.ceph.com/rpm-{ceph-release}/{distro}/$basearch
enabled=1
priority=2
gpgcheck=1
type=rpm-md
gpgkey=https://download.ceph.com/keys/release.asc

[ceph-noarch]
name=Ceph noarch packages
baseurl=http://download.ceph.com/rpm-{ceph-release}/{distro}/noarch
enabled=1
priority=2
gpgcheck=1
type=rpm-md
gpgkey=https://download.ceph.com/keys/release.asc

[ceph-source]
name=Ceph source packages
baseurl=http://download.ceph.com/rpm-{ceph-release}/{distro}/SRPMS
enabled=0
priority=2
gpgcheck=1
type=rpm-md
gpgkey=https://download.ceph.com/keys/release.asc

?

如果想用開發版,你也可以用相應配置:

?

[ceph]
name=Ceph packages for $basearch/$releasever
baseurl=http://download.ceph.com/rpm-testing/{distro}/$basearch
enabled=1
priority=2
gpgcheck=1
type=rpm-md
gpgkey=https://download.ceph.com/keys/release.asc

[ceph-noarch]
name=Ceph noarch packages
baseurl=http://download.ceph.com/rpm-testing/{distro}/noarch
enabled=1
priority=2
gpgcheck=1
type=rpm-md
gpgkey=https://download.ceph.com/keys/release.asc

[ceph-source]
name=Ceph source packages
baseurl=http://download.ceph.com/rpm-testing/{distro}/SRPMS
enabled=0
priority=2
gpgcheck=1
type=rpm-md
gpgkey=https://download.ceph.com/keys/release.asc

?

下載軟件包

RPM 二進制包

Ceph 依賴一些第三方庫。執行下列命令添加 EPEL 庫:

su -c 'rpm -Uvh http://download.ceph.com/rpm-firefly/{distro}/noarch/ceph-{version}.{distro}.noarch.rpm'

?

Ceph依賴下列包

snappy
leveldb
gdisk
python-argparse
gperftools-libs

當前,我們為這些平臺 RHEL/CentOS6 ( el6 )、 Fedora 18 和 19 ( f18f19 )、 OpenSUSE 12.2 ( opensuse12.2 )和 SLES ( sles11 )分別構建二進制包,倉庫包會在本地系統上裝好 Ceph 庫配置文件,這樣 yumup2date 就可以使用這些配置文件自動安裝了。用自己的發行版名字替換 {distro}

?

su -c 'rpm -Uvh http://download.ceph.com/rpm-firefly/{distro}/noarch/ceph-{version}.{distro}.noarch.rpm'

?

例如,對于 CentOS 6 ( el6

su -c 'rpm -Uvh http://download.ceph.com/rpm-firefly/el6/noarch/ceph-release-1-0.el6.noarch.rpm'

?

你可以從這里直接下載RPM包:

http://download.ceph.com/rpm-firefly

?

對較老的 Ceph 發布,用 Ceph 發布名替換 {release-name} ,你可以執行 lsb_release -sc 命令獲取發行版代號。

su -c 'rpm -Uvh http://download.ceph.com/rpm-{release-name}/{distro}/noarch/ceph-{version}.{distro}.noarch.rpm'

?

二、安裝軟件

?

安裝 ceph-deploy

ceph-deploy 工具可用來裝配起或拆除 Ceph 集群,方便了開發、測試和概念驗證項目

要用 yum 安裝 ceph-deploy ,用此命令:

sudo yum install ceph-deploy

?

安裝 Ceph 存儲集群

?

此方法只適用于那些沒采用部署工具(如 ceph-deploychefjuju 等)的用戶

?

要用 RPM 安裝 Ceph ,可按如下步驟進行

1.安裝 yum-plugin-priorities

sudo yum install yum-plugin-priorities

?

2.確認 /etc/yum/pluginconf.d/priorities.conf 文件存在。

3.確認 priorities.conf 里面打開了插件支持。

?

[main]
enabled = 1

4.確認你的 YUM ceph.repo 庫文件條目包含 priority=2

?

[ceph]
name=Ceph packages for $basearch
baseurl=http://download.ceph.com/rpm-{ceph-release}/{distro}/$basearch
enabled=1
priority=2
gpgcheck=1
type=rpm-md
gpgkey=https://download.ceph.com/keys/release.asc

[ceph-noarch]
name=Ceph noarch packages
baseurl=http://download.ceph.com/rpm-{ceph-release}/{distro}/noarch
enabled=1
priority=2
gpgcheck=1
type=rpm-md
gpgkey=https://download.ceph.com/keys/release.asc

[ceph-source]
name=Ceph source packages
baseurl=http://download.ceph.com/rpm-{ceph-release}/{distro}/SRPMS
enabled=0
priority=2
gpgcheck=1
type=rpm-md
gpgkey=https://download.ceph.com/keys/release.asc

?

5.安裝依賴的的軟件包

?

sudo yum install snappy leveldb gdisk python-argparse gperftools-libs

?

成功添加正式版或開發版軟件包的庫文件之后,或把 ceph.repo 文件放入 /etc/yum.repos.d 之后,你就可以安裝 Ceph 軟件包了

?

sudo yum install ceph

?

?

?

三、手動部署集群

把 Ceph 二進制包安裝到各節點后,你也可以手動部署集群。手動過程主要是讓部署腳本(如 Chef、Juju、Puppet 等)的開發者們驗證程序的

?

手動部署

所有 Ceph 集群都需要至少一個監視器、且 OSD 數量不小于副本數。

自舉引導初始監視器是部署 Ceph 存儲集群的第一步,監視器的部署也為整個集群奠定了重要框架,

如存儲池副本數、每個 OSD 擁有的歸置組數量、心跳周期、是否需認證等,其中大多數選項都有默認值,但是建設生產集群時仍需要您熟知它們。

按照安裝(快速)里的相同配置,我們能配置起監視器為 node1 , OSD 節點為 node2node3 的集群

?

?

?

?

?監視器的自舉引導

?

?自舉引導監視器(理論上是 Ceph 存儲集群)需要以下幾個條件

惟一標識符: fsid 是集群的惟一標識,它是 Ceph 作為文件系統時的文件系統標識符。現在, Ceph 還支持原生接口、塊設備、和對象存儲網關接口,所以 fsid 有點名不符實了。集群名稱: 每個 Ceph 集群都有自己的名字,它是個不含空格的字符串。默認名字是 ceph 、但你可以更改;尤其是運營著多個集群時,需要用名字來區分要操作哪一個。比如,當你以聯盟架構運營多個集群時,集群名字(如 us-west 、 us-east )將作為標識符出現在 CLI 界面上。注意:要在命令行下指定某個集群,可以指定以集群名為前綴的配置文件(如 ceph.conf 、 us-west.conf 、 us-east.conf 等);也可以參考 CLI 用法( ceph --cluster {cluster-name} )。監視器名字: 同一集群內的各監視器例程都有惟一的名字,通常都用主機名作為監視器名字(我們建議每臺主機只運行一個監視器、并且不要與 OSD 主機復用。短主機名可以用 hostname -s 獲取。監視器圖: 自舉引導初始監視器需要生成監視器圖,為此,需要有 fsid 、集群名(或用默認)、至少一個主機名及其 IP 。監視器密鑰環: 監視器之間通過密鑰通訊,所以你必須把監視器密鑰加入密鑰環,并在自舉引導時提供。管理密鑰環: 要使用 ceph 這個命令行工具,你必須有 client.admin 用戶,所以你要創建此用戶及其密鑰,并把他們加入密鑰環。

?

前述必要條件并未提及 Ceph 配置文件的創建,然而,實踐中最好創建個配置文件,并寫好 fsidmon initial membersmon host 配置。

你也可以查看或設置運行時配置。 Ceph 配置文件可以只包含非默認配置, Ceph 配置文件的配置將覆蓋默認值,把這些配置保存在配置文件里可簡化維護。

具體過程如下:

?

?

1.登錄到初始監視器節點:ssh {hostname}如:ssh node1
2.確保保存 Ceph 配置文件的目錄存在, Ceph 默認使用
/etc/ceph 。安裝 ceph 軟件時,安裝器也會自動創建 /etc/ceph/ 目錄。ls /etc/ceph注意:部署工具在清除集群時可能刪除此目錄(如 ceph-deploy purgedata {node-name} 、 ceph-deploy purge {node-name} )。
3.創建 Ceph 配置文件, Ceph 默認使用 ceph.conf ,其中的 ceph 是集群名字。sudo vim
/etc/ceph/ceph.conf
4.給集群分配惟一 ID (即 fsid )。uuidgen
5.把此 ID 寫入 Ceph 配置文件。fsid
= {UUID}例如:fsid = a7f64266-0894-4f1e-a635-d0aeaca0e993
6.把初始監視器寫入 Ceph 配置文件。mon initial members
= {hostname}[,{hostname}]例如:mon initial members = node1
7.把初始監視器的 IP 地址寫入 Ceph 配置文件、并保存。mon host
= {ip-address}[,{ip-address}]例如:mon host = 192.168.0.1注意: 你也可以寫 IPv6 地址,但是必須設置 ms bind ipv6 = true 。詳情見網絡配置參考。
8.為此集群創建密鑰環、并生成監視器密鑰。ceph
-authtool --create-keyring /tmp/ceph.mon.keyring --gen-key -n mon. --cap mon 'allow *'
9.生成管理員密鑰環,生成 client.admin 用戶并加入密鑰環。ceph
-authtool --create-keyring /etc/ceph/ceph.client.admin.keyring --gen-key -n client.admin --set-uid=0 --cap mon 'allow *' --cap osd 'allow *' --cap mds 'allow'
10.把 client.admin 密鑰加入 ceph.mon.keyring 。ceph
-authtool /tmp/ceph.mon.keyring --import-keyring /etc/ceph/ceph.client.admin.keyring
11.用規劃好的主機名、對應 IP 地址、和 FSID 生成一個監視器圖,并保存為
/tmp/monmap 。monmaptool --create --add {hostname} {ip-address} --fsid {uuid} /tmp/monmap例如:monmaptool --create --add node1 192.168.0.1 --fsid a7f64266-0894-4f1e-a635-d0aeaca0e993 /tmp/monmap
12.在監視器主機上分別創建數據目錄。sudo mkdir
/var/lib/ceph/mon/{cluster-name}-{hostname}例如:sudo mkdir /var/lib/ceph/mon/ceph-node1詳情見監視器配置參考——數據。
13.用監視器圖和密鑰環組裝守護進程所需的初始數據。ceph
-mon [--cluster {cluster-name}] --mkfs -i {hostname} --monmap /tmp/monmap --keyring /tmp/ceph.mon.keyring例如:ceph-mon --mkfs -i node1 --monmap /tmp/monmap --keyring /tmp/ceph.mon.keyring

?

14.仔細斟酌 Ceph 配置文件,公共的全局配置包括這些

?

[global]
fsid = {cluster-id}
mon initial members = {hostname}[, {hostname}]
mon host = {ip-address}[, {ip-address}]
public network = {network}[, {network}]
cluster network = {network}[, {network}]
auth cluster required = cephx
auth service required = cephx
auth client required = cephx
osd journal size = {n}
filestore xattr use omap = true
osd pool default size = {n}  # Write an object n times.
osd pool default min size = {n} # Allow writing n copy in a degraded state.
osd pool default pg num = {n}
osd pool default pgp num = {n}
osd crush chooseleaf type = {n}

?

?

按前述實例, [global] 段的配置大致如下:

?

[global]
fsid = a7f64266-0894-4f1e-a635-d0aeaca0e993
mon initial members = node1
mon host = 192.168.0.1
public network = 192.168.0.0/24
auth cluster required = cephx
auth service required = cephx
auth client required = cephx
osd journal size = 1024
filestore xattr use omap = true
osd pool default size = 2
osd pool default min size = 1
osd pool default pg num = 333
osd pool default pgp num = 333
osd crush chooseleaf type = 1

?

15.建一個空文件 done ,表示監視器已創建、可以啟動了

sudo touch /var/lib/ceph/mon/ceph-node1/done

?

16.啟動監視器

在 Debian/CentOS/RHEL 上用 sysvinit

sudo /etc/init.d/ceph start mon.node1

?

17.驗證下 Ceph 已經創建了默認存儲池。

ceph osd lspools

你應該會看到這樣的輸出:

0 data,1 metadata,2 rbd,

?

18.確認下集群在運行。

ceph -s

?

你應該從輸出里看到剛剛啟動的監視器在正常運行,并且應該會看到一個健康錯誤:它表明歸置組卡在了 stuck inactive 狀態。輸出大致如此

?

cluster a7f64266-0894-4f1e-a635-d0aeaca0e993health HEALTH_ERR 192 pgs stuck inactive; 192 pgs stuck unclean; no osdsmonmap e1: 1 mons at {node1=192.168.0.1:6789/0}, election epoch 1, quorum 0 node1osdmap e1: 0 osds: 0 up, 0 inpgmap v2: 192 pgs, 3 pools, 0 bytes data, 0 objects0 kB used, 0 kB / 0 kB avail192 creating

?

注意: 一旦你添加了 OSD 并啟動,歸置組健康錯誤應該消失,詳情見下一節。

?

添加 OSD

?

你的初始監視器可以正常運行后就可以添加 OSD 了。要想讓集群達到 active + clean 狀態,必須安裝足夠多的 OSD 來處理對象副本(如 osd pool default size = 2 需要至少 2 個 OSD )。在完成監視器自舉引導后,集群就有了默認的 CRUSH 圖,但現在此圖還是空的,里面沒有任何 OSD 映射到 Ceph 節點。

?

精簡型

Ceph 軟件包提供了 ceph-disk 工具,用于準備硬盤:可以是分區或用于 Ceph 的目錄。 ceph-disk 可通過遞增索引來創建 OSD ID ;還能把 OSD 加入 CRUSH 圖。 ceph-disk 的詳細用法可參考 ceph-disk -h ,此工具把后面將提到的精簡型里面的步驟都自動化了。

為按照精簡型創建前兩個 OSD ,在 node2node3 上執行下列命令:

?

1.準備OSD

ssh {node-name}
sudo ceph-disk prepare --cluster {cluster-name} --cluster-uuid {uuid} --fs-type {ext4|xfs|btrfs} {data-path} [{journal-path}]

?

例如:

?

ssh node1
sudo ceph-disk prepare --cluster ceph --cluster-uuid a7f64266-0894-4f1e-a635-d0aeaca0e993 --fs-type ext4 /dev/hdd1

?

2.激活 OSD

?

sudo ceph-disk activate {data-path} [--activate-key {path}]

?

例如:

sudo ceph-disk activate /dev/hdd1

?

注: 如果你的 Ceph 節點上沒有 /var/lib/ceph/bootstrap-osd/{cluster}.keyring ,那么應該外加 --activate-key 參數

?

?

細致型

要是不想借助任何輔助工具,可按下列步驟創建 OSD 、將之加入集群和 CRUSH 圖。按下列詳細步驟可在 node2node3 上增加前 2 個 OSD

?

1.登錄到OSD主機。

?

ssh {node-name}

?

2.給 OSD 分配 UUID

uuidgen

?

3.創建 OSD 。如果沒有指定 UUID ,將會在 OSD 首次啟動時分配一個。下列命令執行完成后將輸出 OSD 號,在后續步驟里還會用到這個號。

ceph osd create [{uuid} [{id}]]

?

4.在新 OSD 主機上創建默認目錄。

?

ssh {new-osd-host}
sudo mkdir /var/lib/ceph/osd/{cluster-name}-{osd-number}

?

5.如果要把 OSD 裝到非系統盤的獨立硬盤上,先創建文件系統、然后掛載到剛創建的目錄下:

?

ssh {new-osd-host}
sudo mkfs -t {fstype} /dev/{hdd}
sudo mount -o user_xattr /dev/{hdd} /var/lib/ceph/osd/{cluster-name}-{osd-number}

?

?

6.初始化 OSD 數據目錄:

?

ssh {new-osd-host}
sudo ceph-osd -i {osd-num} --mkfs --mkkey --osd-uuid [{uuid}]

--mkkey 選項運行 ceph-osd 之前,此目錄必須是空的;另外,如果集群名字不是默認值,還要給 ceph-osd 指定 --cluster 選項。

?

7.注冊此 OSD 的密鑰。路徑內 ceph-{osd-num} 里的 ceph 其含義為 $cluster-$id ,如果你的集群名字不是 ceph ,請指定自己的集群名:

?

sudo ceph auth add osd.{osd-num} osd 'allow *' mon 'allow profile osd' -i /var/lib/ceph/osd/{cluster-name}-{osd-num}/keyring

?

8.把此節點加入 CRUSH 圖

?

ceph [--cluster {cluster-name}] osd crush add-bucket {hostname} host

?

例如:

ceph osd crush add-bucket node1 host

?

9.把此 Ceph 節點放入 default 根下。

?

ceph osd crush move node1 root=default

?

10.把此 OSD 加入 CRUSH 圖之后,它就能接收數據了。你也可以反編譯 CRUSH 圖、把此 OSD 加入設備列表、對應主機作為桶加入(如果它還不在 CRUSH 圖里)、然后此設備作為主機的一個條目、分配權重、重新編譯、注入集群

?

ceph [--cluster {cluster-name}] osd crush add {id-or-name} {weight} [{bucket-type}={bucket-name} ...]

?

例如:

ceph osd crush add osd.0 1.0 host=node1

?

11.把 OSD 加入 Ceph 后, OSD 已經在配置里了。但它還沒開始運行,這時處于 downin 狀態,要啟動進程才能收數據。

?

在 Debian/CentOS/RHEL 上用 sysvinit 啟動:

sudo /etc/init.d/ceph start osd.{osd-num} [--cluster {cluster-name}]

?

例如:

sudo /etc/init.d/ceph start osd.0
sudo /etc/init.d/ceph start osd.1

?

要讓守護進程開機自啟,必須創建一個空文件:

sudo touch /var/lib/ceph/osd/{cluster-name}-{osd-num}/sysvinit

?

例如:

?

sudo touch /var/lib/ceph/osd/ceph-0/sysvinit
sudo touch /var/lib/ceph/osd/ceph-1/sysvinit

?

OSD 啟動后,它應該處于 upin 狀態。

?

總結

監視器和兩個 OSD 開始正常運行后,你就可以通過下列命令觀察歸置組互聯過程了:

?

ceph -w

?

執行下列命令查看 OSD樹:

?

ceph osd tree

?

你應該會看到類似如下的輸出:

# id    weight  type name       up/down reweight
-1      2       root default
-2      2               host node1
0       1                       osd.0   up      1
-3      1               host node2
1       1                       osd.1   up      1

?

?

四、升級軟件

?

Ceph 的各個版本都可能有特定的步驟,升級前請參考與此版本相關的章節和發布說明文檔,以確定有哪些特定于此版本的步驟

?

概述

?

你可以在 Ceph 集群在線且提供服務時升級守護進程!某些類型的守護進程依賴其他的,如 Ceph 元數據服務器和 Ceph 對象網關依賴于 Ceph 監視器和 OSD 守護進程,所以我們建議按以下順序升級:

ceph-deploy 工具
Ceph 監視器
Ceph OSD 守護進程
Ceph 元數據服務器
Ceph 對象網關

?

作為普適規則,我們建議一次升級一類的所有守護進程(如所有 ceph-osd 、所有 ceph-mon 等),這樣才能確保它們屬于同一版本

?

升級過程相對簡單,只要參照此版本特定的章節即可。基本過程有三個:

1.用 ceph-deploy 為各主機升級軟件包(用 ceph-deploy install 命令),或者分別登錄各主機手動升級。例如,升級監視器時, ceph-deploy 語法大致如此

?

ceph-deploy install --release {release-name} ceph-node1[ ceph-node2]
ceph-deploy install --release firefly mon1 mon2 mon3

?

注: ceph-deploy install 命令會把指定節點上的舊版本升級為你所指定的版本,沒有 ceph-deploy upgrade 這樣的升級命令。

?

2.登錄各節點并重啟各相關 Ceph 守護進程

3.確認集群健康狀況

?

一旦升級完,就不能降級了

?

ceph-deploy 工具

升級 Ceph 守護進程前,應該先升級 ceph-deploy 工具。

sudo pip install -U ceph-deploy
或者:
sudo yum install ceph-deploy python-pushy

?

Cuttlefish 到 Dumpling

?

從 Cuttlefish (v0.61-v0.61.7) 開始可以滾動升級。但還有幾點要特別注意:首先,你必須升級 ceph 這個命令行工具,因為它變動很大;其次,你必須把所有監視器升級到 Dumpling ,因為協議有變動

?

在 CentOS/Red Hat 發行版上可刪除舊源

?

sudo rm /etc/yum.repos.d/ceph.repo

?

然后用下列內容創建個新倉庫 ceph.repo

?

[ceph]
name=Ceph Packages and Backports $basearch
baseurl=http://download.ceph.com/rpm/el6/$basearch
enabled=1
gpgcheck=1
type=rpm-md
gpgkey=https://download.ceph.com/keys/release.asc

注意:

1.確保使用與自己發行版相匹配的 URL ,對應發行版請檢查 http://download.ceph.com/rpm 。

2.如果你可以用 ceph-deploy 升級軟件,那你只需要把倉庫加到運行 cephceph-deploy 命令的客戶端節點即可。

?

?

?

Dumpling 到 Emperor

?

Dumpling (v0.64) 可滾動升級

?

在 CentOS/Red Hat 發行版上可刪除舊源

?

sudo rm /etc/yum.repos.d/ceph.repo

?

然后新增軟件庫 ceph.repo ,其內容如下,要用自己的發行版名字(如 el6rhel6 等等)替換 {disro}

[ceph]
name=Ceph Packages and Backports $basearch
baseurl=http://download.ceph.com/rpm-emperor/{distro}/$basearch
enabled=1
gpgcheck=1
type=rpm-md
gpgkey=https://download.ceph.com/keys/release.asc

?

注意:

確保使用與自己發行版相匹配的 URL ,對應發行版請檢查 http://download.ceph.com/rpm 。
如果你可以用 ceph-deploy 升級軟件,那你只需要把倉庫加到運行 ceph 或 ceph-deploy 命令的客戶端節點即可。

?

命令行工具

?

在 v0.65 中, ceph 命令行接口( CLI )工具變動很大;老的 CLI 不能與 Dumpling 通訊,也就是說,要用 ceph 命令訪問 Ceph 存儲集群的所有節點其 ceph-common 庫必須升級。

確保你已安裝最新版( v0.67 或更新)。如果還沒有,你也許得卸載、清除相關依賴,然后重新安裝

?

監視器

Dumpling (v0.67) 版本的 ceph-mon 守護進程與 v0.66 及更早版本相比,內部協議有所變更,也就是說它不能與 v0.66 或更老的版本通訊。大多數監視器升級完后,它們就能用新協議形成法定人數了,舊版監視器將被排斥在外,正因如此,我們建議要一次性升級所有監視器(或者較快的節奏),以最小化可能的當機時間。

?

混用版本的集群不要運行太長時間

?

Dumpling 到 Firefly

?

如果您的現有集群運行著低于 v0.67 Dumpling 的版本,請先升級到最新的 Dumpling 版,然后再升級到 v0.80 Firefly 版

?

監視器

Dumpling (v0.67) 版本的 ceph-mon 守護進程與 v0.66 及更早版本相比,內部協議有所變更,也就是說它不能與 v0.66 或更老的版本通訊。大多數監視器升級完后,它們就能用新協議形成法定人數了,舊版監視器將被排斥在外,正因如此,我們建議要一次性升級所有監視器(或者較快的節奏),以最小化可能的當機時間。

?

混用版本的集群不要運行太長時間

?

Ceph 配置文件變更

?

我們建議升級前先把下列配置加入 ceph.conf 配置文件的 [mon] 段下:

mon warn on legacy crush tunables = false

此配置可消除因用著老 CRUSH 歸置法而引起的健康告警。雖說可以在全集群范圍內重均衡已有數據,但我們不建議生產集群做,因為它涉及大量數據,而且重均衡會導致嚴重的性能降級。

?

命令行工具

?

在 V0.65 版中, ceph 命令行界面( CLI )工具有重大改變,老版的 CLI 不能用于 Firefly 。也就是說,在升級 Ceph 守護進程前,要用 ceph 命令訪問存儲集群的節點都必須升級 ceph-common 庫。

?

在 CentOS/RHEL 上可用此命令:

sudo yum install ceph-common

?

確保你已安裝最新版。如果還沒有,你也許得卸載、清除相關依賴,然后重新安裝

?

升級順序

對于 CentOS/Red Hat 發行版,先刪除舊版軟件庫

sudo rm /etc/yum.repos.d/ceph.repo

然后新增一個 ceph.repo 軟件庫條目,其內容如下,還有把 {distro} 替換為你的發行版名字(如 el6rhel6rhel7 等等)

?

[ceph]
name=Ceph Packages and Backports $basearch
baseurl=http://download.ceph.com/rpm-firefly/{distro}/$basearch
enabled=1
gpgcheck=1
type=rpm-md
gpgkey=https://download.ceph.com/keys/release.asc

?

按如下順序升級守護進程:

?

監視器: 如果 ceph-mon 守護進程晚于 ceph-osd 守護進程啟動,那么這些監視器就不能正確注冊其能力,新功能也不可用,除非再次重啟。
OSD
元數據服務器: 如果 ceph-mds 守護進程先被重啟了,它只能先等著,直到所有 OSD 都升級完,它才能完全啟動。
網關: 一起升級 radosgw 守護進程。多片上傳功能有微小的行為變化,它會阻止由新版 radosgw 發起、卻由舊版 radosgw 完成的多片上傳請求

?

確保先升級完所有 Ceph 監視器、而且重啟完畢,然后再升級并重啟各OSD、各元數據服務器和網關。

?

?

Emperor 到 Firefly

?

如果您的現有集群運行著低于 v0.67 Dumpling 的版本,請先升級到最新的 Dumpling 版,然后再升級到 v0.80 Firefly 版。詳細步驟請參考 Cuttlefish 到 Dumpling 和 Firefly 發布說明。若從 Emperor 之后的版本升級,請參考 Firefly 發布說明

?

Ceph 配置文件變更

我們建議升級前先把下列配置加入 ceph.conf 配置文件的 [mon] 段下:

?

mon warn on legacy crush tunables = false

?

此配置可消除因用著老 CRUSH 歸置法而引起的健康告警。雖說可以在全集群范圍內重均衡已有數據,但我們不建議生產集群做,因為它涉及大量數據,而且重均衡會導致嚴重的性能降級

?

升級順序

對于 CentOS/Red Hat 發行版,先刪除舊版軟件庫

?

sudo rm /etc/yum.repos.d/ceph.repo

?

然后新增一個 ceph.repo 軟件庫條目,其內容如下,還有把 {distro} 替換為你的發行版名字(如 el6rhel6rhel7 等等)

[ceph]
name=Ceph Packages and Backports $basearch
baseurl=http://download.ceph.com/rpm/{distro}/$basearch
enabled=1
gpgcheck=1
type=rpm-md
gpgkey=https://download.ceph.com/keys/release.asc

?

注意:

確保使用與自己發行版相匹配的 URL ,對應發行版請檢查 http://download.ceph.com/rpm 。
如果你可以用 ceph-deploy 升級軟件,那你只需要把倉庫加到運行 ceph 或 ceph-deploy 命令的客戶端節點即可。

?

按如下順序升級守護進程:

?

監視器: 如果 ceph-mon 守護進程晚于 ceph-osd 守護進程啟動,那么這些監視器就不能正確注冊其能力,新功能也不可用,除非再次重啟。
OSD
元數據服務器: 如果 ceph-mds 守護進程先被重啟了,它只能先等著,直到所有 OSD 都升級完,它才能完全啟動。
網關: 一起升級 radosgw 守護進程。多片上傳功能有微小的行為變化,它會阻止由新版 radosgw 發起、卻由舊版 radosgw 完成的多片上傳請求。

?

?

升級過程

Ceph 的各版本可能有不同的步驟,所以升級前請參考此版本特定的升級步驟

?

?

升級監視器

要升級監視器,執行下列步驟:

1.升級各守護進程的二進制包

你可以用 ceph-deploy 一次升級所有監視器節點,如:

ceph-deploy install --release {release-name} ceph-node1[ ceph-node2]
ceph-deploy install --release hammer mon1 mon2 mon3

?

在 CentOS/Red Hat 主機上相應的命令如下:

?

ssh {mon-host}
sudo yum update && sudo yum install ceph

?

?

2.重啟各監視器。CentOS/Red Hat/Debian 發行版的命令如下:

sudo /etc/init.d/ceph restart {mon-id}

ceph-deploy 部署的 CentOS/Red Hat 發行版,其監視器 ID 通常是 mon.{hostname}

?

3.確保各監視器都重回法定人數。

ceph mon stat

?

再次確認你完成了所有監視器的升級

?

升級單個 OSD

?

升級單個 OSD 守護進程的步驟如下:

1.升級 OSD 守護進程對應的軟件包。

你可以用 ceph-deploy 一次升級所有 OSD 守護進程,如:

?

ceph-deploy install --release {release-name} ceph-node1[ ceph-node2]
ceph-deploy install --release hammer osd1 osd2 osd3

?

你也可以用包管理器挨個升級各節點。在 CentOS/Red Hat 主機上相應的命令如下:

ssh {osd-host}
sudo yum update && sudo yum install ceph

?

2.重啟 OSD ,其中 N 是 OSD 號。對于CentOS/Red Hat/Debian 發行版,用:

sudo /etc/init.d/ceph restart N

?

3.確保升級后的 OSD 重新加入了集群:

ceph osd stat

再次確認所有 OSD 守護進程已升級完

?

?

?

升級單個元數據服務器

?

要升級單個 Ceph 元數據服務器,挨個執行下列步驟:

1.升級二進制包。你可以用 ceph-deploy 一次升級所有 MDS 節點,也可以在各節點用包管理器升級,如

ceph-deploy install --release {release-name} ceph-node1
ceph-deploy install --release hammer mds1

?

在 CentOS/Red Hat 主機上則是:

?

ssh {mon-host}
sudo yum update && sudo yum install ceph-mds

?

2.重啟元數據服務器。在 CentOS/Red Hat/Debian 上用:

?

sudo /etc/init.d/ceph restart mds.{hostname}

ceph-deploy 部署的集群其 {hostname} 通常是所在主機的主機名。

?

3.確保元數據服務器已啟動,且運行著:

ceph mds stat

?

monosd 目錄需用 /var/lib/ceph 之下的默認子目錄。

?

OSDs: 路徑應該是 /var/lib/ceph/osd/ceph-$id
MON: 路徑應該是 /var/lib/ceph/mon/ceph-$id

?

在這些目錄下都應該有一個名為 keyring 的密鑰環文件

?

轉載于:https://www.cnblogs.com/zhongguiyao/p/7889903.html

總結

以上是生活随笔為你收集整理的手动安装ceph的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。

国产亚洲欧美日韩高清 | 天天操天天射天天插 | 国产69精品久久99不卡的观看体验 | 中文字幕免费一区 | 日韩精品一区二区三区中文字幕 | 国产99re| ,久久福利影视 | 欧美va天堂va视频va在线 | 久久区二区 | 久久黄色美女 | 久久视频这里有精品 | 色噜噜日韩精品欧美一区二区 | 亚州精品在线视频 | 日韩字幕在线观看 | 国产手机av在线 | 99精品亚洲 | 欧美一区二区三区在线视频观看 | 综合激情网| 精品在线视频播放 | 狠狠干网| 中文字幕中文字幕在线中文字幕三区 | 激情丁香在线 | 久久九九精品 | 中文有码在线视频 | 麻豆高清免费国产一区 | 欧美精品被| av电影亚洲| 4hu视频| 操操操操网 | 欧美日韩国产精品久久 | 特级西西444www大胆高清无视频 | 精品日韩中文字幕 | 精品久久久久一区二区国产 | 午夜精品一区二区三区在线播放 | 国产在线观看免费观看 | 欧美日韩高清不卡 | 免费久久精品视频 | 久久爱资源网 | 九九九九热精品免费视频点播观看 | av网在线观看 | 亚洲天堂在线观看完整版 | 亚洲激精日韩激精欧美精品 | 国产精品美女久久久久久2018 | 伊人色综合久久天天 | 91在线播放国产 | 国产一级高清 | 91传媒在线 | 国产亚州精品视频 | a视频免费 | 久久精品系列 | 综合色在线观看 | 亚洲手机天堂 | 欧美日韩另类视频 | 国产免费作爱视频 | 一区二区视 | 成人黄色在线看 | 久久色在线观看 | 91女子私密保健养生少妇 | 天天操天天怕 | 国产精品免费在线观看视频 | 国产亚洲日本 | www日韩| 99精品欧美一区二区三区黑人哦 | 999免费视频 | 国产精品久久久久久欧美 | 制服丝袜亚洲 | 国产在线黄| 婷婷六月中文字幕 | 国产亚洲精品久久久久秋 | 91久久丝袜国产露脸动漫 | 五月婷婷综合在线视频 | 国产成人久久av | 国产日产亚洲精华av | 久久免费视频4 | 久久五月激情 | 成人午夜黄色 | 色狠狠综合 | 狠狠狠色丁香婷婷综合激情 | 国产在线专区 | 欧美日韩精品二区第二页 | 日韩欧美国产免费播放 | www激情com| 99视频这里只有 | 欧美精品做受xxx性少妇 | 亚洲国产99 | 国产精品免费视频网站 | 色激情五月 | 精品99免费视频 | 天天干天天弄 | 久久国产亚洲视频 | 国产精品一区二区在线 | 四虎免费av | 国精产品一二三线999 | 午夜性生活片 | 伊人激情网 | 欧美久久久 | 麻豆视频在线观看免费 | 视频 天天草 | 美女网站一区 | 久久少妇免费视频 | 久久亚洲影视 | 免费a视频在线 | 国产偷国产偷亚洲清高 | 免费观看性生交 | 天天草视频 | 99视频在线 | 日韩午夜小视频 | 91精品国产高清自在线观看 | 亚洲伊人第一页 | 亚洲电影av在线 | 黄色午夜| 超碰在线个人 | 日韩在线不卡视频 | 国产精品一区二区av麻豆 | 久草在线观看资源 | 国产视频一区二区在线观看 | 色婷婷在线视频 | 韩国av免费在线 | 国产日产精品久久久久快鸭 | 91正在播放 | 国产精品剧情在线亚洲 | 欧美国产精品一区二区 | 中文字幕日韩精品有码视频 | 欧美午夜久久久 | 国产精品18久久久久vr手机版特色 | 99爱精品视频 | 中文字幕免费在线 | 欧美日本一二三 | 久久久久国产成人免费精品免费 | 亚州国产精品视频 | 中文av资源站 | 午夜av免费观看 | 色黄久久久久久 | 亚洲乱亚洲乱妇 | 狠狠躁夜夜a产精品视频 | 日日爽夜夜爽 | 亚洲精品在线资源 | 韩日电影在线免费看 | 日韩一区二区三区在线观看 | 丝袜美腿在线 | 高清国产一区 | 91免费国产在线观看 | 久久成视频| 精品国产午夜 | 99久久久免费视频 | 欧洲性视频 | 高清av影院 | 在线观看免费av片 | 国产高清视频在线免费观看 | 456成人精品影院 | 五月天国产 | 九九久久免费视频 | 成人av在线网 | 日韩在线视频精品 | 国产成年免费视频 | 日韩视频免费观看高清 | 最近的中文字幕大全免费版 | 日本不卡久久 | 精品福利视频在线 | 久久精品免费 | av一级片在线观看 | 久久99精品国产麻豆宅宅 | 综合久久久| 黄色成人av网址 | 亚洲h在线播放在线观看h | 在线观看欧美成人 | 久久精品视频网站 | 91在线入口| 欧美日韩国产精品一区 | 97成人超碰 | 99re国产 | www成人精品 | 久草久草在线观看 | 国产精品久久久久久久久久免费看 | 五月天高清欧美mv | 婷色在线 | 久久免费视频一区 | 欧美日韩国产在线一区 | 久久一区二区三区四区 | 国产三级久久久 | 国产精品电影一区 | 香蕉视频在线视频 | 黄网站免费久久 | 成人av免费 | a级国产乱理论片在线观看 伊人宗合网 | 成人小视频在线播放 | 91日韩在线视频 | 999色视频| 国产亚洲久一区二区 | 国产午夜亚洲精品 | 狠狠躁日日躁 | 999国产在线 | 亚洲国产字幕 | 又污又黄的网站 | 人人澡人人爽欧一区 | 久久免费大片 | 91av看片| 精品v亚洲v欧美v高清v | 中文字幕电影高清在线观看 | 91桃色国产在线播放 | 日韩精品中文字幕在线 | 精品久久久久久国产偷窥 | 久久99热这里只有精品国产 | 人人干人人做 | 国产精品99精品久久免费 | 国产在线观看免费观看 | 超碰在线日韩 | 91在线精品秘密一区二区 | av免费观看高清 | 激情丁香在线 | 草在线 | 国产精品片 | 激情五月综合 | 制服丝袜在线91 | 国产精品免费久久久 | 欧美成人h版在线观看 | 成年人国产在线观看 | 久久99精品久久久久久秒播蜜臀 | 超碰在线公开免费 | 欧美一区二区在线免费看 | 黄色毛片在线观看 | 国产精品mm | 99在线热播精品免费 | 久久免费的精品国产v∧ | 国精产品999国精产品视频 | 国产免费午夜 | 精品欧美小视频在线观看 | 天天夜夜操 | 成人毛片在线观看 | 久久天天拍| 97精品国产97久久久久久久久久久久 | 亚洲另类视频在线观看 | 高清久久久 | 在线免费观看视频你懂的 | 亚洲国产精品传媒在线观看 | 日韩美一区二区三区 | 午夜精品久久久久久 | 网站在线观看日韩 | 日日操天天操狠狠操 | 亚洲精品午夜久久久久久久 | 日韩精品一区二区三区三炮视频 | 91av原创 | 欧美日韩视频在线播放 | 国产精品久久久久久久午夜片 | 日日夜夜免费精品视频 | 免费看片日韩 | 国产精品久久久久久一区二区 | 四虎在线免费 | 九九久久精品视频 | 久久97超碰| 国产一区二三区好的 | 伊人看片 | 欧美人体xx | 天天激情天天干 | 精品视频免费久久久看 | 欧美不卡视频在线 | 国产精品免费视频一区二区 | 奇米影视8888 | 日日夜夜操操操操 | 久久精品9 | 国产97免费| 天天操天天射天天添 | 国产99久 | 探花视频免费观看 | 欧美成人黄色片 | 中文字幕亚洲欧美日韩 | 欧美精品久久久久性色 | 国产精品永久免费视频 | 久久免费视频8 | 五月婷婷在线视频观看 | 久久婷婷色综合 | 99热99热 | 97精品国产97久久久久久 | 99精品视频在线 | 亚洲欧洲精品久久 | 久久人人爽人人爽人人片av软件 | 曰韩精品 | 日本三级在线观看中文字 | 天天摸天天干天天操天天射 | 中国精品少妇 | 久久国产一区 | 久久国产视频网站 | 波多野结衣电影一区二区三区 | 国产一性一爱一乱一交 | 色婷在线 | 丁香午夜 | 97福利社 | 精品国产伦一区二区三区观看说明 | a天堂一码二码专区 | 国产免费成人av | 日韩在线观看高清 | 国内精品久久久久久中文字幕 | 在线成人中文字幕 | 久草观看视频 | 蜜桃麻豆www久久囤产精品 | 日韩精品视频久久 | 久久综合狠狠 | 亚洲久草在线视频 | av在线短片 | 久草视频首页 | 精品视频久久 | 国产中文字幕网 | 99夜色| 黄色的视频网站 | 狠狠干天天操 | 91九色视频 | 懂色av一区二区三区蜜臀 | 成人毛片100免费观看 | 久草观看视频 | 国产精品免费不卡 | 色综合激情网 | 国产一区在线视频播放 | 91九色丨porny丨丰满6 | 欧美另类成人 | 免费观看特级毛片 | 在线精品视频免费观看 | 久久99精品视频 | 亚洲电影影音先锋 | 色综合久久久久综合体桃花网 | 中文字幕第一页在线 | 日韩在线播放视频 | 99视频久 | 久久激情日本aⅴ | 日韩av中文字幕在线免费观看 | 黄色在线观看免费 | 麻豆影视网 | 中文字幕免费高清av | 91在线免费公开视频 | 国产伦精品一区二区三区四区视频 | 国产成人在线一区 | 激情开心 | 亚洲国产中文在线观看 | 色五月成人| 精品久久网 | 能在线观看的日韩av | 亚洲天堂在线观看完整版 | 日韩欧美高清不卡 | 欧美福利在线播放 | 综合天堂av久久久久久久 | 少妇自拍av | 色婷婷激情网 | 国产护士在线 | a黄色| 欧美一二区在线 | 婷婷丁香五 | 激情网综合 | 欧美成年网站 | 日韩欧美一级二级 | 日韩国产高清在线 | 亚洲伦理电影在线 | 西西4444www大胆艺术 | 最近中文字幕大全中文字幕免费 | 国产无套一区二区三区久久 | 激情亚洲综合在线 | 国产精品久久久久久超碰 | 97成人啪啪网 | 五月天色网站 | 日韩黄色网络 | 亚洲电影在线看 | 久久视影 | 精品99免费视频 | 免费99精品国产自在在线 | 中文字幕4 | 国产精品白虎 | 久久成人免费视频 | 观看免费av | 欧美成人xxxxx| 人人添人人澡 | 日韩一二三区不卡 | 国产福利免费在线观看 | 91精品人成在线观看 | 日韩av成人免费看 | 国内精品久久影院 | 成人91在线 | 97精品国产97久久久久久免费 | 91精品久久久久 | 波多野结衣在线观看一区二区三区 | 91漂亮少妇露脸在线播放 | 色在线国产 | 亚洲一区 av | 欧美乱码精品一区二区 | 国产视频一区二区在线观看 | 成人福利在线 | 成人永久免费 | 免费在线播放av电影 | 99免费看片| 1区2区3区在线观看 三级动图 | 免费在线观看成人小视频 | 激情视频区 | 国产在线精品观看 | 99精品在线视频观看 | 日韩在线大片 | 亚洲国产成人久久综合 | 黄色软件在线观看 | 国产女教师精品久久av | 亚洲激情免费 | 亚洲午夜久久久影院 | 91视视频在线直接观看在线看网页在线看 | av免费在线网站 | 五月天综合色 | 日韩亚洲在线观看 | 国产黄色大全 | 国产精品女教师 | 欧美激情精品久久久久久免费印度 | 国产精品黄色av | 天天射天 | 国产免费嫩草影院 | 91精品久久久久久久久久入口 | 久久国产视频网站 | 91综合久久一区二区 | 免费a级毛片在线看 | 久久精品99国产精品酒店日本 | 久久专区| 韩国精品在线观看 | 婷婷在线色| 国产精品一区二区三区四区在线观看 | 探花视频免费在线观看 | 波多野结衣视频一区二区 | 黄色av在| 中文字幕一区二区三区四区视频 | 美女视频黄免费网站 | 色综合久久综合网 | 808电影免费观看三年 | 亚洲国产免费 | 婷婷中文字幕 | www.久久色.com| 中文国产字幕在线观看 | 精品美女久久久久 | 五月开心激情网 | 视频在线观看国产 | 国产精品毛片久久蜜 | 久久久www免费电影网 | 欧美激情第一页xxx 午夜性福利 | 久草网站 | 91亚色免费视频 | 97超视频| 91麻豆精品久久久久久 | 婷婷精品视频 | 色五月情 | 久久99久久99精品免视看婷婷 | ,午夜性刺激免费看视频 | 黄色日视频 | www视频在线观看 | 91av在线免费视频 | 久久综合中文字幕 | 一区二区视频欧美 | 69av免费视频 | 天天草综合网 | 久 久久影院 | 久久久国内精品 | 国产又粗又猛又黄又爽的视频 | 国产一区在线免费 | 国产网站av | 色夜影院 | 日本aaaa级毛片在线看 | 在线中文字幕一区二区 | 97在线观看视频 | 久久久久国产精品www | 国产三级在线播放 | 国产又黄又猛又粗 | 亚洲高清免费在线 | 国产精品久久久久久吹潮天美传媒 | 伊人激情综合 | 精品欧美一区二区精品久久 | 天天摸日日摸人人看 | 五月天综合婷婷 | 在线免费观看黄色 | 在线观看片 | 久久综合狠狠综合久久激情 | 久久神马影院 | 麻豆传媒一区二区 | 五月亚洲 | 97在线观看免费观看高清 | 久草久草在线 | 高清视频一区二区三区 | 美女网站视频色 | 久久国语 | 久草精品电影 | 久久久久国产精品免费免费搜索 | 国产1区2区 | 国产香蕉97碰碰久久人人 | 亚洲精品成人免费 | 一区二区三区日韩精品 | 中文字幕精品三级久久久 | 久久 在线| 欧美色婷婷 | 久热电影| 麻豆精品视频 | 日韩在线观看网址 | 一区二区三区国产精品 | 在线观看成人一级片 | av在线一二三区 | 热久久视久久精品18亚洲精品 | 麻豆91精品视频 | 精品久久久久久久久久久久久久久久久久 | 狠狠干夜夜爱 | 久久欧美在线电影 | 国产精品久久艹 | 成人黄色大片网站 | 在线观看成人网 | 久久人人添人人爽添人人88v | 久久99视频免费 | 国产精品乱码久久久 | 天天干天天搞天天射 | 日韩精品在线免费播放 | 五月天免费网站 | 久久人人做 | 婷婷视频在线 | 日韩日韩日韩日韩 | 99久久精品久久亚洲精品 | 丁香婷婷综合网 | 国产爽妇网 | 久久综合色天天久久综合图片 | 狠狠躁夜夜躁人人爽超碰91 | av大片免费在线观看 | 狠狠激情中文字幕 | 碰超在线观看 | 国产麻豆视频免费观看 | 国产精品每日更新 | 国产黄色精品在线 | 亚洲国产成人久久综合 | 久久久在线观看 | 福利在线看片 | 国产青春久久久国产毛片 | 五月天综合 | 国产专区一 | 国产高清在线免费 | 国产成人a亚洲精品v | av资源中文字幕 | 一区二区三区三区在线 | 中文在线字幕观看电影 | 国产区网址 | 91九色国产蝌蚪 | 天天色成人 | 欧美一区二区三区在线看 | 久久久香蕉视频 | 欧美成人91 | 精品在线观看免费 | 最近中文字幕视频网 | 六月色婷| 久久亚洲影院 | 精品国产区 | 成人蜜桃视频 | 一本一本久久a久久精品牛牛影视 | 亚洲精品视频网址 | 久久激情小说 | 久99久精品 | 在线成人看片 | 亚洲午夜精品久久久久久久久久久久 | 成人a在线观看高清电影 | 最新日本中文字幕 | 极品中文字幕 | 四虎影视8848dvd | 激情综合色综合久久 | 六月丁香激情综合色啪小说 | 四虎最新域名 | 超碰在线资源 | 午夜精品99久久免费 | 手机av网站| 91av资源在线 | 在线观看国产高清视频 | 人人插人人 | 日韩精品一区二区三区在线视频 | 国产成人在线免费观看 | 91在线视频 | 国产视频每日更新 | 亚洲婷婷综合色高清在线 | 在线超碰av | 日本在线观看一区二区三区 | 日韩精品不卡 | 黄色av一级| av一级片在线观看 | 日韩精品欧美视频 | 国产精品99久久久久久久久 | 久久国产精品一区二区三区 | www.夜色.com| av黄免费看 | 国产精品女人久久久久久 | 91在线一区| 91丨九色丨蝌蚪丨老版 | av在线免费播放网站 | 国产日韩精品一区二区三区 | 一区二区精品视频 | 免费日韩一区二区三区 | 国内精品福利视频 | 久久久美女 | 91av在| 久草a视频 | 久久久免费在线观看 | 91精品一区二区在线观看 | 婷婷国产视频 | 午夜精品久久久久久久久久久 | 超碰在线成人 | 久99视频| 日韩精品极品视频 | 狠狠色伊人亚洲综合网站色 | 久久久国产精品视频 | 久久蜜臀一区二区三区av | 丰满少妇在线观看网站 | 中文字幕五区 | 精品视频成人 | 亚洲国产日韩一区 | 99视频黄| 国产精品18久久久久久不卡孕妇 | 亚洲最大的av网站 | 成人久久久久久久久久 | 色姑娘综合天天 | 久久免费黄色网址 | 久久在线一区 | 2023天天干| 日本少妇高清做爰视频 | 看污网站 | 日韩一区二区三免费高清在线观看 | 欧美一区免费观看 | av不卡中文字幕 | 欧美精品三级在线观看 | 日韩二区在线 | 国产成人亚洲在线观看 | 亚洲成人免费 | 欧美一级艳片视频免费观看 | 超碰免费在线公开 | 97免费在线观看视频 | 中文字幕在线观看资源 | 中文字幕亚洲五码 | 欧美做受高潮电影o | 久久久久国产成人精品亚洲午夜 | 亚洲综合欧美精品电影 | 国产精品九九久久久久久久 | 久久久久久久久久久福利 | 玖玖在线看 | 一区二区不卡高清 | 涩涩网站免费 | 亚洲欧美视频在线播放 | 国产麻豆精品免费视频 | 精品免费久久久久 | 91视频在线免费下载 | 91在线视频网址 | 久久婷婷精品视频 | 香蕉在线观看视频 | 欧美日本啪啪无遮挡网站 | 国产精品一区二 | 夜夜夜| 婷婷中文字幕综合 | 在线免费看黄网站 | 天天干,天天插 | 免费69视频 | 精品视频国产 | 国产欧美日韩视频 | 日韩精品一区二区三区中文字幕 | 国产一区二区在线播放 | 天天射,天天干 | 中文字幕乱偷在线 | 久99久久| 久久99国产精品免费网站 | 手机在线黄色网址 | 国产精品免费不 | 久久伊人精品一区二区三区 | 激情婷婷久久 | 久久麻豆视频 | 精品在线一区二区三区 | 国产在线视频导航 | 国产精品色视频 | 欧美久久久久久 | 在线看成人片 | 一区二区男女 | 日韩中文字幕91 | 久久男人中文字幕资源站 | 九色琪琪久久综合网天天 | 国产精品第 | 天天爱天天操天天爽 | 亚洲综合成人婷婷小说 | 欧美精品一区在线 | 中文字幕免费观看视频 | 亚洲精品视频观看 | 在线亚洲小视频 | 国产黄色精品 | 日本高清免费中文字幕 | 久久精品一区二区三区四区 | 欧美午夜精品久久久久 | 亚洲精品国偷自产在线99热 | 久久国产精彩视频 | 一级a毛片高清视频 | 狠狠狠色 | 日韩av在线一区二区 | 日韩a在线播放 | 亚洲国产综合在线 | 日本中文在线 | 日韩中文字幕免费在线观看 | 日韩欧美高清视频在线观看 | 久久人91精品久久久久久不卡 | 一级黄色a视频 | 精品国产一二区 | 免费观看国产精品 | 91成人免费观看视频 | 精品国产视频在线观看 | 国产免费午夜 | 少妇性bbb搡bbb爽爽爽欧美 | 国产精品99久久久久久大便 | 欧亚日韩精品一区二区在线 | 午夜色场 | 午夜在线观看一区 | 精品国模一区二区 | 超碰在线最新网址 | 日韩中文免费视频 | 中文字幕一区二区三区久久蜜桃 | 午夜丰满寂寞少妇精品 | 国内外成人免费在线视频 | 免费日韩 精品中文字幕视频在线 | 在线免费高清视频 | www.色婷婷| 国产精品2019 | 日韩午夜在线观看 | 中文字幕在线播放第一页 | 亚洲免费av网站 | 久久免费的视频 | 久久这里只精品 | 欧美成人按摩 | 91一区二区在线 | 日韩免费久久 | 狠狠的操狠狠的干 | 国产亚洲在线观看 | 国产午夜在线 | 国产成人一区二区三区电影 | 成人在线观看av | 999久久久久久久久久久 | www.色com | 欧美精品久久久久久久久免 | 十八岁以下禁止观看的1000个网站 | 中文字幕精品一区久久久久 | 97成人超碰| 91影视成人 | 搡bbbb搡bbb视频 | 人人涩| 精品影院 | 国产精品国内免费一区二区三区 | 天天视频亚洲 | 国产精品6999成人免费视频 | 久久不射电影院 | 国产视频在线看 | 免费在线观看一区二区三区 | 国产成人久久精品一区二区三区 | 天堂网一区二区三区 | 国产精品久久久久婷婷二区次 | 97视频免费在线 | 国产一区在线观看视频 | 超碰激情在线 | 国产一区二区高清 | 综合网伊人 | 色激情在线 | av成人亚洲 | 天天射日 | 一区二区三区四区在线 | 波多野结衣在线中文字幕 | 少妇视频在线播放 | 亚洲精品中文字幕视频 | 黄色在线免费观看网址 | 91麻豆精品国产91久久久久久 | 久久a v视频 | 久久五月精品 | 久久毛片高清国产 | 在线视频观看你懂的 | 欧美xxxxx在线视频 | 91在线免费播放视频 | 黄色小说网站在线 | 久久福利小视频 | 少妇搡bbbb搡bbb搡aa | 在线观看第一页 | 久久毛片网站 | 伊人www22综合色 | 欧美a在线免费观看 | 伊人色综合久久天天网 | 成人性生交视频 | 最新超碰| 伊人天堂久久 | 蜜臀av.com | 日韩视频欧美视频 | 99热精品在线 | 欧美另类激情 | 91在线最新| 色综合天天综合 | 91x色 | 人人爱人人射 | 黄p在线播放 | 一级a毛片高清视频 | 精品国产综合区久久久久久 | 天天干天天干天天射 | 日韩欧美精品在线观看 | 久久首页 | 国产探花视频在线播放 | 97在线视频免费看 | 人人干人人草 | 欧美日韩国产精品一区二区亚洲 | 中文字幕在线观看完整版 | 国产91精品一区二区麻豆亚洲 | 久久九精品 | 国产在线p | 免费观看av| 欧美日在线 | 国产剧情一区二区 | 精品国产乱码久久久久久天美 | 国产精品免费小视频 | 狠狠狠色丁香综合久久天下网 | 日日干美女 | 99久久日韩精品免费热麻豆美女 | 伊人黄 | 久久久久久免费视频 | 天天操夜夜想 | 日本女人在线观看 | 去看片| 国产一级电影网 | 亚洲高清在线 | 国产美女在线精品免费观看 | 国产在线不卡视频 | 96久久欧美麻豆网站 | 丰满少妇在线观看资源站 | 91传媒在线观看 | 欧洲精品码一区二区三区免费看 | 久操伊人| 日韩免费中文 | 国内精品久久久久久久久 | 99国产精品一区二区 | 国产精品久久久久久久99 | 国产精品第一页在线观看 | 九色自拍视频 | 色在线免费| 91网站在线视频 | 久久久久久高潮国产精品视 | 日日夜精品 | 久久艹艹 | 狠狠干2018| 欧美福利视频一区 | 日韩免费在线播放 | 欧美老人xxxx18 | 亚洲黄色a| 色综合久久66 | 91精品国产成人观看 | 国产精品视频不卡 | 久久国产影视 | av怡红院 | 免费污片| 中文字幕最新精品 | 97操碰 | 日本xxxx.com| 四虎免费av | 精品美女在线视频 | 亚洲一区免费在线 | 色综合天天天天做夜夜夜夜做 | 久草在线视频在线观看 | 日韩成人欧美 | 日本韩国精品一区二区在线观看 | 免费在线观看国产精品 | 日韩av片在线 | 三级a视频 | 欧美日韩国产一区二区在线观看 | 99在线精品视频在线观看 | 在线观看黄av | 国产精品手机看片 | 99九九视频| 天天操天 | 九九欧美视频 | 日韩精品五月天 | 操操操av | 成人免费看视频 | 日韩欧美在线观看 | 国产精品久久久久av免费 | 亚洲激情av| 色网免费观看 | www色婷婷com | 美女一二三区 | 国产黄色在线网站 | 欧美一级黄色视屏 | 五月天久久激情 | 人人爽人人乐 | 日日干天天爽 | av三级av| 黄色软件在线观看免费 | 久久最新 | 国产精品一区二区美女视频免费看 | av在线a| 伊人婷婷激情 | 国产二区电影 | 久久99在线观看 | 黄色三级网站在线观看 | 婷婷色九月 | 日本高清xxxx| 国内精品视频一区二区三区八戒 | 国内精品久久久久久久久久久久 | 久久综合干 | 精品亚洲视频在线 | 精品国产精品久久一区免费式 | 国产亚洲成人精品 | 日本精品一区二区三区在线播放视频 | 欧美日韩精品区 | 久久精品官网 | 91精品久久久久久综合乱菊 | 国产高清在线免费视频 | 国产高清区 | 欧美一级在线看 | 亚洲精品五月 | 一区二区三区免费在线观看视频 | 狠狠狠色丁香综合久久天下网 | 精品久久久久免费极品大片 | 99热在| 国产老妇av | 日韩精品一区二区三区在线视频 | 亚洲成人av一区 | 婷婷丁香激情综合 | 激情av综合 | 国产精品精品国产婷婷这里av | 黄网站色欧美视频 | 国产中文字幕在线免费观看 | 97精品国产97久久久久久 | 久久久久久久99 | 97人人添人澡人人爽超碰动图 | 午夜美女福利直播 | 欧美日韩视频一区二区 | 日韩av免费在线电影 | 国产999在线观看 | www.com黄 | 久久久高清免费视频 | 亚洲午夜小视频 | 免费av大全 | 精品一区av | 九色视频网址 | 人人添人人 | 最近2019好看的中文字幕免费 | 成人黄色在线 | 久久成人国产精品免费软件 | 国产美女精品 | 国产亚洲精品电影 | 欧美激情精品 | 在线观看免费福利 | 国产伦理一区二区三区 | 久久免费成人网 | 日韩欧美高清不卡 | 国产成人一区二区三区在线观看 | 在线国产91 | 亚洲精品免费在线观看 | 国产99区| 丁香六月婷婷开心婷婷网 | 久久精品国产成人精品 | 国产一区二区午夜 | 国产精品视频专区 | 久久欧美视频 | 伊人日日干 | 亚洲五月婷 | 亚洲精品在线免费观看视频 | 免费久草视频 | 久久无码av一区二区三区电影网 | 91看片淫黄大片在线播放 | 在线观看免费一区 | 亚洲激情综合 | 成人免费一级 | 中文高清av | 最近日韩中文字幕中文 | 一区二区 精品 | 特级西西444www大精品视频免费看 | 日韩网站免费观看 | 成人免费在线视频观看 | 91视频传媒 | 91香蕉视频在线 | 亚洲欧美精品一区 | 日韩高清dvd | 伊人国产在线播放 | 国产精品18毛片一区二区 | 欧美大片在线看免费观看 | 人人狠狠综合久久亚洲婷 | 日本久久久久久久久久久 | 69中文字幕| 国产九九九九九 | 香蕉视频啪啪 | 国产成人精品在线播放 | 国产免费一区二区三区网站免费 | 欧美激情精品久久久久久免费印度 | 中文字幕在线观看你懂的 | 在线视频 国产 日韩 | 激情文学综合丁香 | 欧美伦理一区二区 | 视频在线91 | 五月综合激情网 | 色婷婷综合五月 | 欧美在线视频一区二区三区 | 久久精品国产精品亚洲精品 | 国产日韩精品一区二区在线观看播放 | 国产美女无遮挡永久免费 | 免费黄色网址大全 | 91九色在线观看视频 | 精品国产a | 精品视频成人 | 色窝资源 | 久久伊人操 | 久久久网 | 中文字幕资源在线 | 欧美精品在线视频观看 | 国产一区二区三区视频在线 | 亚洲精品乱码久久 | 亚洲欧洲精品视频 | 午夜私人影院久久久久 |