日韩av黄I国产麻豆传媒I国产91av视频在线观看I日韩一区二区三区在线看I美女国产在线I麻豆视频国产在线观看I成人黄色短片

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 运维知识 > windows >内容正文

windows

【云原生 | Kubernetes 系列】—K8S部署RocketMQ集群(双主双从+同步模式)

發布時間:2024/1/2 windows 45 coder
生活随笔 收集整理的這篇文章主要介紹了 【云原生 | Kubernetes 系列】—K8S部署RocketMQ集群(双主双从+同步模式) 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

【云原生 | Kubernetes 系列】—K8S部署RocketMQ集群(雙主雙從+同步模式)

版權 本文為云錄原創文章,轉載無需和我聯系,但請注明來自云錄 https://www.yunzhuan.site

rocketMQ高可用有很多種方式,比如:單機部署,多主集群,雙主雙從同步部署,雙主雙從異步部署,以及多主多從部署。部署集群可按照自己公司的實際情況進行部署。

單機部署:只啟動一個rocketMQ實例就可以了,一般常用來本機測試使用。原因:一旦rocketMQ因某些原因掛掉,導致mq無法使用,則我們服務器無法接受信息與消費信息等。

多主集群:只部署mq主節點,無部署從節點。優點:配置簡單,單個Master宕機或重啟維護對應用無影響,即使機器宕機不可恢復情況下,也有其他主節點進行寫入操作,

消息也不會丟(異步刷盤丟失少量消息,同步刷盤一條不丟),性能最高;

雙主雙從同步:部署四個節點,每個主節點都有一個從節點,主與從節點的信息通過同步的方式進行保存。優點:消息不會丟失,即:主節點掛了后,從節點的消息也不會造成丟失,只不過沒法接受新消息,只能消費,但是能保證我消費的消息一定是準確的。缺點:客戶端接受服務器響應時間長。可用于消息安全高的場景。

雙主雙從異步:與雙主雙從一致,只不過在主從數據傳輸是通過異步的方式,優點:客戶端能快速的接收到服務器的消息,缺點:主節點掛的情況,從節點會丟失一部分消息。可用于允許消息丟失,吞吐量高的情景。

?? 創建存儲

這里我用ceph,需要自己準備存儲

?? 需要準備的材料 自行下載

apache-maven-3.6.3-bin.tar.gz

rocketmq-all-4.9.4-bin-release.zip

rocketmq-dashboard-master.zip

yarn-v1.22.10.tar.gz https://github.com/yarnpkg/yarn/releases/download/v1.22.10/yarn-v1.22.10.tar.gz

?? 創建RocketMQ集群(雙主雙從同步模式)

制作rocketmq鏡像

[root rocketmqimage]# ll
total 32200
-rw-r--r--. 1 root   root        319 May 15 13:38 Dockerfile
drwxr-xr-x. 6 root   root        103 May 15 13:37 rocketmq-all-4.9.4-bin-release
-rw-rw-r--. 1 root root 32967749 May 15 13:31 rocketmq-all-4.9.4-bin-release.zip

1:解壓rocketmq-all-4.9.4-bin-release.zip 將runbroker.sh腳本文件里的內存設置調整小點

unzip  rocketmq-all-4.9.4-bin-release.zip
vim rocketmq-all-4.9.4-bin-release/bin/runbroker.sh
JAVA_OPT="${JAVA_OPT} -server -Xms4g -Xmx4g"

2:準備dockerfile

FROM openjdk:8
RUN rm -f /etc/localtime \
&& ln -sv /usr/share/zoneinfo/Asia/Shanghai /etc/localtime \
&& echo "Asia/Shanghai" > /etc/timezone
ENV LANG en_US.UTF-8
COPY rocketmq-all-4.9.4-bin-release  /usr/local/rocketmq-all-4.9.4-bin-release
RUN  mkdir -p /data/rocketmq/store
CMD ["/bin/bash"]

3:制作鏡像并上傳到Harbor倉庫

docker build -t 127.0.0.1/rocketmq/rocketmq-4.9.3:1.0 .
docker push  127.0.0.1/rocketmq/rocketmq-4.9.3:1.0

制作nameserver的image鏡像

將上面rocketmq_image目錄下的包rocketmq-all-4.9.4-bin-release 拷貝過來

[root nameserver_image]# ll
total 8
-rw-r--r-- 1 root root 525 Aug 23  2022 Dockerfile
-rw-r--r-- 1 root root  17 Aug 23  2022 namesrv.properties
drwxr-xr-x 6 root root 103 May 15 13:56 rocketmq-all-4.9.4-bin-release

1:準備 namesrv.properties 自定義nameserver的端口號

[root nameserver_image]# cat namesrv.properties 
listenPort=20801

2:準備dockerfile

[root nameserver_image]# cat Dockerfile 
FROM openjdk:8
RUN rm -f /etc/localtime \
&& ln -sv /usr/share/zoneinfo/Asia/Shanghai /etc/localtime \
&& echo "Asia/Shanghai" > /etc/timezone
ENV LANG en_US.UTF-8
COPY rocketmq-all-4.9.4-bin-release  /usr/local/rocketmq-all-4.9.4-bin-release
COPY namesrv.properties /usr/local/rocketmq-all-4.9.4-bin-release/conf/
WORKDIR /usr/local/rocketmq-all-4.9.4-bin-release
CMD ["/usr/local/rocketmq-all-4.9.4-bin-release/bin/mqnamesrv","-c","/usr/local/rocketmq-all-4.9.4-bin-release/conf/namesrv.properties"]

3: 制作鏡像并上傳到Harbor倉庫

docker build -t 127.0.0.1/rocketmq/rocketmq_namesrv:4.9.3.1 .
docker push  127.0.0.1/rocketmq/rocketmq_namesrv:4.9.3.1

制作rocketmq的web可視化界面的image鏡像

[root rockermq_web]# ll
total 14320
drwxr-xr-x 6 root   root        99 Aug 23  2022 apache-maven-3.6.3
-rw-rw-r-- 1 dotnet dotnet 9506321 Aug 23  2022 apache-maven-3.6.3-bin.tar.gz
-rw-r--r-- 1 root   root       674 May 15 15:26 Dockerfile
drwxr-xr-x 7 root   root       213 Apr 11  2022 rocketmq-dashboard-master
-rw-rw-r-- 1 dotnet dotnet 3906355 Aug 23  2022 rocketmq-dashboard-master.zip
-rw-rw-r-- 1 dotnet dotnet 1244965 May 15 15:21 yarn-v1.22.10.tar.gz

1:下載rocketmq-dashboard-master.zip和apache-maven-3.6.3-bin.tar.gz 并解壓 2:修改 dashboard配置

vim rocketmq-dashboard-master/src/main/resources/application.yml
修改內容:
namesrvAddrs:
      - mq-namesrv.romq.svc.cluster.local:20801
loginRequired: true 
accessKey: rocketmq2  
secretKey: 12345678   
server:
  port: 8080
  servlet:
    encoding:
      charset: UTF-8
      enabled: true
      force: true
## SSL setting
#  ssl:
#    key-store: classpath:rmqcngkeystore.jks
#    key-store-password: rocketmq
#    key-store-type: PKCS12
#    key-alias: rmqcngkey

spring:
  application:
    name: rocketmq-dashboard

logging:
  config: classpath:logback.xml

rocketmq:
  config:
    # if this value is empty,use env value rocketmq.config.namesrvAddr  NAMESRV_ADDR | now, default localhost:9876
    # configure multiple namesrv addresses to manage multiple different clusters
    namesrvAddrs:
      - mq-namesrv.romq.svc.cluster.local:20801
    # if you use rocketmq version < 3.5.8, rocketmq.config.isVIPChannel should be false.default true
    isVIPChannel: false
    # timeout for mqadminExt, default 5000ms
    timeoutMillis:
    # rocketmq-console's data path:dashboard/monitor
    dataPath: /tmp/rocketmq-console/data
    # set it false if you don't want use dashboard.default true
    enableDashBoardCollect: true
    # set the message track trace topic if you don't want use the default one
    msgTrackTopicName:
    ticketKey: ticket
    # must create userInfo file: ${rocketmq.config.dataPath}/users.properties if the login is required
    loginRequired: true
    useTLS: false
    # set the accessKey and secretKey if you used acl設置acl權限
    accessKey: rocketmq2  # if version > 4.4.0 
    secretKey: 12345678   # if version > 4.4.0

threadpool:
  config:
    coreSize: 10
    maxSize: 10
    keepAliveTime: 3000
    queueSize: 5000

3:準備dockerfile

[root rockermq_web]# cat Dockerfile 
FROM openjdk:8
RUN rm -f /etc/localtime \
&& ln -sv /usr/share/zoneinfo/Asia/Shanghai /etc/localtime \
&& echo "Asia/Shanghai" > /etc/timezone
ENV LANG en_US.UTF-8
ENV MAVEN_HOME /usr/local/maven
ENV PATH $PATH:$MAVEN_HOME/bin
COPY rocketmq-dashboard-master   /usr/local/rocketmq-dashboard-master
COPY yarn-v1.22.10.tar.gz       /root/.m2/repository/com/github/eirslett/yarn/1.22.10/
COPY apache-maven-3.6.3 /usr/local/maven
WORKDIR /usr/local/rocketmq-dashboard-master
RUN mvn clean package -Dmaven.test.skip=true
WORKDIR /usr/local/rocketmq-dashboard-master/target
EXPOSE 8080
CMD ["nohup","java","-jar","rocketmq-dashboard-1.0.1-SNAPSHOT.jar","&"]

4:制作鏡像并上傳到Harbor倉庫

docker build -t 127.0.0.1/rocketmq/rocketmq-dashboard:v4.9.3.1 .
docker push     127.0.0.1/rocketmq/rocketmq-dashboard:v4.9.3.1

準備配置文件 configmap

1:我的broker配置文件

[root config]# ll
total 16
-rw-rw-r--. 1 dotnet dotnet 638 May 15 15:53 broker-a.properties
-rw-rw-r--. 1 dotnet dotnet 630 May 15 15:53 broker-a-s.properties
-rw-rw-r--. 1 dotnet dotnet 636 May 15 15:53 broker-b.properties
-rw-rw-r--. 1 dotnet dotnet 632 May 15 15:53 broker-b-s.properties
[root config]# cat broker-a.properties 
brokerClusterName=rocketmq-cluster
brokerName=broker-a
brokerId=0
namesrvAddr=mq-namesrv.romq.svc.cluster.local:20801
defaultTopicQueueNums=4
autoCreateTopicEnable=false
autoCreateSubscriptionGroup=true
brokerIP1=公網ip或是負載ip
listenPort=30811
deleteWhen=04
fileReservedTime=48
mapedFileSizeCommitLog=1073741824
mapedFileSizeConsumeQueue=300000
diskMaxUsedSpaceRatio=88
storePathRootDir=/data/rocketmq/store
maxMessageSize=65536
#Broker 的角色
#- ASYNC_MASTER 異步復制Master
#- SYNC_MASTER 同步雙寫Master
#- SLAVE
brokerRole=SYNC_MASTER
#刷盤方式
#- ASYNC_FLUSH 異步刷盤
#- SYNC_FLUSH 同步刷盤
flushDiskType=SYNC_FLUSH
aclEnable=true
[root config]# cat broker-a-s.properties 
brokerClusterName=rocketmq-cluster
brokerName=broker-a
brokerId=1
namesrvAddr=mq-namesrv.romq.svc.cluster.local:20801
defaultTopicQueueNums=4
autoCreateTopicEnable=false
autoCreateSubscriptionGroup=true
brokerIP1=公網ip或是負載ip
listenPort=30812
deleteWhen=04
fileReservedTime=48
mapedFileSizeCommitLog=1073741824
mapedFileSizeConsumeQueue=300000
diskMaxUsedSpaceRatio=88
storePathRootDir=/data/rocketmq/store
maxMessageSize=65536
brokerRole=SLAVE
flushDiskType=SYNC_FLUSH
aclEnable=true
[root config]# cat broker-b.properties 
brokerClusterName=rocketmq-cluster
brokerName=broker-b
brokerId=0
namesrvAddr=mq-namesrv.romq.svc.cluster.local:20801
defaultTopicQueueNums=4
autoCreateTopicEnable=false
autoCreateSubscriptionGroup=true
brokerIP1=公網ip或是負載ip
listenPort=30813
deleteWhen=04
fileReservedTime=48
mapedFileSizeCommitLog=1073741824
mapedFileSizeConsumeQueue=300000
diskMaxUsedSpaceRatio=88
storePathRootDir=/data/rocketmq/store
maxMessageSize=65536
brokerRole=SYNC_MASTER
flushDiskType=SYNC_FLUSH
aclEnable=true
[root config]# cat broker-b-s.properties 
brokerClusterName = rocketmq-cluster
brokerName=broker-b
brokerId=1
namesrvAddr=mq-namesrv.romq.svc.cluster.local:20801
defaultTopicQueueNums=4
autoCreateTopicEnable=false
autoCreateSubscriptionGroup=true
brokerIP1=公網ip或是負載ip
listenPort=30814
deleteWhen=04
fileReservedTime=48
mapedFileSizeCommitLog=1073741824
mapedFileSizeConsumeQueue=300000
diskMaxUsedSpaceRatio=88
storePathRootDir=/data/rocketmq/store
maxMessageSize=65536
brokerRole=SLAVE
flushDiskType=SYNC_FLUSH
aclEnable=true

2:創建CM

kubectl create configmap rocketmq-config --from-file=broker-a.properties --from-file=broker-b.properties --from-file=broker-a-s.properties --from-file=broker-b-s.properties -n romq

準備Deploy

1:我的deploy

[root rocketmqDeploy]# ll
total 24
-rw-rw-r--. 1 dotnet dotnet 2908 May 15 16:50 broker-a-deployment.yaml
-rw-rw-r--. 1 dotnet dotnet 3041 May 15 16:50 broker-a-s-deployment.yaml
-rw-rw-r--. 1 dotnet dotnet 2908 May 15 16:50 broker-b-deployment.yaml
-rw-rw-r--. 1 dotnet dotnet 3041 May 15 16:50 broker-b-s-deployment.yaml
-rw-rw-r--. 1 dotnet dotnet 1811 May 15 15:50 namesrv-deployment.yaml
-rw-rw-r--. 1 dotnet dotnet 1735 May 15 17:27 rocketmq-externals-deployment.yaml
[root rocketmqDeploy]# cat broker-a-deployment.yaml 
apiVersion: v1
kind: Service
metadata:
  labels:
    app: broker-a
  name: broker-a
spec:
  type: NodePort
  ports:
    - port: 30811
      targetPort: 30811
      name: broker-port
      nodePort: 30811
  selector:
    app: broker-a
---
apiVersion: apps/v1
kind: StatefulSet
metadata:
  name: broker-a
spec:
  serviceName: broker-a
  replicas: 1
  selector:
    matchLabels:
      app: broker-a
  template:
    metadata:
      labels:
        app: broker-a
    spec:
      affinity:
        podAntiAffinity:
          requiredDuringSchedulingIgnoredDuringExecution:
            - labelSelector:
                matchExpressions:
                  - key: "app"
                    operator: In
                    values:
                      - broker-a
              topologyKey: "kubernetes.io/hostname"
      containers:
        - name: broker-a
          image: 127.0.0.1/rocketmq/rocketmq-4.9.3:1.0
          imagePullPolicy: Always
          command: ["sh","-c","/usr/local/rocketmq-all-4.9.4-bin-release/bin/mqbroker  -c /usr/local/rocketmq-all-4.9.4-bin-release/conf/broker-a.properties"]
          volumeMounts:
            - mountPath: /root/logs
              name: rocketmq-data-cluster
              subPath: mq-brokeroptlogs
            - mountPath: /data/rocketmq
              name: rocketmq-data-cluster
              subPath: mq-brokeroptstore
            - name: broker-config
              mountPath: /usr/local/rocketmq-all-4.9.4-bin-release/conf/broker-a.properties
              subPath: broker-a.properties
            - name: time
              mountPath: /etc/localtime
          env:
            - name: JAVA_OPT_EXT
              value: '-Xmx4096m -Xms4096m -Xmn1048m'
          resources:
            requests:
              memory: 2024Mi
              cpu: 1024m
            limits:
              memory: 6024Mi
              cpu: 6000m
          lifecycle:
            postStart:
              exec:
                command: ["/bin/sh","-c","touch /tmp/health"]
          livenessProbe:
            exec:
              command: ["test","-e","/tmp/health"]
            initialDelaySeconds: 5
            timeoutSeconds: 5
            periodSeconds: 10
          readinessProbe:
            tcpSocket:
              port: 30811
            initialDelaySeconds: 15
            timeoutSeconds: 5
            periodSeconds: 20
      volumes:
        - name: broker-config
          configMap:
            name: rocketmq-config
        - name: time
          hostPath:
            path: /usr/share/zoneinfo/Asia/Shanghai
  volumeClaimTemplates:
    - metadata:
        name: rocketmq-data-cluster
      spec:
        storageClassName: rook-ceph-block
        accessModes:
          - ReadWriteOnce
        resources:
          requests:
            storage: 20Gi
[root rocketmqDeploy]# cat broker-a-s-deployment.yaml 
apiVersion: v1
kind: Service
metadata:
  labels:
    app: broker-a-s
  name: broker-a-s
spec:
  type: NodePort
  ports:
    - port: 30812
      targetPort: 30812
      name: broker-port
      nodePort: 30812
  selector:
    app: broker-a-s
---
apiVersion: apps/v1
kind: StatefulSet
metadata:
  name: broker-a-s
spec:
  serviceName: broker-a-s
  replicas: 1
  selector:
    matchLabels:
      app: broker-a-s
  template:
    metadata:
      labels:
        app: broker-a-s
    spec:
      affinity:
        podAntiAffinity:
          requiredDuringSchedulingIgnoredDuringExecution:
            - labelSelector:
                matchExpressions:
                  - key: "app"
                    operator: In
                    values:
                      - broker-a-s
              topologyKey: "kubernetes.io/hostname"
      containers:
        - name: broker-a-s
          image: 127.0.0.1/rocketmq/rocketmq-4.9.3:1.0
          imagePullPolicy: Always
          command: ["sh","-c","/usr/local/rocketmq-all-4.9.4-bin-release/bin/mqbroker  -c /usr/local/rocketmq-all-4.9.4-bin-release/conf/broker-a-s.properties"]
          volumeMounts:
            - mountPath: /root/logs
              name: rocketmq-data-cluster
              subPath: mq-brokeroptlogs
            - mountPath: /data/rocketmq
              name: rocketmq-data-cluster
              subPath: mq-brokeroptstore
            - name: broker-config
              mountPath: /usr/local/rocketmq-all-4.9.4-bin-release/conf/broker-a-s.properties
              subPath: broker-a-s.properties
            - name: time
              mountPath: /etc/localtime
          env:
            - name: JAVA_OPT_EXT
              value: '-Xmx4096m -Xms4096m -Xmn1048m'
          resources:
            requests:
              memory: 2024Mi
              cpu: 1024m
            limits:
              memory: 6024Mi
              cpu: 6000m
          lifecycle:
            postStart:
              exec:
                command: ["/bin/sh","-c","touch /tmp/health"]
          livenessProbe:
            exec:
              command: ["test","-e","/tmp/health"]
            initialDelaySeconds: 5
            timeoutSeconds: 5
            periodSeconds: 10
          readinessProbe:
            tcpSocket:
              port: 30812
            initialDelaySeconds: 15
            timeoutSeconds: 5
            periodSeconds: 20
      volumes:
        - name: broker-config
          configMap:
            name: rocketmq-config
            items:
              - key: broker-a-s.properties
                path: broker-a-s.properties
        - name: time
          hostPath:
            path: /usr/share/zoneinfo/Asia/Shanghai
  volumeClaimTemplates:
    - metadata:
        name: rocketmq-data-cluster
      spec:
        storageClassName: rook-ceph-block
        accessModes:
          - ReadWriteOnce
        resources:
          requests:
            storage: 20Gi
[root rocketmqDeploy]# cat broker-b-deployment.yaml 
apiVersion: v1
kind: Service
metadata:
  labels:
    app: broker-b
  name: broker-b
spec:
  type: NodePort
  ports:
    - port: 30813
      targetPort: 30813
      name: broker-port
      nodePort: 30813
  selector:
    app: broker-b
---
apiVersion: apps/v1
kind: StatefulSet
metadata:
  name: broker-b
spec:
  serviceName: broker-b
  replicas: 1
  selector:
    matchLabels:
      app: broker-b
  template:
    metadata:
      labels:
        app: broker-b
    spec:
      affinity:
        podAntiAffinity:
          requiredDuringSchedulingIgnoredDuringExecution:
            - labelSelector:
                matchExpressions:
                  - key: "app"
                    operator: In
                    values:
                      - broker-b
              topologyKey: "kubernetes.io/hostname"
      containers:
        - name: broker-b
          image: 127.0.0.1/rocketmq/rocketmq-4.9.3:1.0
          imagePullPolicy: Always
          command: ["sh","-c","/usr/local/rocketmq-all-4.9.4-bin-release/bin/mqbroker  -c /usr/local/rocketmq-all-4.9.4-bin-release/conf/broker-b.properties"]
          volumeMounts:
            - mountPath: /root/logs
              name: rocketmq-data-cluster
              subPath: mq-brokeroptlogs
            - mountPath: /data/rocketmq
              name: rocketmq-data-cluster
              subPath: mq-brokeroptstore
            - name: broker-config
              mountPath: /usr/local/rocketmq-all-4.9.4-bin-release/conf/broker-b.properties
              subPath: broker-b.properties
            - name: time
              mountPath: /etc/localtime
          lifecycle:
            postStart:
              exec:
                command: ["/bin/sh","-c","touch /tmp/health"]
          livenessProbe:
            exec:
              command: ["test","-e","/tmp/health"]
            initialDelaySeconds: 5
            timeoutSeconds: 5
            periodSeconds: 10
          readinessProbe:
            tcpSocket:
              port: 30813
            initialDelaySeconds: 15
            timeoutSeconds: 5
            periodSeconds: 20
          env:
            - name: JAVA_OPT_EXT
              value: '-Xmx4096m -Xms4096m -Xmn1048m'
          resources:
            requests:
              memory: 2024Mi
              cpu: 1024m
            limits:
              memory: 6024Mi
              cpu: 6000m
      volumes:
        - name: broker-config
          configMap:
            name: rocketmq-config
        - name: time
          hostPath:
            path: /usr/share/zoneinfo/Asia/Shanghai
  volumeClaimTemplates:
    - metadata:
        name: rocketmq-data-cluster
      spec:
        storageClassName: rook-ceph-block
        accessModes:
          - ReadWriteOnce
        resources:
          requests:
            storage: 20Gi
[root rocketmqDeploy]# cat broker-b-s-deployment.yaml 
apiVersion: v1
kind: Service
metadata:
  labels:
    app: broker-b-s
  name: broker-b-s
spec:
  type: NodePort
  ports:
    - port: 30814
      targetPort: 30814
      name: broker-port
      nodePort: 30814
  selector:
    app: broker-b-s
---
apiVersion: apps/v1
kind: StatefulSet
metadata:
  name: broker-b-s
spec:
  serviceName: broker-b-s
  replicas: 1
  selector:
    matchLabels:
      app: broker-b-s
  template:
    metadata:
      labels:
        app: broker-b-s
    spec:
      affinity:
        podAntiAffinity:
          requiredDuringSchedulingIgnoredDuringExecution:
            - labelSelector:
                matchExpressions:
                  - key: "app"
                    operator: In
                    values:
                      - broker-b-s
              topologyKey: "kubernetes.io/hostname"
      containers:
        - name: broker-b-s
          image: 127.0.0.1/rocketmq/rocketmq-4.9.3:1.0
          imagePullPolicy: Always
          command: ["sh","-c","/usr/local/rocketmq-all-4.9.4-bin-release/bin/mqbroker  -c /usr/local/rocketmq-all-4.9.4-bin-release/conf/broker-b-s.properties"]
          volumeMounts:
            - mountPath: /root/logs
              name: rocketmq-data-cluster
              subPath: mq-brokeroptlogs
            - mountPath: /data/rocketmq
              name: rocketmq-data-cluster
              subPath: mq-brokeroptstore
            - name: broker-config
              mountPath: /usr/local/rocketmq-all-4.9.4-bin-release/conf/broker-b-s.properties
              subPath: broker-b-s.properties
            - name: time
              mountPath: /etc/localtime
          lifecycle:
            postStart:
              exec:
                command: ["/bin/sh","-c","touch /tmp/health"]
          livenessProbe:
            exec:
              command: ["test","-e","/tmp/health"]
            initialDelaySeconds: 5
            timeoutSeconds: 5
            periodSeconds: 10
          readinessProbe:
            tcpSocket:
              port: 30814
            initialDelaySeconds: 15
            timeoutSeconds: 5
            periodSeconds: 20
          env:
            - name: JAVA_OPT_EXT
              value: '-Xmx4096m -Xms4096m -Xmn1048m'
          resources:
            requests:
              memory: 2024Mi
              cpu: 1024m
            limits:
              memory: 6024Mi
              cpu: 6000m
      volumes:
        - name: broker-config
          configMap:
            name: rocketmq-config
            items:
              - key: broker-b-s.properties
                path: broker-b-s.properties
        - name: time
          hostPath:
            path: /usr/share/zoneinfo/Asia/Shanghai
  volumeClaimTemplates:
    - metadata:
        name: rocketmq-data-cluster
      spec:
        storageClassName: rook-ceph-block
        accessModes:
          - ReadWriteOnce
        resources:
          requests:
            storage: 20Gi
[root rocketmqDeploy]# cat namesrv-deployment.yaml 
apiVersion: v1
kind: Service
metadata:
  labels:
    app: mq-namesrv
  name: mq-namesrv
spec:
  type: NodePort
  ports:
    - port: 20801
      targetPort: 20801
      name: namesrv-port
      nodePort: 30815
  selector:
    app: mq-namesrv
---
apiVersion: apps/v1
kind: StatefulSet
metadata:
  name: mq-namesrv
spec:
  serviceName: mq-namesrv
  replicas: 1
  selector:
    matchLabels:
      app: mq-namesrv
  template:
    metadata:
      labels:
        app: mq-namesrv
    spec:
      affinity:
        podAntiAffinity:
          requiredDuringSchedulingIgnoredDuringExecution:
            - labelSelector:
                matchExpressions:
                  - key: "app"
                    operator: In
                    values:
                      - mq-namesrv
              topologyKey: "kubernetes.io/hostname"
      containers:
        - name: mq-namesrv
          image: 127.0.0.1/rocketmq/rocketmq_namesrv:4.9.3.1
          imagePullPolicy: Always
          env:
            - name: JAVA_OPT_EXT
              value: '-Xmx2048m -Xms2048m -Xmn512m'
          resources:
            requests:
              memory: 2024Mi
              cpu: 1024m
            limits:
              memory: 4096Mi
              cpu: 3000m
          lifecycle:
            postStart:
              exec:
                command: ["/bin/sh","-c","touch /tmp/health"]
          livenessProbe:
            exec:
              command: ["test","-e","/tmp/health"]
            initialDelaySeconds: 5
            timeoutSeconds: 5
            periodSeconds: 10
          readinessProbe:
            tcpSocket:
              port: 20801
            initialDelaySeconds: 15
            timeoutSeconds: 5
            periodSeconds: 20
[root rocketmqDeploy]# cat rocketmq-externals-deployment.yaml 
apiVersion: v1
kind: Service
metadata:
  labels:
    app: mq-externals
  name: mq-externals
spec:
  type: NodePort
  ports:
    - port: 8080
      targetPort: 8080
      name: console-port
      nodePort: 30816
  selector:
    app: mq-externals
---
apiVersion: apps/v1
kind: Deployment
metadata:
  name: mq-externals
spec:
  replicas: 1
  selector:
    matchLabels:
      app: mq-externals
  template:
    metadata:
      labels:
        app: mq-externals
    spec:
      affinity:
        podAntiAffinity:
          requiredDuringSchedulingIgnoredDuringExecution:
            - labelSelector:
                matchExpressions:
                  - key: "app"
                    operator: In
                    values:
                      - mq-externals
              topologyKey: "kubernetes.io/hostname"
      containers:
        - name: mq-externals
          image: 127.0.0.1/rocketmq/rocketmq-dashboard:v4.9.3.1
          imagePullPolicy: Always
          lifecycle:
            postStart:
              exec:
                command: ["/bin/sh","-c","touch /tmp/health"]
          livenessProbe:
            exec:
              command: ["test","-e","/tmp/health"]
            initialDelaySeconds: 5
            timeoutSeconds: 5
            periodSeconds: 10
          readinessProbe:
            tcpSocket:
              port: 8080
            initialDelaySeconds: 15
          env:
            - name: JAVA_OPT_EXT
              value: '-Xmx1024m -Xms1024m -Xmn512m'
          resources:
            requests:
              memory: 1024Mi
              cpu: 1024m
            limits:
              memory: 4096Mi
              cpu: 3000m

2: 部署deploy

kubectl apply  -f ./  -n  romq
[root rocketmqDeploy]# kubectl  get po  -n  romq
NAME                           READY   STATUS    RESTARTS   AGE
broker-a-0                     1/1     Running   0          65m
broker-a-s-0                   1/1     Running   0          65m
broker-b-0                     1/1     Running   0          65m
broker-b-s-0                   1/1     Running   0          65m
mq-externals-6cfc5d9bc-w4cmp   1/1     Running   0          45s
mq-namesrv-0                   1/1     Running   0          65m
[root rocketmqDeploy]# kubectl  get svc  -n  romq
NAME           TYPE       CLUSTER-IP       EXTERNAL-IP   PORT(S)           AGE
broker-a       NodePort   10.99.180.11     <none>        30811:30811/TCP   67m
broker-a-s     NodePort   10.105.248.30    <none>        30812:30812/TCP   66m
broker-b       NodePort   10.102.87.207    <none>        30813:30813/TCP   66m
broker-b-s     NodePort   10.103.106.247   <none>        30814:30814/TCP   66m
mq-externals   NodePort   10.96.128.101    <none>        8080:30816/TCP    66m
mq-namesrv     NodePort   10.105.103.115   <none>        20801:30815/TCP   66m

3:訪問dashboard: http://$NODE_IP:30816/

版權 本文為云錄原創文章,轉載無需和我聯系,但請注明來自云錄 https://www.yunzhuan.site

總結

以上是生活随笔為你收集整理的【云原生 | Kubernetes 系列】—K8S部署RocketMQ集群(双主双从+同步模式)的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。

99视频在线精品国自产拍免费观看 | 精品自拍sae8—视频 | 黄色片视频免费 | 国产 欧美 日韩 | 最新国产精品亚洲 | 国产一区二区三区四区大秀 | 夜夜躁日日躁狠狠躁 | 国产又粗又猛又黄又爽 | 欧美日韩国语 | 丰满少妇对白在线偷拍 | 亚洲精品日韩在线观看 | 国产一级免费av | 麻豆视频免费入口 | 在线观看日本高清mv视频 | av网站免费看| 日韩91在线 | 99热在线国产精品 | 欧美一级片在线播放 | 久久久网 | 国产精品免费高清 | 超碰人人超 | 午夜精品福利一区二区三区蜜桃 | 国产高清99| 五月综合激情网 | 日本黄色黄网站 | 青青河边草免费观看完整版高清 | 亚洲国内在线 | 国产精品日韩在线播放 | 韩国av一区| 欧美综合久久久 | a午夜在线 | 久久天堂精品视频 | 奇米导航| 狠狠干狠狠久久 | 亚洲国产日韩一区 | 91久久国产自产拍夜夜嗨 | 久久久久久免费网 | 国产人在线成免费视频 | 久久成人国产精品 | 91av99| www.狠狠操.com | 福利视频| 中文字幕av在线不卡 | 免费av在 | 国产一二区免费视频 | 五月婷婷色综合 | 五月天精品视频 | 最新av网站在线观看 | 日韩电影在线一区 | 91精品国产92久久久久 | 午夜国产福利在线 | 亚洲无线视频 | 国产欧美久久久精品影院 | 国产亚洲精品综合一区91 | 亚洲综合网 | 这里只有精品视频在线 | 日韩在线观看视频在线 | 在线三级播放 | 国产精品久久久一区二区 | 国产精品久久久久久久久久久不卡 | 国内精品久久久久久久久久清纯 | 日韩在线观看免费 | 国产乱对白刺激视频不卡 | 99热精品免费观看 | 欧美精品中文字幕亚洲专区 | 国产大陆亚洲精品国产 | 欧美在线观看视频 | 精品亚洲网 | 在线a视频 | 亚洲精品乱码久久久久久蜜桃91 | 色婷婷中文 | 日韩福利在线观看 | 久久精品视频网站 | 狠狠狠色丁香婷婷综合久久88 | 欧美整片sss | 99精品在线 | 日日成人网 | 国产精品久免费的黄网站 | 久久成人高清 | 国产成人精品不卡 | 国产精品一区二区三区在线看 | www.色就是色 | 免费在线观看日韩 | 国产91区 | 国产精品福利av | 国产精品一区二区三区四区在线观看 | 亚洲砖区区免费 | 中文免费在线观看 | av综合av | 国产一级片免费观看 | 九九综合久久 | 91免费看黄 | 日韩在线观看视频在线 | 亚洲成人免费 | 亚洲第一中文网 | 97网| 免费av观看| 91激情| 在线综合 亚洲 欧美在线视频 | 久久视频这里有精品 | 一级片免费视频 | 天天综合成人网 | 日本最大色倩网站www | av三级在线播放 | 欧美日韩中 | 亚洲美女在线一区 | 色婷婷丁香| 免费久久网 | 国产精品一区二区在线观看免费 | 免费看一级特黄a大片 | 婷婷六月激情 | 91精品久久久久久综合五月天 | 在线观看成人小视频 | 亚洲国产精品推荐 | 国产最新视频在线 | 国产亚洲片 | 天天操天天干天天爱 | 日本中文字幕系列 | 99久久爱| 欧美激情精品久久久久久变态 | 亚洲欧美日韩一二三区 | 国产一级在线看 | 美女视频黄,久久 | 免费国产一区二区视频 | av中文字幕在线免费观看 | 久久 亚洲视频 | 欧美日韩国产亚洲乱码字幕 | 国产一级二级在线播放 | 热久久99这里有精品 | 久久99精品视频 | 久操视频在线免费看 | 狠狠色狠狠色 | 国产精品原创视频 | 丁香网婷婷 | 成片免费观看视频999 | 操一草 | 久久精品波多野结衣 | 色多多视频在线观看 | 国产精品久久久久久久久久久久午夜片 | 久久久久久美女 | 亚洲精品黄色 | 亚洲国产精品第一区二区 | 国产黄免费在线观看 | 亚洲午夜久久久久久久久久久 | 91在线中文字幕 | 中文字幕中文中文字幕 | 国产精品永久免费观看 | 国产尤物一区二区三区 | 99精品欧美一区二区 | 国产美女视频一区 | 黄色毛片一级片 | 91精品国产欧美一区二区 | 国产精品麻豆99久久久久久 | 久久精品日本啪啪涩涩 | 亚洲专区欧美专区 | 超碰国产人人 | 精品国产成人在线影院 | 欧美日产在线观看 | 99久久精品国产亚洲 | 日本在线h | 91精品人成在线观看 | 亚洲激情视频 | 少妇bbb好爽 | 美女黄色网在线播放 | 欧美二区在线播放 | 亚洲 综合 精品 | 国产在线欧美在线 | 香蕉视频网址 | 亚洲在线高清 | 国产精品女主播一区二区三区 | 国产精品嫩草影院123 | 成人h电影| 免费看一级特黄a大片 | 在线观看av片 | 国产一区二区在线精品 | 狠狠狠色丁香婷婷综合激情 | 日韩乱码在线 | 久久综合九色综合欧美就去吻 | 2019中文字幕第一页 | 精品在线视频观看 | 91久久国产露脸精品国产闺蜜 | 中文字幕电影在线 | 日韩激情小视频 | 国产成人精品综合 | 999国内精品永久免费视频 | 久久久久久久免费看 | 91黄在线看 | 欧美日韩视频免费 | 91香蕉国产在线观看软件 | 日本午夜免费福利视频 | 一区二区三区高清 | 久久久免费观看完整版 | 欧美日韩国产精品一区二区 | 亚洲人成在线观看 | 国产精品久久久久久久久久免费 | 五月开心六月婷婷 | 日韩免费在线一区 | 亚洲在线a | 久久久91精品国产一区二区精品 | 免费精品视频在线 | 亚洲男男gⅴgay双龙 | 国产精品免费观看久久 | 日韩免费成人 | 国产精品二区在线观看 | 亚洲最新在线视频 | 国产一级片在线播放 | 成人18视频 | 免费观看福利视频 | 国产在线高清精品 | 久久精品老司机 | 综合精品在线 | 免费色av| 欧美日韩国产精品一区二区亚洲 | 韩国一区视频 | 精品国内自产拍在线观看视频 | 在线观看亚洲专区 | 九九热中文字幕 | 亚洲一区视频在线播放 | 99视| 国产福利不卡视频 | 免费在线激情电影 | 人人精久| 国产黄色片久久 | 久久国产精品99久久久久久老狼 | 中文av免费 | www.色就是色 | 色综合久久99 | 久久精品久久精品久久 | 在线电影av | 精品国产一区二 | 国产无遮挡又黄又爽馒头漫画 | 国产九九精品 | 日韩在线观看视频网站 | 国产专区欧美专区 | 久久久久久网 | 日韩3区 | 免费开视频 | 午夜视频在线网站 | 伊人影院av | 网址你懂的在线观看 | 2019中文 | 中文字幕观看在线 | 99在线视频播放 | 国内一区二区视频 | 色在线网站 | 月丁香婷婷 | 久久成人午夜视频 | 99久久精品免费看国产麻豆 | 亚洲波多野结衣 | 91插插影库 | 亚洲精品国产精品国 | 久久久三级视频 | 天天射日 | 日本精品一区二区 | 日韩免费中文 | 国产97免费 | 久久免费在线观看视频 | 黄在线免费看 | 欧美日韩午夜爽爽 | 成人中文字幕av | 97电影院网 | av资源免费在线观看 | 99久久婷婷国产综合精品 | 国产亚洲一区 | 免费黄色av. | 午夜美女福利直播 | 午夜精品久久久久久久久久久 | 九九热国产| 久久久久久在线观看 | 在线免费观看视频 | 色天天综合久久久久综合片 | 97超碰人人 | 99久久这里只有精品 | 久久夜夜爽 | 久久久久亚洲精品男人的天堂 | 日本爽妇网| 免费观看黄色av | 国产va饥渴难耐女保洁员在线观看 | 国产手机视频在线播放 | 日日夜夜国产 | 国产日韩欧美自拍 | 天天色天天操天天爽 | 亚洲精品播放 | 在线观看免费视频你懂的 | 免费av黄色 | 欧美日韩高清一区二区 国产亚洲免费看 | 伊人影院99 | 亚洲综合五月天 | 久久久久久久久久国产精品 | 免费看日韩 | 日韩免费三级 | 免费在线黄色av | 深夜男人影院 | 欧美在线观看视频一区二区三区 | 日韩一区二区三 | 人人看人人做人人澡 | 欧洲一区二区在线观看 | 免费久久精品视频 | 黄色特级片 | 久久免费黄色网址 | 日本爱爱片 | 久久99久久99精品免费看小说 | 欧美日韩国产亚洲乱码字幕 | 成年人黄色av | 91在线视频免费播放 | 国产福利av | 色黄视频免费观看 | 免费亚洲精品 | 91看片一区二区三区 | 亚洲情感电影大片 | 午夜在线免费观看 | 久久久2o19精品 | 嫩草av影院 | 国产视频在线观看一区 | 美女国产 | 91久久国产露脸精品国产闺蜜 | 日韩二区精品 | 黄色网在线免费观看 | av电影中文字幕在线观看 | 欧美 激情 国产 91 在线 | www.五月天婷婷.com | 91成人精品在线 | 天天操天天射天天舔 | a久久久久久| 亚洲男男gⅴgay双龙 | 亚洲国产精品久久久久婷婷884 | 久久噜噜少妇网站 | 91在线免费播放视频 | 激情欧美丁香 | 91成人精品一区在线播放 | 永久精品视频 | 日韩专区在线 | 国产视频在线观看一区二区 | 中文字幕一区二区三区乱码在线 | 久久综合免费 | 亚洲一级在线观看 | 玖玖色在线观看 | 奇米先锋| 天天干天天摸天天操 | 天天插天天操天天干 | 亚洲欧美日韩一二三区 | 天天操夜操视频 | 夜夜躁日日躁狠狠久久av | 一区二区精品在线观看 | 亚洲日本国产精品 | 国产在线精品二区 | 久久久久亚洲最大xxxx | 国产精品国产三级国产 | 亚洲国产精品99久久久久久久久 | 久草在线免费色站 | 久久99久久99精品免观看软件 | 日韩欧美一二三 | 国产在线精品一区二区不卡了 | 毛片网站在线观看 | 日韩精品中文字幕在线观看 | 国产精品99久久免费黑人 | 视频 国产区 | 免费日韩av电影 | 亚洲精品在线电影 | 久草资源在线观看 | 婷婷色六月天 | 黄网站免费大全入口 | 2000xxx影视 | 成人黄色片在线播放 | 中文字幕一区二区三区四区在线视频 | 国产不卡免费 | 97视频免费看 | 国产精品毛片久久蜜 | 国产精品福利在线观看 | 日韩中文字幕免费电影 | 欧美成人免费在线 | 91麻豆精品久久久久久 | 亚洲欧美怡红院 | 日日夜夜天天久久 | 国产精品a久久久久 | 99精品欧美一区二区 | 久久成人毛片 | 国产精品免费一区二区三区在线观看 | 久久成人高清视频 | 久久免费a | 国产亚洲精品久久久久久久久久久久 | 狠狠操天天射 | 视频在线91 | 黄色精品国产 | 日韩电影在线观看一区二区三区 | 久久永久视频 | 在线观看av黄色 | 欧美精品资源 | 国产区精品视频 | 91久久精品日日躁夜夜躁国产 | 久久久久 免费视频 | 五月花丁香婷婷 | 国产精品系列在线播放 | 天天爽综合网 | 激情久久一区二区三区 | 精品在线观看一区二区 | 国产精品美女久久久久久久久久久 | 四虎永久精品在线 | 99国产在线| 亚洲视频大全 | 丁香伊人网 | 视频一区二区三区视频 | 中文字幕乱码电影 | 亚洲综合情| 美女网站视频久久 | 天天干天天做天天爱 | 国产色秀视频 | 欧美精品免费一区二区 | 久草久热 | 欧洲亚洲精品 | 色婷婷av一区二 | 人人爽人人舔 | 国产一级免费在线观看 | 欧洲一区二区三区精品 | 亚洲一级二级三级 | 夜夜夜草 | 777奇米四色 | 成人羞羞视频在线观看免费 | 亚洲人成精品久久久久 | 国产精品久久久久久久久久久免费看 | 天天操天天能 | 亚洲精品玖玖玖av在线看 | 最新亚洲视频 | 国产视频在线观看一区二区 | 特级xxxxx欧美| 天天操狠狠操夜夜操 | 精品久久电影 | 奇米网777 | 久久久香蕉视频 | 久久久久久影视 | 看国产黄色片 | 97超碰人人爱 | 国产精品色视频 | 中文字幕av影院 | 免费看av在线| 欧美国产日韩一区二区三区 | 免费的黄色av | 国色综合 | 久久久久久久久久久网站 | 欧美经典久久 | 国产色啪 | www亚洲视频 | 国内精品久久久久影院优 | 狠狠插狠狠干 | 手机色在线 | 99精品视频在线观看免费 | 日韩av免费一区二区 | 国产精品一区欧美 | 黄色av免费电影 | 亚洲精品1区2区3区 超碰成人网 | 免费 在线 中文 日本 | 久久久久久久久久久久国产精品 | 亚洲欧洲xxxx | 爱色av.com| 国产精品久久久久影院 | 国产精品久久久久免费 | 91精品蜜桃 | 国内精品久久久久影院男同志 | 国产精品一区二区久久 | av大全在线看 | 国产精品久久久久久久av电影 | 中文字幕观看在线 | 国产亚洲无| 人人澡人摸人人添学生av | 国产精品18p | 天天干天天爽 | 91福利免费| 国产精久久久 | 国产精品久久视频 | 亚洲91精品 | 欧美日本不卡高清 | 国产精品一区二区久久精品爱微奶 | 欧美日韩精品免费观看视频 | 国产99久久九九精品 | 国产日韩欧美中文 | 最新中文字幕在线资源 | 欧美一区日韩一区 | 99国产情侣在线播放 | 国产美女免费观看 | 午夜精品久久久久久久久久久 | 成人h电影 | 国产成人91 | 国产精品久久久久久a | 国产18精品乱码免费看 | 国产探花 | 亚洲 欧美 91 | 黄色小说视频在线 | 亚洲天天摸日日摸天天欢 | 在线国产日本 | 久久久久久欧美二区电影网 | 日本久久片| 日韩精品一区二区在线 | 婷婷久月 | 天天操天天操天天操 | 99re亚洲国产精品 | 欧美激情综合五月色丁香 | 九九日九九操 | 99精品久久久久久久久久综合 | 日韩av视屏在线观看 | 欧美精品久久久久久久久老牛影院 | 国产精品wwwwww| 久久性生活片 | 日韩久久在线 | 日韩在线 一区二区 | 国产精品 国内视频 | 丁香六月婷婷 | 久久无码av一区二区三区电影网 | 中文字幕一区二区三区乱码不卡 | 99热在线看 | wwwwww国产| 成人免费观看在线视频 | 国产精品欧美一区二区 | 日韩视频欧美视频 | 亚洲国产手机在线 | 日韩有码中文字幕在线 | 91精品视频免费看 | 夜夜狠狠 | 少妇资源站 | 中文字幕二区在线观看 | 99久久er热在这里只有精品15 | www.夜夜干.com | 欧美成人按摩 | 国产理论片在线观看 | 中文国产在线观看 | 狠狠撸电影 | 中文字幕电影在线 | 国产电影黄色av | 91看片淫黄大片一级在线观看 | 九九免费精品 | 九九视频网站 | 去干成人网 | 日本中文字幕网址 | 国产精品video爽爽爽爽 | 国产精品自产拍在线观看 | 日韩高清一二区 | 久草在线视频国产 | 国产精品久久久久久久久久妇女 | 97av在线| 亚洲黄色在线观看 | 国产欧美综合视频 | 视频一区二区精品 | 在线免费精品视频 | 久久免费精品 | www.黄色片网站 | 国产精品99久久免费观看 | 狠狠的操狠狠的干 | 欧美日韩国产精品一区二区亚洲 | 日韩网页| 欧美日韩视频在线一区 | 亚洲h色精品| 国产黄色免费观看 | 欧美在线视频一区二区三区 | 色综合久久中文字幕综合网 | 黄色软件大全网站 | 久久人人爽人人爽人人片 | 日本爽妇网| 中文字幕在线免费看 | 九九视频免费在线观看 | 91成人亚洲 | 国产真实在线 | 日韩h在线观看 | 99精品一区二区三区 | 中中文字幕av在线 | 国产不卡精品 | 亚洲五月婷婷 | 免费看黄在线 | 天天爽天天做 | 手机在线欧美 | 在线观看91 | 手机av在线不卡 | 日韩久久久久 | 精品一区电影 | 五月婷婷另类国产 | 天天综合导航 | 久久这里只有精品首页 | 免费观看国产视频 | 免费看污网站 | 久久久久高清 | 国产午夜精品理论片在线 | 国产精品成人av电影 | 欧美日韩裸体免费视频 | 亚洲人人爱 | 久草免费手机视频 | 91精品久久久久久综合乱菊 | 不卡av电影在线 | 精品久久免费看 | 探花视频免费观看高清视频 | 久久韩国免费视频 | 中文字幕乱码电影 | 国产精品自产拍 | 成人午夜电影网站 | 日韩高清dvd | 中文字幕一区二区三区乱码在线 | 日本久草电影 | 丁香婷婷基地 | 国产99黄| 99久久久久免费精品国产 | 国产福利精品一区二区 | 狠狠干天天| 国产免费久久av | 91九色在线视频 | 黄色1级大片 | 波多野结衣理论片 | 日韩在线大片 | 国产精品日韩精品 | av亚洲产国偷v产偷v自拍小说 | 去干成人网 | 中文字幕久久亚洲 | 在线观看黄色大片 | 久久国产区 | 丁香网婷婷 | 国产 在线观看 | 一级淫片在线观看 | 18+视频网站链接 | 色综合天天在线 | 青青五月天 | 久久久99国产精品免费 | 三级av中文字幕 | 97成人免费 | 日韩久久一区二区 | 国产日产高清dvd碟片 | 欧美va在线观看 | 婷婷日 | 91色蜜桃 | 久久久亚洲影院 | 中文字幕91视频 | 日韩成人精品一区二区三区 | 免费在线观看av网址 | 日日躁夜夜躁aaaaxxxx | 亚洲精品视频第一页 | 日韩理论影院 | 色吊丝在线永久观看最新版本 | 色伊人网 | 午夜久久久久 | 国产一区成人 | 久草综合在线观看 | 日日摸日日爽 | 狠狠狠狠狠狠狠狠 | 国产精品伦一区二区三区视频 | 日韩免费在线视频观看 | 伊人国产视频 | 国产视频在线观看免费 | 免费成视频| 97激情影院| 欧美另类xxxx | 国产精品av久久久久久无 | 91在线最新| 九九热有精品 | www.五月激情.com | 深爱开心激情网 | 亚洲黄污| 久久99视频精品 | av电影一区二区三区 | 视频二区在线 | 免费在线视频一区二区 | 国产一区二区不卡在线 | 国产黄色片一级三级 | 久久99精品波多结衣一区 | www免费| 日本激情视频中文字幕 | 四虎国产 | 国产成人三级在线观看 | 日日夜夜天天人人 | 国产麻豆精品一区二区 | 成年人看片网站 | 日韩精品一区二区三区免费观看 | 91精品麻豆 | 免费在线观看av网站 | 国产成人av电影 | 成年人免费在线观看 | 久久夜色精品国产亚洲aⅴ 91chinesexxx | 国产精品黄网站在线观看 | 久久久久亚洲国产 | 99在线观看免费视频精品观看 | 97爱| 521色香蕉网站在线观看 | 国产成人黄色网址 | 99成人在线视频 | 人人狠狠综合久久亚洲婷 | 中文字幕在线影院 | 欧美 日韩 久久 | 91福利视频免费观看 | 天天操天天草 | 亚洲免费不卡 | 欧美精品一级视频 | 五月婷婷丁香网 | 国产成人精品一区二区三区网站观看 | 色欧美综合 | 在线视频福利 | 在线小视频你懂得 | 亚洲精品伦理在线 | 精品av网站 | 免费a网址 | 日本久久综合视频 | 亚洲最大激情中文字幕 | 美女搞黄国产视频网站 | 欧美日本在线观看视频 | 日韩激情片在线观看 | 黄色三级在线观看 | 五月婷丁香网 | 天天色综合三 | 日韩欧美高清视频在线观看 | 精品999久久久| 午夜精品成人一区二区三区 | 福利视频在线看 | 成人网在线免费视频 | 国产色在线视频 | 97免费在线观看视频 | 一区二区三区在线观看中文字幕 | 亚洲精品网址在线观看 | 五月开心六月伊人色婷婷 | 国语黄色片 | 5月丁香婷婷综合 | 日韩a级黄色 | 国产精品久久久久一区二区 | 最近中文字幕大全中文字幕免费 | 久久看片 | 亚洲国产精品传媒在线观看 | 国产精品久久久免费 | 国产精品欧美一区二区 | 天天射天天射天天射 | 在线免费看片 | 欧美日韩精品综合 | 91新人在线观看 | 激情五月激情综合网 | 国内免费的中文字幕 | 日本视频精品 | 欧美激情视频一区二区三区免费 | 免费毛片一区二区三区久久久 | 久草电影免费在线观看 | 97网站| 黄色免费网 | 韩日三级在线 | 国产精品麻豆果冻传媒在线播放 | 色com| 成人av一区二区三区 | 特黄免费av | 亚洲高清在线精品 | 91热视频 | 香蕉视频国产在线 | 免费成人结看片 | 射射射综合网 | 99久久久国产精品免费观看 | 日韩欧美精品一区二区三区经典 | 国产精品视频99 | 91精品国产91p65| 在线观看视频你懂的 | 最近中文字幕大全 | 99视| 天天色天天色天天色 | 色婷婷视频在线观看 | 999电影免费在线观看 | 色先锋资源网 | 91亚洲狠狠婷婷综合久久久 | 免费看一级 | 免费三级大片 | 欧美孕妇视频 | 四虎影视4hu4虎成人 | 久久久久亚洲精品成人网小说 | 天天操夜夜想 | 国产中文字幕视频在线观看 | 久久免费国产视频 | www.啪啪.com| 国产精品视频区 | 日韩av片无码一区二区不卡电影 | 欧美激情在线网站 | 欧美一区二区三区特黄 | bbbbb女女女女女bbbbb国产 | 在线直播av | 99久热在线精品视频 | 5月丁香婷婷综合 | 天天天综合网 | 中文av在线免费观看 | 国产精品mv | 久久国产视频网 | 精品国产伦一区二区三区观看说明 | 99人久久精品视频最新地址 | 成年人在线观看视频免费 | 精品国产aⅴ一区二区三区 在线直播av | 日韩免费视频观看 | 国产99久久久久 | 成人在线一区二区 | 国产美女视频免费 | 久草在线播放视频 | 久久国产品 | 一本一道久久a久久精品 | 国产精品久久久精品 | 伊人永久在线 | 国产日韩欧美精品在线观看 | 色婷婷午夜| 在线视频免费观看 | 成人av网页 | 九九涩涩av台湾日本热热 | 美女网站色在线观看 | 狠狠干夜夜 | 欧美激情一区不卡 | 中文字幕一区在线观看视频 | 婷久久| www.久久久.cum| 狠狠色狠狠色综合日日92 | 久久久久久97三级 | 麻豆视频在线免费看 | 国产精品丝袜 | 久久久久久久久精 | 国产精品永久免费视频 | 激情网站网址 | 亚洲精品www久久久 www国产精品com | 免费欧美高清视频 | 超碰免费97| 激情xxxx | 精品久久99 | 免费在线黄色av | 欧美色图亚洲图片 | 狠狠狠狠狠狠狠干 | 婷婷丁香自拍 | 婷婷丁香色 | 玖玖玖影院 | 国产国产人免费人成免费视频 | 久久99精品国产麻豆宅宅 | 日日操夜 | 91视频91色| 免费看一及片 | 99热超碰在线 | 在线黄色免费av | 91看毛片| 在线免费观看成人 | 亚洲最新视频在线播放 | 91视频高清完整版 | 亚洲一级片在线看 | 91精品国产乱码久久 | 国产一区二区在线免费播放 | 久99久精品 | 99中文字幕 | 人人爽久久涩噜噜噜网站 | 97免费| 中文字幕日本在线观看 | 国产日韩欧美在线 | 中文字幕av电影下载 | 日韩av线观看 | 亚州日韩中文字幕 | 午夜少妇av | 视频 天天草 | 天天操天天摸天天爽 | 成人黄色电影在线观看 | 国产超碰在线观看 | 91系列在线| 怡红院av久久久久久久 | 久久草网站 | a黄色大片 | 久久久久成人精品免费播放动漫 | 免费黄a大片 | 丝袜美女在线 | 色婷婷综合五月 | 国产在线成人 | 91精品国自产在线偷拍蜜桃 | 久久爱资源网 | 最新av网址在线 | 久久久高清免费视频 | 国产亚洲精品成人av久久影院 | 欧美性色黄大片在线观看 | 96亚洲精品久久 | 国产福利91精品 | 久久免费资源 | 激情伊人五月天久久综合 | www.xxxx欧美| 欧美另类高潮 | 一区二区视频在线免费观看 | 久久综合九色欧美综合狠狠 | 99r在线观看 | 欧美综合在线视频 | 久久综合久久综合这里只有精品 | 色www精品视频在线观看 | 亚洲精品91天天久久人人 | 麻豆久久久 | 一区二区视频在线观看免费 | 热久久精品在线 | 综合久久久久久久 | 91插插插免费视频 | 福利网在线| 最新精品国产 | 亚洲免费不卡 | 国产这里只有精品 | 在线观看网站你懂的 | 久久你懂得 | 免费看三级网站 | 97伊人网| 最近2019中文免费高清视频观看www99 | 91禁在线看| 国产无套精品久久久久久 | 91精品国产高清自在线观看 | 人人搞人人干 | 最近中文字幕国语免费av | 日韩精品一区二区三区高清免费 | 婷婷在线精品视频 | av电影不卡 | 国产精品久久久亚洲 | 免费a v观看 | 中文字幕成人av | 亚洲黄色激情小说 | 干综合网 | 久久激情视频 | 亚洲国产欧美一区二区三区丁香婷 | japanesefreesex中国少妇 | 国产精品av免费在线观看 | 日韩欧美视频免费看 | 日韩电影在线观看一区 | 亚洲精品视频大全 | 精品久久久久久久久久久久久 | 免费h精品视频在线播放 | 欧美色综合久久 | 97超碰资源| 国产高清一 | 成人av在线亚洲 | 美女国内精品自产拍在线播放 | 国产精品一区二区三区免费视频 | 精选久久| 亚洲精品国偷拍自产在线观看蜜桃 | 国产日本在线观看 | 精品一区二区久久久久久久网站 | 久久av免费电影 | 日本婷婷色 | 久久在线电影 | 成人免费一级 | 99精品小视频 | 日韩色中色 | 久久免费av电影 | 久久国产精品99国产精 | 五月天丁香亚洲 | 欧美日韩在线免费观看 | 成人黄色在线电影 | 国产精品福利小视频 | 天天色视频 | 69精品视频 | 91成人在线看 | 久久av网 | 国产麻豆精品久久一二三 | 91亚洲狠狠婷婷综合久久久 | 日本动漫做毛片一区二区 | www99精品| 国产精品扒开做爽爽的视频 | 一级性生活片 | 欧美亚洲久久 | 国产视频黄 | 欧美日韩久久一区 | 99热这里只有精品免费 | 国产在线观看你懂得 | 激情视频免费观看 | 97韩国电影 | 人人玩人人添人人 | 天天色宗合 | 亚洲精品国产精品国产 | 国产精品久久毛片 | 国产视频九色蝌蚪 | 五月婷婷中文网 | 国产精品一区二区三区免费看 | 欧美中文字幕第一页 | 黄网站污 | 国产亚洲免费的视频看 | 欧美在线观看视频 | 成人在线视 | 色干综合 | 日韩精品中文字幕av | 中文字幕在线影院 | 日韩亚洲在线观看 | 日韩在线视频精品 | 国产中文字幕av | 中文字幕视频观看 | 日韩高清精品一区二区 | 黄色小说网站在线 | 玖草影院 | 免费看三级| 成人免费在线观看电影 | 久久久久电影网站 | 美女av电影 | 91香蕉视频好色先生 | 激情五月五月婷婷 | 免费看的黄网站软件 | 国产精品1区 | 成人黄大片视频在线观看 | 欧美一级片在线播放 | 青青草华人在线视频 | 亚洲va欧美va国产va黑人 | 日日草天天干 | 久久有精品 | 国产精品毛片完整版 | 98超碰在线 | 亚洲 欧洲 国产 精品 | a黄色一级片 | 成人在线观看免费 | 91在线视频播放 | www免费黄色| 97超碰中文 | 国产精品一区二区吃奶在线观看 | 麻豆精品国产传媒 | 国偷自产中文字幕亚洲手机在线 | 黄色免费在线视频 | 91女神的呻吟细腰翘臀美女 | 激情六月婷婷久久 |