?一、引言

ClickHouse 是一個用于聯機分析( OLAP )的列式數據庫管理系統( DBMS )。它于 2016 年以 Apache 2.0 協議開源，以優秀的查詢性能，深受廣大大數據工程師歡迎。

為了服務客戶業務，騰訊云于 2020 年 4 月正式上線 ClickHouse 服務。服務上線以來，迅速獲得內外客戶廣泛支持，服務業務數量成規模增長。與此同時，運維與管控壓力也隨之而來，用戶對彈性伸縮能力的呼聲越來越大。

事實上，ClickHouse 是典型的 Share-Nothing 架構，天然支持彈性伸縮能力。無論是增加節點數量，還是增加數據分片副本數量都非常容易。

圖1 ClickHouse Share-Nothing 架構

但是，ClickHouse 集群在增加節點后，集群上的數據集無法自動均衡分布。需要人工干預，確保數據均衡。同理，下線集群節點前，也需要人工干預，將被下線節點的機器遷移到其他節點。

在生產環境中，運維工作強度隨著集群中表的數量，數據規模增加而急劇增強。為了緩解云上 ClickHouse 用戶運維壓力，將 ClickHouse 數據均衡運維工作自動化是非常有價值的。

本文將帶大家了解騰訊云 ClickHouse 是如何實現無人值守的數據均衡服務，希望與大家一同交流。

二、ClickHouse集群數據均衡功能缺失

在生產環境中，通常 ClickHouse 通常以集群模式部署。在 ClickHouse 集群中，用戶根據業務需求將集群節點劃分為若干子集合。每個集合存儲若干數據集，在使用層面，用戶通過分布式表( Distributed Engine )來查詢整個數據集。

在 ClickHouse 的語義中，有一個 Cluster 概念，它是一個節點的集合，并且定義了存儲在該 Cluster 上的數據集的分片數量，以及分片的副本數量，以及其存儲節點。

如上圖 1 所示，一個名為 cluster-dataset 的 Cluster, 定義了 4 個分片( SHARD ), 每個分片有 2 個副本。當存儲在這個 Cluster 上的數據集，通常會分散存儲在 4 個分片中，并且每個分片數據會存儲 2 個副本。

為 Cluster 增加分片是非常容易，分配機器，修改配置即可。如下圖所示，給 cluster-dataset 增加一個分片。但是已存的數據數據集仍然在分片 SHARED1-4 上。很明顯，新增的節點存在資源浪費的問題，包括計算資源和存儲資源。

圖2：擴容節點示意圖

為了解決這樣問題，有若干方案解決：

• 將數據全部刪除掉，從后備數據源重新導入數據到 ClickKhouse;
• 增加新節點的權重，過一定時間后待數據均衡后，重新調整新增節點權重；
• 其他，如人工搬運數據到新增節點

但是無論使用上述哪一種種方法，都存在缺陷。比如對于第一個方案而言，如果 ClickHouse 中數據并無后備數據源，那么該方案不可行。即使有后備數據源，重新導入數據耗時，且停服時間與數據量成正比，代價大。

對于第二種方案，需要對新節點進行多次權限調整。在調整期間，數據存儲壓力向新增節點傾斜，無法充分利用集群優勢。且容易導致新近數據集中在新增節點上，導致集群資源浪費，降低查詢效率。

對于第三種方案而言，操作繁雜，在表多，數據量大的情況下，易出錯。

三、云上ClickHouse解決方案

為了解決 ClickHouse 集群數據均衡功能缺失，帶來的運維壓力，騰訊云 ClickHouse 提供了數據自動均衡功能。

簡而言之，在獲得用戶授權后，用戶在控制臺上簡單配置，填寫數據遷移網絡帶寬上限，即可啟動數據均衡任務。

后臺管控系統根據機器當期磁盤可用容量，合理安排數據遷移計劃。然后，根據網絡帶寬上限，執行遷移計劃。最終，使得數據在節點上分布趨于均衡。

舉一個例子來進行說明，在云上申請一個 ClickHouse 實例，2 個節點。在其中一個節點上創建一個名為 lineorder 的表，并導入測試數據。查看該表在該節點上的存儲容量，結果如下所示：

另外一個節點上沒有該表的數據，也沒有表的 schema。我們通過數據遷移功能完成數據均衡。接下來通過控制臺，我們完成數據遷移。具體步驟如下：

1. 選擇Cluster

選擇 Cluster，選擇 ClickHouse 實例，點擊集群服務，選擇 ClickHouse 組件，在"操作"下拉列表中，選擇數據遷移菜單項。選擇數據均衡模式。

2. 選擇遷移節點

在確定 Cluster 后，可以選擇數據遷出與遷入節點。

3. 選擇遷移數據表

在確定了遷移節點后，我們可以選擇待遷移的表。

4. 確認信息

最后，提交任務。ClickHouse 就開始數據遷移工作。在任務中心可以看到數據遷移進度。

任務結束時候，也可以查看遷移任務詳情信息。

待數據遷移完成后，我們可以查看數據在兩個節點上數據分布情況。在集群節點上數據量情況如下：

可以看到，數據遷移完成后，數據條數和數據量是完全吻合的。

四、結語

云上數據遷移功能旨在解決 ClickHouse 彈性伸縮時數據遷移問題。使用場景包括：

• 新擴容節點后，使用數據遷移功能，遷移部分數據至新節點，讓數據在集群節點上趨于均衡；
• 縮容節點前，將待下線節點上的數據遷移到其他節點，避免數據丟失。

數據遷移功能極大的緩解了集群版 ClickHouse 運維壓力。需要注意的是，數據均衡任務運行過程中，被遷移的表無法被業務訪問。

總結

以上是生活随笔為你收集整理的vector自动扩容如何实现_腾讯云ClickHouse如何实现自动化的数据均衡？的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。