一個熱門視頻直播間人數可能達到幾十萬甚至上百萬人，幾十萬人發消息，幾十萬人接收，流量相當驚人，那么服務端要如何設計才能保證系統流暢？本文作者將結合他在網易云信多年IM開發的經驗進行深度分析。

?

推薦閱讀

高并發IM系統架構優化實踐

IM即時通訊：如何跳出傳統思維來設計聊天室架構？

?

? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? 聊天室架構應滿足哪些條件

高可用：任何一個節點故障都不應該引起服務不可用；

易擴展：具有水平擴展的特性，對不同量級的在線用戶數都有應變的能力；

高并發低延遲：能支持大量的用戶同時收發消息，消息從發出到送達所有在線端的延時在毫秒級；

客戶端兼容性：新型的應用都是能同時跨多種設備實現消息互通的，比如網頁端，手機端和桌面端，甚至智能電視等。

? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? 聊天室架構如何設計

客戶端層

處理各種設備的兼容問題，包括對ios，Android，Windows， Web等各種開發平臺的語言適配；消息通道的管理維護，包括移動設備上的弱網絡管理，斷線重連等；保證數據安全，所有上行下行的數據包都需要加解密處理，規避數據泄露或中間人攻擊等各種安全風險。

網關接入層

管理大量客戶端連接，單個節點可以維護的客戶端數量在數十萬量級；處理不同類型客戶端的協議兼容，由于客戶端實現技術的多樣性，導致客戶端與網關之間底層的數據通信協議存在差異，需要由不同的接入網關做協議轉換；處理數據安全邏輯；跨網絡的高可用邏輯，網絡級別的主備(誰知道哪天網線會被藍翔的畢業生挖斷呢?)；廣播消息的高效下行分發，將收到的廣播消息分發到所有連接在本節點上的客戶端。

路由層

作為業務層接入的中轉，同時承擔負載均衡和高可用的作用，單個業務節點處理能力達到瓶頸時更方便的擴容，路由層使業務層擴容對前置網關層完全透明；當一個網絡的業務集群出現網絡故障時，可以切換到備用網絡，保證服務可用性。

業務層

處理聊天室內的業務消息，一個集群內有眾多節點，節點角色相互對等，任何一個節點的故障會使整個集群的處理能力下降，但不會引起服務的中斷，因為其他節點可以繼續接管業務數據包的處理；業務集群同樣有多個網絡環境的熱備，以應對可能出現的區域性網絡故障。

? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? 難點在哪里

客戶端多樣性

目前的應用都存在跨平臺的需求，iOS、安卓和PC端，網頁端，甚至IOT物聯網設備，能連多少是多少，多多益善；但是不同開發平臺之間的技術差異性極大，不是所有公司都有這么全的全棧程序猿的；如果團隊開發的話單就客戶端開發人員就不是幾個人可以完成的。

數據安全的保證

當前的網絡安全形勢異常復雜，開發應用時如果不在通信安全上花心思，那你的用戶就是在互聯網上裸奔；開發者需要針對不同的平臺，不同的通信技術實現可靠的安全方案，避免用戶數據在傳輸過程中泄露，避免中間人攻擊等安全風險。

跨機房網絡級的高可用方案

當機房網絡出現故障時把責任推給市政施工隊或者“網絡抽風”已經不流行了，用戶需要的是故障無感知。

所有環節的單點故障排除

任何硬件和軟件都存在故障的可能，我們無法避免應用罷工，那就需要隨時準備替補上場。

能應對任何用戶量級的需求

架構級做到水平擴展的能力，當用戶量增長時隨時可以通過堆服務器來解決，而不是將架構推倒重來。

?

看完文章還是不知道怎么做？那么可以嘗試借用目前已有的平臺或工具，現在應用需要關注的是怎么以最快的速度抓住用戶。網易云信是一個面對開發者的很好的IM云平臺。十余年的研發積累，使其在即時通訊技術方面處于全國領先水平。網易云信至今已申請了60余項IM專利，遠超市場同類產品。歡迎大家與我們討論IM技術，也歡迎大家多多關注網易云信。

另外，想要獲取更多產品干貨、技術干貨，記得關注網易云信博客哦~

總結

以上是生活随笔為你收集整理的几十万人同时在线的直播间聊天，如何设计服务端架构？的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。