大型网站系统的特点和架构设计
分布式架構(gòu)
阿里P8架構(gòu)師談：淘寶技術(shù)架構(gòu)從1.0到4.0的架構(gòu)變遷
優(yōu)知學(xué)院」淘寶技術(shù)架構(gòu)的前世今生（上）
優(yōu)知學(xué)院」淘寶架構(gòu)的前世今生（下）
揭秘：一位親歷者眼中的淘寶技術(shù)架構(gòu)發(fā)展之路
淘寶發(fā)展歷程最具決定性的一次技術(shù)架構(gòu)演變
大型網(wǎng)站架構(gòu)設(shè)計(jì)談過(guò)了多期，本篇大部分內(nèi)容來(lái)源與大型網(wǎng)站技術(shù)架構(gòu)這本書(shū)，算是大型網(wǎng)站技術(shù)的科普篇，推薦給大家。
大型網(wǎng)站系統(tǒng)的特點(diǎn)
1.高并發(fā)，大流量
需要面對(duì)高并發(fā)用戶(hù)，大流量訪問(wèn)。
2.高可用
系統(tǒng) 7 x 24 小時(shí)不間斷服務(wù)。
3.海量數(shù)據(jù)
需要存儲(chǔ)、管理海量數(shù)據(jù)，需要使用大量服務(wù)器。
4.用戶(hù)分布廣泛，網(wǎng)絡(luò)情況復(fù)雜
許多大型互聯(lián)網(wǎng)站都是為全球用戶(hù)提供服務(wù)的，用戶(hù)分布范圍廣，各地網(wǎng)絡(luò)情況千差萬(wàn)別。在國(guó)內(nèi)，還有各個(gè)運(yùn)營(yíng)商網(wǎng)絡(luò)互通難的問(wèn)題。
5.安全環(huán)境惡劣
由于互聯(lián)網(wǎng)的開(kāi)放性，使得互聯(lián)網(wǎng)站更容易受到攻擊，大型網(wǎng)站幾乎每天都會(huì)被黑客攻擊。
6.需求快速變更，發(fā)布頻繁
和傳統(tǒng)軟件的版本發(fā)布頻率不同，互聯(lián)網(wǎng)產(chǎn)品為快速適應(yīng)市場(chǎng)，滿(mǎn)足用戶(hù)需求，其產(chǎn)品發(fā)布頻率極高。一般大型網(wǎng)站的產(chǎn)品每周都有新版本發(fā)布上線(xiàn)，中小型網(wǎng)站的發(fā)布更頻繁，有時(shí)候一天會(huì)發(fā)布幾十次。
7.漸進(jìn)式發(fā)展
幾乎所有的大型互聯(lián)網(wǎng)網(wǎng)站都是從一個(gè)小網(wǎng)站開(kāi)始，漸進(jìn)地發(fā)展起來(lái)的。好的互聯(lián)網(wǎng)產(chǎn)品都是慢慢運(yùn)營(yíng)出來(lái)的，不是一開(kāi)始就開(kāi)發(fā)好的，這也正好與網(wǎng)站架構(gòu)的發(fā)展演化過(guò)程對(duì)應(yīng)。
大型網(wǎng)站架構(gòu)演化發(fā)展歷程
大型網(wǎng)站的技術(shù)挑戰(zhàn)主要來(lái)自于龐大的用戶(hù)，高并發(fā)的訪問(wèn)和海量的數(shù)據(jù)，任何簡(jiǎn)單的業(yè)務(wù)一旦需要處理數(shù)以 P 計(jì)的數(shù)據(jù)和面對(duì)數(shù)以?xún)|計(jì)的用戶(hù)，問(wèn)題就會(huì)變得很棘手。大型網(wǎng)站架構(gòu)主要解決這類(lèi)問(wèn)題。
1.初始階段的網(wǎng)站架構(gòu)
大型網(wǎng)站都是從小型網(wǎng)站發(fā)展而來(lái)，網(wǎng)站架構(gòu)也是一樣，是從小型網(wǎng)站架構(gòu)逐步演化而來(lái)。小型網(wǎng)站最開(kāi)始沒(méi)有太多人訪問(wèn)，只需要一臺(tái)服務(wù)器就綽綽有余，這時(shí)的網(wǎng)站架構(gòu)如下圖所示：
應(yīng)用程序、數(shù)據(jù)庫(kù)、文件等所有資源都在一臺(tái)服務(wù)器上。
2.應(yīng)用服務(wù)和數(shù)據(jù)服務(wù)分離
隨著網(wǎng)站業(yè)務(wù)的發(fā)展，一臺(tái)服務(wù)器逐漸不能滿(mǎn)足需求：越來(lái)越多的用戶(hù)訪問(wèn)導(dǎo)致性能越來(lái)越差，越來(lái)越多的數(shù)據(jù)導(dǎo)致存儲(chǔ)空間不足。這時(shí)就需要將應(yīng)用和數(shù)據(jù)分離。應(yīng)用和數(shù)據(jù)分離后整個(gè)網(wǎng)站使用3臺(tái)服務(wù)器：應(yīng)用服務(wù)器、文件服務(wù)器和數(shù)據(jù)庫(kù)服務(wù)器。這
3 臺(tái)服務(wù)器對(duì)硬件資源的要求各不相同：
應(yīng)用服務(wù)器需要處理大量的業(yè)務(wù)邏輯，因此需要更快更強(qiáng)大的CPU；
數(shù)據(jù)庫(kù)服務(wù)器需要快速磁盤(pán)檢索和數(shù)據(jù)緩存，因此需要更快的磁盤(pán)和更大的內(nèi)存；
文件服務(wù)器需要存儲(chǔ)大量用戶(hù)上傳的文件，因此需要更大的硬盤(pán)。
此時(shí)，網(wǎng)站系統(tǒng)的架構(gòu)如下圖所示：
應(yīng)用和數(shù)據(jù)分離后，不同特性的服務(wù)器承擔(dān)不同的服務(wù)角色，網(wǎng)站的并發(fā)處理能力和數(shù)據(jù)存儲(chǔ)空間得到了很大改善，支持網(wǎng)站業(yè)務(wù)進(jìn)一步發(fā)展。但是隨著用戶(hù)逐漸增多，網(wǎng)站又一次面臨挑戰(zhàn)：數(shù)據(jù)庫(kù)壓力太大導(dǎo)致訪問(wèn)延遲，進(jìn)而影響整個(gè)網(wǎng)站的性能，用戶(hù)體驗(yàn)受到影響。這時(shí)需要對(duì)網(wǎng)站架構(gòu)進(jìn)一步優(yōu)化。
3.使用緩存改善網(wǎng)站性能
網(wǎng)站訪問(wèn)的特點(diǎn)和現(xiàn)實(shí)世界的財(cái)富分配一樣遵循二八定律：80%
的業(yè)務(wù)訪問(wèn)集中在20%
的數(shù)據(jù)上。既然大部分業(yè)務(wù)訪問(wèn)集中在一小部分?jǐn)?shù)據(jù)上，那么如果把這一小部分?jǐn)?shù)據(jù)緩存在內(nèi)存中，就可以減少數(shù)據(jù)庫(kù)的訪問(wèn)壓力，提高整個(gè)網(wǎng)站的數(shù)據(jù)訪問(wèn)速度，改善數(shù)據(jù)庫(kù)的寫(xiě)入性能了。
網(wǎng)站使用的緩存可以分為兩種：緩存在應(yīng)用服務(wù)器上的本地緩存和緩存在專(zhuān)門(mén)的分布式緩存服務(wù)器上的遠(yuǎn)程緩存。
本地緩存的訪問(wèn)速度更快一些，但是受應(yīng)用服務(wù)器內(nèi)存限制，其緩存數(shù)據(jù)量有限，而且會(huì)出現(xiàn)和應(yīng)用程序爭(zhēng)用內(nèi)存的情況。
遠(yuǎn)程分布式緩存可以使用集群的方式，部署大內(nèi)存的服務(wù)器作為專(zhuān)門(mén)的緩存服務(wù)器，可以在理論上做到不受內(nèi)存容量限制的緩存服務(wù)。
使用緩存后，數(shù)據(jù)訪問(wèn)壓力得到有效緩解，但是單一應(yīng)用服務(wù)器能夠處理的請(qǐng)求連接有限，在網(wǎng)站訪問(wèn)高峰期，應(yīng)用服務(wù)器成為整個(gè)網(wǎng)站的瓶頸。
5.使用應(yīng)用服務(wù)器集群改善網(wǎng)站的并發(fā)處理能力
使用集群是網(wǎng)站解決高并發(fā)、海量數(shù)據(jù)問(wèn)題的常用手段。當(dāng)一臺(tái)服務(wù)器的處理能力、存儲(chǔ)空間不足時(shí)，不要企圖去更換更強(qiáng)大的服務(wù)器，對(duì)大型網(wǎng)站而言，不管多么強(qiáng)大的服務(wù)器，都滿(mǎn)足不了網(wǎng)站持續(xù)增長(zhǎng)的業(yè)務(wù)需求。這種情況下，更恰當(dāng)?shù)淖龇ㄊ窃黾右慌_(tái)服務(wù)器分擔(dān)原有服務(wù)器的訪問(wèn)及存儲(chǔ)壓力。 對(duì)網(wǎng)站架構(gòu)而言，只要能通過(guò)增加一臺(tái)服務(wù)器的方式改善負(fù)載壓力，就可以以同樣的方式持續(xù)增加服務(wù)器不斷改善系統(tǒng)性能，從而實(shí)現(xiàn)系統(tǒng)的可伸縮性。應(yīng)用服務(wù)器實(shí)現(xiàn)集群是網(wǎng)站可伸縮架構(gòu)設(shè)計(jì)中較為簡(jiǎn)單成熟的一種，如下圖所示：
通過(guò)負(fù)載均衡調(diào)度服務(wù)器，可以將來(lái)自用戶(hù)瀏覽器的訪問(wèn)請(qǐng)求分發(fā)到應(yīng)用服務(wù)器集群中的任何一臺(tái)服務(wù)器上，如果有更多用戶(hù)，就在集群中加入更多的應(yīng)用服務(wù)器，使應(yīng)用服務(wù)器的壓力不再成為整個(gè)網(wǎng)站的瓶頸。
6.數(shù)據(jù)庫(kù)讀寫(xiě)分離
網(wǎng)站在使用緩存后，使對(duì)大部分?jǐn)?shù)據(jù)讀操作訪問(wèn)都可以不通過(guò)數(shù)據(jù)庫(kù)就能完成，但是仍有一部分讀操作（緩存訪問(wèn)不命中、緩存過(guò)期）和全部的寫(xiě)操作都需要訪問(wèn)數(shù)據(jù)庫(kù)，在網(wǎng)站的用戶(hù)達(dá)到一定規(guī)模后，數(shù)據(jù)庫(kù)因?yàn)樨?fù)載壓力過(guò)高而成為網(wǎng)站的瓶頸。
目前大部分的主流數(shù)據(jù)庫(kù)都提供主從熱備功能，通過(guò)配置兩臺(tái)數(shù)據(jù)庫(kù)主從關(guān)系，可以將一臺(tái)數(shù)據(jù)庫(kù)服務(wù)器的數(shù)據(jù)更新同步到另一臺(tái)服務(wù)器上。網(wǎng)站利用數(shù)據(jù)庫(kù)的這一功能，實(shí)現(xiàn)數(shù)據(jù)庫(kù)讀寫(xiě)分離，從而改善數(shù)據(jù)庫(kù)負(fù)載壓力。如下圖所示：
應(yīng)用服務(wù)器在寫(xiě)數(shù)據(jù)的時(shí)候，訪問(wèn)主數(shù)據(jù)庫(kù)，主數(shù)據(jù)庫(kù)通過(guò)主從復(fù)制機(jī)制將數(shù)據(jù)更新同步到從數(shù)據(jù)庫(kù)，這樣當(dāng)應(yīng)用服務(wù)器讀數(shù)據(jù)的時(shí)候，就可以通過(guò)從數(shù)據(jù)庫(kù)獲得數(shù)據(jù)。為了便于應(yīng)用程序訪問(wèn)讀寫(xiě)分離后的數(shù)據(jù)庫(kù)，通常在應(yīng)用服務(wù)器端使用專(zhuān)門(mén)的數(shù)據(jù)訪問(wèn)模塊，使數(shù)據(jù)庫(kù)讀寫(xiě)分離對(duì)應(yīng)用透明。
7.使用反向代理和 CDN 加速網(wǎng)站響應(yīng)
隨著網(wǎng)站業(yè)務(wù)不斷發(fā)展，用戶(hù)規(guī)模越來(lái)越大，由于中國(guó)復(fù)雜的網(wǎng)絡(luò)環(huán)境，不同地區(qū)的用戶(hù)訪問(wèn)網(wǎng)站時(shí)，速度差別也極大。有研究表明，網(wǎng)站訪問(wèn)延遲和用戶(hù)流失率正相關(guān)，網(wǎng)站訪問(wèn)越慢，用戶(hù)越容易失去耐心而離開(kāi)。為了提供更好的用戶(hù)體驗(yàn)，留住用戶(hù)，網(wǎng)站需要加速網(wǎng)站訪問(wèn)速度。主要手段有使用
CDN 和方向代理。如下圖所示：
CDN 和反向代理的基本原理都是緩存。
CDN 部署在網(wǎng)絡(luò)提供商的機(jī)房，使用戶(hù)在請(qǐng)求網(wǎng)站服務(wù)時(shí)，可以從距離自己最近的網(wǎng)絡(luò)提供商機(jī)房獲取數(shù)據(jù)
反向代理則部署在網(wǎng)站的中心機(jī)房，當(dāng)用戶(hù)請(qǐng)求到達(dá)中心機(jī)房后，首先訪問(wèn)的服務(wù)器是反向代理服務(wù)器，如果反向代理服務(wù)器中緩存著用戶(hù)請(qǐng)求的資源，就將其直接返回給用戶(hù)
使用 CDN 和反向代理的目的都是盡早返回?cái)?shù)據(jù)給用戶(hù)，一方面加快用戶(hù)訪問(wèn)速度，另一方面也減輕后端服務(wù)器的負(fù)載壓力。
8.使用分布式文件系統(tǒng)和分布式數(shù)據(jù)庫(kù)系統(tǒng)
任何強(qiáng)大的單一服務(wù)器都滿(mǎn)足不了大型網(wǎng)站持續(xù)增長(zhǎng)的業(yè)務(wù)需求。數(shù)據(jù)庫(kù)經(jīng)過(guò)讀寫(xiě)分離后，從一臺(tái)服務(wù)器拆分成兩臺(tái)服務(wù)器，但是隨著網(wǎng)站業(yè)務(wù)的發(fā)展依然不能滿(mǎn)足需求，這時(shí)需要使用分布式數(shù)據(jù)庫(kù)。文件系統(tǒng)也一樣，需要使用分布式文件系統(tǒng)。如下圖所示：
分布式數(shù)據(jù)庫(kù)是網(wǎng)站數(shù)據(jù)庫(kù)拆分的最后手段，只有在單表數(shù)據(jù)規(guī)模非常龐大的時(shí)候才使用。不到不得已時(shí)，網(wǎng)站更常用的數(shù)據(jù)庫(kù)拆分手段是業(yè)務(wù)分庫(kù)，將不同業(yè)務(wù)的數(shù)據(jù)部署在不同的物理服務(wù)器上。
9.使用 NoSQL 和搜索引擎
隨著網(wǎng)站業(yè)務(wù)越來(lái)越復(fù)雜，對(duì)數(shù)據(jù)存儲(chǔ)和檢索的需求也越來(lái)越復(fù)雜，網(wǎng)站需要采用一些非關(guān)系數(shù)據(jù)庫(kù)技術(shù)如 NoSQL 和非數(shù)據(jù)庫(kù)查詢(xún)技術(shù)如搜索引擎。如下圖所示：
NoSQL 和搜索引擎都是源自互聯(lián)網(wǎng)的技術(shù)手段，對(duì)可伸縮的分布式特性具有更好的支持。應(yīng)用服務(wù)器則通過(guò)一個(gè)統(tǒng)一數(shù)據(jù)訪問(wèn)模塊訪問(wèn)各種數(shù)據(jù)，減輕應(yīng)用程序管理諸多數(shù)據(jù)源的麻煩。
10.業(yè)務(wù)拆分
大型網(wǎng)站為了應(yīng)對(duì)日益復(fù)雜的業(yè)務(wù)場(chǎng)景，通過(guò)使用分而治之的手段將整個(gè)網(wǎng)站業(yè)務(wù)分成不同的產(chǎn)品線(xiàn)。如大型購(gòu)物交易網(wǎng)站都會(huì)將首頁(yè)、商鋪、訂單、買(mǎi)家、賣(mài)家等拆分成不同的產(chǎn)品線(xiàn)，分歸不同的業(yè)務(wù)團(tuán)隊(duì)負(fù)責(zé)。
具體到技術(shù)上，也會(huì)根據(jù)產(chǎn)品線(xiàn)劃分，將一個(gè)網(wǎng)站拆分成許多不同的應(yīng)用，每個(gè)應(yīng)用獨(dú)立部署。應(yīng)用之間可以通過(guò)一個(gè)超鏈接建立關(guān)系（在首頁(yè)上的導(dǎo)航鏈接每個(gè)都指向不同的應(yīng)用地址），也可以通過(guò)消息隊(duì)列進(jìn)行數(shù)據(jù)分發(fā)，當(dāng)然最多的還是通過(guò)訪問(wèn)同一個(gè)數(shù)據(jù)存儲(chǔ)系統(tǒng)來(lái)構(gòu)成一個(gè)關(guān)聯(lián)的完整系統(tǒng)，如下圖所示：
11.分布式服務(wù)
隨著業(yè)務(wù)拆分越來(lái)越小，存儲(chǔ)系統(tǒng)越來(lái)越龐大，應(yīng)用系統(tǒng)的整體復(fù)雜度呈指數(shù)級(jí)增加，部署維護(hù)越來(lái)越困難。由于所有應(yīng)用要和所有數(shù)據(jù)庫(kù)系統(tǒng)連接，在數(shù)萬(wàn)臺(tái)服務(wù)器規(guī)模的網(wǎng)站中，這些連接的數(shù)目是服務(wù)器規(guī)模的平方，導(dǎo)致數(shù)據(jù)庫(kù)連接資源不足，拒絕服務(wù)。
既然每一個(gè)應(yīng)用系統(tǒng)都需要執(zhí)行許多相同的業(yè)務(wù)操作，比如用戶(hù)管理、商品管理等，那么可以將這些共用的業(yè)務(wù)提取出來(lái)，獨(dú)立部署。由這些可復(fù)用的業(yè)務(wù)連接數(shù)據(jù)庫(kù)，提供共用業(yè)務(wù)服務(wù)，而應(yīng)用系統(tǒng)只需要管理用戶(hù)界面，通過(guò)分布式服務(wù)調(diào)用共用業(yè)務(wù)服務(wù)完成具體業(yè)務(wù)操作。如下圖所示：
大型網(wǎng)站的架構(gòu)演化到這里，基本上大多數(shù)的技術(shù)問(wèn)題都得以解決，諸如跨數(shù)據(jù)中心的實(shí)時(shí)數(shù)據(jù)同步和具體網(wǎng)站業(yè)務(wù)相關(guān)的問(wèn)題也都可以通過(guò)組合改進(jìn)現(xiàn)有技術(shù)架構(gòu)解決。
你可能也喜歡:
總結(jié)
以上是生活随笔為你收集整理的大型网站系统的特点和架构设计的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。
- 上一篇： 开源开放 | 《大词林》开源 75 万核
- 下一篇： 支付系统-系统架构