http://www.csdn.net/article/2015-01-15/2823577

OFC的重要性

2014年的618顯得和以往任何店慶促銷日都不同，不僅僅是因為電子商務(wù)本身在中國不斷飛速發(fā)展對京東系統(tǒng)帶來的挑戰(zhàn)，更為重要的是2014年5月22日剛走入美國納斯達克殿堂的京東聚集了最耀眼的光芒，能不能保持這樣的光芒，618則會是一份很有說服力的答卷，當(dāng)然我們最終給出了滿意的結(jié)果。作為一個普通的購物者，當(dāng)我們在瀏覽器中輸入www.jd.com并回車，便可以看到京東商城的首頁，根據(jù)自己的需要選擇喜歡的商品，然后加入購物車，提交訂單后，即可享受京東的極速物流體驗，最終完成一次簡單快樂的購物歷程。其實，訂單提交后，需要經(jīng)歷多個環(huán)節(jié)和各個系統(tǒng)的處理才能完成使命。其中有一個環(huán)節(jié)是訂單必須經(jīng)過的，而且這個環(huán)節(jié)連接了用戶下單和訂單在庫房的生產(chǎn)，就是訂單履約中心（OFC，Order Fulfillment Center），本章我們就為各位解密這個部門。

2014年的618后，京東技術(shù)團隊分享了如何應(yīng)對店慶日及以往促銷活動在技術(shù)方面的經(jīng)驗和探索。其中有一講“電商海量訂單處理OFC系統(tǒng)的關(guān)鍵技術(shù)環(huán)節(jié)”（見京東技術(shù)開放日第一期），說的就是這個部門做的事情。

這個部門的職責(zé)，用彭青的話講就是，轉(zhuǎn)換用戶訂單為各終端系統(tǒng)的生產(chǎn)單，并且按要求送達到相應(yīng)終端系統(tǒng)。舉個例子，就好比我們將采集到的原始食材按照客戶的不同口味（不同系統(tǒng)）進行烹制，并且在指定的時間內(nèi)做好后送到客人（終端系統(tǒng)）那里，整個過程包括訂單的拆分轉(zhuǎn)移和訂單的下傳。其實我們從網(wǎng)站下的訂單（也叫原始單）在庫房是直接生產(chǎn)不了的，需要經(jīng)過OFC這個環(huán)節(jié)的處理后，才能到達各個生產(chǎn)系統(tǒng)。由此可見，這個環(huán)節(jié)必然會有大量數(shù)據(jù)需要處理，而且還要保證時間。

想必大家知道關(guān)于京東的211、311等配送方式，如果用戶選擇不同的配送時間，京東的快遞就必須在用戶指定的時間送達，而如果下游的生產(chǎn)系統(tǒng)收到訂單數(shù)據(jù)比較晚，就會影響后續(xù)的配送時間，最終會影響客戶體驗?，F(xiàn)在訂單下傳，對接的全國庫房近150個，需要調(diào)用的外部處理訂單服務(wù)也有近20個，而每個系統(tǒng)的處理能力和響應(yīng)能力又各不同，這就需要我們進行相應(yīng)的調(diào)節(jié)流量的配置，這其中只要有一個系統(tǒng)存在問題，就可能會影響訂單的下傳。

OFC的形成

2003年京東網(wǎng)站創(chuàng)立之后，迎來全國電商的快速發(fā)展，京東的業(yè)務(wù)隨之不斷增加，導(dǎo)致相應(yīng)的業(yè)務(wù)系統(tǒng)也在持續(xù)增加。直到2011年，隨著系統(tǒng)增多及業(yè)務(wù)的需要，逐漸成長出來一個小團隊，負責(zé)在各個系統(tǒng)之間進行數(shù)據(jù)的傳輸，將客戶訂單數(shù)據(jù)傳到庫房，同時需要將非客戶訂單，如采購單、供應(yīng)商、內(nèi)配單等二十多個業(yè)務(wù)傳輸?shù)较鄳?yīng)的業(yè)務(wù)系統(tǒng)，至此OFC成形。

初期由于各個系統(tǒng)的不完善，導(dǎo)致數(shù)據(jù)傳輸總是存在各種各樣的問題，訂單總會卡在這一環(huán)節(jié)，而作為傳輸環(huán)節(jié)又必須保證數(shù)據(jù)能正確傳輸完畢，這就需要我們必須了解上下游系統(tǒng)的業(yè)務(wù)及數(shù)據(jù)處理的過程，只有這樣才能知道問題產(chǎn)生的原因，才能知道該如何去處理問題。但是由于上下游的系統(tǒng)是需要經(jīng)常上線新需求的，我們每天需要及時了解上下游系統(tǒng)業(yè)務(wù)的處理，才能保證我們的環(huán)節(jié)沒有問題。

那段時間兄弟們真的很辛苦，每天需要處理上千個工單，加班更是常事，以至于一個同事說睡夢中都在處理問題單。由于業(yè)務(wù)領(lǐng)域劃分存在問題，系統(tǒng)邊界不明確，導(dǎo)致出現(xiàn)許多莫名其妙的問題，兄弟們干得很苦很累，直到彭青來了之后。彭青帶著一個厚厚的黑色全框眼鏡，個子不算太高卻有個小肚腩，學(xué)生族的發(fā)型讓人感覺很親切。彭青根據(jù)他多年的工作經(jīng)驗和對系統(tǒng)的理解，對這塊業(yè)務(wù)進行重新劃分，逐漸將非客戶工單的數(shù)據(jù)傳輸工作交接給對應(yīng)系統(tǒng)進行處理，將兄弟們解放出來，開始客戶訂單處理的新征程。

到2011年底的時候，在彭青的帶領(lǐng)下我們已經(jīng)成為了二十多人的團隊。為了更進一步拓展在客戶訂單方面的業(yè)務(wù)領(lǐng)域，我們主動接手了訂單拆分系統(tǒng)和訂單轉(zhuǎn)移系統(tǒng)。這兩套元老級系統(tǒng)是用.Net編寫的，由于前輩們大都不在職了，文檔也不完善，對于系統(tǒng)內(nèi)部業(yè)務(wù)了解的人很少，修改非常難。而此時每天由于系統(tǒng)問題導(dǎo)致的事件單多達上百，也就是說每天運維帶來的工作量都是可觀的，在這樣的情況下，接手這兩個系統(tǒng)自然全無阻力。

技術(shù)的改造

.Net到Java

系統(tǒng)接過來了，第一步要做的事情當(dāng)然是重寫。對技術(shù)的選取，根據(jù)當(dāng)時公司技術(shù)發(fā)展戰(zhàn)略以及Java的普及，我們選用了Java。重寫過程中需要梳理已有的業(yè)務(wù)，自然少不了不斷和原來系統(tǒng)的人員進行交流，去確認業(yè)務(wù)流程和技術(shù)處理細節(jié)。經(jīng)過一個多月，系統(tǒng)的重寫總算完成，接下來的工作就是上線了。

開始小流量地切，我們通過開關(guān)進行控制，通過省市縣區(qū)域分流，到2012年2月系統(tǒng)算是上線了，而之前的.Net系統(tǒng)也逐漸退休了。到這時候，OFC逐漸根據(jù)業(yè)務(wù)劃分為3塊，第一塊是訂單拆分，第二塊是訂單的轉(zhuǎn)移，第三塊就是我們前面提到的訂單下傳和回傳。

這里要給大家解釋一下：

?

訂單拆分，可能大家想到了，就是將用戶下的訂單，根據(jù)我們庫房的不同分布，比如大家電倉、百貨倉等進行拆分。當(dāng)然這是拆分最初的也是最基本的理解，到后面會給大家講講現(xiàn)在的拆分是什么樣子。

訂單的轉(zhuǎn)移則是根據(jù)拆分完的訂單以及庫存等屬性，將訂單轉(zhuǎn)移到下游的系統(tǒng)。

訂單下傳和回傳主要是指，轉(zhuǎn)移之后的訂單調(diào)用庫房相關(guān)的預(yù)分解、打包等服務(wù)環(huán)節(jié)，進行訂單下傳和生產(chǎn)，當(dāng)訂單順達客戶手里，還需要將訂單的相關(guān)數(shù)據(jù)進行回傳。當(dāng)然這里只是粗略介紹，后面我們會更詳細地給大家呈現(xiàn)。

?

211訂單履約率提升項目

重寫完之后，系統(tǒng)總算可以正常運轉(zhuǎn)了，而接下來的事情就是對系統(tǒng)的進一步梳理和優(yōu)化，以更好地支持將來業(yè)務(wù)需求的發(fā)展以及技術(shù)方面的擴展。當(dāng)然有的時候系統(tǒng)的改進往往是由于外部業(yè)務(wù)的無法適應(yīng)導(dǎo)致的，這也符合變革的本質(zhì)。用戶體驗至上一直是每一位京東人追求的目標(biāo)，就連我們的老劉也會隔三差五在網(wǎng)上下單來體驗一下，而這次老劉發(fā)現(xiàn)了一些問題。當(dāng)他下單后，等了半天才收到訂單，這讓老劉無法忍受。經(jīng)過調(diào)查后發(fā)現(xiàn)，從下單到庫房竟然花了兩個多小時。

改造前的系統(tǒng)整體設(shè)計圖

于是老劉立即成立了一個叫作“211訂單履約率提升”的項目，該項目涉及11個系統(tǒng)的升級改造，包括訂單交易系統(tǒng)、訂單管道系統(tǒng)、拆分系統(tǒng)、轉(zhuǎn)移系統(tǒng)、訂單任務(wù)系統(tǒng)、OFC相關(guān)系統(tǒng)、預(yù)分揀系統(tǒng)、面單系統(tǒng)、增值稅資質(zhì)服務(wù)、發(fā)票系統(tǒng)、WMS系統(tǒng)。其中4個系統(tǒng)需要全面改造，3個系統(tǒng)需要大量改造，剩下的4個需要少量改造，而且由于與訂單相關(guān)的業(yè)務(wù)點多且邏輯復(fù)雜，無法在測試環(huán)境下全面測試。這不僅影響著整個訂單的正常生產(chǎn)，甚至?xí)绊懾攧?wù)相關(guān)業(yè)務(wù)。項目任務(wù)非常重要，要求兩個月內(nèi)保證訂單從下單到庫房的時間縮短到5分鐘內(nèi)。大家馬上開始了工作——需求討論6天，設(shè)計方案5天，開發(fā)15天，功能測試20天，性能測試44天，上線部署調(diào)試26天，總計工時達5066小時，最終實現(xiàn)了項目目標(biāo)。與此同時訂單下傳各環(huán)節(jié)的服務(wù)性能指標(biāo)也得到了規(guī)范，使得訂單下傳趨于穩(wěn)定，理順了訂單下傳流程。技術(shù)方面也得到了鍛煉，使用了Zookeeper分布式配置、CXF Timeout設(shè)置、Log4j多Tomcat示例配置、Oracle數(shù)據(jù)庫分區(qū)轉(zhuǎn)歷史方案，數(shù)據(jù)庫使用了OracleExadata、MySQL。在這過程中和Oracle技術(shù)團隊直接溝通多達10次，在數(shù)據(jù)庫設(shè)計方面、性能調(diào)優(yōu)、轉(zhuǎn)歷史數(shù)據(jù)方面都得到了提升。更為重要的是鍛煉了團隊，對于戰(zhàn)勝艱巨任務(wù)有了更大的信心。下面是系統(tǒng)的整體設(shè)計圖。

改造后的系統(tǒng)整體設(shè)計圖

對于拆分，在幾位大牛對系統(tǒng)的業(yè)務(wù)進行梳理后，發(fā)現(xiàn)部分業(yè)務(wù)有些混亂，業(yè)務(wù)領(lǐng)域劃分得不是很清楚，拆分系統(tǒng)中除了需要根據(jù)商品的不同屬性進行拆分外，還需要對訂單中使用的金額、優(yōu)惠、運費等信息進行分攤處理。這幾位大牛敏銳地發(fā)現(xiàn)系統(tǒng)這樣設(shè)計是有問題的，于是就把金額信息處理邏輯拿出來，專門做成一個服務(wù)——OCS訂單金額計算服務(wù)（OCS），拆分只需要對其調(diào)用就可以。同時，我們對OCS分攤結(jié)果的數(shù)據(jù)進行了持久化數(shù)據(jù)存儲。系統(tǒng)這樣設(shè)計，不僅解耦了拆分服務(wù)之前混亂的業(yè)務(wù)處理邏輯，OCS的數(shù)據(jù)也一舉填補了公司這方面數(shù)據(jù)的空白，成為其他系統(tǒng)使用和處理業(yè)務(wù)邏輯的數(shù)據(jù)基礎(chǔ)來源。到現(xiàn)在為止，直接使用OCS數(shù)據(jù)的系統(tǒng)就有二十多個，其重要性不言而喻。

SOP合頁單項目

2013年，公司級項目SOP合頁單要啟動，即用戶購物車里既有京東自營的商品同時有POP商家的商品（SOP）。在結(jié)算的時候只需要提交一次（之前只能分開提交，類似淘寶多商家的商品只能單獨提交）。為了改善用戶體驗，同時需要將提交之后拆分完的子單結(jié)果顯示出來，需要我們團隊提供一個拆分服務(wù)供交易組使用，這是一個重大的考驗。下單環(huán)節(jié)的速度非?？?#xff0c;TP99一般都是幾十毫秒，而我們目前的服務(wù)則是幾十秒，完全不在一個數(shù)量級。為了保證項目能夠順利完成，我們既需要滿足日常的業(yè)務(wù)需求，同時要新切出一個分支進行修改，用于此次項目，同時需要將針對新需求的代碼及時同步到這兩個分支上，任務(wù)非常艱巨。解決了開發(fā)問題后，就要想著如何在性能上有所提升，比如，可以放在內(nèi)存里處理的就放在內(nèi)存中操作；盡量減少對外部服務(wù)的依賴；對于非同步化的操作進行異步化；對于部分服務(wù)我們甚至采用降級的方式，在必要時通過開關(guān)進行降級，保證整個服務(wù)的整體性能。如此這般后，我們主動要求性能測試組對我們的服務(wù)進行性能測試，在代碼級別進行了優(yōu)化，最后在指定的時間內(nèi)成功地完成項目。而此時我們在維護著同樣級別的3份拆分服務(wù)代碼，老的下單對應(yīng)的我們前面說的老拆分，新的下單對應(yīng)的我們新的拆分，還有我們?yōu)榻灰紫到y(tǒng)提供的預(yù)拆分。

而在此時最困擾我們的不是維護這些系統(tǒng)，而是經(jīng)常會由于網(wǎng)絡(luò)不好，使一個訂單的服務(wù)超時，進而導(dǎo)致服務(wù)進行重試，而事實上訂單已經(jīng)提交成功。這就可能使我們錯誤地提交兩次甚至是多次訂單，比如客戶下一個原始單，需要拆分成兩單，但是由于上述原因可能會得到多單；如果用戶選擇貨到付款，會給用戶造成困擾，會帶來配送的成本，如果是在線支付的話則會導(dǎo)致公司的損失。剛開始的時候沒有解決方案，只能通過監(jiān)控去發(fā)現(xiàn)，發(fā)現(xiàn)后人為鎖定這些訂單，而這樣不但增加了運維壓力，而且人工處理難免會有失誤。由于我們在提交子單之前會獲取訂單號，每一次獲取的訂單號都是新的，這會導(dǎo)致調(diào)用這個服務(wù)時對訂單號是無法防重的。后來海波想到一個防重方案，就是我們在調(diào)用這個服務(wù)之前將訂單號信息輸入自己的防重庫，新訂單來的時候先在防重庫中進行查儲，如果有訂單信息則說明之前提交過，本次提交失敗，然后直接把庫里相同訂單號的數(shù)據(jù)拿出來提交即可，這樣還可以節(jié)省訂單號。如果庫里沒有查到，我們將該訂單號插入庫中，同時調(diào)用服務(wù)。問題得到有效解決。本次提交經(jīng)過這一系列的處理優(yōu)化，系統(tǒng)總算是比較穩(wěn)定了。

轉(zhuǎn)移架構(gòu)升級

轉(zhuǎn)移系統(tǒng)也進行了大規(guī)模的調(diào)整，為了進一步保證訂單及時準確地轉(zhuǎn)移到下游的庫房系統(tǒng)，轉(zhuǎn)移團隊在業(yè)務(wù)和技術(shù)架構(gòu)上進行了一系列的改進：業(yè)務(wù)和數(shù)據(jù)處理異步化，即將可以異步化處理的業(yè)務(wù)和數(shù)據(jù)放入分布式隊列，由對應(yīng)的模塊處理；使主流程業(yè)務(wù)簡單快速流轉(zhuǎn)；數(shù)據(jù)處理并行化，將數(shù)據(jù)切割成多個業(yè)務(wù)單元，并行處理業(yè)務(wù)單元；針對變化少、實時性要求不嚴格的熱點數(shù)據(jù)，使用緩存并配以更新機制，以提高性能；對于業(yè)務(wù)洪峰，通過平滑控制保護后續(xù)系統(tǒng)不被洪峰壓垮。

在業(yè)務(wù)流程方面也進行了優(yōu)化。由于涉及訂單生產(chǎn)流程，需求變化速度非?？?#xff0c;需要不斷梳理現(xiàn)有流程，去除不必要的流程，減少有新需求時對不必要業(yè)務(wù)流程和分支的考慮。同時，需要對現(xiàn)有分散業(yè)務(wù)不斷地抽象和改造，以方便業(yè)務(wù)擴展。

面對這么多的優(yōu)化和改進，每次上線的風(fēng)險無疑是巨大的，如何規(guī)避風(fēng)險呢？那就是要分流、可配置化，以及運營工具先行。由于新上線的項目風(fēng)險較高，特別是容易忽視一些對外交互的小功能，而發(fā)生線上問題時又無法及時切換。因此，需要對業(yè)務(wù)上線進行分流，并且通過靈活便捷的配置中心隨時進行控制。對于異常情況一定要優(yōu)先考慮，并且開發(fā)相應(yīng)運營工具，以備緊急情況使用。尤其不能抱有僥幸心理，認為小概率事件不會發(fā)生在自己身上。

轉(zhuǎn)移團隊的負責(zé)人鐵總（大家總是這樣稱呼他）已經(jīng)從事電商十余年了。這個來自湘西的漢子對待工作總是嚴肅認真，但面對生活卻又充滿熱情；結(jié)婚前總會泡在游戲中，或者癡迷羽毛球，女兒出生后便成為了他的一切。在談到轉(zhuǎn)移未來的規(guī)劃和發(fā)展時，他充滿自信地說：“將來會在保證客戶體驗的同時，更多地通過在成本和流程上優(yōu)化來降低成本。庫存分配將在保證訂單履約的前提下，打破現(xiàn)在先下單先占庫存的規(guī)則，提高商品庫存周轉(zhuǎn)率和現(xiàn)貨率，同時給客戶提供更早的收貨時間選擇”。

轉(zhuǎn)移系統(tǒng)整體流程圖

不得不愛的運維

剛開始負責(zé)客戶訂單系統(tǒng)時，每天要處理上千條Ticket（訂單事件），而現(xiàn)在只需處理幾十條。這種銳減，不僅說明了系統(tǒng)日漸健康、業(yè)務(wù)逐漸規(guī)范，更證明了我們的運維流程和運維制度正日趨成熟。這些成果都離不開善于分析總結(jié)的文杰，他是一位來自山東的80后，在團隊中主要負責(zé)運營流程優(yōu)化和與協(xié)調(diào)相關(guān)的工作，團隊在運維方面的問題目前還沒有他解決不了的。OFC是連接用戶和全國終端庫房的重要的通道樞紐，這其中的任何系統(tǒng)出了問題，都會導(dǎo)致訂單無法正確實時地到達終端庫房，后果都是不堪設(shè)想的。因此，每新增加一個庫房都需要團隊進行庫房的終端系統(tǒng)部署和調(diào)試，直至生產(chǎn)系統(tǒng)測試完成為止，我們稱此為開倉過程。隨著公司不斷發(fā)展壯大，訂單業(yè)務(wù)不斷完善，全國現(xiàn)存?zhèn)}庫已超過150個，這都是文杰和團隊無數(shù)日夜的付出換得的。支持審計也是不可忽略的一部分工作，每季度我們都會給同事講解新業(yè)務(wù)，給他們解釋差異訂單的原因。同時，我們還負責(zé)新業(yè)務(wù)的學(xué)習(xí)推廣，讓團隊的新成員能夠快速了解業(yè)務(wù)知識、熟悉業(yè)務(wù)系統(tǒng)。伴隨著業(yè)務(wù)和系統(tǒng)的日漸完善，我們也在不斷地嘗試和推廣系統(tǒng)的智能化運維與支持，相信在不久的將來我們一定會實現(xiàn)無人化系統(tǒng)運維。

從618到雙11

從2012年開始，店慶促銷活動力度在逐次增加，訂單量則成倍增長。伴隨著訂單量的增加，系統(tǒng)面臨的挑戰(zhàn)與日俱增——訂單業(yè)務(wù)越來越繁雜，業(yè)務(wù)處理流程也越來越多，很容易出現(xiàn)數(shù)據(jù)不一致問題。因此，在處理海量訂單時保障數(shù)據(jù)一致性非常關(guān)鍵。系統(tǒng)整體控制上要采用流程控制中心，而不是階梯式控制。之前由于直接依賴數(shù)據(jù)庫，數(shù)據(jù)庫最終會成為影響訂單處理的瓶頸，數(shù)據(jù)的一致性很難得到保證，而采用流程控制中心模式則可以大大減少數(shù)據(jù)不一致發(fā)生的幾率，同時可以借助工作流和狀態(tài)機實現(xiàn)中心控制，這樣既便于運營，又方便及時發(fā)現(xiàn)和解決問題單據(jù)。

流程控制中心和階梯式控制

支持海量訂單處理

無論系統(tǒng)如何優(yōu)化，單個系統(tǒng)總有瓶頸，要支持不斷增長的訂單處理量，關(guān)鍵在于提高系統(tǒng)的擴展能力。首先，核心系統(tǒng)的每一層都要有擴展能力，可以以實例為單位進行擴展，也可以以集群為單位進行擴展。其次，系統(tǒng)整體要有擴展能力，可以根據(jù)實際業(yè)務(wù)特點，從業(yè)務(wù)上進行垂直拆分以實現(xiàn)擴展，也可以通過分布式部署來方便地增加一個具備整體功能的集群，從而快速增加處理能力。這相比僅做備份系統(tǒng)而言，節(jié)約了成本。

所有核心的OFC訂單處理系統(tǒng)已實現(xiàn)了水平擴展能力，部分系統(tǒng)實現(xiàn)了分布式部署改造。在2014年618大促前，正是由于系統(tǒng)具備這種擴展能力，才能夠在非常短的時間內(nèi)擴展了處理能力，保障了大促的順利開展。我們的最終目標(biāo)是，所有核心系統(tǒng)都要完成分布式部署。

解決數(shù)據(jù)一致性問題

早期的訂單處理流程分散到多個應(yīng)用系統(tǒng)中，數(shù)據(jù)來源不統(tǒng)一，也缺乏統(tǒng)一的狀態(tài)機控制，經(jīng)常出現(xiàn)數(shù)據(jù)不一致問題。但同時，也不可能由一個系統(tǒng)來管理所有的流程，因為維護和管理工作會非常龐雜。解決辦法是，梳理出訂單處理的主流程和狀態(tài)機，然后由主流程系統(tǒng)負責(zé)整體流程的調(diào)度和數(shù)據(jù)的推送。這個主流程可能跨大的業(yè)務(wù)域，如物流領(lǐng)域和資金領(lǐng)域，每個領(lǐng)域內(nèi)可以有工作流，但不能與主流程沖突。識別出主流程系統(tǒng)還有其他的優(yōu)點：一是可只重點建設(shè)主流程相關(guān)系統(tǒng)，使其成為穩(wěn)定的系統(tǒng)集群，而非主流系統(tǒng)則可以投入較少的成本，從而既有利于保障業(yè)務(wù)順利開展，又能降低整體建設(shè)成本；二是主流程系統(tǒng)可以有效地保障生產(chǎn)計劃的執(zhí)行；三是主流程系統(tǒng)可調(diào)節(jié)系統(tǒng)流量，有效地平滑業(yè)務(wù)高峰，保護主流程相關(guān)各主要系統(tǒng)的穩(wěn)定運行。

支撐運營工作

對運營工作的支持，包括搶險、預(yù)防，以及“治理+預(yù)防的升級”。在早期階段，系統(tǒng)架構(gòu)主要是支撐業(yè)務(wù)功能的實現(xiàn)，沒有為運營而設(shè)計，線上系統(tǒng)會因為各種意外而影響業(yè)務(wù)，讓系統(tǒng)團隊疲于應(yīng)付。后來，確立了為可運營而設(shè)計的理念和原則，設(shè)計時必須考慮可監(jiān)控、可運營，同時把可用性、穩(wěn)定性、健壯性等列為設(shè)計的重點，在實踐過程中確立了自己的方法論。

第一，對系統(tǒng)進行梳理，識別出核心系統(tǒng)，把核心系統(tǒng)建設(shè)成為可用性高、可靠性高的系統(tǒng)，保障這些系統(tǒng)少出問題，出問題后系統(tǒng)要能自動恢復(fù)。

第二，保證系統(tǒng)出現(xiàn)問題后能快速發(fā)現(xiàn)問題，甚至在問題發(fā)生前發(fā)出報警。為此需要有對數(shù)據(jù)積壓量趨勢的監(jiān)控，以及在有積壓情況下吞吐能力的監(jiān)控。這些監(jiān)控需要及時，我們針對分布式系統(tǒng)，開發(fā)了分布式監(jiān)控系統(tǒng)，能夠迅速地反應(yīng)每個部署的每一個實例的情況，又能收集整體的運行情況。

第三，保證發(fā)現(xiàn)問題后可以快速定位和處理。為此我們設(shè)計了集系統(tǒng)處理能力、數(shù)據(jù)積壓情況、數(shù)據(jù)處理情況、日志、系統(tǒng)負載于一體的統(tǒng)合分析工具。

第四，一個系統(tǒng)出現(xiàn)問題，往往會將影響傳遞到其他系統(tǒng)，系統(tǒng)治理勢在必行，目前我們已有SOA治理平臺（正在優(yōu)化過程中），目標(biāo)是能夠理清各系統(tǒng)的血緣關(guān)系，完善SLA體系；在出現(xiàn)問題后可以及時評估出受影響的系統(tǒng)，快速做出應(yīng)急響應(yīng)。

海量數(shù)據(jù)的開始

總原則

訂單處理系統(tǒng)與交易系統(tǒng)本身是存在區(qū)別的。交易系統(tǒng)直接面對客戶，所以系統(tǒng)可用性要求和性能要求非常高，特別是在高并發(fā)情況下的系統(tǒng)表現(xiàn)，所以交易系統(tǒng)在架構(gòu)上的重點在于解決這兩個方面的問題。而訂單處理則不同，系統(tǒng)短時間不可用，響應(yīng)出現(xiàn)延遲不會對客戶造成直接影響，也就說我們關(guān)心的是平均值而不是某時刻的峰值。訂單處理系統(tǒng)架構(gòu)設(shè)計的關(guān)鍵在于如何處理海量數(shù)據(jù)，以及數(shù)據(jù)一致性的保障。近年來，京東的業(yè)務(wù)領(lǐng)域不斷拓展，訂單量飛速增加，所以必須保障系統(tǒng)吞吐能力得到提升。與此同時由于涉及的系統(tǒng)眾多，各系統(tǒng)業(yè)務(wù)處理方式和流程不同，導(dǎo)致各系統(tǒng)性能指標(biāo)差異較大，所以要定義好各個系統(tǒng)的SLA指標(biāo)。由于訂單的業(yè)務(wù)越來越復(fù)雜，那么系統(tǒng)的業(yè)務(wù)流程也會越來越多，這就需要我們劃分好主次業(yè)務(wù)流程以及優(yōu)先級，同時需要設(shè)計靈活多樣的降級方案，保證主業(yè)務(wù)正常運營。

OFC整體架構(gòu)圖

系統(tǒng)保護

涉及OFC調(diào)用的訂單系統(tǒng)很多，而各個系統(tǒng)處理的能力均不相同，不是所有的系統(tǒng)都要承擔(dān)高峰值處理的壓力。這就需要有針對性地控制、調(diào)用這些系統(tǒng)，具備削峰和流量控制的功能，以間接保護上下游系統(tǒng)，防止調(diào)用方的系統(tǒng)雪崩式掛掉。還有就是監(jiān)控，要有統(tǒng)一的產(chǎn)能監(jiān)控；要防止過載，在過載之前要能進行控制，要保證自身系統(tǒng)的安全穩(wěn)定，還可以采用快速拒絕的機制。

分布式系統(tǒng)

主要是在擴展方面進行設(shè)計，保證系統(tǒng)每個切片可以水平擴展，也可以以集群為單位進行擴展，實現(xiàn)分布式任務(wù)隊列。我們每一個Group能處理的訂單量在可控制的范圍內(nèi)，一旦某一處出現(xiàn)瓶頸，可以隨時部署一個或一套Group。下圖中不同Group可以彼此獨立部署，也可以整體部署，當(dāng)某一處出現(xiàn)問題時可以單獨進行部署，或者整體流量大時也可以復(fù)制部署。

分布式系統(tǒng)架構(gòu)

而分布式任務(wù)處理架構(gòu)圖如下，在分布式任務(wù)處理引擎的基礎(chǔ)上，我們可以通過在圖下方左側(cè)的分布式任務(wù)隊列（Redis緩存）中取任務(wù)，然后由我們的引擎一步一步去調(diào)度相應(yīng)的服務(wù)，將結(jié)果返回給對應(yīng)的服務(wù)進行業(yè)務(wù)處理，同時也返回我們需要的結(jié)果，真正將交易快照數(shù)據(jù)轉(zhuǎn)換為生產(chǎn)單據(jù)，最后將數(shù)據(jù)推送到客戶端系統(tǒng)，比如庫房系統(tǒng)、POP商家系統(tǒng)。

分布式任務(wù)處理架構(gòu)

分布式任務(wù)隊列設(shè)計可以通過下圖說明。首先我們會對任務(wù)進行分片，定義每一個任務(wù)為一片，然后將任務(wù)在任務(wù)執(zhí)行器中加以處理，而每個任務(wù)執(zhí)行器又有多個線程去處理和調(diào)用不同的服務(wù)，最終再將結(jié)果返回。這里還會有一個異常任務(wù)隊列，對于那些處理失敗的任務(wù)，會將其放入異常任務(wù)執(zhí)行隊列，進行異常處理流程的執(zhí)行?？赡艽蠹視?#xff0c;如果系統(tǒng)掛了，那個任務(wù)的數(shù)據(jù)也將丟失，沒有執(zhí)行完任務(wù)怎么辦。事實上只要我們的原始訂單數(shù)據(jù)存在，完全可以恢復(fù)為再次執(zhí)行，最多執(zhí)行會緩慢，但不會導(dǎo)致數(shù)據(jù)一致性出現(xiàn)問題。

分布式任務(wù)隊列設(shè)計

我們的分布式任務(wù)隊列采用了工作流的機制，支持靈活的流程配置，這主要通過Zookeeper來進行分布式配置，可以動態(tài)添加業(yè)務(wù)處理環(huán)節(jié)。同時，可以自動調(diào)節(jié)系統(tǒng)的吞吐量，當(dāng)任何一個環(huán)節(jié)出現(xiàn)問題時，都會進行自動降速，當(dāng)問題得以解決后，我們會進行自動增速，保證系統(tǒng)的吞吐量；我們還可以通過配置對一些高級別的訂單進行優(yōu)先生產(chǎn)處理。

系統(tǒng)部署如下圖所示：

系統(tǒng)部署圖

一直在路上的OFC人

從2011年6月初只有五六個人的小組，到今天三十多人的團隊，從開始只負責(zé)非客戶訂單相關(guān)業(yè)務(wù)系統(tǒng)，到今天負責(zé)公司核心的0級訂單系統(tǒng)，OFC業(yè)務(wù)范圍橫跨了整個訂單生產(chǎn)過程的大半個生命周期。是的，就是這些普通人，在紛亂中不迷茫，在歡笑中不忘使命，表面屌絲內(nèi)心渴望前進的OFC人，義無反顧地堅持在訂單系統(tǒng)的一線上?；赝哌^的路，我們竟如此平靜而淡定，遙望遠方，我們依舊充滿激情，依舊會綻放陽光般的笑容。因為這是個偉大的時代，偉大的國度，因為這里有一群偉大的人在做著一件偉大的事情——為了讓購物變得簡單快樂，而我們便是那群人。

OFC開發(fā)團隊及測試團隊合影

轉(zhuǎn)載于:https://www.cnblogs.com/davidwang456/articles/8213883.html

總結(jié)

以上是生活随笔為你收集整理的《京东技术解密》——海量订单处理的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。