網站緩存這個話題并不新穎，但是能否將它用好，可是一門學問，同一件工具在不同人的手中會做出不同的事情來。這里我來分享總結下我對于網站架構中緩存應用的一些看法和經驗，大家有好的想法可以補充?
??? 第一：緩存的一些基本概念。
??????? 1：緩存(CACHE)與緩沖(BUFFER)的區別，我認為緩存可以在某種程序上理解成一級緩存(Primary Cache),數據全局共享。緩沖則屬于二級緩存，只對一部分對象共享數據,二級緩存在某種程序上主要是降低一級緩存組件的訪問壓力以及提高緩存的存取效率。
??????? 2：緩存的一些基本屬性：命中率，表示緩存命中的次數/總的請求數，這是緩存設計的重要質量指標之一；緩存執行效率，例如GET,INSERT,DELETE等；容量，即緩存介質的容量最大值；成本，即開發成本，部署成本，軟硬件成本。
??????? 3：緩存的問題，存儲介質的選擇往往左右緩存的設計，緩存在不命中時往往會使性能下降。
??? 第二：網站中緩存的應用場景：
??????? 1：可以緩存整個頁面的html，提高訪問響應能力；
??????? 2：針對局部頁面元素進行緩存；
??????? 3：對復雜數據的結果進行緩存,例如一個查詢需要結合多個數據集，然后根據這些數據集進行相應的運算，即使每個子集查詢有緩存，但還是需要額外的運算，這種情況可以考慮緩存計算后的結果。
??????? 4：對耗時的查詢進行緩存,例如產品列表頁的查詢。
??????? 5：和上下文相關的用戶數據，例如用戶從訂單埴寫頁進入到訂單成功頁，或者是從產品列表頁點擊詳細產品進行預訂時的訂單填寫頁，此時這兩個頁面之間都需要傳遞大量的相關數值，我們可以把所有的數值封裝在一個類中，然后通過緩存進行通信。
??? 第三：影響緩存命中率的因素。
??????? 1：數據時實性，每個業務系統都對自己的數據有相應的要求，有些數據的實時性非常強，像每日的股票信息，這種情況如果設置了緩存，緩存的命中率會特別低。
??????? 2：緩存粒度問題，一般來說是緩存的跨度太大，即此時的KEY值包含的條件太多，會出現緩存命中率特別低的情況。
??? 第四：提高緩存命中率的方法：
??????? 1：增大存儲介質的容量；
??????? 2：對非常熱點的數據進行捕捉，可以采用實時更新緩存的方式來平衡緩存與實時性的問題,例如可以單獨開啟一個后臺服務來定時做更新緩存的工作。
??????? 3：調整緩存KEY值的算法，盡量保證緩存KEY的細粒度，KEY-VALUE就是很好的細粒度例子。
??????? 4：根據業務調整緩存的過期策略。
???????
??? 第五：如何實現緩存組件：
??????? 1：采用二級緩存架構，即在web server上設置二級緩存，這里的二級緩存即上面的提到的緩沖，只對具體的webserver進行數據共享,二級緩存可以考慮采用微軟企業庫的緩存組件來完成。由于一級緩存的實現往往都是單獨的服務器，為了減少緩存服務器的壓力，在webserver上對數據進行緩沖，在降低緩存服務器壓力的情況下最大的好處在于緩存的存取速度上。
??????? 2：一級緩存由單獨的緩存服務器來完成，至于緩存服務器采用哪種緩存方案，可以根據不同的場景來決定。如果考慮到部署的方便性，可以采用微軟企業庫來完成一級緩存，如果服務器允許，可以采用memcached來實現。
??????? cache服務器采用微軟企業庫實現的優缺點：
??????? 1：優點，開發以及部署都非常容易，不需要安裝第三方軟件等等；
??????? 2：缺點，需要自己開發客戶端功能以實現分布式，這里我們可以采用一致性hash算法來實現，同時如果服務以WCF形式公布開，在訪問效率上也不是最優的，比起memcached的通信方式要差一些。
??????? memcached的優缺點：
??????? 1：優點，通信方式比起wcf要高；
??????? 2：缺點，需要第三方服務的支持，需要在服務器上安裝memcached服務，這好像也不是什么重要的缺點。

??????? 最后，貼出網站網頁在數據訪問上的流程圖,供大家參考，在下面的文章中我會把實現的方案分享出來。

?

上一篇我主要總結了網站緩存中的一些基本概念，以及我對于網站架構緩存應用的架構實現思路，這篇主要分享下如何利用微軟企業庫來實現一二級緩存的緩存服務。

???
??? 為了能夠有效的管理緩存，需要對使用緩存方法上做一些規范，即要想使用緩存組件提供的服務，需要在指定的配置文件中按照一定的規則來配置緩存條目，不允許在配置之處使用緩存。下面先展示下一條Cache條目的配置：

<Region name="MyBlog">
??? <SubRegion name="default">??
????? <Cache CacheMode="LocalCacheOnlyMode" Key="BlogListConfigKey" BufferType="AbsoluteTime" BufferTimeSeconds="300" CacheType="AbsoluteTime" CacheTimeMinutes="30" CachePriority="Normal"/>????
??? </SubRegion>
? </Region>

?

??
???? 上面的代碼中，其實由三部分構成：
???? 1：主分區:Regin,如果一個網站分很多子系統，可以為每個子系統定義一個這樣的主分區,例如食品頻道Food,手機頻道Mobile等；
???? 2：子分區：SubRegion,主分區下面的子分區，即對子系統更加小的劃分，可以根據子系統的功能來劃分,例如產品列表頁List,詳細頁Detail等；
???? 3：緩存條目：Cache,指具體的一則緩存條目規則，這里的緩存條目規則并不是指某一條緩存設置，而是指一條緩存規則，與具體的緩存條目是一對多的關系。
??????? <1>:CacheMode,設置緩存模式，是只有二級緩存還是即有一級緩存也有二級緩存,例如用戶頁面之間的信息溝通就只需要二級緩存，即緩存在web server上。而產品列表頁的數據屬于全局數據，就需要即采用二級緩存也需要一級緩存。
??????? <2>:BufferType，指二級緩存的過期方式，分為絕對過期，滑動過期，文件依賴。
??????? <3>:BufferTimeSeconds，二級緩存Timespan中的秒。
??????? <4>:CacheType,一級緩存的過期方式，類型同BufferType.
??????? <5>:CacheTimeMinutes,一級緩存Timespan中的分鐘。
??????? <6>:CachePriority,緩存的優先級。

???? 二級緩存實現：
???? 第一：IWebCacheProvider，緩存提供者接口，它公布了所有緩存組件需要的方法,接口之所以加上了ServeiceContract標簽，是由于下面的一級緩存WCF服務也繼承此接口的原因。小提示：WCF服務契約對于方法重載的實現和普通方式有小小區別，請注意OperationContract標簽的定義。
????

?[ServiceContract]
??? public? interface IWebCacheProvider
??? {
??????? [OperationContract(Name = "Add")]
??????? void Insert(string key, object value, string region, string subRegion);

??????? [OperationContract(Name = "AddByAbsoluteTime")]
??????? void Insert(string key, object value, string region, string subRegion, MyCacheItemPriority scavengingPriority, AbsoluteTimeCacheDependency absoluteTimeCacheDependency);

??????? [OperationContract(Name = "AddBySlidingTime")]
??????? void Insert(string key, object value, string region, string subRegion, MyCacheItemPriority scavengingPriority, SlidingTimeCacheDependency slidingTimeCacheDependency);

??????? [OperationContract(Name = "AddByFile")]
??????? void Insert(string key, object value, string region, string subRegion, MyCacheItemPriority scavengingPriority, FileCacheDependency fileCacheDependency);

??????? [OperationContract]
??????? void Delete(string key, string region, string subRegion);

??????? [OperationContract]
??????? object Get(string key, string region, string subRegion);

??????? [OperationContract]
??????? void Clear(string region);

??????? [OperationContract]
??????? int Count(string region);
??? }

?

???
??? 第二：EntLibWebCacheProvider，微軟企業庫實現緩存實現類。代碼并不貼了，基本就是利用企業庫的緩存組件實現上面的接口。
???
???? 第三：MyWebCacheServiceClient，提供緩存客戶端的實例。包含了兩個重要的屬性：一級緩存實例，二級緩存實例。余下的就是調用EntLibWebCacheProvider來完成緩存的調用，以及根據緩存規則，選擇操作一級緩存以及二級緩存。

?????????? 說明：下面代碼中的GetMemcachedWebCacheProvider是下篇文章會提到的利用memcached實現一級緩存，由于需要支持一級緩存在企業庫以及memcached之間的切換才出現的邏輯。
?????

????? //一級緩存
??????? IWebCacheProvider PrimaryCacheProvider;
??????? //二級緩存
??????? IWebCacheProvider SecondaryCacheProvider;
???????? /// <summary>
??????? /// 實例化二級緩存
??????? /// </summary>
??????? /// <param name="configFilePath"></param>
??????? /// <returns></returns>
??????? private IWebCacheProvider GetSecondaryCacheProvider()
??????? {
??????????? IWebCacheProvider provider = null;
??????????? provider = WebCacheProviderFactory.GetEntLibWebCacheProvider(configFilePath);
??????????? return provider;
??????? }
??????? /// <summary>
??????? /// 獲取一級緩存
??????? /// </summary>
??????? /// <param name="hashKey"></param>
??????? /// <param name="configFilePath"></param>
??????? /// <returns></returns>
??????? private IWebCacheProvider GetPrimaryCacheProvider(uint hashKey)
??????? {
??????????? IWebCacheProvider provider = null;
??????????? string cacheType = WebConfig.ChannelConfig["CacheType"].ToString().ToLower();
??????????? switch (cacheType)
??????????? {
??????????????? case "memcached":
??????????????????? provider = WebCacheProviderFactory.GetMemcachedWebCacheProvider(configFilePath);
??????????????????? break;
??????????????? case "entlib":
??????????????????? provider = servicePool.GetServiceClient(hashKey) as IWebCacheProvider;
??????????????????? break;
??????????? }
??????????
??????????? return provider;
??????? }

?

???????
?????? 一級緩存的實現：由于一級緩存也采用微軟企業庫實現，而企業庫本身是不具備分布式功能的，就算是memcached，本身也不具備分布式，而在于客戶端的實現，所以企業庫我們也可以實現分布式。
??????? 首先：我們把實現了緩存的組件以WCF服務形式分布出來，在多個服務器上部署，形成一個服務器群；
??????? 其實：實現分布式的客戶端，讓服務的請求均勻的分布到之前部署的WCF緩存服務器上。這里采用一致性hash算法實現，主要是根據key的hash值以及服務器數量來選擇存儲的服務器,這里貼些主要的實現代碼，供參考：
???????
??????? 1:定義一個hash的服務器實例集合，為每個服務器分配250個hash值,這里的值可以根據實際情況調整。

private Dictionary<uint, isRoc.Common.Cache.CacheProvider.IWebCacheProvider> hostDictionary;

?

??????? 2:定義一個hash的服務實例key集合，用來統計所有服務器實例中的hash key。?

private uint[] hostKeysArray;

?

??????? 3:創建服務器列表的hash值。

/// <summary>
??????? /// 重新設置服務器列表
??????? /// </summary>
??????? /// <param name="hosts">服務器列表</param>
??????? internal void Setup(List<WebCacheServerInfo> hosts)
??????? {
??????????? hostDictionary = new Dictionary<uint, isRoc.Common.Cache.CacheProvider.IWebCacheProvider>();
??????????? List<isRoc.Common.Cache.CacheProvider.IWebCacheProvider> clientList = new List<isRoc.Common.Cache.CacheProvider.IWebCacheProvider>();
??????????? List<uint> hostKeysList = new List<uint>();
??????????? foreach (WebCacheServerInfo host in hosts)
??????????? {
??????????????? //創建客戶端

??????????????? isRoc.Common.Cache.CacheProvider.IWebCacheProvider client = ServiceProxyFactory.Create<isRoc.Common.Cache.CacheProvider.IWebCacheProvider>(host .HostUri );
??????????????? //Create 250 keys for this pool, store each key in the hostDictionary, as well as in the list of keys.
??????????????? for (int i = 0; i < 250; i++)
??????????????? {
??????????????????? uint key = 0;
??????????????????? switch (this.HashAlgorithm)
??????????????????? {
??????????????????????? case EHashAlgorithm.KetamaHash:
??????????????????????????? key = (uint)Math.Abs(KetamaHash.Generate(host.HostUri + "-" + i));
??????????????????????????? break;
??????????????????????? case EHashAlgorithm.FnvHash32:
??????????????????????????? key = BitConverter.ToUInt32(new ModifiedFNV1_32().ComputeHash(Encoding.UTF8.GetBytes(host.HostUri + "-" + i)), 0);
??????????????????????????? break;
??????????????????? }

??????????????????? if (!hostDictionary.ContainsKey(key))
??????????????????? {
??????????????????????? hostDictionary.Add(key, client);
??????????????????????? hostKeysList.Add(key);
??????????????????? }
??????????????? }

??????????????? clientList.Add(client);
??????????? }

??????????? //Hostlist should contain the list of all pools that has been created.
??????????? clientArray = clientList.ToArray();

??????????? //Hostkeys should contain the list of all key for all pools that have been created.
??????????? //This array forms the server key continuum that we use to lookup which server a
??????????? //given item key hash should be assigned to.
??????????? hostKeysList.Sort();
??????????? hostKeysArray = hostKeysList.ToArray();

??????? }

??????? 4：如何根據key值來查找具體的緩存服務實例呢，即具體的key存儲在哪一臺服務器上呢？根據傳入的key值，計算出對應的hash值，然后經過特定的算法計算出服務器實例地址。?

?internal isRoc.Common.Cache.CacheProvider.IWebCacheProvider GetServiceClient(uint hash)
??????? {
??????????? //Quick return if we only have one host.
??????????? if (clientArray.Length == 1)
??????????? {
??????????????? return clientArray[0];
??????????? }

??????????? //New "ketama" host selection.
??????????? int i = Array.BinarySearch(hostKeysArray, hash);

??????????? //If not exact match...
??????????? if (i < 0)
??????????? {
??????????????? //Get the index of the first item bigger than the one searched for.
??????????????? i = ~i;

??????????????? //If i is bigger than the last index, it was bigger than the last item = use the first item.
??????????????? if (i >= hostKeysArray.Length)
??????????????? {
??????????????????? i = 0;
??????????????? }
??????????? }
??????????? return hostDictionary[hostKeysArray[i]];
??????? }

??????? 總結：本文簡單的介紹了如何利用微軟企業庫來實現具有兩級緩存的緩存組件，上篇我提到過，實現一級緩存也可以采用memcached，采用memcached可以不用自己開發分布式客戶端，目前有兩個成熟的解決方案：1:Memcached.ClientLibrary2:EnyimMemcached。下篇我來介紹一級緩存如何通過memcached實現，以及如何讓組件在一級緩存上即支持企業庫也支持memcached。?

這篇來講如何利用memcached實現一級緩存，以及如何讓一級緩存組件支持在企業庫，memcached或者其它第三方實施方案之間的切換。memcached本人并沒有太多經驗，如果文中有說的不對的地方，還希望批評指出，且文中關于memcached的代碼大多來自網絡。

??
???? 創建memcached實現類MemcachedWebCacheProvider,由它來繼承緩存提供者接口IWebCacheProvider,主里memcached客戶端我采用.NET memcached client library ,這個類庫很久沒有更新這過了，沒有和java版同步，有部分功能目前沒有實現。
???? 1：初始化memcached服務,這段初始化代碼在程序中保證執行一次就夠，一般可以放在gloabl文件中，或者是設置一個靜態變量來存儲服務的狀態。
?

?private void Setup()
??????? {
??????????? String[] serverlist = { "127.0.0.1:11211" };
??????????? this._pool = SockIOPool.GetInstance("default");
??????????? this._pool.SetServers(serverlist); //設置服務器列
??????????? //各服務器之間負載均衡的設置
??????????? this._pool.SetWeights(new int[] { 1 });
??????????? //socket pool設置
??????????? this._pool.InitConnections = 5; //初始化時創建的連接數
??????????? this._pool.MinConnections = 5; //最小連接數
??????????? this._pool.MaxConnections = 250; //最大連接數
??????????? //連接的最大空閑時間，下面設置為6個小時（單位ms），超過這個設置時間，連接會被釋放掉
??????????? this._pool.MaxIdle = 1000 * 60 * 60 * 6;
??????????? //通訊的超時時間，下面設置為3秒（單位ms），.NET版本沒有實現
??????????? this._pool.SocketTimeout = 1000 * 3;
??????????? //socket連接的超時時間，下面設置表示連接不超時，即一直保持連接狀態
??????????? this._pool.SocketConnectTimeout = 0;
??????????? this._pool.Nagle = false; //是否對TCP/IP通訊使用Nalgle算法，.NET版本沒有實現
??????????? //維護線程的間隔激活時間，下面設置為60秒（單位s），設置為0表示不啟用維護線程
??????????? this._pool.MaintenanceSleep = 60;
??????????? //socket單次任務的最大時間，超過這個時間socket會被強行中斷掉（當前任務失敗）
??????????? this._pool.MaxBusy = 1000 * 10;
??????????? this._pool.Initialize();
??????? }

?

??????? 2:獲取一個memcached客戶端。
???????

??????? private MemcachedClient GetClient()
??????? {
??????????? MemcachedClient client = new MemcachedClient();
??????????? client.PoolName = "default";
??????????? return client;
??????? }

?

??????? 3：根據memcached提供的功能實現IWebCacheProvider，代碼就不貼了，大家可以自己去試試。
???????
??????? 到此我們就利用memcached實現了一級緩存，由于.NET memcached client library 實現了分布式，我們只需要在多臺服務器上安裝上memcached服務，在初始化memcached代碼中增加了服務器相關配置即可。String[] serverlist = { "127.0.0.1:11211" };
???????
??????? 如何讓一級緩存組件支持多實現方案之間的切換。
??????? MyWebCacheServiceClient:客戶端緩存組件實例，它來完成一級緩存與二級緩存之間的聯系，以及根據配置文件來選擇一級緩存的實施方案。
??????? 第一：CacheServiceMode，根據它就可以決定緩存是只緩存二級緩存還是兩級都緩存。

???????????????? 1:LocalCacheOnlyMode,只啟用web server上的二級緩存。

???????????????? 2:BufferedLCacheServerMode,即啟用web server上的二級緩存也啟用cache server上的緩存。

???????????????? 3:Off,關閉緩存功能。
??????? 第二：IWebCacheProvider service = this .GetPrimaryCacheProvider(hashKey);方式決定了一級緩存的實施方案。
????????

/// <summary>
??????? /// 獲取一級緩存
??????? /// </summary>
??????? /// <param name="hashKey"></param>
??????? /// <param name="configFilePath"></param>
??????? /// <returns></returns>
??????? private IWebCacheProvider GetPrimaryCacheProvider(uint hashKey)
??????? {
??????????? IWebCacheProvider provider = null;
??????????? string cacheType = WebConfig.ChannelConfig["CacheType"].ToString().ToLower();
??????????? switch (cacheType)
??????????? {
??????????????? case "memcached":
??????????????????? provider = WebCacheProviderFactory.GetMemcachedWebCacheProvider(configFilePath);
??????????????????? break;
??????????????? case "entlib":
??????????????????? provider = servicePool.GetServiceClient(hashKey) as IWebCacheProvider;
??????????????????? break;
??????????? }
??????????
??????????? return provider;
??????? }

?

???????? 插入緩存的邏輯：原理就是根據配置文件中的CacheMode來完成緩存級別的判定以及一級緩存的方案。

public void Insert(string key, object value, string region, string subRegion, CacheItemConfig cacheItemConfig)
??????? {
??????????? if (string.IsNullOrEmpty(key) || value == null)
??????????????? return;
??????????? //關閉模式，不使用緩存
??????????? if (Options.CacheServiceMode == ECacheServiceMode.Off)
??????????? {
??????????????? return;
??????????? }
??????????? else if (Options.CacheServiceMode == ECacheServiceMode.BufferedLCacheServerMode
??????????????? || Options.CacheServiceMode == ECacheServiceMode.LocalAndCacheServerAndSql
??????????????? || Options.CacheServiceMode == ECacheServiceMode.LocalCacheOnlyMode)
??????????? {//使用帶緩沖的模式
??????????????? if (Options.BufferType == ECacheDependencyType.SlidingTime)
??????????????? {
??????????????????? SecondaryCacheProvider.Insert(key, value, region, subRegion, MyCacheItemPriority.Normal, Options.BufferSlidingTime);
??????????????? }
??????????????? else if (Options.BufferType == ECacheDependencyType.AbsoluteTime)
??????????????? {
??????????????????? SecondaryCacheProvider.Insert(key, value, region, subRegion, MyCacheItemPriority.Normal, Options.BufferAbsoluteTime);
??????????????? }

??????????????? if (Options.CacheServiceMode == ECacheServiceMode.LocalCacheOnlyMode)
??????????????? {//只使用本地緩存
??????????????????? return;
??????????????? }
??????????? }

??????????? checkKey(key);
??????????? uint hashKey = hash(key);

??????????? try
??????????? {
??????????????? if (Options.CacheServiceMode == ECacheServiceMode.CacheServerMode
??????????????????? || Options.CacheServiceMode == ECacheServiceMode.BufferedLCacheServerMode
??????????????????? || Options.CacheServiceMode == ECacheServiceMode.CacheServerAndSql
??????????????????? || Options.CacheServiceMode == ECacheServiceMode.LocalAndCacheServerAndSql)
??????????????? {//CacheServer模式使用Cache服務器保存Cache?????????????????????????????????????
??????????????????? IWebCacheProvider service = this .GetPrimaryCacheProvider(hashKey);
??????????????????? byte[] byteValue = SerializationHelper.SaveToBinaryBytes(value);
??????????????????? var cachePriority = ModelConverter.ToRefClass(cacheItemConfig.CachePriority);
??????????????????? if (cacheItemConfig.CacheType == ECacheDependencyType.AbsoluteTime)
??????????????????? {
??????????????????????? AbsoluteTimeCacheDependency absTime = new AbsoluteTimeCacheDependency();
??????????????????????? absTime.AbsoluteTime = DateTime.Now.AddMinutes(cacheItemConfig.CacheTimeMinutes);
??????????????????????? service.Insert(key, byteValue, region, subRegion, cachePriority, absTime);
??????????????????? }
??????????????????? else if (cacheItemConfig.CacheType == ECacheDependencyType.SlidingTime)
??????????????????? {
??????????????????????? SlidingTimeCacheDependency slTime = new SlidingTimeCacheDependency();
??????????????????????? slTime.SlidingTime = new TimeSpan(0, cacheItemConfig.CacheTimeMinutes, 0);
??????????????????????? service.Insert(key, byteValue, region, subRegion, cachePriority, slTime);
??????????????????? }
??????????????? }
??????????? }
??????????? catch (Exception ex)
??????????? {//出現異常，保存到數據庫中
??????????????? servicePool.ReplaceServiceClient(hashKey);
??????????????? this.SendLogEmail(ex);
??????????? }
??????????

??????? }

?

???????
??????? 客戶端調用代碼：為了調用方便，創建一個CacheHelper來幫助完成：

public class CacheHelper
??? {
??????? /// <summary>
??????? /// 主分區
??????? /// </summary>
??????? public const string REGION = "MyBlog";
??????? /// <summary>
??????? /// 子分區
??????? /// </summary>
??????? public const string SUB_REGION = "default";
??????? public const string BlogListConfigKey = "BlogListConfigKey";
??????? #region 頁面間數據傳遞
??????? /// <summary>
??????? /// 新增頁面間傳遞數據到WebCache
??????? /// </summary>
??????? /// <returns>返回PageKeyID，用于頁面間傳遞的鍵值</returns>
??????? public static string InsertPageParams(string configKey, object obj,string pageKey)
??????? {
??????????? string result = null;

??????????? MyWebCacheServiceClient cacheClient = CacheClientFactory.GetWebCacheServiceClient(REGION, SUB_REGION, configKey);
??????????? cacheClient.Insert(
??????????????? MyWebCacheServiceClient.BuildKey(configKey,pageKey),
??????????????? obj,
??????????????? REGION,
??????????????? SUB_REGION);

??????????? return result;
??????? }
??????? /// <summary>
??????? /// 從Cache里獲取頁面傳遞Cache
??????? /// </summary>
??????? /// <param name="key">FlightCacheKey里的常量</param>
??????? /// <param name="pageKeyID">頁面傳遞的鍵值</param>
??????? public static object GetPageParams(string configKey, string pageKey)
??????? {
??????????? object result = null;
??????????? MyWebCacheServiceClient cacheClient = CacheClientFactory.GetWebCacheServiceClient(REGION,
??????????????? SUB_REGION, configKey);
??????????? result = cacheClient.Get(
??????????????? MyWebCacheServiceClient.BuildKey(configKey, pageKey),
??????????????? REGION,
??????????????? SUB_REGION);

??????????? return result;

??????? }
??????? #endregion
??? }

對于web系統中增加緩存服務，使用起來還是挺方便的，目前可采用的方案比較多，有微軟的企業庫，memcached等等。但如果需要很好的對項目中的緩存進行監控管理，也不是一件特別容易的事情，例如：監控緩存服務器上都有哪些項目使用了緩存，具體都有多少個key，大小，單個key的命中率以及過期時間等信息。有了這些信息，就非常容易排查內存為什么快用完的問題，如果再提供手動過期緩存的服務，就更好了，有的時候由于數據出錯，需要緊急讓緩存失效，此種辦法影響最小。

???
??? 這篇我來總結了針對memcached的緩存管理。
???
??? 其實memcached本身也提供了一些緩存統計信息，例如:當前總共的緩存數量，使用的內存量,總獲取次數,總的寫入次數,總的命中次數等等，但這種統計信息粒度太大:

??? 1:無法具體到單個key，如果我們想針對某一個key統計它的命中率情況，就不好辦了。

??? 2:無法分析系統中都有哪些項目使用了key,哪個項目占用的key多,內存多。

??? 3:無法實現手工過期，這種需求某些特殊情況下也是很有幫助的。

?

??? 既然memcached本身不提供，我這里采用了一種變通的方式來記錄我們特定的信息。
???
??? 首先我們引進一個概念:分區,這個分區可以理解成電腦上的硬盤分區，用戶可以把不同的文件放在不同的分區上，這樣在管理上也容易些,同樣分區底下有子分區，就像電腦上的文件一樣，子分區下面就是具體的key了，對于我們的cache后臺管理，可以這樣理解，一個項目可以分配為一個分區，按項目功能模塊可以分為不同的子分區，子分區下來分散著N多key。

?

?

實現方案：我們可以對每個key的訪問記錄下它的一些信息，例如：大小，所屬分區名，過期時間，訪問命中率，然后把這些信息在每個memcached 實例上創建一個特殊key,用于存儲key的訪問信息。
???
??? 注意點：

?????? 1:由于記錄訪問信息都需要更新特殊key,如果過于頻繁，會影響正常的cache性能，所以可以考慮形成一個內存隊列，當數量達到多少后(如果key使用頻率不高，還可以設定時間,當過了這個時間，即使數量不夠也進行更新)，統一更新特殊key內容。
?????? 2:由于memcached有單個key大小限制，所以對于這種統計信息key,不能過大，記錄key訪問信息時，盡量以文本形式存儲，這樣能保證最小。

?????? 3:每個實例中對應一個用于存儲key訪問信息的key，這樣可以統計更多的key。

??????????
??? 監控視圖：通過上面的努力，我們可以形成三個視圖：
??? 第一：memcached 實例視圖，以某個具體cache實例為單位，呈現memcached服務本身所提供的統計信息，還包含此實例中包含了多少個分區,即實例上包含了多少個項目使用的緩存。
??? 第二：分區視圖，根據分區名稱，集合所有節點的數據，最終匯總出統計數據，例如可以統計酒店項目總共使用了多少個key等,這對分析key的分布情況比較有幫助。
??? 第三：key視圖，呈現具體key的訪問信息，以及手工過期功能。

?

??? 總結：上面的方案雖然能實現需求，但在實際生產環境中，盡量不要打開這種監控功能，需要的時候再打開，盡量讓cache的效率最高。

?

原文來自：雨楓技術教程網 http://www.fengfly.com
原文網址：http://www.fengfly.com/plus/view-197176-1.html

?

?

轉載于:https://www.cnblogs.com/lzjsky/archive/2012/09/05/2671464.html

總結

以上是生活随笔為你收集整理的网站架构之缓存应用(摘录)的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。