转载:Redis 应用场景
2019獨角獸企業(yè)重金招聘Python工程師標準>>>
1. ?MySql+Memcached架構的問題
實際MySQL是適合進行海量數據存儲的，通過Memcached將熱點數據加載到cache，加速訪問，很多公司都曾經使用過這樣的架構，但隨著業(yè)務數據量的不斷增加，和訪問量的持續(xù)增長，我們遇到了很多問題：
1.MySQL需要不斷進行拆庫拆表，Memcached也需不斷跟著擴容，擴容和維護工作占據大量開發(fā)時間。
2.Memcached與MySQL數據庫數據一致性問題。
3.Memcached數據命中率低或down機，大量訪問直接穿透到DB，MySQL無法支撐。
4.跨機房cache同步問題。
眾多NoSQL百花齊放，如何選擇
最近幾年，業(yè)界不斷涌現出很多各種各樣的NoSQL產品，那么如何才能正確地使 用好這些產品，最大化地發(fā)揮其長處，是我們需要深入研究和思考的問題，實際歸根結底最重要的是了解這些產品的定位，并且了解到每款產品的 tradeoffs，在實際應用中做到揚長避短，總體上這些NoSQL主要用于解決以下幾種問題
1.少量數據存儲，高速讀寫訪問。此類產品通過數據全部in-momery 的方式來保證高速訪問，同時提供數據落地的功能，實際這正是Redis最主要的適用場景。
2.海量數據存儲，分布式系統(tǒng)支持，數據一致性保證，方便的集群節(jié)點添加/刪除。
3.這方面最具代表性的是dynamo和bigtable 2篇論文所闡述的思路。前者是一個完全無中心的設計，節(jié)點之間通過gossip方式傳遞集群信息，數據保證最終一致性，后者是一個中心化的方案設計，通過類似一個分布式鎖服務來保證強一致性,數據寫入先寫內存和redo log，然后定期compat歸并到磁盤上，將隨機寫優(yōu)化為順序寫，提高寫入性能。
4.Schema free，auto-sharding等。比如目前常見的一些文檔數據庫都是支持schema-free的，直接存儲json格式數據，并且支持auto-sharding等功能，比如mongodb。
面對這些不同類型的NoSQL產品,我們需要根據我們的業(yè)務場景選擇最合適的產品。
? ? ? ?Redis最適合所有數據in-momory的場景，雖然Redis也提供持久化功能，但實際更多的是一個disk-backed的功能，跟傳統(tǒng)意義上 的持久化有比較大的差別，那么可能大家就會有疑問，似乎Redis更像一個加強版的Memcached，那么何時使用Memcached,何時使用 Redis呢?
? ? ? ?如果簡單地比較Redis與Memcached的區(qū)別，大多數都會得到以下觀點：
? ? ?1 、Redis不僅僅支持簡單的k/v類型的數據，同時還提供list，set，zset，hash等數據結構的存儲。
? ? ?2 、Redis支持數據的備份，即master-slave模式的數據備份。
? ? ?3 、Redis支持數據的持久化，可以將內存中的數據保持在磁盤中，重啟的時候可以再次加載進行使用。
2. ?Redis常用數據類型
Redis最為常用的數據類型主要有以下：
String
Hash
List
Set
Sorted set
pub/sub
Transactions
在具體描述這幾種數據類型之前，我們先通過一張圖了解下Redis內部內存管理中是如何描述這些不同數據類型的：
? ? ? ? ?首先Redis內部使用一個redisObject對象來表示所有的key和value,redisObject最主要的信息如上圖所示：
? ? ? ? ?type代表一個value對象具體是何種數據類型，
? ? ? ? ?encoding是不同數據類型在redis內部的存儲方式，
? ? ? ? ?比如：type=string代表value存儲的是一個普通字符串，那么對應的encoding可以是raw或者是int,如果是int則代表實際 redis內部是按數值型類存儲和表示這個字符串的，當然前提是這個字符串本身可以用數值表示，比如:"123" "456"這樣的字符串。
? ? ? ?這里需要特殊說明一下vm字段，只有打開了Redis的虛擬內存功能，此字段才會真正的分配內存，該功能默認是關閉狀態(tài)的，該功能會在后面具體描述。通 過上圖我們可以發(fā)現Redis使用redisObject來表示所有的key/value數據是比較浪費內存的，當然這些內存管理成本的付出主要也是為了 給Redis不同數據類型提供一個統(tǒng)一的管理接口，實際作者也提供了多種方法幫助我們盡量節(jié)省內存使用，我們隨后會具體討論。
3. ?各種數據類型應用和實現方式
下面我們先來逐一的分析下這7種數據類型的使用和內部實現方式:
String:
Strings 數據結構是簡單的key-value類型，value其實不僅是String，也可以是數字.
常用命令: ?set,get,decr,incr,mget 等。
應用場景：String是最常用的一種數據類型，普通的key/ value 存儲都可以歸為此類.即可以完全實現目前 Memcached 的功能，并且效率更高。還可以享受Redis的定時持久化，操作日志及 Replication等功能。除了提供與 Memcached 一樣的get、set、incr、decr 等操作外，Redis還提供了下面一些操作：
獲取字符串長度
往字符串append內容
設置和獲取字符串的某一段內容
設置及獲取字符串的某一位（bit）
批量設置一系列字符串的內容
實現方式：String在redis內部存儲默認就是一個字符串，被redisObject所引用，當遇到incr,decr等操作時會轉成數值型進行計算，此時redisObject的encoding字段為int。
Hash
常用命令：hget,hset,hgetall 等。
應用場景：在Memcached中，我們經常將一些結構化的信息打包成HashMap，在客戶端序列化后存儲為一個字符串的值，比如用戶的昵稱、年齡、性別、積分等，這時候在需要修改其中某一項時，通常需要將所有值取出反序列化后，修改某一項的值，再序列化存儲回去。這樣不僅增大了開銷，也不適用于一些可能并發(fā)操作的場合（比如兩個并發(fā)的操作都需要修改積分）。而Redis的Hash結構可以使你像在數據庫中Update一個屬性一樣只修改某一項屬性值。
? ? ? ? 我們簡單舉個實例來描述下Hash的應用場景，比如我們要存儲一個用戶信息對象數據，包含以下信息：
用戶ID為查找的key，存儲的value用戶對象包含姓名，年齡，生日等信息，如果用普通的key/value結構來存儲，主要有以下2種存儲方式：
第一種方式將用戶ID作為查找key,把其他信息封裝成一個對象以序列化的方式存儲，這種方式的缺點是，增加了序列化/反序列化的開銷，并且在需要修改其中一項信息時，需要把整個對象取回，并且修改操作需要對并發(fā)進行保護，引入CAS等復雜問題。
第二種方法是這個用戶信息對象有多少成員就存成多少個key-value對兒，用用戶ID+對應屬性的名稱作為唯一標識來取得對應屬性的值，雖然省去了序列化開銷和并發(fā)問題，但是用戶ID為重復存儲，如果存在大量這樣的數據，內存浪費還是非常可觀的。
那么Redis提供的Hash很好的解決了這個問題，Redis的Hash實際是內部存儲的Value為一個HashMap，并提供了直接存取這個Map成員的接口，如下圖：
也就是說，Key仍然是用戶ID, value是一個Map，這個Map的key是成員的屬性名，value是屬性值，這樣對數據的修改和存取都可以直接通過其內部Map的 Key(Redis里稱內部Map的key為field), 也就是通過 key(用戶ID) + field(屬性標簽) 就可以操作對應屬性數據了，既不需要重復存儲數據，也不會帶來序列化和并發(fā)修改控制的問題。很好的解決了問題。
這里同時需要注意，Redis提供了接口(hgetall)可以直接取到全部的屬性數據,但是如果內部Map的成員很多，那么涉及到遍歷整個內部 Map的操作，由于Redis單線程模型的緣故，這個遍歷操作可能會比較耗時，而另其它客戶端的請求完全不響應，這點需要格外注意。
實現方式：
上面已經說到Redis Hash對應Value內部實際就是一個HashMap，實際這里會有2種不同實現，這個Hash的成員比較少時Redis為了節(jié)省內存會采用類似一維數 組的方式來緊湊存儲，而不會采用真正的HashMap結構，對應的value redisObject的encoding為zipmap,當成員數量增大時會自動轉成真正的HashMap,此時encoding為ht。
List
常用命令：lpush,rpush,lpop,rpop,lrange等。
應用場景：
Redis list的應用場景非常多，也是Redis最重要的數據結構之一，比如twitter的關注列表，粉絲列表等都可以用Redis的list結構來實現。
Lists 就是鏈表，相信略有數據結構知識的人都應該能理解其結構。使用Lists結構，我們可以輕松地實現最新消息排行等功能。Lists的另一個應用就是消息隊列，
可以利用Lists的PUSH操作，將任務存在Lists中，然后工作線程再用POP操作將任務取出進行執(zhí)行。Redis還提供了操作Lists中某一段的api，你可以直接查詢，刪除Lists中某一段的元素。
實現方式：
Redis list的實現為一個雙向鏈表，即可以支持反向查找和遍歷，更方便操作，不過帶來了部分額外的內存開銷，Redis內部的很多實現，包括發(fā)送緩沖隊列等也都是用的這個數據結構。
Set
常用命令：
sadd,spop,smembers,sunion 等。
應用場景：
Redis set對外提供的功能與list類似是一個列表的功能，特殊之處在于set是可以自動排重的，當你需要存儲一個列表數據，又不希望出現重復數據時，set 是一個很好的選擇，并且set提供了判斷某個成員是否在一個set集合內的重要接口，這個也是list所不能提供的。
Sets 集合的概念就是一堆不重復值的組合。利用Redis提供的Sets數據結構，可以存儲一些集合性的數據，比如在微博應用中，可以將一個用戶所有的關注人存 在一個集合中，將其所有粉絲存在一個集合。Redis還為集合提供了求交集、并集、差集等操作，可以非常方便的實現如共同關注、共同喜好、二度好友等功 能，對上面的所有集合操作，你還可以使用不同的命令選擇將結果返回給客戶端還是存集到一個新的集合中。
實現方式：
set 的內部實現是一個 value永遠為null的HashMap，實際就是通過計算hash的方式來快速排重的，這也是set能提供判斷一個成員是否在集合內的原因。
Sorted Set
常用命令：
zadd,zrange,zrem,zcard等
使用場景：
Redis sorted set的使用場景與set類似，區(qū)別是set不是自動有序的，而sorted set可以通過用戶額外提供一個優(yōu)先級(score)的參數來為成員排序，并且是插入有序的，即自動排序。當你需要一個有序的并且不重復的集合列表，那么 可以選擇sorted set數據結構，比如twitter 的public timeline可以以發(fā)表時間作為score來存儲，這樣獲取時就是自動按時間排好序的。
另外還可以用Sorted Sets來做帶權重的隊列，比如普通消息的score為1，重要消息的score為2，然后工作線程可以選擇按score的倒序來獲取工作任務。讓重要的任務優(yōu)先執(zhí)行。
實現方式：
Redis sorted set的內部使用HashMap和跳躍表(SkipList)來保證數據的存儲和有序，HashMap里放的是成員到score的映射，而跳躍表里存放的 是所有的成員，排序依據是HashMap里存的score,使用跳躍表的結構可以獲得比較高的查找效率，并且在實現上比較簡單。
Pub/Sub
Pub/Sub 從字面上理解就是發(fā)布（Publish）與訂閱（Subscribe），在Redis中，你可以設定對某一個key值進行消息發(fā)布及消息訂閱，當一個 key值上進行了消息發(fā)布后，所有訂閱它的客戶端都會收到相應的消息。這一功能最明顯的用法就是用作實時消息系統(tǒng)，比如普通的即時聊天，群聊等功能。
Transactions
誰說NoSQL都不支持事務，雖然Redis的Transactions提供的并不是嚴格的ACID的事務（比如一串用EXEC提交執(zhí)行的命令，在 執(zhí)行中服務器宕機，那么會有一部分命令執(zhí)行了，剩下的沒執(zhí)行），但是這個Transactions還是提供了基本的命令打包執(zhí)行的功能（在服務器不出問題 的情況下，可以保證一連串的命令是順序在一起執(zhí)行的，中間有會有其它客戶端命令插進來執(zhí)行）。Redis還提供了一個Watch功能，你可以對一個key 進行Watch，然后再執(zhí)行Transactions，在這過程中，如果這個Watched的值進行了修改，那么這個Transactions會發(fā)現并拒 絕執(zhí)行。
4. ?Redis實際應用場景
? ? ? ? Redis在很多方面與其他數據庫解決方案不同：它使用內存提供主存儲支持，而僅使用硬盤做持久性的存儲；它的數據模型非常獨特，用的是單線程。另一個大區(qū)別在于，你可以在開發(fā)環(huán)境中使用Redis的功能，但卻不需要轉到Redis。
轉向Redis當然也是可取的，許多開發(fā)者從一開始就把Redis作為首選數據庫；但設想如果你的開發(fā)環(huán)境已經搭建好， 應用已經在上面運行了，那么更換數據庫框架顯然不那么容易。另外在一些需要大容量數據集的應用，Redis也并不適合，因為它的數據集不會超過系統(tǒng)可用的 內存。所以如果你有大數據應用，而且主要是讀取訪問模式，那么Redis并不是正確的選擇。
? ? ? ? 然而我喜歡Redis的一點就是你可以把它融入到你的系統(tǒng)中來，這就能夠解決很多問題，比如那些你現有的數據庫處理起來感到緩慢的任務。這些你就可以通過 Redis來進行優(yōu)化，或者為應用創(chuàng)建些新的功能。在本文中，我就想探討一些怎樣將Redis加入到現有的環(huán)境中，并利用它的原語命令等功能來解決 傳統(tǒng)環(huán)境中碰到的一些常見問題。在這些例子中，Redis都不是作為首選數據庫。
1、顯示最新的項目列表
下面這個語句常用來顯示最新項目，隨著數據多了，查詢毫無疑問會越來越慢。
SELECT?*?FROM?foo?WHERE?...?ORDER?BY?time?DESC?LIMIT?10???
? ? ? ? 在Web應用中，“列出最新的回復”之類的查詢非常普遍，這通常會帶來可擴展性問題。這令人沮喪，因為項目本來就是按這個順序被創(chuàng)建的，但要輸出這個順序卻不得不進行排序操作。
? ? ? ? 類似的問題就可以用Redis來解決。比如說，我們的一個Web應用想要列出用戶貼出的最新20條評論。在最新的評論邊上我們有一個“顯示全部”的鏈接，點擊后就可以獲得更多的評論。
? ? ? ? 我們假設數據庫中的每條評論都有一個唯一的遞增的ID字段。
? ? ? ? 我們可以使用分頁來制作主頁和評論頁，使用Redis的模板，每次新評論發(fā)表時，我們會將它的ID添加到一個Redis列表：
LPUSH?latest.comments?<ID>???
? ? ? ?我們將列表裁剪為指定長度，因此Redis只需要保存最新的5000條評論：
? ? ? ?LTRIM?latest.comments?0?5000?
? ? ? 每次我們需要獲取最新評論的項目范圍時，我們調用一個函數來完成（使用偽代碼）：
FUNCTION?get_latest_comments(start,?num_items):??
????id_list?=?redis.lrange("latest.comments",start,start+num_items?-?1)??
????IF?id_list.length?<?num_items??
????????id_list?=?SQL_DB("SELECT?...?ORDER?BY?time?LIMIT?...")??
????END??
????RETURN?id_list??
END??
? ? ? 這里我們做的很簡單。在Redis中我們的最新ID使用了常駐緩存，這是一直更新的。但是我們做了限制不能超過5000個ID，因此我們的獲取ID函數會一直詢問Redis。只有在start/count參數超出了這個范圍的時候，才需要去訪問數據庫。
? ? ? ? 我們的系統(tǒng)不會像傳統(tǒng)方式那樣“刷新”緩存，Redis實例中的信息永遠是一致的。SQL數據庫（或是硬盤上的其他類型數據庫）只是在用戶需要獲取“很遠”的數據時才會被觸發(fā)，而主頁或第一個評論頁是不會麻煩到硬盤上的數據庫了。
2、刪除與過濾
? ? ? 我們可以使用LREM來刪除評論。如果刪除操作非常少，另一個選擇是直接跳過評論條目的入口，報告說該評論已經不存在。
? ? ? ?有些時候你想要給不同的列表附加上不同的過濾器。如果過濾器的數量受到限制，你可以簡單的為每個不同的過濾器使用不同的Redis列表。畢竟每個列表只有5000條項目，但Redis卻能夠使用非常少的內存來處理幾百萬條項目。
3、排行榜相關
? ? ? 另一個很普遍的需求是各種數據庫的數據并非存儲在內存中，因此在按得分排序以及實時更新這些幾乎每秒鐘都需要更新的功能上數據庫的性能不夠理想。
? ? ? 典型的比如那些在線游戲的排行榜，比如一個Facebook的游戲，根據得分你通常想要：
? ? ? ? ?- 列出前100名高分選手
? ? ? ? ?- 列出某用戶當前的全球排名
? ? ? 這些操作對于Redis來說小菜一碟，即使你有幾百萬個用戶，每分鐘都會有幾百萬個新的得分。
? ? ? 模式是這樣的，每次獲得新得分時，我們用這樣的代碼：
? ? ? ZADD?leaderboard ?<score> ?<username>?
? ? ?你可能用userID來取代username，這取決于你是怎么設計的。
? ? ? 得到前100名高分用戶很簡單：ZREVRANGE leaderboard 0 99。
? ? ? 用戶的全球排名也相似，只需要：ZRANK leaderboard <username>。
4、按照用戶投票和時間排序
? ? ? 排行榜的一種常見變體模式就像Reddit或Hacker News用的那樣，新聞按照類似下面的公式根據得分來排序：
? ? ? ?score?=?points?/?time^alpha?
? ? ? 因此用戶的投票會相應的把新聞挖出來，但時間會按照一定的指數將新聞埋下去。下面是我們的模式，當然算法由你決定。
? ? ? 模式是這樣的，開始時先觀察那些可能是最新的項目，例如首頁上的1000條新聞都是候選者，因此我們先忽視掉其他的，這實現起來很簡單。
? ? ? 每次新的新聞貼上來后，我們將ID添加到列表中，使用LPUSH + LTRIM，確保只取出最新的1000條項目。
? ? ? 有一項后臺任務獲取這個列表，并且持續(xù)的計算這1000條新聞中每條新聞的最終得分。計算結果由ZADD命令按照新的順序填充生成列表，老新聞則被清除。這里的關鍵思路是排序工作是由后臺任務來完成的。
5、處理過期項目
? ? ? 另一種常用的項目排序是按照時間排序。我們使用unix時間作為得分即可。
? ? ? 模式如下：
? ? ? ?- 每次有新項目添加到我們的非Redis數據庫時，我們把它加入到排序集合中。這時我們用的是時間屬性，current_time和time_to_live。
? ? ? ?- 另一項后臺任務使用ZRANGE…SCORES查詢排序集合，取出最新的10個項目。如果發(fā)現unix時間已經過期，則在數據庫中刪除條目。
6、計數
? ? ? ?Redis是一個很好的計數器，這要感謝INCRBY和其他相似命令。
? ? ? ?我相信你曾許多次想要給數據庫加上新的計數器，用來獲取統(tǒng)計或顯示新信息，但是最后卻由于寫入敏感而不得不放棄它們。
? ? ? ?好了，現在使用Redis就不需要再擔心了。有了原子遞增（atomic increment），你可以放心的加上各種計數，用GETSET重置，或者是讓它們過期。
? ? ? ?例如這樣操作：
? ? ? ? ?INCR?user:<id>?EXPIRE?
? ? ? ? ?user:<id>?60?
? ? ? ?你可以計算出最近用戶在頁面間停頓不超過60秒的頁面瀏覽量，當計數達到比如20時，就可以顯示出某些條幅提示，或是其它你想顯示的東西。
7、特定時間內的特定項目
? ? ? ? 另一項對于其他數據庫很難，但Redis做起來卻輕而易舉的事就是統(tǒng)計在某段特點時間里有多少特定用戶訪問了某個特定資源。比如我想要知道某些特定的注冊用戶或IP地址，他們到底有多少訪問了某篇文章。
? ? ? 每次我獲得一次新的頁面瀏覽時我只需要這樣做：
? ? ? ?SADD?page:day1:<page_id>?<user_id>?
? ? ? 當然你可能想用unix時間替換day1，比如time()-(time()%3600*24)等等。
? ? ? 想知道特定用戶的數量嗎？只需要使用SCARD page:day1:<page_id>。
? ? ? ?需要測試某個特定用戶是否訪問了這個頁面？SISMEMBER page:day1:<page_id>。
8、實時分析正在發(fā)生的情況，用于數據統(tǒng)計與防止垃圾郵件等
? ? ? ? 我們只做了幾個例子，但如果你研究Redis的命令集，并且組合一下，就能獲得大量的實時分析方法，有效而且非常省力。使用Redis原語命令，更容易實施垃圾郵件過濾系統(tǒng)或其他實時跟蹤系統(tǒng)。
9、Pub/Sub
? ? ? ?Redis的Pub/Sub非常非常簡單，運行穩(wěn)定并且快速。支持模式匹配，能夠實時訂閱與取消頻道。
10、隊列
? ? ? ? 你應該已經注意到像list push和list pop這樣的Redis命令能夠很方便的執(zhí)行隊列操作了，但能做的可不止這些：比如Redis還有l(wèi)ist pop的變體命令，能夠在列表為空時阻塞隊列。
? ? ? ?現 代的互聯(lián)網應用大量地使用了消息隊列（Messaging）。消息隊列不僅被用于系統(tǒng)內部組件之間的通信，同時也被用于系統(tǒng)跟其它服務之間的交互。消息隊 列的使用可以增加系統(tǒng)的可擴展性、靈活性和用戶體驗。非基于消息隊列的系統(tǒng)，其運行速度取決于系統(tǒng)中最慢的組件的速度（注：短板效應）。而基于消息隊列可 以將系統(tǒng)中各組件解除耦合，這樣系統(tǒng)就不再受最慢組件的束縛，各組件可以異步運行從而得以更快的速度完成各自的工作。
? ? 此外，當服務器處在高并發(fā)操作的時候，比如頻繁地寫入日志文件。可以利用消息隊列實現異步處理。從而實現高性能的并發(fā)操作。
11、緩存
? ? ? ? Redis的緩存部分值得寫一篇新文章，我這里只是簡單的說一下。Redis能夠替代memcached，讓你的緩存從只能存儲數據變得能夠更新數據，因此你不再需要每次都重新生成數據了。
此部分內容的原文地址：http://antirez.com/post/take-advantage-of-redis-adding-it-to-your-stack.html
?
5. ?國內外三個不同領域巨頭分享的Redis實戰(zhàn)經驗及使用場景
? ?
? ? ?隨著應用對高性能需求的增加，NoSQL逐漸在各大名企的系統(tǒng)架構中生根發(fā)芽。這里我們將為大家分享社交巨頭新浪微博、傳媒巨頭Viacom及圖片分享領域佼佼者Pinterest帶來的Redis實踐，首先我們看新浪微博?@啟盼cobain的Redis實戰(zhàn)經驗分享：
一、新浪微博：史上最大的Redis集群
Tape is Dead，Disk is Tape，Flash is Disk，RAM Locality is King. — Jim Gray
Redis不是比較成熟的memcache或者Mysql的替代品，是對于大型互聯(lián)網類應用在架構上很好的補充。現在有越來越多的應用也在紛紛基于Redis做架構的改造。首先簡單公布一下Redis平臺實際情況：
2200+億 commands/day 5000億Read/day 500億Write/day
18TB+ Memory
500+ Servers in 6 IDC 2000+instances
應該是國內外比較大的Redis使用平臺，今天主要從應用角度談談Redis服務平臺。
Redis使用場景
1.Counting（計數）
計數的應用在另外一篇文章里較詳細的描述，計數場景的優(yōu)化?http://www.xdata.me/?p=262這里就不多加描述了。
可以預見的是，有很多同學認為把計數全部存在內存中成本非常高，我在這里用個圖表來表達下我的觀點：
很多情況大家都會設想純使用內存的方案會很有很高成本，但實際情況往往會有一些不一樣：
COST，對于有一定吞吐需求的應用來說，肯定會單獨申請DB、Cache資源，很多擔心DB寫入性能的同學還會主動將DB更新記入異步隊列，而這三塊的資源的利用率一般都不會太高。資源算下來，你驚異的發(fā)現：反而純內存的方案會更精簡！
KISS原則，這對于開發(fā)是非常友好的，我只需要建立一套連接池，不用擔心數據一致性的維護，不用維護異步隊列。
Cache穿透風險，如果后端使用DB，肯定不會提供很高的吞吐能力，cache宕機如果沒有妥善處理，那就悲劇了。
大多數的起始存儲需求，容量較小。
2.Reverse cache（反向cache）
面對微博常常出現的熱點，如最近出現了較為火爆的短鏈，短時間有數以萬計的人點擊、跳轉，而這里會常常涌現一些需求，比如我們向快速在跳轉時判定用戶等級，是否有一些賬號綁定，性別愛好什么的，已給其展示不同的內容或者信息。
普通采用memcache+Mysql的解決方案，當調用id合法的情況下，可支撐較大的吞吐。但當調用id不可控，有較多垃圾用戶調用時，由于memcache未有命中，會大量的穿透至Mysql服務器，瞬間造成連接數瘋長，整體吞吐量降低，響應時間變慢。
這里我們可以用redis記錄全量的用戶判定信息，如string key:uid int:type，做一次反向的cache，當用戶在redis快速獲取自己等級等信息后，再去Mc+Mysql層去獲取全量信息。如圖：
當然這也不是最優(yōu)化的場景，如用Redis做bloomfilter，可能更加省用內存。
3.Top 10 list
產品運營總會讓你展示最近、最熱、點擊率最高、活躍度最高等等條件的top list。很多更新較頻繁的列表如果使用MC+MySQL維護的話緩存失效的可能性會比較大，鑒于占用內存較小的情況，使用Redis做存儲也是相當不錯的。
4.Last Index
用戶最近訪問記錄也是redis list的很好應用場景，lpush lpop自動過期老的登陸記錄，對于開發(fā)來說還是非常友好的。
5.Relation List/Message Queue
這里把兩個功能放在最后，因為這兩個功能在現實問題當中遇到了一些困難，但在一定階段也確實解決了我們很多的問題，故在這里只做說明。
Message Queue就是通過list的lpop及l(fā)push接口進行隊列的寫入和消費，由于本身性能較好也能解決大部分問題。
6.Fast transaction with Lua
Redis 的Lua的功能擴展實際給Redis帶來了更多的應用場景，你可以編寫若干command組合作為一個小型的非阻塞事務或者更新邏輯，如：在收到 message推送時，同時1.給自己的增加一個未讀的對話 2.給自己的私信增加一個未讀消息 3.最后給發(fā)送人回執(zhí)一個完成推送消息，這一層邏輯完全可以在Redis Server端實現。
但是，需要注意的是Redis會將lua script的全部內容記錄在aof和傳送給slave，這也將是對磁盤，網卡一個不小的開銷。
7.Instead of Memcache
很多測試和應用均已證明，
在性能方面Redis并沒有落后memcache多少，而單線程的模型給Redis反而帶來了很強的擴展性。
在很多場景下，Redis對同一份數據的內存開銷是小于memcache的slab分配的。
Redis提供的數據同步功能，其實是對cache的一個強有力功能擴展。
Redis使用的重要點
1.rdb/aof Backup!
我們線上的Redis 95%以上是承擔后端存儲功能的，我們不僅用作cache，而更為一種k-v存儲，他完全替代了后端的存儲服務（MySQL），故其數據是非常重要的，如 果出現數據污染和丟失，誤操作等情況，將是難以恢復的。所以備份是非常必要的！為此，我們有共享的hdfs資源作為我們的備份池，希望能隨時可以還原業(yè)務 所需數據。
2.Small item & Small instance!
由于Redis單線程（嚴格意義上不是單線程，但認為對request的處理是單線程的）的模型，大的數據結構list,sorted set,hash set的批量處理就意味著其他請求的等待，故使用Redis的復雜數據結構一定要控制其單key-struct的大小。
另外，Redis單實例的內存容量也應該有嚴格的限制。單實例內存容量較大后，直接帶來的問題就是故障恢復或者Rebuild從庫的時候時間較長，而更糟 糕的是，Redis rewrite aof和save rdb時，將會帶來非常大且長的系統(tǒng)壓力，并占用額外內存，很可能導致系統(tǒng)內存不足等嚴重影響性能的線上故障。我們線上96G/128G內存服務器不建議 單實例容量大于20/30G。
3.Been Available!
業(yè)界資料和使用比較多的是Redis sentinel（哨兵）
http://www.huangz.me/en/latest/storage/redis_code_analysis/sentinel.html
http://qiita.com/wellflat/items/8935016fdee25d4866d9
2000行C實現了服務器狀態(tài)檢測，自動故障轉移等功能。
但由于自身實際架構往往會復雜，或者考慮的角度比較多，為此?@許琦eryk和我一同做了hypnos項目。
hypnos是神話中的睡神，字面意思也是希望我們工程師無需在休息時間處理任何故障。:-)
其工作原理示意如下：
Talk is cheap, show me your code! 稍后將單獨寫篇博客細致講下Hypnos的實現。
4.In Memory or not?
發(fā)現一種情況，開發(fā)在溝通后端資源設計的時候，常常因為習慣使用和錯誤了解產品定位等原因，而忽視了對真實使用用戶的評估。也許這是一份歷史數據，只有最近一天的數據才有人進行訪問，而把歷史數據的容量和最近一天請求量都拋給內存類的存儲現實是非常不合理的。
所以當你在究竟使用什么樣的數據結構存儲的時候，請務必先進行成本衡量，有多少數據是需要存儲在內存中的？有多少數據是對用戶真正有意義的。因為這其實對后端資源的設計是至關重要的，1G的數據容量和1T的數據容量對于設計思路是完全不一樣的
Plans in future?
1.slave sync改造
全部改造線上master-slave數據同步機制，這一點我們借鑒了MySQL Replication的思路，使用rdb+aof+pos作為數據同步的依據，這里簡要說明為什么官方提供的psync沒有很好的滿足我們的需求：
假設A有兩個從庫B及C，及 A `— B&C，這時我們發(fā)現master A服務器有宕機隱患需要重啟或者A節(jié)點直接宕機，需要切換B為新的主庫，如果A、B、C不共享rdb及aof信息，C在作為B的從庫時，仍會清除自身數 據，因為C節(jié)點只記錄了和A節(jié)點的同步狀況。
故我們需要有一種將A`–B&C 結構切換切換為A`–B`–C結構的同步機制，psync雖然支持斷點續(xù)傳，但仍無法支持master故障的平滑切換。
實際上我們已經在我們定制的Redis計數服務上使用了如上功能的同步，效果非常好，解決了運維負擔，但仍需向所有Redis服務推廣，如果可能我們也會向官方Redis提出相關sync slave的改進。
2.更適合redis的name-system Or proxy
細心的同學發(fā)現我們除了使用DNS作為命名系統(tǒng)，也在zookeeper中有一份記錄，為什么不讓用戶直接訪問一個系統(tǒng)，zk或者DNS選擇其一呢？
其實還是很簡單，命名系統(tǒng)是個非常重要的組件，而dns是一套比較完善的命名系統(tǒng)，我們?yōu)榇俗隽撕芏喔倪M和試錯，zk的實現還是相對復雜，我們還沒有較強的把控粒度。我們也在思考用什么做命名系統(tǒng)更符合我們需求。
3.后端數據存儲
大內存的使用肯定是一個重要的成本優(yōu)化方向，flash盤及分布式的存儲也在我們未來計劃之中。（原文鏈接：?Largest Redis Clusters Ever）
二、Pinterest：Reids維護上百億的相關性
? ? ? Pinterest已經成為硅谷最瘋故事之一，在2012年，他們基于PC的業(yè)務增加1047%，移動端采用增加1698%，?該年3月其獨立訪問數量更飆升至533億。在Pinterest，人們關注的事物以百億記——每個用戶界面都會查詢某個board或者是用戶是否關注的行為促成了異常復雜的工程問題。這也讓Redis獲得了用武之地。經過數年的發(fā)展，Pinterest已經成為媒體、社交等多個領域的佼佼者，其輝煌戰(zhàn)績如下：
獲得的推薦流量高于Google+、YouTube及LinkedIn三者的總和
與Facebook及Twitter一起成為最流行的三大社交網絡
參考Pinterest進行購買的用戶比其它網站更高（?更多詳情）
如您所想，基于其獨立訪問數，Pinterest的高規(guī)模促成了一個非常高的IT基礎設施需求。
?
通過緩存來優(yōu)化用戶體驗
近日，Pinterest工程經理Abhi?Khune對其公司的用戶體驗需求及Redis的使用經驗?進行了分享。即使是滋生的應用程序打造者，在分析網站的細節(jié)之前也不會理解這些特性，因此先大致的理解一下使用場景：首先，為每個粉絲進行提及到的預檢查；其次，UI將準確的顯示用戶的粉絲及關注列表分頁。高效的執(zhí)行這些操作，每次點擊都需要非常高的性能架構。
不能免俗，Pinterest的軟件工程師及架構師已經使用了MySQL及memcache，但是緩存解決方案仍然達到了他們的瓶頸；因此為了擁有更好的 用戶體驗，緩存必須被擴充。而在實際操作過程中，工程團隊已然發(fā)現緩存只有當用戶sub-graph已經在緩存中時才會起到作用。因此。任何使用這個系統(tǒng) 的人都需要被緩存，這就導致了整個圖的緩存。同時，最常見的查詢“用戶A是否關注了用戶B”的答案經常是否定的，然而這卻被作為了緩存丟失，從而促成一個 數據庫查詢，因此他們需要一個新的方法來擴展緩存。最終，他們團隊決定使用Redis來存儲整個圖，用以服務眾多的列表。
使用Redis存儲大量的Pinterest列表
Pinterest使用了Redis作為解決方案，并將性能推至了內存數據庫等級，為用戶保存多種類型列表：
關注者列表
你所關注的board列表
粉絲列表
關注你board的用戶列表
某個用戶中board中你沒有關注的列表
每個board的關注者及非關注者
Redis為其7000萬用戶存儲了以上的所有列表，本質上講可以說是儲存了所有粉絲圖，通過用戶ID分片。鑒于你可以通過類型來查看以上列表的數據，分 析概要信息被用看起來更像事務的系統(tǒng)儲存及訪問。Pinterest當下的用戶like被限制為10萬，初略進行統(tǒng)計：如果每個用戶關注25個 board，將會在用戶及board間產生17.5億的關系。同時更加重要的是，這些關系隨著系統(tǒng)的使用每天都會增加。
Pinterest的Reids架構及運營
通過Pinterest的一個創(chuàng)始人了解到，Pinterest開始使用Python及訂制的Django編寫應用程序，并一直持續(xù)到其擁有1800萬用 戶級日410TB用戶數據的時候。雖然使用了多個存儲對數據進行儲存，工程師根據用戶id使用了8192個虛擬分片，每個分片都運行在一個 Redis?DB之上，同時1個Redis實例將運行多個Redis?DB。為了對CPU核心的充分使用，同一臺主機上同時使用多線程和單線程Redis 實例。
鑒于整個數據集運行在內存當中，Redis在Amazon?EBS上對每秒傳輸進來的寫入都會進行持久化。擴展主要通過兩個方面進行：第一，保持50%的 利用率，通過主從轉換，機器上運行的Redis實例一半會轉譯到一個新機器上；第二，擴展節(jié)點和分片。整個Redis集群都會使用一個主從配置，從部分將 被當做一個熱備份。一旦主節(jié)點失敗，從部分會立刻完成主的轉換，同時一個新的從部分將會被添加，ZooKeeper將完成整個過程。同時他們每個小時都會 在Amazon?S3上運行BGsave做更持久的儲存——這項Reids操作會在后端進行，之后Pinterest會使用這些數據做MapReduce 和分析作業(yè)。（更多內容見原文）
三、Viacom：Redis在系統(tǒng)中的用例盤點
Viacom是全球最大的傳媒集體之一，同時也遭遇了當下最大的數據難題之一：如何處理日益劇增的動態(tài)視頻內容。
著眼這一挑戰(zhàn)的上升趨勢，我們會發(fā)現：2010年世界上所有數據體積達到ZB級，而單單2012這一年，互聯(lián)網產生的數據就增加了2.8個ZB，其中大部分的數據都是非結構化的，包括了視頻和圖片。
覆蓋MVN（以前稱為MTV?Networks、Paramount及BET），Viacom是個名副其實的傳媒巨頭，支持眾多人氣站點，其中包括 The?Daily?Show、osh.0、South?Park?Studios、GameTrailers.com等。作為媒體公司，這些網站上的文 檔、圖片、視頻短片都在無時無刻的更新。長話短說，下面就進入Viacom高級架構師Michael?Venezia?分享的Redis實踐：
Viacom的網站架構背景
對于Viacom，橫跨多個站點傳播內容讓必須專注于規(guī)模的需求，同時為了將內容竟可能快的傳播到相應用戶，他們還必須聚焦內容之間的關系。然而即使 The?Daily?Show、Nickelodeon、Spike或者是VH1?這些單獨的網站上，日平均PV都可以達到千萬，峰值時流量更會達到平均 值的20-30倍。同時基于對實時的需求，動態(tài)的規(guī)模及速度已成為架構的基礎之一。
除去動態(tài)規(guī)模之外，服務還必須基于用戶正在瀏覽的視頻或者是地理位置來推測用戶的喜好。比如說，某個頁面可能會將一個獨立的視頻片段與本地的促銷，視頻系 列的額外部分，甚至是相關視頻聯(lián)系起來。為了能讓用戶能在網站上停留更長的時間，他們建立了一個能基于詳細元數據自動建立頁面的軟件引擎，這個引擎可以根 據用戶當下興趣推薦額外的內容。鑒于用于興趣的隨時改變，數據的類型非常廣泛——類似graph-like，實際上做的是大量的join。
這樣做有利于減少類似視頻的大體積文件副本數，比如數據存儲中一個獨立的記錄是Southpark片段 “Cartman?gets?an?Anal?Probe”，這個片段可能也會出現在德語的網站上。雖然視頻是一樣的，但是英語用戶搜索的可能就是另一個 不同的詞語。元數據的副本轉換成搜索結果，并指向相同的視頻。因此在美國用戶搜索真實標題的情況下，德國瀏覽者可能會使用轉譯的標題——德國網站上的 “Cartman?und?die?Analsonde”。
這些元數據覆蓋了其它記錄或者是對象，同時還可以根據使用環(huán)境來改變內容，通過不同的規(guī)則集來限制不同地理位置或者是設備請求的內容。
Viacom的實現方法
盡管許多機構通過使用ORM及傳統(tǒng)關系型數據庫來解決這個問題，Viacom卻使用了一個迥然不同的方法。
本質上，他們完全承擔不了對數據庫的直接訪問。首先，他們處理的大部分都是流數據，他們偏向于使用Akamai從地理上來分配內容。其次，基于頁面的復雜 性可能會取上萬個對象。取如此多的數據顯然會影響到性能，因此JSON在1個數據服務中投入了使用。當然，這些JSON對象的緩存將直接影響到網站性能。 同時，當內容或者是內容之間的關系發(fā)生改變時，緩存還需要動態(tài)的進行更新。
Viacom依靠對象基元和超類解決這個問題，繼續(xù)以South?Park為例：一個私有的“episode”類包含了所有該片段相關信息，一個 “super?object”將有助于發(fā)現實際的視頻對象。超類這個思想確實非常有益于建設低延遲頁面的自動建設，這些超類可以幫助到基元對象到緩存的映 射及保存。
Viacom為什么要使用Redis
每當Viacom上傳一個視頻片段，系統(tǒng)將建立一個私有的對象，并于1個超類關聯(lián)。每一次修改，他們都需要重估私有對象的每個改變，并更新所有復合對象。 同時，系統(tǒng)還需要無效Akamail中的URL請求。系統(tǒng)現有架構的組合及更敏捷的管理方法需求將Viacom推向了Redis。
基于Viacom主要基于PHP，所以這個解決方案必須支持PHP。他們首先選擇了memcached做對象存儲，但是它并不能很好的支持 hashmap；同時他們還需要一個更有效的進行無效步驟的重估，即更好的理解內容的依賴性。本質上說，他們需要時刻跟進無效步驟中的依賴性改變。因此他 們選擇了Redis及Predis的組合來解決這個問題。
他們團隊使用Redis給southparkstudios.com和thedailyshow.com兩個網站建設依賴性圖，在取得了很大的成功后他們開始著眼Redis其它適合場景。
Redis的其它使用場景
顯而易見，如果有人使用Redis來建設依賴性圖，那么使用它來做對象處理也是說得通的。同樣，這也成了架構團隊為Redis選擇的第二使用場景。 Redis的復制及持久化特性同時也征服了Viacom的運營團隊，因此在幾個開發(fā)周期后，Redis成為他們網站的主要數據及依賴性儲存。
后兩個用例則是行為追蹤及瀏覽計數的緩沖，改變后的架構是Redis每幾分鐘向MySQL中儲存一次，而瀏覽計數則通過Redis進行存儲及計數。同時 Redis還被用來做人氣的計算，一個基于訪問數及訪問時間的得分系統(tǒng)——如果某個視頻最近被訪問的次數越多，它的人氣就越高。在如此多內容上每隔 10-15分鐘做一次計算絕對不是類似MySQL這樣傳統(tǒng)關系型數據庫的強項，Viacom使用Redis的理由也非常簡單——在1個存儲瀏覽信息的 Redis實例上運行Lua批處理作業(yè)，計算出所有的得分表。信息被拷貝到另一個Redis實例上，用以支持相關的產品查詢。同時還在MySQL上做了另 一個備份，用以以后的分析，這種組合會將這個過程耗費的時間降低60倍。
Viacom還使用Redis存儲一步作業(yè)信息，這些信息被插入一個列表中，工作人員則使用BLPOP命令行在隊列中抓取頂端的任務。同時zsets被用于從眾多社交網絡（比如Twitter及Tumblr）上綜合內容，Viacom通過Brightcove視頻播放器來同步多個內容管理系統(tǒng)。
橫跨這些用例，幾乎所有的Redis命令都被使用——sets、lists、zlists、hashmaps、scripts、counters等。同時，Redis也成為Viacom可擴展架構中不可或缺的一環(huán)。
轉載于:https://my.oschina.net/Kimerchina/blog/355267
總結
以上是生活随笔為你收集整理的转载:Redis 应用场景的全部內容，希望文章能夠幫你解決所遇到的問題。
- 上一篇： 主播资助老人3000元摆拍后收回2800
- 下一篇： MYSQL--事务处理