Redis在互聯(lián)網(wǎng)大數(shù)據(jù)平臺有著廣泛的應(yīng)用,主要被用來緩存熱點數(shù)據(jù),避免海量哀求壓垮數(shù)據(jù)庫,同時可以提升服務(wù)節(jié)點的響應(yīng)速度和并發(fā)量.隨著數(shù)據(jù)量的增多,由于redis是占用單臺物理機或虛機的內(nèi)存,內(nèi)存資源是有限的,要動態(tài)地擴容縮容,就需要用到redis集群.redis集群的架構(gòu)方案經(jīng)歷了一系列演變和改良的過程,本文介紹了四種主流的redis架構(gòu)方案.

客戶端分片

• 優(yōu)點

不使用第三方中間件,實現(xiàn)辦法和代碼可以自己掌控并且可隨時調(diào)整.這種分片性能比代理式更好(因為少了分發(fā)環(huán)節(jié)),分發(fā)壓力在客戶端,無服務(wù)端壓力增加

• 缺點

不能平滑地水平擴容,擴容/縮容時,必需手動調(diào)整分片程序,出現(xiàn)故障不能自動轉(zhuǎn)移,難以運維

Twemproxy

• 優(yōu)點

運維本錢低.業(yè)務(wù)方不用關(guān)心后端 Redis 實例,跟操作 Redis 一樣.Proxy 的邏輯和存儲的邏輯是隔離的

• 缺點

a. 代理層多了一次轉(zhuǎn)發(fā),性能有所損耗

b. 進行擴容/縮容時候,部分數(shù)據(jù)可能會失效,必要手動進行遷移,對運維要求較高,而且難以做到平滑的擴縮容

c. 出現(xiàn)故障,不能自動轉(zhuǎn)移,運維性很差

Redis Cluster

• 優(yōu)點

a. 無中心節(jié)點

b. 數(shù)據(jù)依照 Slot 存儲分布在多個 Redis 實例上

c. 平滑的進行擴容/縮容節(jié)點

d. 自動故障轉(zhuǎn)移(節(jié)點之間通過 Gossip 協(xié)議交換狀態(tài)信息,進行投票機制完成 Slave 到 Master 角

色的提升)

e. 降低運維本錢,提高了系統(tǒng)的可擴展性和高可用性

• 缺點

a. 嚴重依賴外部 Redis-Trib

b. 缺乏監(jiān)控管理

c. 必要依賴 Smart Client(連接維護, 緩存路由表, MultiOp 和 Pipeline 支持)

d. Failover 節(jié)點的檢測過慢,不如“中心節(jié)點 ZooKeeper”及時

e. Gossip 消息的開銷

f. 無法根據(jù)統(tǒng)計區(qū)分冷熱數(shù)據(jù)

g. Slave“冷備”,不能緩解讀壓力

Proxy + Redis Cluster

• 優(yōu)點

Smart Client：

a. 相比于使用代理,減少了一層網(wǎng)絡(luò)傳輸?shù)南?效率較高.

b. 不依賴于第三方中間件,實現(xiàn)辦法和代碼自己掌控,可隨時調(diào)整.

Proxy：

a. 提供一套 HTTP Restful 接口,隔離底層存儲.對客戶端完全透明,跨語言調(diào)用.

b. 升級維護較為容易,維護 Redis Cluster,只必要平滑升級 Proxy.

c. 層次化存儲,底層存儲做冷熱異構(gòu)存儲.

d. 權(quán)限控制,Proxy 可以通過秘鑰控制白名單,把一些不合法的哀求都過濾掉.并

且也可以控制用戶哀求的超大 Value 進行控制,和過濾.

e. 平安性,可以屏蔽掉一些危險命令,比如 Keys、Save、Flush All 等.

f. 容量控制,根據(jù)不同用戶容量申請進行容量限制.

g. 資源邏輯隔離,根據(jù)不同用戶的 Key 加上前綴,來進行資源隔離.

h. 監(jiān)控埋點,對于不同的接口進行埋點監(jiān)控等信息.

• 缺點

Smart Client：

a. 客戶端的不成熟,影響應(yīng)用的穩(wěn)定性,提高開發(fā)難度.

b. MultiOp 和 Pipeline 支持有限.

c. 連接維護,Smart 客戶端對連接到集群中每個結(jié)點 Socket 的維護.

Proxy：

a. 代理層多了一次轉(zhuǎn)發(fā),性能有所損耗.

b．進行擴容/縮容時候?qū)\維要求較高,而且難以做到平滑的擴縮容

實際項目中該如何選型呢?

redis官方文檔中有如下這段話:

The redis-cli cluster support is very basic so it always uses the fact that Redis Cluster nodes are able to redirect a client to the right node. A serious client is able to do better than that, and cache the map between hash slots and nodes addresses, to directly use the right connection to the right node. The map is refreshed only when something changed in the cluster configuration, for example after a failover or after the system administrator changed the cluster layout by adding or removing nodes.

大意就是目前redis cluster官方客戶端功能簡陋,依賴于redis節(jié)點重定向去到集群中找到數(shù)據(jù)所在的redis實例.必要有一個更完善的客戶端,能夠?qū)崿F(xiàn)一致性hash,failover和集群管理功能.因此使用官方的redis cluster客戶端不是一個明智的選擇,本文提供3種方案供大家參考,如果有不合理的地方,歡迎大家與我共同探討.

方案 1 使用nginx開發(fā)(OpenResty方式)

原因如下

a. 單 Master 多 Work 模式,每個 Work 跟 Redis 一樣都是單進程單線程模式,并且都是基

于 Epoll 事件驅(qū)動的模式.

b. Nginx 采用了異步非阻塞的方式來處理哀求,高效的異步框架.

c. 內(nèi)存占用少,有本身的一套內(nèi)存池管理方式,.將大量小內(nèi)存的申請聚集到一塊,能夠比

Malloc 更快.減少內(nèi)存碎片,防止內(nèi)存泄漏.減少內(nèi)存管理復(fù)雜度.

d. 為了提高 Nginx 的拜訪速度,Nginx 使用了自己的一套連接池.

e. 最重要的是支持自定義模塊開發(fā).

f. 業(yè)界內(nèi),對于 Nginx,Redis 的口碑可稱得上兩大神器.性能也就不用說了.

方案 2 codis (豌豆莢采用的基于代理的redis集群方案)

參考codis官方文檔https://github.com/CodisLabs/codis

Codis是一整套緩存辦理方案,包含高可用、數(shù)據(jù)分片、監(jiān)控、動態(tài)擴態(tài) etc..

走的是 Apps->代理->redis cluster,必定規(guī)模后基本都采用這種方式.

方案3 本身獨立開發(fā)redis智能客戶端

主要實現(xiàn)redis slots管理,failover,一致性hash功能.

以上便是筆者在實際工作中總結(jié)和研究的結(jié)果,能力所限,如果您有其它建議和好的思路,歡迎給我留言探討.本頭條號每天都會更新互聯(lián)網(wǎng)相關(guān)的技術(shù)分享,歡迎大家訂閱.