首頁 > 軟體

Redis核心原理詳細解說

2022-07-21 14:05:25

1、Redis為什麼這麼快

C語言編寫

網路IO是nio

單執行緒避免了多執行緒上下文切換造成的效能損耗

在記憶體中運算速度快

2、Redis網路模型

IO多路複用(reactor)

redis利用epoll實現IO多路複用,將連線資訊和事件放到佇列中,依次放到檔案事件分派器,事件分派器將事件分發給事件處理器。

3、Redis資料結構

4、Redis持久化

RDB快照(snapshot)

設定# save 60 1000 //關閉RDB只需要將所有的save儲存策略註釋掉即可

AOF(append-only file)

將修改的每一條指令記錄進檔案appendonly.aof中(先寫入os cache,每隔一段時間fsync到磁碟)。

AOF重寫:AOF檔案裡可能有太多沒用指令,所以AOF會定期根據記憶體的最新資料生成aof檔案。AOF重寫redis會fork出一個子程序去做(與bgsave命令類似),不會對redis正常命令處理有太多影響。bgrewriteao手動重寫。

Redis 4.0 混合持久化:aof-use-rdb-preamble yes

如果開啟了混合持久化,AOF在重寫時,不再是單純將記憶體資料轉換為RESP命令寫入AOF檔案,而是將重寫這一刻之前的記憶體做RDB快照處理,並且將RDB快照內容和增量的AOF修改記憶體資料的命令存在一起,都寫入新的AOF檔案,新的檔案一開始不叫appendonly.aof,等到重寫完新的AOF檔案才會進行改名,覆蓋原有的AOF檔案,完成新舊兩個AOF檔案的替換。於是在 Redis 重啟的時候,可以先載入 RDB 的內容,然後再重放增量 AOF 紀錄檔就可以完全替代之前的 AOF 全量檔案重放,因此重啟效率大幅得到提升。

RDB與AOF區別

Redis資料備份策略

  • (1)寫crontab定時排程指令碼,每小時都copy一份rdb或aof的備份到一個目錄中去,僅僅保留最近48小時的備份。
  • (2)每天都保留一份當日的資料備份到一個目錄中去,可以保留最近1個月的備份。
  • (3)每次copy備份的時候,都把太舊的備份給刪了。
  • (4)每天晚上將當前機器上的備份複製一份到其他機器上,以防機器損壞。

5、Redis管道(Pipeline)

使用者端可以一次性傳送多個請求而不用等待伺服器的響應,待所有命令都傳送完後再一次性讀取服務的響應,這樣可以極大的降低多條命令執行的網路傳輸開銷,管道執行多條命令的網路開銷實際上只相當於一次命令執行的網路開銷。需要注意到是用pipeline方式打包命令傳送,redis必須在處理完所有命令前先快取起所有命令的處理結果。打包的命令越多,快取消耗記憶體也越多。所以並不是打包的命令越多越好。

pipeline中傳送的每個command都會被server立即執行,如果執行失敗,將會在此後的響應中得到資訊;也就是pipeline並不是表達“所有command都一起成功”的語意,管道中前面命令失敗,後面命令不會有影響,繼續執行。

6、Redis使用lua指令碼

  • 1、減少網路開銷:本來5次網路請求的操作,可以用一個請求完成,原先5次請求的邏輯放在redis伺服器上完成。使用指令碼,減少了網路往返時延。這點跟管道類似。
  • 2、原子操作:Redis會將整個指令碼作為一個整體執行,中間不會被其他命令插入。管道不是原子的,不過redis的批次操作命令(類似mset)是原子的。
  • 3、替代redis的事務功能:redis自帶的事務功能很雞肋,而redis的lua指令碼幾乎實現了常規的事務功能,官方推薦如果要使用redis的事務功能可以用redis lua替代。

7、Redis分散式鎖

nx通過共用記憶體實現

8、Redis主從架構

9、Redis哨兵架構

sentinel哨兵是特殊的redis服務,不提供讀寫服務,主要用來監控redis範例節點。

10、Redis叢集

11、Redis優化

  • 1、redis設定

合理的設定最大連線數;最大,最小空閒數。

  • 2、規約
  • 3、慢紀錄檔

slowlog

Redis慢紀錄檔命令說明:
config get slow* #查詢有關慢紀錄檔的設定資訊
config set slowlog-log-slower-than 20000 #設定慢紀錄檔使時間閾值,單位微秒,此處為20毫秒,即超過20毫秒的操作都會記錄下來,生產環境建議設定1000,也就是1ms,這樣理論上redis並行至少達到1000,如果要求單機並行達到1萬以上,這個值可以設定為100
config set slowlog-max-len 1024 #設定慢紀錄檔記錄儲存數量,如果儲存數量已滿,會刪除最早的記錄,最新的記錄追加進來。記錄慢查詢紀錄檔時Redis會對長命令做截斷操作,並不會佔用大量記憶體,建議設定稍大些,防止丟失紀錄檔
config rewrite #將伺服器當前所使用的設定儲存到redis.conf
slowlog len #獲取慢查詢紀錄檔列表的當前長度
slowlog get 5 #獲取最新的5條慢查詢紀錄檔。慢查詢紀錄檔由四個屬性組成:標識ID,發生時間戳,命令耗時,執行命令和引數
slowlog reset #重置慢查詢紀錄檔
  • 4、作業系統設定

(1)vm.swapiness

如果linux核心版本<3.5,那麼swapiness設定為0,這樣系統寧願swap也不會oom killer(殺掉程序)

如果linux核心版本>=3.5,那麼swapiness設定為1,這樣系統寧願swap也不會oom killer

cat /proc/version #檢視linux核心版本
echo 1 > /proc/sys/vm/swappiness
echo vm.swapiness=1 >> /etc/sysctl.conf
cat /proc/sys/vm/overcommitmemory echo "vm.overcommitmemory=1" >> /etc/sysctl.conf
sysctl vm.overcommit_memory=1

(2)合理設定檔案控制程式碼數

ulimit -a #檢視系統檔案控制程式碼數,看open files那項
ulimit -n 65535 #設定系統檔案控制程式碼數

12、Redis問題

快取穿透

快取穿透是指查詢一個根本不存在的資料,快取層和儲存層都不會命中,通常出於容錯的考慮,如果從儲存層查不到資料則不寫入快取層。快取穿透將導致不存在的資料每次請求都要到儲存層去查詢,失去了快取保護後端儲存的意義。

  • 第一,自身業務程式碼或者資料出現問題。
  • 第二,一些惡意攻擊、爬蟲等造成大量空命中。

(1)快取空物件

(2)布隆過濾器

快取失效(擊穿)

由於大批次快取在同一時間失效可能導致大量請求同時穿透快取直達資料庫,可能會造成資料庫瞬間壓力過大甚至掛掉,對於這種情況我們在批次增加快取時最好將這一批資料的快取過期時間設定為一個時間段內的不同時間。

快取雪崩

  • (1)保證快取層服務高可用性,比如使用Redis Sentinel或Redis Cluster。
  • (2)依賴隔離元件為後端限流熔斷並降級。比如使用Sentinel或Hystrix限流降級元件。比如服務降級,我們可以針對不同的資料採取不同的處理方式。當業務應用存取的是非核心資料(例如電商商品屬性,使用者資訊等)時,暫時停止從快取中查詢這些資料,而是直接返回預定義的預設降級資訊、空值或是錯誤提示資訊;當業務應用存取的是核心資料(例如電商商品庫存)時,仍然允許查詢快取,如果快取缺失,也可以繼續通過資料庫讀取。
  • (3)提前演練。在專案上線前,演練快取層宕掉後,應用以及後端的負載情況以及可能出現的問題,在此基礎上做一些預案設定。

到此這篇關於Redis核心原理詳細解說的文章就介紹到這了,更多相關Redis原理內容請搜尋it145.com以前的文章或繼續瀏覽下面的相關文章希望大家以後多多支援it145.com!


IT145.com E-mail:sddin#qq.com