1. 程式人生 > 實用技巧 >基於Springboot + aop + Lua 的Redis 分散式限流器

基於Springboot + aop + Lua 的Redis 分散式限流器

基於Springboot + aop + Lua 的Redis 分散式限流器

一、什麼是限流?為什麼要限流?

限流是保證系統高可用的重要手段!!!

由於網際網路公司的流量巨大,系統上線會做一個流量峰值的評估,尤其是像各種秒殺促銷活動,為了保證系統不被巨大的流量壓垮,會在系統流量達到一定閾(yu)值時,拒絕掉一部分流量。

限流會導致使用者在短時間內(這個時間段是毫秒級別的)系統不可用,一般我們衡量系統處理能力的指標是每秒的QPS或者TPS,假設系統每秒的流量閾值是1000,理論上一秒內有第1001個請求進來時,那麼這個請求就會被限流。

二、限流方案

1、計數器

Java內部也可以通過原子類計數器AtomicInteger、Semaphore訊號量來做簡單的限流。

在這裡插入圖片描述

2、漏桶演算法

漏桶演算法思路很簡單,我們把水比作請求,漏桶比作是系統處理能力極限,水先進入到漏桶裡,漏桶裡的水按一定速率流出,當流出的速率小於流入的速率時,由於漏桶容量有限,後續進入的水直接溢位(拒絕請求),以實現限流。

在這裡插入圖片描述

3、令牌桶演算法

令牌桶演算法的原理也比較簡單,我們可以理解成醫院的掛號看病,只有拿到號以後才可以進行診病。

系統會維護一個令牌(token)桶,以一個恆定的速度往桶裡放入令牌(token),這時如果有請求進來想要被處理,則需要先從桶裡獲取一個令牌(token),當桶裡沒有令牌(token)可取時,則該請求將被拒絕服務。令牌桶演算法通過控制桶的容量、發放令牌的速率,來達到對請求的限制。

在這裡插入圖片描述

4、Redis + Lua

個人理解,Lua指令碼和MySQL資料庫的儲存過程比較相似,他們執行一組命令,所有命令的執行要麼全部成功或者失敗,以此達到原子性。也可以把Lua指令碼理解為,一段具有業務邏輯的程式碼塊。

而Lua本身就是一種程式語言,雖然redis官方沒有直接提供限流相應的API,但卻支援了Lua指令碼的功能,可以使用它實現複雜的令牌桶或漏桶演算法,也是分散式系統中實現限流的主要方法之一。

相比Redis事務,Lua指令碼的優點:

  • 減少網路開銷:使用Lua指令碼,無需向Redis傳送多次請求,執行一次即可,減少網路傳輸。
  • 原子操作:Redis將整個Lua指令碼作為一個命令執行,原子,無需擔心併發。
  • 複用:Lua指令碼一旦執行,會永久儲存Redis中,其他客戶端可複用。

Lua指令碼大致邏輯如下:

在這裡插入圖片描述

  • 通過KEYS[1]獲取傳入的key引數。
  • 通過ARGV[1]獲取傳入的limit引數。
  • redis.call方法,從快取中get和key相關的值,如果為null那麼就返回0。
  • 接著判斷快取中記錄的數值是否會大於限制大小,如果超出則表示該被限流,返回0。
  • 如果未超過,那麼key的快取值+1,並設定過期時間為1秒鐘以後,並返回快取值+1。

5、閘道器限流

限流常在閘道器這一層做,比如Nginx、Openresty、kong、zuul、Spring Cloud Geteway等,而像Spring Cloud Gateway閘道器限流底層的實現原理,就是基於Redis + Lua,通過內建Lua限流指令碼的方式。

在這裡插入圖片描述

三、Redis + Lua 限流實現

下面通過 自定義註解aopRedis + Lua 實現限流。

1、環境準備

SpringBoot專案建立:https://start.spring.io,很方便實用的一個工具。

在這裡插入圖片描述

2、引入依賴包

pom檔案中新增如下依賴包,比較關鍵的是spring-boot-starter-data-redis和spring-boot-starter-aop。

在這裡插入圖片描述

3、配置application.yml

在application.yml檔案中配置提前搭建好的redis服務地址和埠。

在這裡插入圖片描述

4、配置RedisTemplate例項

在這裡插入圖片描述

限流型別列舉類

在這裡插入圖片描述

5、自定義註解

我們自定義一個@Limit註解,註解型別為ElementType.MEHTOD即作用於方法上。

period表示請求限制時間段,count表示在period這個時間段內允許放行請求的次數。limitType代表限流型別,可以根據IP、自定義key,如果不傳limitType屬性則預設用方法名作為預設key。

在這裡插入圖片描述

6、切面程式碼實現

在這裡插入圖片描述

7、控制層實現

將@Limit註解作用在需要進行限流的介面方法上,下邊我們給方法設定@Limit註解,在10秒內允許放行三個請求,為了直觀一點用AtomicInteger計數。

在這裡插入圖片描述

8、測試

注:因為適用了Lua程式語言,需要安裝EmmyLua外掛,大家自行百度,這裡不做詳細介紹了。

測試[預期]:10秒之內連續請求3次均可成功,第四次請求被拒絕。直接適用postman進行測試。

在這裡插入圖片描述
十秒之內,第4次請求時,應用直接決絕了請求,說明 SpringBoot + aop + Lua 限流方案搭建成功。

在這裡插入圖片描述

四、原始碼

git原始碼地址