基於Springboot + aop + Lua 的Redis 分散式限流器
基於Springboot + aop + Lua 的Redis 分散式限流器
一、什麼是限流?為什麼要限流?
限流是保證系統高可用的重要手段!!!
由於網際網路公司的流量巨大,系統上線會做一個流量峰值的評估,尤其是像各種秒殺促銷活動,為了保證系統不被巨大的流量壓垮,會在系統流量達到一定閾(yu)值時,拒絕掉一部分流量。
限流會導致使用者在短時間內(這個時間段是毫秒級別的)系統不可用,一般我們衡量系統處理能力的指標是每秒的QPS或者TPS,假設系統每秒的流量閾值是1000,理論上一秒內有第1001個請求進來時,那麼這個請求就會被限流。
二、限流方案
1、計數器
Java內部也可以通過原子類計數器AtomicInteger、Semaphore訊號量來做簡單的限流。
2、漏桶演算法
漏桶演算法思路很簡單,我們把水比作請求,漏桶比作是系統處理能力極限,水先進入到漏桶裡,漏桶裡的水按一定速率流出,當流出的速率小於流入的速率時,由於漏桶容量有限,後續進入的水直接溢位(拒絕請求),以實現限流。
3、令牌桶演算法
令牌桶演算法的原理也比較簡單,我們可以理解成醫院的掛號看病,只有拿到號以後才可以進行診病。
系統會維護一個令牌(token)桶,以一個恆定的速度往桶裡放入令牌(token),這時如果有請求進來想要被處理,則需要先從桶裡獲取一個令牌(token),當桶裡沒有令牌(token)可取時,則該請求將被拒絕服務。令牌桶演算法通過控制桶的容量、發放令牌的速率,來達到對請求的限制。
4、Redis + Lua
個人理解,Lua指令碼和MySQL資料庫的儲存過程比較相似,他們執行一組命令,所有命令的執行要麼全部成功或者失敗,以此達到原子性。也可以把Lua指令碼理解為,一段具有業務邏輯的程式碼塊。
而Lua本身就是一種程式語言,雖然redis官方沒有直接提供限流相應的API,但卻支援了Lua指令碼的功能,可以使用它實現複雜的令牌桶或漏桶演算法,也是分散式系統中實現限流的主要方法之一。
相比Redis事務,Lua指令碼的優點:
- 減少網路開銷:使用Lua指令碼,無需向Redis傳送多次請求,執行一次即可,減少網路傳輸。
- 原子操作:Redis將整個Lua指令碼作為一個命令執行,原子,無需擔心併發。
- 複用:Lua指令碼一旦執行,會永久儲存Redis中,其他客戶端可複用。
Lua指令碼大致邏輯如下:
- 通過KEYS[1]獲取傳入的key引數。
- 通過ARGV[1]獲取傳入的limit引數。
- redis.call方法,從快取中get和key相關的值,如果為null那麼就返回0。
- 接著判斷快取中記錄的數值是否會大於限制大小,如果超出則表示該被限流,返回0。
- 如果未超過,那麼key的快取值+1,並設定過期時間為1秒鐘以後,並返回快取值+1。
5、閘道器限流
限流常在閘道器這一層做,比如Nginx、Openresty、kong、zuul、Spring Cloud Geteway等,而像Spring Cloud Gateway閘道器限流底層的實現原理,就是基於Redis + Lua,通過內建Lua限流指令碼的方式。
三、Redis + Lua 限流實現
下面通過 自定義註解、aop、Redis + Lua 實現限流。
1、環境準備
SpringBoot專案建立:https://start.spring.io,很方便實用的一個工具。
2、引入依賴包
pom檔案中新增如下依賴包,比較關鍵的是spring-boot-starter-data-redis和spring-boot-starter-aop。
3、配置application.yml
在application.yml檔案中配置提前搭建好的redis服務地址和埠。
4、配置RedisTemplate例項
限流型別列舉類
5、自定義註解
我們自定義一個@Limit註解,註解型別為ElementType.MEHTOD即作用於方法上。
period表示請求限制時間段,count表示在period這個時間段內允許放行請求的次數。limitType代表限流型別,可以根據IP、自定義key,如果不傳limitType屬性則預設用方法名作為預設key。
6、切面程式碼實現
7、控制層實現
將@Limit註解作用在需要進行限流的介面方法上,下邊我們給方法設定@Limit註解,在10秒內允許放行三個請求,為了直觀一點用AtomicInteger計數。
8、測試
注:因為適用了Lua程式語言,需要安裝EmmyLua外掛,大家自行百度,這裡不做詳細介紹了。
測試[預期]:10秒之內連續請求3次均可成功,第四次請求被拒絕。直接適用postman進行測試。
十秒之內,第4次請求時,應用直接決絕了請求,說明 SpringBoot + aop + Lua 限流方案搭建成功。