vb6 由于超出容量限制 不能创建新事务_分布式限流?你也能轻松玩转(没啥新技术)...
點擊藍色「日拱一兵」關(guān)注,持續(xù)偵破 Java 技術(shù)案件
一、什么是限流?為什么要限流?
不知道大家有沒有做過帝都的地鐵,就是進地鐵站都要排隊的那種,為什么要這樣擺長龍轉(zhuǎn)圈圈?答案就是為了限流!因為一趟地鐵的運力是有限的,一下擠進去太多人會造成站臺的擁擠、列車的超載,存在一定的安全隱患。同理,我們的程序也是一樣,它處理請求的能力也是有限的,一旦請求多到超出它的處理極限就會崩潰。為了不出現(xiàn)最壞的崩潰情況,只能耽誤一下大家進站的時間。
限流是保證系統(tǒng)高可用的重要手段!!!
由于互聯(lián)網(wǎng)公司的流量巨大,系統(tǒng)上線會做一個流量峰值的評估,尤其是像各種秒殺促銷活動,為了保證系統(tǒng)不被巨大的流量壓垮,會在系統(tǒng)流量到達一定閾值時,拒絕掉一部分流量。
限流會導致用戶在短時間內(nèi)(這個時間段是毫秒級的)系統(tǒng)不可用,一般我們衡量系統(tǒng)處理能力的指標是每秒的QPS或者TPS,假設(shè)系統(tǒng)每秒的流量閾值是1000,理論上一秒內(nèi)有第1001個請求進來時,那么這個請求就會被限流。
二、限流方案
1、計數(shù)器
Java內(nèi)部也可以通過原子類計數(shù)器AtomicInteger、Semaphore信號量來做簡單的限流。
1//?限流的個數(shù)2????private?int?maxCount?=?10;
3????//?指定的時間內(nèi)
4????private?long?interval?=?60;
5????//?原子類計數(shù)器
6????private?AtomicInteger?atomicInteger?=?new?AtomicInteger(0);
7????//?起始時間
8????private?long?startTime?=?System.currentTimeMillis();
9
10????public?boolean?limit(int?maxCount,?int?interval)?{
11????????atomicInteger.addAndGet(1);
12????????if?(atomicInteger.get()?==?1)?{
13????????????startTime?=?System.currentTimeMillis();
14????????????atomicInteger.addAndGet(1);
15????????????return?true;
16????????}
17????????//?超過了間隔時間,直接重新開始計數(shù)
18????????if?(System.currentTimeMillis()?-?startTime?>?interval?*?1000)?{
19????????????startTime?=?System.currentTimeMillis();
20????????????atomicInteger.set(1);
21????????????return?true;
22????????}
23????????//?還在間隔時間內(nèi),check有沒有超過限流的個數(shù)
24????????if?(atomicInteger.get()?>?maxCount)?{
25????????????return?false;
26????????}
27????????return?true;
28????}
2、漏桶算法
漏桶算法思路很簡單,我們把水比作是請求,漏桶比作是系統(tǒng)處理能力極限,水先進入到漏桶里,漏桶里的水按一定速率流出,當流出的速率小于流入的速率時,由于漏桶容量有限,后續(xù)進入的水直接溢出(拒絕請求),以此實現(xiàn)限流。
3、令牌桶算法
令牌桶算法的原理也比較簡單,我們可以理解成醫(yī)院的掛號看病,只有拿到號以后才可以進行診病。
系統(tǒng)會維護一個令牌(token)桶,以一個恒定的速度往桶里放入令牌(token),這時如果有請求進來想要被處理,則需要先從桶里獲取一個令牌(token),當桶里沒有令牌(token)可取時,則該請求將被拒絕服務。令牌桶算法通過控制桶的容量、發(fā)放令牌的速率,來達到對請求的限制。
4、Redis + Lua
很多同學不知道Lua是啥?個人理解,Lua腳本和?MySQL數(shù)據(jù)庫的存儲過程比較相似,他們執(zhí)行一組命令,所有命令的執(zhí)行要么全部成功或者失敗,以此達到原子性。也可以把Lua腳本理解為,一段具有業(yè)務邏輯的代碼塊。
而Lua本身就是一種編程語言,雖然redis?官方?jīng)]有直接提供限流相應的API,但卻支持了?Lua?腳本的功能,可以使用它實現(xiàn)復雜的令牌桶或漏桶算法,也是分布式系統(tǒng)中實現(xiàn)限流的主要方式之一。
相比Redis事務,Lua腳本的優(yōu)點:
減少網(wǎng)絡(luò)開銷:使用Lua腳本,無需向Redis?發(fā)送多次請求,執(zhí)行一次即可,減少網(wǎng)絡(luò)傳輸
原子操作:Redis?將整個Lua腳本作為一個命令執(zhí)行,原子,無需擔心并發(fā)
復用:Lua腳本一旦執(zhí)行,會永久保存?Redis?中,,其他客戶端可復用
Lua腳本大致邏輯如下:
1--?獲取調(diào)用腳本時傳入的第一個key值(用作限流的?key)2local?key?=?KEYS[1]
3--?獲取調(diào)用腳本時傳入的第一個參數(shù)值(限流大小)
4local?limit?=?tonumber(ARGV[1])
5
6--?獲取當前流量大小
7local?curentLimit?=?tonumber(redis.call('get',?key)?or?"0")
8
9--?是否超出限流
10if?curentLimit?+?1?>?limit?then
11????--?返回(拒絕)
12????return?0
13else
14????--?沒有超出?value?+?1
15????redis.call("INCRBY",?key,?1)
16????--?設(shè)置過期時間
17????redis.call("EXPIRE",?key,?2)
18????--?返回(放行)
19????return?1
20end
通過KEYS[1]?獲取傳入的key參數(shù)
通過ARGV[1]獲取傳入的limit參數(shù)
redis.call方法,從緩存中g(shù)et和key相關(guān)的值,如果為null那么就返回0
接著判斷緩存中記錄的數(shù)值是否會大于限制大小,如果超出表示該被限流,返回0
如果未超過,那么該key的緩存值+1,并設(shè)置過期時間為1秒鐘以后,并返回緩存值+1
這種方式是本文推薦的方案,具體實現(xiàn)會在后邊做細說。
5、網(wǎng)關(guān)層限流
限流常在網(wǎng)關(guān)這一層做,比如Nginx、Openresty、kong、zuul、Spring Cloud Gateway等,而像spring cloud - gateway網(wǎng)關(guān)限流底層實現(xiàn)原理,就是基于Redis + Lua,通過內(nèi)置Lua限流腳本的方式。
三、Redis + Lua 限流實現(xiàn)
下面我們通過自定義注解、aop、Redis + Lua?實現(xiàn)限流,步驟會比較詳細,為了小白能讓快速上手這里啰嗦一點,有經(jīng)驗的老鳥們多擔待一下。
1、環(huán)境準備
springboot?項目創(chuàng)建地址:https://start.spring.io,很方便實用的一個工具。
2、引入依賴包
pom文件中添加如下依賴包,比較關(guān)鍵的就是?spring-boot-starter-data-redis?和?spring-boot-starter-aop。
1???? 2????????<dependency> 3????????????<groupId>org.springframework.bootgroupId> 4????????????<artifactId>spring-boot-starter-webartifactId> 5????????dependency> 6???????? 7????????????<groupId>org.springframework.bootgroupId> 8????????????spring-boot-starter-data-redis</artifactId> 9????????dependency>10????????<dependency>11????????????<groupId>org.springframework.bootgroupId>12????????????<artifactId>spring-boot-starter-aopartifactId>13????????dependency>14????????15????????????<groupId>com.google.guavagroupId>16????????????guava</artifactId>17????????????21.0version>18????????dependency>19????????20????????????<groupId>org.springframework.bootgroupId>21????????????spring-boot-starter-test</artifactId>22????????dependency>23????????<dependency>24????????????<groupId>org.apache.commonsgroupId>25????????????<artifactId>commons-lang3artifactId>26????????dependency>2728????????29????????????<groupId>org.springframework.bootgroupId>30????????????spring-boot-starter-test</artifactId>31????????????testscope>32????????????<exclusions>33????????????????<exclusion>34????????????????????<groupId>org.junit.vintagegroupId>35????????????????????<artifactId>junit-vintage-engineartifactId>36????????????????exclusion>37????????????exclusions>38????????</dependency>39????dependencies>3、配置application.properties
在?application.properties?文件中配置提前搭建好的?redis?服務地址和端口。
1spring.redis.host=127.0.0.12
3spring.redis.port=6379
4、配置RedisTemplate實例
1@Configuration2public?class?RedisLimiterHelper?{
3
4????@Bean
5????public?RedisTemplate<String,?Serializable>?limitRedisTemplate(LettuceConnectionFactory?redisConnectionFactory)?{
6????????RedisTemplate<String,?Serializable>?template?=?new?RedisTemplate<>();
7????????template.setKeySerializer(new?StringRedisSerializer());
8????????template.setValueSerializer(new?GenericJackson2JsonRedisSerializer());
9????????template.setConnectionFactory(redisConnectionFactory);
10????????return?template;
11????}
12}
限流類型枚舉類
1/** 2?*?@author?fu 3?*?@description?限流類型 4?*?@date?2020/4/8?13:47 5?*/6public?enum?LimitType?{
7
8????/** 9?????*?自定義key10?????*/
11????CUSTOMER,
12
13????/**14?????*?請求者IP15?????*/
16????IP;
17}
5、自定義注解
我們自定義個@Limit注解,注解類型為ElementType.METHOD即作用于方法上。
period表示請求限制時間段,count表示在period這個時間段內(nèi)允許放行請求的次數(shù)。limitType代表限流的類型,可以根據(jù)請求的IP、自定義key,如果不傳limitType屬性則默認用方法名作為默認key。
1/** 2?*?@author?fu 3?*?@description?自定義限流注解 4?*?@date?2020/4/8?13:15 5?*/6@Target({ElementType.METHOD,?ElementType.TYPE})
7@Retention(RetentionPolicy.RUNTIME)
8@Inherited
9@Documented
10public?@interface?Limit?{
11
12????/**13?????*?名字14?????*/
15????String?name()?default?"";
16
17????/**18?????*?key19?????*/
20????String?key()?default?"";
21
22????/**23?????*?Key的前綴24?????*/
25????String?prefix()?default?"";
26
27????/**28?????*?給定的時間范圍?單位(秒)29?????*/
30????int?period();
31
32????/**33?????*?一定時間內(nèi)最多訪問次數(shù)34?????*/
35????int?count();
36
37????/**38?????*?限流的類型(用戶自定義key?或者?請求ip)39?????*/
40????LimitType?limitType()?default?LimitType.CUSTOMER;
41}
6、切面代碼實現(xiàn)
1/** 2?*?@author?fu 3?*?@description?限流切面實現(xiàn) 4?*?@date?2020/4/8?13:04 5?*/6@Aspect
7@Configuration
8public?class?LimitInterceptor?{
9
10????private?static?final?Logger?logger?=?LoggerFactory.getLogger(LimitInterceptor.class);
11
12????private?static?final?String?UNKNOWN?=?"unknown";
13
14????private?final?RedisTemplate<String,?Serializable>?limitRedisTemplate;
15
16????@Autowired
17????public?LimitInterceptor(RedisTemplate<String,?Serializable>?limitRedisTemplate)?{
18????????this.limitRedisTemplate?=?limitRedisTemplate;
19????}
20
21????/** 22?????*?@param?pjp 23?????*?@author?fu 24?????*?@description?切面 25?????*?@date?2020/4/8?13:04 26?????*/
27????@Around("execution(public?*?*(..))?&&?@annotation(com.xiaofu.limit.api.Limit)")
28????public?Object?interceptor(ProceedingJoinPoint?pjp)?{
29????????MethodSignature?signature?=?(MethodSignature)?pjp.getSignature();
30????????Method?method?=?signature.getMethod();
31????????Limit?limitAnnotation?=?method.getAnnotation(Limit.class);
32????????LimitType?limitType?=?limitAnnotation.limitType();
33????????String?name?=?limitAnnotation.name();
34????????String?key;
35????????int?limitPeriod?=?limitAnnotation.period();
36????????int?limitCount?=?limitAnnotation.count();
37
38????????/** 39?????????*?根據(jù)限流類型獲取不同的key?,如果不傳我們會以方法名作為key 40?????????*/
41????????switch?(limitType)?{
42????????????case?IP:
43????????????????key?=?getIpAddress();
44????????????????break;
45????????????case?CUSTOMER:
46????????????????key?=?limitAnnotation.key();
47????????????????break;
48????????????default:
49????????????????key?=?StringUtils.upperCase(method.getName());
50????????}
51
52????????ImmutableList<String>?keys?=?ImmutableList.of(StringUtils.join(limitAnnotation.prefix(),?key));
53????????try?{
54????????????String?luaScript?=?buildLuaScript();
55????????????RedisScript<Number>?redisScript?=?new?DefaultRedisScript<>(luaScript,?Number.class);
56????????????Number?count?=?limitRedisTemplate.execute(redisScript,?keys,?limitCount,?limitPeriod);
57????????????logger.info("Access?try?count?is?{}?for?name={}?and?key?=?{}",?count,?name,?key);
58????????????if?(count?!=?null?&&?count.intValue()?<=?limitCount)?{
59????????????????return?pjp.proceed();
60????????????}?else?{
61????????????????throw?new?RuntimeException("You?have?been?dragged?into?the?blacklist");
62????????????}
63????????}?catch?(Throwable?e)?{
64????????????if?(e?instanceof?RuntimeException)?{
65????????????????throw?new?RuntimeException(e.getLocalizedMessage());
66????????????}
67????????????throw?new?RuntimeException("server?exception");
68????????}
69????}
70
71????/** 72?????*?@author?fu 73?????*?@description?編寫?redis?Lua?限流腳本 74?????*?@date?2020/4/8?13:24 75?????*/
76????public?String?buildLuaScript()?{
77????????StringBuilder?lua?=?new?StringBuilder();
78????????lua.append("local?c");
79????????lua.append("\nc?=?redis.call('get',KEYS[1])");
80????????//?調(diào)用不超過最大值,則直接返回
81????????lua.append("\nif?c?and?tonumber(c)?>?tonumber(ARGV[1])?then");
82????????lua.append("\nreturn?c;");
83????????lua.append("\nend");
84????????//?執(zhí)行計算器自加
85????????lua.append("\nc?=?redis.call('incr',KEYS[1])");
86????????lua.append("\nif?tonumber(c)?==?1?then");
87????????//?從第一次調(diào)用開始限流,設(shè)置對應鍵值的過期
88????????lua.append("\nredis.call('expire',KEYS[1],ARGV[2])");
89????????lua.append("\nend");
90????????lua.append("\nreturn?c;");
91????????return?lua.toString();
92????}
93
94
95????/** 96?????*?@author?fu 97?????*?@description?獲取id地址 98?????*?@date?2020/4/8?13:24 99?????*/
100????public?String?getIpAddress()?{
101????????HttpServletRequest?request?=?((ServletRequestAttributes)?RequestContextHolder.getRequestAttributes()).getRequest();
102????????String?ip?=?request.getHeader("x-forwarded-for");
103????????if?(ip?==?null?||?ip.length()?==?0?||?UNKNOWN.equalsIgnoreCase(ip))?{
104????????????ip?=?request.getHeader("Proxy-Client-IP");
105????????}
106????????if?(ip?==?null?||?ip.length()?==?0?||?UNKNOWN.equalsIgnoreCase(ip))?{
107????????????ip?=?request.getHeader("WL-Proxy-Client-IP");
108????????}
109????????if?(ip?==?null?||?ip.length()?==?0?||?UNKNOWN.equalsIgnoreCase(ip))?{
110????????????ip?=?request.getRemoteAddr();
111????????}
112????????return?ip;
113????}
114}
7、控制層實現(xiàn)
我們將@Limit注解作用在需要進行限流的接口方法上,下邊我們給方法設(shè)置@Limit注解,在10秒內(nèi)只允許放行3個請求,這里為直觀一點用AtomicInteger計數(shù)。
1/** 2?*?@Author:?fu 3?*?@Description: 4?*/5@RestController
6public?class?LimiterController?{
7
8????private?static?final?AtomicInteger?ATOMIC_INTEGER_1?=?new?AtomicInteger();
9????private?static?final?AtomicInteger?ATOMIC_INTEGER_2?=?new?AtomicInteger();
10????private?static?final?AtomicInteger?ATOMIC_INTEGER_3?=?new?AtomicInteger();
11
12????/**13?????*?@author?fu14?????*?@description15?????*?@date?2020/4/8?13:4216?????*/
17????@Limit(key?=?"limitTest",?period?=?10,?count?=?3)
18????@GetMapping("/limitTest1")
19????public?int?testLimiter1()?{
20
21????????return?ATOMIC_INTEGER_1.incrementAndGet();
22????}
23
24????/**25?????*?@author?fu26?????*?@description27?????*?@date?2020/4/8?13:4228?????*/
29????@Limit(key?=?"customer_limit_test",?period?=?10,?count?=?3,?limitType?=?LimitType.CUSTOMER)
30????@GetMapping("/limitTest2")
31????public?int?testLimiter2()?{
32
33????????return?ATOMIC_INTEGER_2.incrementAndGet();
34????}
35
36????/**37?????*?@author?fu38?????*?@description?39?????*?@date?2020/4/8?13:4240?????*/
41????@Limit(key?=?"ip_limit_test",?period?=?10,?count?=?3,?limitType?=?LimitType.IP)
42????@GetMapping("/limitTest3")
43????public?int?testLimiter3()?{
44
45????????return?ATOMIC_INTEGER_3.incrementAndGet();
46????}
47
48}
8、測試
測試預期:連續(xù)請求3次均可以成功,第4次請求被拒絕。接下來看一下是不是我們預期的效果,請求地址:http://127.0.0.1:8080/limitTest1,用postman進行測試,有沒有postman?url直接貼瀏覽器也是一樣。
可以看到第四次請求時,應用直接拒絕了請求,說明我們的 Springboot + aop + lua 限流方案搭建成功。
總結(jié)
以上?springboot + aop + Lua?限流實現(xiàn)是比較簡單的,旨在讓大家認識下什么是限流?如何做一個簡單的限流功能,面試要知道這是個什么東西。上面雖然說了幾種實現(xiàn)限流的方案,但選哪種還要結(jié)合具體的業(yè)務場景,不能為了用而用
面試問我,創(chuàng)建多少個線程合適?我該怎么說
讀JDK源碼,可以邊讀邊加注釋的姿勢怎么樣?
Java SPI 機制,你的數(shù)據(jù)庫驅(qū)動就是靠它加載的
總結(jié)
以上是生活随笔為你收集整理的vb6 由于超出容量限制 不能创建新事务_分布式限流?你也能轻松玩转(没啥新技术)...的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 2021最后一匹国漫黑马杀了出来
- 下一篇: python3 csv读写_在pytho