前言 在實際項目中，曾經遭遇過線上5W+QPS的峰值，也在壓測狀態下經歷過10W+QPS的大流量請求，本篇博客的話題主要就是自己對高并發流量控制的一點思考。 應對大流量的一些思路 首先，我們來說一下什么是大流量？ 大流量，我們很可能會冒出：TPS（每秒事務量），QPS（每秒請求量），1W+，5W+，10W+，100W+...。其實并沒有一個絕對的數字，如果這個量造成了系統的壓力，影響了系統的性能，那么這個量就可以稱之為大流量了。 其次，應對大流量的一些常見手段是什么？ 緩存：說白了，就是讓數據盡早進入緩存，離程序近一點，不要大量頻繁的訪問DB。 降級：如果不是核心鏈路，那么就把這個服務降級掉。打個比喻，現在的APP都講究千人千面，拿到數據后，做個性化排序展示，如果在大流量下，這個排序就可以降級掉！ 限流：大家都知道，北京地鐵早高峰，地鐵站都會做一件事情，就是限流了！想法很直接，就是想在一定時間內把請求限制在一定范圍內，保證系統不被沖垮，同時盡可能提升系統的吞吐量。 注意到，有些時候，緩存和降級是解決不了問題的，比如，電商的雙十一，用戶的購買，下單等行為，是涉及到大量寫操作，而且是核心鏈路，無法降級的，這個時候，限流就比較重要了。 那么接下來，我們重點說一下，限流。 限流的常用方式 限流的常用處理手段有：計數器、滑動窗口、漏桶、令牌。 計數器 計數器是一種比較簡單的限流算法，用途比較廣泛，在接口層面，很多地方使用這種方式限流。在一段時間內，進行計數，與閥值進行比較，到了時間臨界點，將計數器清0。

這里需要注意的是，存在一個時間臨界點的問題。舉個栗子，在12:01:00到12:01:58這段時間內沒有用戶請求，然后在12:01:59這一瞬時發出100個請求，OK，然后在12:02:00這一瞬時又發出了100個請求。這里你應該能感受到，在這個臨界點可能會承受惡意用戶的大量請求，甚至超出系統預期的承受。 滑動窗口 由于計數器存在臨界點缺陷，后來出現了滑動窗口算法來解決。

滑動窗口的意思是說把固定時間片，進行劃分，并且隨著時間的流逝，進行移動，這樣就巧妙的避開了計數器的臨界點問題。也就是說這些固定數量的可以移動的格子，將會進行計數判斷閥值，因此格子的數量影響著滑動窗口算法的精度。 漏桶 雖然滑動窗口有效避免了時間臨界點的問題，但是依然有時間片的概念，而漏桶算法在這方面比滑動窗口而言，更加先進。 有一個固定的桶，進水的速率是不確定的，但是出水的速率是恒定的，當水滿的時候是會溢出的。

令牌桶 注意到，漏桶的出水速度是恒定的，那么意味著如果瞬時大流量的話，將有大部分請求被丟棄掉（也就是所謂的溢出）。為了解決這個問題，令牌桶進行了算法改進。

生成令牌的速度是恒定的，而請求去拿令牌是沒有速度限制的。這意味，面對瞬時大流量，該算法可以在短時間內請求拿到大量令牌，而且拿令牌的過程并不是消耗很大的事情。（有一點生產令牌，消費令牌的意味） 不論是對于令牌桶拿不到令牌被拒絕，還是漏桶的水滿了溢出，都是為了保證大部分流量的正常使用，而犧牲掉了少部分流量，這是合理的，如果因為極少部分流量需要保證的話，那么就可能導致系統達到極限而掛掉，得不償失。

限流神器：Guava RateLimiter Guava不僅僅在集合、緩存、異步回調等方面功能強大，而且還給我們封裝好了限流的API！ Guava RateLimiter基于令牌桶算法，我們只需要告訴RateLimiter系統限制的QPS是多少，那么RateLimiter將以這個速度往桶里面放入令牌，然后請求的時候，通過tryAcquire()方法向RateLimiter獲取許可（令牌）。

分布式場景下的限流 上面所說的限流的一些方式，都是針對單機而言的，其實大部分的場景，單機的限流已經足夠了。分布式下限流的手段常常需要多種技術相結合，比如Nginx+Lua，Redis+Lua等去做。本文主要討論的是單機的限流，這里就不在詳細介紹分布式場景下的限流了。 一句話，讓系統的流量，先到隊列中排隊、限流，不要讓流量直接打到系統上。 如果你也想在IT行業拿高薪，可以參加我們的訓練營課程，選擇最適合自己的課程學習，技術大牛親授，7個月后，進入名企拿高薪。我們的課程內容有：Java工程化、高性能及分布式、高性能、深入淺出。高架構。性能調優、Spring，MyBatis，Netty源碼分析和大數據等多個知識點。如果你想拿高薪的，想學習的，想就業前景好的，想跟別人競爭能取得優勢的，想進阿里面試但擔心面試不過的，你都可以來，群號為： 454377428 注：加群要求 1、具有1-5工作經驗的，面對目前流行的技術不知從何下手，需要突破技術瓶頸的可以加。 2、在公司待久了，過得很安逸，但跳槽時面試碰壁。需要在短時間內進修、跳槽拿高薪的可以加。 3、如果沒有工作經驗，但基礎非常扎實，對java工作機制，常用設計思想，常用java開發框架掌握熟練的，可以加。 4、覺得自己很牛B，一般需求都能搞定。但是所學的知識點沒有系統化，很難在技術領域繼續突破的可以加。 5.阿里Java高級大牛直播講解知識點，分享知識，多年工作經驗的梳理和總結，帶著大家全面、科學地建立自己的技術體系和技術認知！ 6.小號或者小白之類加群一律不給過，謝謝。 目標已經有了，下面就看行動了！記住：學習永遠是自己的事情，你不學時間也不會多，你學了有時候卻能夠使用自己學到的知識換得更多自由自在的美好時光！時間是生命的基本組成部分，也是萬物存在的根本尺度，我們的時間在那里我們的生活就在那里！我們價值也將在那里提升或消弭！Java程序員，加油吧

總結

以上是生活随笔為你收集整理的对高并发流量控制的一点思考推荐的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。