WE CAN:全球智能路由网络 | 体验共享技术专题
導讀:為了支持網易云信在娛樂社交領域打造融合通信云行業第一的品牌戰略目標,建設覆蓋全球的低延遲大規模傳輸網絡,WE-CAN 在優化體驗共享,降低傳輸延遲方面做了很多工作,本文將介紹 WE-CAN 全球智能路由網絡的相關技術。本文為體驗共享系列的第二篇。
文|Keith
網易云信服務端首席架構師
?什么是 WE-CAN?
WE-CAN(Communications acceleration network)是網易云信自研的大規模分布式傳輸網絡,它的主要目標是通過提供低延遲,高可靠的傳輸服務來保障音視頻互動場景中的順滑體驗。
WE-CAN 的創新之處在于它是通過在公共互聯網上架設一個 overlay 來達到這一目標的,且完全由軟件方案實現,不依賴專線做遠距離傳輸。通過組織起遍布全球的數百個節點,根據實時智能路由算法挑選出一條最佳的路徑。
如果做一個類比,那么 WE-CAN 就好像一個高速公路系統,不管用戶在哪里,他的數據只要能進入到這個系統,就能被快速地投遞到目的地。
提供一個低延遲的傳輸服務的關鍵在于兩點:如何找到一個最合適的高速入口,以及如何在復雜的高速路網中挑選出一條最佳的路徑,這對應了 WE-CAN 的兩大核心系統:調度和路由。圍繞在這兩大核心系統之外的就是我們遍布全球的數百個邊緣節點組成的龐大網絡。
WE-CAN 的節點
?邊緣節點?
要提供低延遲高可靠的音視頻傳輸服務,第一跳的質量非常關鍵。尤其是在移動設備日趨增多,網絡情況日趨復雜的今天,就近接入非常重要。
IDC 邊緣化是保證音視頻上下行質量的重要手段。節點分布得越多,地理覆蓋越廣,就能服務越多的用戶,在全球范圍內做到“無死角、全覆蓋”是 WE-CAN 的目標。為此,我們建設了數百個邊緣機房,覆蓋了國內每個省份的三大運營商。在海外覆蓋了所有大洲的人口多、經濟相對發達、互聯網業務較多的國家。并且在每個大洲都建設有數個中心機房用作控制、調度、狀態管理等核心服務部署。
WE-CAN 不但節點眾多,而且有完善的節點運營機制。通過對各節點的密切實時監控,每日數據挖掘分析,我們建立了一套賽馬機制,對質量不佳的節點進行淘汰,時刻保證所有節點都能提供穩定、優質的服務。
?中轉節點?
為了把邊緣節點串聯起來,WE-CAN 建設了一批優質、穩定的中轉節點,這些節點通常占據了各大洲、各地區的“骨干網絡交通要道”,并且同時會兼顧多個運營商的線路,保證各邊緣節點間的互聯互通。
與邊緣節點要求部署靈活、本地接入質量優、專注覆蓋某一個或某一些 ISP 線路不同,中轉節點作為 WE-CAN 網絡骨干部分,承載的是跨 ISP、跨地區、跨國甚至跨大洲的流量,對傳輸質量穩定性有更高的要求。
WE-CAN總體架構圖
WE-CAN 的調度
WE-CAN 的調度系統負責根據 SDK 的請求,分配一個合適的接入節點。支持這一分配策略背后的主要因素有兩點:地理距離和歷史數據。
?由地理位置進行就近調度?
對于 SDK 的調度來說,客戶端的 IP 地址是最重要的輸入參數,根據 IP 地址可以解析出用戶所在的地理位置和 ISP 信息,在調度時,如果我們沒有針對此 IP 地址的歷史數據或者數據不夠充分,那么就會直接為其分配一個就近的同 ISP 節點。
?由歷史數據進行擇優調度?
如果 SDK 曾經跟服務器進行過通信,或者與服務器進行過探測,則我們會根據其歷史通話、探測數據來進行判斷。
對于曾經有連續登錄失敗、音視頻卡頓、探測質量很差的服務器,在調度時會進行避免。對于各項指標都比較出色的服務器,調度時會優先考慮。
?調度系統的其他技術難點?
一個優秀的邊緣節點調度系統不但要保證每一次調度結果都是最優的,作為一個核心服務,它本身的穩定性、使用性能、并發能力、成本優化能力等也是重要指標。
如在大頻道蜂擁入會的場景下,調度系統能否抗住瞬時 QPS 壓力,在兼顧頻道匯聚的前提下能否防止對單臺服務器進行過載保護,這些都是保證線上業務穩定的核心技術難題,WE-CAN 的調度系統在這些方面都有深厚的積累和業界領先的解決方案。
WE-CAN 的路由
WE-CAN 在全球范圍內部署了數百個節點,在國內做到了省級單位三大運營商網絡全覆蓋,在海外的人口稠密地區、經濟發達國家也都有優質本地節點部署,真正讓用戶做到就近接入。
將這張龐大的網絡組織起來,提供基于公共互聯網的低延遲傳輸服務是 WE-CAN 路由系統的職責。
WE-CAN 各節點會相互進行質量探測,以真實的業務數據指標為主,以人為主動探測結果為輔,可以得到各個維度的實時節點質量數據,根據這些數據在我們的控制中心通過智能路由算法可以得出各節點間 top k 的最優路徑,這些路徑的變化情況會及時反饋到各中轉節點上去,指導路由轉發策略。
WE-CAN 的路由策略是一個復雜的實時變化的結果,考慮的因素除了傳輸質量外還有流量限制和成本優化,并且在實際使用中也并不一定總是走最優路徑。因為節點的網絡狀況是在不停變化的,在網絡擁塞的情況下如果等到節點數據上報反饋到控制中心再經過路由計算下發到節點進行路徑切換往往已經過去了數十秒甚至更久。在這種情況下需要各節點根據當前運行狀況在 top k 路徑上進行一定范圍的動態調整。
WE-CAN路由示意圖
結語
基于 WE-CAN 大規模傳輸網絡,網易云信可以在全球范圍內提供穩定、低延遲的音視頻服務。我們會持續優化節點部署、接入調度,路徑規劃等核心技術能力,讓用戶得到更好的實時互動體驗。
?相關閱讀推薦?
極致流暢體驗的密碼:網易云信 QoS 策略介紹 | 體驗共享技術專題
艾媒咨詢:泛娛樂「體驗共享」報告發布,網易云信多個案例領銜
與50位技術專家面對面20年技術見證,附贈技術全景圖
總結
以上是生活随笔為你收集整理的WE CAN:全球智能路由网络 | 体验共享技术专题的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 限量席位!网易 MCtalk 泛娱乐社交
- 下一篇: 网易云信荣获2021年度智慧教育典型案例