bat窗口大小设置_8-Flink中的窗口
                                                            生活随笔
收集整理的這篇文章主要介紹了
                                bat窗口大小设置_8-Flink中的窗口
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.                        
                                戳原文:
1-Flink入門
2-本地環境搭建&構建第一個Flink應用
3-DataSet API 4-DataSteam API
5-集群部署
6-分布式緩存
7-重啟策略
8-Flink中的窗口
9-Flink中的Time
窗口
窗口類型
- 如果size=interval,那么就會形成tumbling-window(無重疊數據)
- 如果size>interval,那么就會形成sliding-window(有重疊數據)
- 如果size<interval,那么這種窗口將會丟失數據。比如每5秒鐘,統計過去3秒的通過路口汽車的數據,將會漏掉2秒鐘的數據。
- time-tumbling-window 無重疊數據的時間窗口,設置方式舉例:timeWindow(Time.seconds(5))
- time-sliding-window 有重疊數據的時間窗口,設置方式舉例:timeWindow(Time.seconds(5), Time.seconds(3))
- count-tumbling-window無重疊數據的數量窗口,設置方式舉例:countWindow(5)
- count-sliding-window 有重疊數據的數量窗口,設置方式舉例:countWindow(5,3)
 窗口的實現方式
 上一張經典圖:
- Tumbling Time Window
- Sliding Time Window
- Tumbling Count Window
當我們想要每100個用戶購買行為事件統計購買總數,那么每當窗口中填滿100個元素了,就會對窗口進行計算,這種窗口我們稱之為翻滾計數窗口(Tumbling Count Window),上圖所示窗口大小為3個。通過使用 DataStream API,我們可以這樣實現:
// Stream of (userId, buyCnts) val buyCnts: DataStream[(Int, Int)] = ...val tumblingCnts: DataStream[(Int, Int)] = buyCnts// key stream by sensorId.keyBy(0)// tumbling count window of 100 elements size.countWindow(100)// compute the buyCnt sum .sum(1)- Session Window
在這種用戶交互事件流中,我們首先想到的是將事件聚合到會話窗口中(一段用戶持續活躍的周期),由非活躍的間隙分隔開。如上圖所示,就是需要計算每個用戶在活躍期間總共購買的商品數量,如果用戶30秒沒有活動則視為會話斷開(假設raw data stream是單個用戶的購買行為流)。Session Window 的示例代碼如下:
// Stream of (userId, buyCnts) val buyCnts: DataStream[(Int, Int)] = ...val sessionCnts: DataStream[(Int, Int)] = vehicleCnts.keyBy(0)// session window based on a 30 seconds session gap interval .window(ProcessingTimeSessionWindows.withGap(Time.seconds(30))).sum(1)一般而言,window 是在無限的流上定義了一個有限的元素集合。這個集合可以是基于時間的,元素個數的,時間和個數結合的,會話間隙的,或者是自定義的。Flink 的 DataStream API 提供了簡潔的算子來滿足常用的窗口操作,同時提供了通用的窗口機制來允許用戶自己定義窗口分配邏輯。
 公眾號推薦
- 全網唯一一個從0開始幫助Java開發者轉做大數據領域的公眾號,BAT團隊集體開發~
- 海量【java和大數據的面試題+視頻資料】整理在公眾號,關注后可以下載~
- 更多大數據技術歡迎和作者一起探討~
總結
以上是生活随笔為你收集整理的bat窗口大小设置_8-Flink中的窗口的全部內容,希望文章能夠幫你解決所遇到的問題。
 
                            
                        - 上一篇: anaconda3卸载python_机器
- 下一篇: 保护眼睛之FadeTop篇
