1.17.Flink 并行度详解(Parallel)、TaskManager与Slot、Operator Level、Execution Environment Level、Client Level等
1.17.Flink 并行度詳解(Parallel)
1.17.1.TaskManager與Slot
1.17.2.TaskManager與Slot
1.17.3.并行度(Parallel)
1.17.4.并行度(Parallel)的設置
1.17.4.1.并行度設置之Operator Level
1.17.4.2.并行度設置之Execution Environment Level
1.17.4.3.并行度設置之Client Level
1.17.4.4.并行度設置之System Level
1.17.Flink 并行度詳解(Parallel )
1.17.1.TaskManager與Slot
Flink的每個TaskManager為集群提供solt。 solt的數量通常與每個TaskManager節點的可用CPU內核數成比例。一般情況下你的slot數是你每個節點的cpu的核數。
1.17.2.TaskManager與Slot
1.17.3.并行度(Parallel)
一個Flink程序由多個任務組成(source、transformation和 sink)。 一個任務由多個并行的實例(線程)來執行, 一個任務的并行實例(線程)數目就被稱為該任務的并行度。
1.17.4.并行度(Parallel)的設置
?一個任務的并行度設置可以從多個層次指定
Operator Level(算子層次)
Execution Environment Level(執行環境層次)
Client Level(客戶端層次)
System Level(系統層次)
1.17.4.1.并行度設置之Operator Level
一個算子、數據源和sink的并行度可以通過調用 setParallelism()方法來指定
1.17.4.2.并行度設置之Execution Environment Level
?執行環境(任務)的默認并行度可以通過調用setParallelism()方法指定。為了以并行度3來執行所有的算子、數據源和data sink, 可以通過如下的方式設置執行環境的并行度:
- ?執行環境的并行度可以通過顯式設置算子的并行度而被重寫。
1.17.4.3.并行度設置之Client Level
并行度可以在客戶端將job提交到Flink時設定。
對于CLI客戶端,可以通過-p參數指定并行度
./bin/flink run -p 10 WordCount-java.jar (這里使用-p 10)
1.17.4.4.并行度設置之System Level
在系統級可以通過設置flink-conf.yaml文件中的parallelism.default屬性來指定所有執行環境的默認并行度。
總結
以上是生活随笔為你收集整理的1.17.Flink 并行度详解(Parallel)、TaskManager与Slot、Operator Level、Execution Environment Level、Client Level等的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 1.16.Flink Window和Ti
- 下一篇: 1.18.Table API SQL(