日韩av黄I国产麻豆传媒I国产91av视频在线观看I日韩一区二区三区在线看I美女国产在线I麻豆视频国产在线观看I成人黄色短片

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 >

1.17.Flink 并行度详解(Parallel)、TaskManager与Slot、Operator Level、Execution Environment Level、Client Level等

發布時間:2024/9/27 50 豆豆
生活随笔 收集整理的這篇文章主要介紹了 1.17.Flink 并行度详解(Parallel)、TaskManager与Slot、Operator Level、Execution Environment Level、Client Level等 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

1.17.Flink 并行度詳解(Parallel)
1.17.1.TaskManager與Slot
1.17.2.TaskManager與Slot
1.17.3.并行度(Parallel)
1.17.4.并行度(Parallel)的設置
1.17.4.1.并行度設置之Operator Level
1.17.4.2.并行度設置之Execution Environment Level
1.17.4.3.并行度設置之Client Level
1.17.4.4.并行度設置之System Level

1.17.Flink 并行度詳解(Parallel )

1.17.1.TaskManager與Slot

Flink的每個TaskManager為集群提供solt。 solt的數量通常與每個TaskManager節點的可用CPU內核數成比例。一般情況下你的slot數是你每個節點的cpu的核數。

1.17.2.TaskManager與Slot

1.17.3.并行度(Parallel)

一個Flink程序由多個任務組成(source、transformation和 sink)。 一個任務由多個并行的實例(線程)來執行, 一個任務的并行實例(線程)數目就被稱為該任務的并行度。

1.17.4.并行度(Parallel)的設置

?一個任務的并行度設置可以從多個層次指定
Operator Level(算子層次)
Execution Environment Level(執行環境層次)
Client Level(客戶端層次)
System Level(系統層次)

1.17.4.1.并行度設置之Operator Level

一個算子、數據源和sink的并行度可以通過調用 setParallelism()方法來指定

1.17.4.2.并行度設置之Execution Environment Level

?執行環境(任務)的默認并行度可以通過調用setParallelism()方法指定。為了以并行度3來執行所有的算子、數據源和data sink, 可以通過如下的方式設置執行環境的并行度:

  • ?執行環境的并行度可以通過顯式設置算子的并行度而被重寫。

1.17.4.3.并行度設置之Client Level

并行度可以在客戶端將job提交到Flink時設定。
對于CLI客戶端,可以通過-p參數指定并行度
./bin/flink run -p 10 WordCount-java.jar (這里使用-p 10)

1.17.4.4.并行度設置之System Level

在系統級可以通過設置flink-conf.yaml文件中的parallelism.default屬性來指定所有執行環境的默認并行度。

總結

以上是生活随笔為你收集整理的1.17.Flink 并行度详解(Parallel)、TaskManager与Slot、Operator Level、Execution Environment Level、Client Level等的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。