日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當(dāng)前位置: 首頁 > 编程资源 > 编程问答 >内容正文

编程问答

DolphinScheduler 调用flink以及api的 使用

發(fā)布時(shí)間:2024/5/8 编程问答 69 豆豆
生活随笔 收集整理的這篇文章主要介紹了 DolphinScheduler 调用flink以及api的 使用 小編覺得挺不錯(cuò)的,現(xiàn)在分享給大家,幫大家做個(gè)參考.

1.ds 調(diào)用flink 的使用

官方文檔連接 :https://dolphinscheduler.apache.org/zh-cn/docs/latest/user_doc/quick-start.html

2. 首先可以創(chuàng)建隊(duì)列 作為程序調(diào)用的時(shí)候作為隊(duì)列使用, 創(chuàng)建后不能刪除。

3. 創(chuàng)建租戶

1.租戶對應(yīng)的是linux 用戶, 用戶worker 提交作業(yè)所使用的的用戶, 如果linux 沒有這個(gè)用戶, worker 會在執(zhí)行腳本的時(shí)候創(chuàng)建這個(gè)用戶 2.租戶和租戶編碼都是唯一不能重復(fù),好比一個(gè)人有名字有身份證號。 3. 創(chuàng)建玩租戶會在hdfs 對應(yīng)的目錄上有相關(guān)的文件夾。

4. 創(chuàng)建用戶:

5. 創(chuàng)建token令牌

6. 給創(chuàng)建的用戶授權(quán)

7. 用剛才創(chuàng)建的用戶登錄

http://192.168.1.163:12345/dolphinscheduler/ui/#/monitor/servers/master

8. 資源的上傳

9 創(chuàng)建工作流




10 執(zhí)行結(jié)果:


日志結(jié)果

總結(jié)日志 調(diào)用flink 的時(shí)候需要配置環(huán)境變量 , 可能安裝的路徑不同可以看日志看到,并且每個(gè)workder 都需要添加環(huán)境變量
目錄

vi /ds/conf/env/dolphinscheduler_env.sh # # Licensed to the Apache Software Foundation (ASF) under one or more # contributor license agreements. See the NOTICE file distributed with # this work for additional information regarding copyright ownership. # The ASF licenses this file to You under the Apache License, Version 2.0 # (the "License"); you may not use this file except in compliance with # the License. You may obtain a copy of the License at # # http://www.apache.org/licenses/LICENSE-2.0 # # Unless required by applicable law or agreed to in writing, software # distributed under the License is distributed on an "AS IS" BASIS, # WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied. # See the License for the specific language governing permissions and # limitations under the License. #export HADOOP_HOME=/usr/hdp/current/hadoop-client export HADOOP_CONF_DIR=etc/hadoop/conf #export SPARK_HOME1=/opt/soft/spark1 export SPARK_HOME2=/opt/module/spark-2.4.3-bin-hadoop2.7/bin export PYTHON_HOME=/usr/bin/python export JAVA_HOME=/opt/module/jdk1.8.0_231 export HIVE_HOME=/usr/hdp/current/hive-client #export FLINK_HOME=/opt/soft/flink #export DATAX_HOME=/opt/soft/datax/bin/datax.py export FLINK_HOME=/opt/module/flink-1.12.4#export PATH=$HADOOP_HOME/bin:$SPARK_HOME1/bin:$SPARK_HOME2/bin:$PYTHON_HOME:$JAVA_HOME/bin:$HIVE_HOME/bin:$PATH:$FLINK_HOME/bin:$DATAX_HOME:$PATH export PATH=$HADOOP_HOME/bin:$SPARK_HOME2/bin:$PYTHON_HOME:$JAVA_HOME/bin:$HIVE_HOME/bin:$PATH:$FLINK_HOME/bin

以上需要主要的。

——————————————————————————————————————————————————————————

1. dsAPI調(diào)用說明

  • 要用到token
  • head 里面需要添加的值:
  • keyvalue
    Content-Typeapplication/json
    token8ecf2318b3a5369a20f73372655503fe

    2. 如下圖

    2. 創(chuàng)建項(xiàng)目


    2.1 創(chuàng)建項(xiàng)目的源碼


    3. 查詢token


    總結(jié)

    以上是生活随笔為你收集整理的DolphinScheduler 调用flink以及api的 使用的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。

    如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò),歡迎將生活随笔推薦給好友。