日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程资源 > 编程问答 >内容正文

编程问答

记录hiveonspark:Execution Error, return code 30041 from org.apache.hadoop.hive.ql.exec.spark.SparkTask

發布時間:2025/3/17 编程问答 38 豆豆
生活随笔 收集整理的這篇文章主要介紹了 记录hiveonspark:Execution Error, return code 30041 from org.apache.hadoop.hive.ql.exec.spark.SparkTask 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

問題描述:
在部署hive on spark,測試時報錯,執行建表操作成功,但是插入insert出現以下錯誤:

Failed to execute spark task, with exception ‘org.apache.hadoop.hive.ql.metadata.HiveException(Failed to create Spark client for Spark session 2df0eb9a-15b4-4d81-aea1-24b12094bf44)’
FAILED: Execution Error, return code 30041 from org.apache.hadoop.hive.ql.exec.spark.SparkTask. Failed to create Spark client for Spark session 2df0eb9a-15b4-4d81-aea1-24b12094bf44


查資料主要列舉了以下三點原因:

  • Spark沒有啟動;
    需在/opt/module/spark路徑下輸入以下內容啟動spark:
  • [xiaobai@hadoop102 spark]$ ./sbin/start-all.sh
  • Spark和hive版本不匹配,我的是匹配的;

  • 內存資源不足,導致hive連接spark客戶端超時。

  • 原因分析
    在/tmp/xiaobai路徑下按照所需時間查看hive日志:

    提示timed out waiting for client connection.表明hive與spark連接時間超時!

    解決方法
    1). 將/opt/module/spark/conf/目錄下spark-env.sh.template文件改成spark-env.sh,之后添加內容export SPARK_DIST_CLASSPATH=$(hadoop classpath);
    2). 將/opt/module/hive/conf目錄下hive-site.xml修改hive和spark的連接時間。

    再次執行insert語句,成功!喜極而泣!

    我是昨天晚上就出錯的 查了一晚上也沒解決 結果今天才解決 不說了 解決另一個bug去了😭

    總結

    以上是生活随笔為你收集整理的记录hiveonspark:Execution Error, return code 30041 from org.apache.hadoop.hive.ql.exec.spark.SparkTask的全部內容,希望文章能夠幫你解決所遇到的問題。

    如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。