日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當(dāng)前位置: 首頁 > 编程资源 > 编程问答 >内容正文

编程问答

oozie安装总结

發(fā)布時間:2025/3/21 编程问答 20 豆豆
生活随笔 收集整理的這篇文章主要介紹了 oozie安装总结 小編覺得挺不錯的,現(xiàn)在分享給大家,幫大家做個參考.

偶然的機(jī)會,去面試的時候聽面試官講他們的調(diào)度系統(tǒng)是基于hue+oozie,以前一直沒有接觸過,今天趁有空,嘗試一下oozie

1.環(huán)境說明

  • cat /etc/issue ?CentOS release 6.2 (Final)
  • hadoop-2.2.0
  • oozie-4.3.0
  • jdk?1.7.0_45
  • apache-maven-3.0.5
  • 還需要說明的是,oozie 本身 apache 只提供源碼,需要自己編譯,編譯需要的軟件在官方有說明:

    Unix box (tested on Mac OS X and Linux) Java JDK 1.6+ Maven 3.0.1+ Hadoop 0.20.2+ Pig 0.7+

    我這里在安裝時并沒有安裝pig也能成功編譯。

    2.安裝步驟

    1.maven 安裝

    2.oozie 安裝

    ? ?git clone?

    ? ?編譯:

    bin/mkdistro.sh -DskipTests

    編譯后的文件在distro/target文件夾內(nèi),我這里的文件名為oozie-4.3.0-SNAPSHOT-distro.tar.gz

    3. 安裝oozie server

    經(jīng)過上面的編譯,我們得到了二進(jìn)制版的oozie,下面就可以部署server了,由此可見oozie使用的BS模式。
    解壓oozie-4.1.0-distro.tar.gz這個編譯后的文件,進(jìn)入該目錄,創(chuàng)建文件夾libext

    tar -xvf oozie-4.3.0-SNAPSHOT-distro.tar.gz cd cd oozie-4.3.0-SNAPSHOT mkdir libext

    oozie server 需要用到一個js庫,但是該js庫官方給的鏈接已經(jīng)失效了,有個大俠廢了好大勁在網(wǎng)上找了個,傳到了csdn上,大家下載后把ext-2.2.zip這個文件放的libext文件夾里。
    然后,把hadoop的一些jar把也放到這個libext文件夾內(nèi),大家可參考下面這個命令

    cp ${HADOOP_HOME}/share/hadoop/*/*.jar libext/ cp ${HADOOP_HOME}/share/hadoop/*/lib/*.jar libext/

    這里有個大坑,oozie server默認(rèn)使用tomcat 6.0.41,而hadoop也有內(nèi)置的server,如果按照上面兩個命令把hadoop依賴的jar包都拷貝過去,有可能出現(xiàn)沖突,這兩個server使用的servlet、jsp版本很可能不一樣。

    這里需要把這幾個jar包刪除,不要放到libext中

    rm jasper-compiler-5.5.23.jar rm jasper-runtime-5.5.23.jar rm jsp-api-2.1.jar

    oozie server還需要依賴個數(shù)據(jù)庫,我這里用的是常用的postgres,所以需要把postgres的驅(qū)動jar包也放的libext中。

    然后修改conf/oozie-site.xml這個配置文件

    <property><name>oozie.service.JPAService.create.db.schema</name><value>true</value></property> <property><name>oozie.service.JPAService.jdbc.driver</name><value>org.postgresql.Driver</value> </property> <property><name>oozie.service.JPAService.jdbc.url</name><value>jdbc:postgresql://l-tdata2.tkt.cn6.qunar.com/oozie?createDatabaseIfNotExist=true</value> </property><property><name>oozie.service.JPAService.jdbc.username</name><value>**</value> </property><property><name>oozie.service.JPAService.jdbc.password</name><value>**</value> </property> <property><name>oozie.service.HadoopAccessorService.hadoop.configurations</name><value>*=/home/q/hadoop/hadoop-2.2.0/etc/hadoop</value> </property>

    上面的配置中,指定了hadoop配置文件位置:*=/home/q/hadoop/hadoop-2.2.0/etc/hadoop,這里的*=不能少,你根據(jù)實(shí)際情況修改你的hadoop路徑即可。

    好,上面的步驟完成后,就可以生產(chǎn)server的war包了:

    bin/oozie-setup.sh prepare-war

    bin/oozie-setup.sh db create -run -sqlfile oozie.sql
    執(zhí)行完后,會在當(dāng)前目錄下生成 oozie.sql文件,同時初始化oozie的db環(huán)境。oozie.sql文件是oozie執(zhí)行數(shù)據(jù)庫的腳本。可以用于以后初始化,或者更新用。

    最后,激動人心的時候就要到了,根據(jù)上面?zhèn)窝b功能的配置,我用oozie用戶開啟server:

    bin/oozied.sh start

    ?

    轉(zhuǎn)載于:https://www.cnblogs.com/duanxingxing/p/5015709.html

    總結(jié)

    以上是生活随笔為你收集整理的oozie安装总结的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。

    如果覺得生活随笔網(wǎng)站內(nèi)容還不錯,歡迎將生活随笔推薦給好友。