日韩av黄I国产麻豆传媒I国产91av视频在线观看I日韩一区二区三区在线看I美女国产在线I麻豆视频国产在线观看I成人黄色短片

歡迎訪問 生活随笔!

生活随笔

當(dāng)前位置: 首頁 >

oozie安装总结

發(fā)布時(shí)間:2025/3/21 24 豆豆
生活随笔 收集整理的這篇文章主要介紹了 oozie安装总结 小編覺得挺不錯(cuò)的,現(xiàn)在分享給大家,幫大家做個(gè)參考.

偶然的機(jī)會(huì),去面試的時(shí)候聽面試官講他們的調(diào)度系統(tǒng)是基于hue+oozie,以前一直沒有接觸過,今天趁有空,嘗試一下oozie

1.環(huán)境說明

  • cat /etc/issue ?CentOS release 6.2 (Final)
  • hadoop-2.2.0
  • oozie-4.3.0
  • jdk?1.7.0_45
  • apache-maven-3.0.5
  • 還需要說明的是,oozie 本身 apache 只提供源碼,需要自己編譯,編譯需要的軟件在官方有說明:

    Unix box (tested on Mac OS X and Linux) Java JDK 1.6+ Maven 3.0.1+ Hadoop 0.20.2+ Pig 0.7+

    我這里在安裝時(shí)并沒有安裝pig也能成功編譯。

    2.安裝步驟

    1.maven 安裝

    2.oozie 安裝

    ? ?git clone?

    ? ?編譯:

    bin/mkdistro.sh -DskipTests

    編譯后的文件在distro/target文件夾內(nèi),我這里的文件名為oozie-4.3.0-SNAPSHOT-distro.tar.gz

    3. 安裝oozie server

    經(jīng)過上面的編譯,我們得到了二進(jìn)制版的oozie,下面就可以部署server了,由此可見oozie使用的BS模式。
    解壓oozie-4.1.0-distro.tar.gz這個(gè)編譯后的文件,進(jìn)入該目錄,創(chuàng)建文件夾libext

    tar -xvf oozie-4.3.0-SNAPSHOT-distro.tar.gz cd cd oozie-4.3.0-SNAPSHOT mkdir libext

    oozie server 需要用到一個(gè)js庫,但是該js庫官方給的鏈接已經(jīng)失效了,有個(gè)大俠廢了好大勁在網(wǎng)上找了個(gè),傳到了csdn上,大家下載后把ext-2.2.zip這個(gè)文件放的libext文件夾里。
    然后,把hadoop的一些jar把也放到這個(gè)libext文件夾內(nèi),大家可參考下面這個(gè)命令

    cp ${HADOOP_HOME}/share/hadoop/*/*.jar libext/ cp ${HADOOP_HOME}/share/hadoop/*/lib/*.jar libext/

    這里有個(gè)大坑,oozie server默認(rèn)使用tomcat 6.0.41,而hadoop也有內(nèi)置的server,如果按照上面兩個(gè)命令把hadoop依賴的jar包都拷貝過去,有可能出現(xiàn)沖突,這兩個(gè)server使用的servlet、jsp版本很可能不一樣。

    這里需要把這幾個(gè)jar包刪除,不要放到libext中

    rm jasper-compiler-5.5.23.jar rm jasper-runtime-5.5.23.jar rm jsp-api-2.1.jar

    oozie server還需要依賴個(gè)數(shù)據(jù)庫,我這里用的是常用的postgres,所以需要把postgres的驅(qū)動(dòng)jar包也放的libext中。

    然后修改conf/oozie-site.xml這個(gè)配置文件

    <property><name>oozie.service.JPAService.create.db.schema</name><value>true</value></property> <property><name>oozie.service.JPAService.jdbc.driver</name><value>org.postgresql.Driver</value> </property> <property><name>oozie.service.JPAService.jdbc.url</name><value>jdbc:postgresql://l-tdata2.tkt.cn6.qunar.com/oozie?createDatabaseIfNotExist=true</value> </property><property><name>oozie.service.JPAService.jdbc.username</name><value>**</value> </property><property><name>oozie.service.JPAService.jdbc.password</name><value>**</value> </property> <property><name>oozie.service.HadoopAccessorService.hadoop.configurations</name><value>*=/home/q/hadoop/hadoop-2.2.0/etc/hadoop</value> </property>

    上面的配置中,指定了hadoop配置文件位置:*=/home/q/hadoop/hadoop-2.2.0/etc/hadoop,這里的*=不能少,你根據(jù)實(shí)際情況修改你的hadoop路徑即可。

    好,上面的步驟完成后,就可以生產(chǎn)server的war包了:

    bin/oozie-setup.sh prepare-war

    bin/oozie-setup.sh db create -run -sqlfile oozie.sql
    執(zhí)行完后,會(huì)在當(dāng)前目錄下生成 oozie.sql文件,同時(shí)初始化oozie的db環(huán)境。oozie.sql文件是oozie執(zhí)行數(shù)據(jù)庫的腳本。可以用于以后初始化,或者更新用。

    最后,激動(dòng)人心的時(shí)候就要到了,根據(jù)上面?zhèn)窝b功能的配置,我用oozie用戶開啟server:

    bin/oozied.sh start

    ?

    轉(zhuǎn)載于:https://www.cnblogs.com/duanxingxing/p/5015709.html

    總結(jié)

    以上是生活随笔為你收集整理的oozie安装总结的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問題。

    如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò),歡迎將生活随笔推薦給好友。