日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程资源 > 编程问答 >内容正文

编程问答

hive与hbase整合

發布時間:2025/5/22 编程问答 17 豆豆
生活随笔 收集整理的這篇文章主要介紹了 hive与hbase整合 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
  • 配置環境.

    hadoop 2.4

    hbase 0.98.3

    hive 0.13.1(源用的mysql)

  • 配置。

    分2種情況(1.hbase與hive在一臺機器上,2.hbase與hive不在同一臺機器上)
    ?(1)hbase與hive在一臺機器上

    ???? 比較簡單,只需要在環境變量里把hbase,hive的home配置好即可。當然也可以按照不在一臺進行配置。

  • #config?hadoop export?HADOOP_HOME=/home/hUser/hadoop-2.4.0 export?PATH=$HADOOP_HOME/bin:$PATH#config?hbase export?HBASE_HOME=/home/hUser/hbase-0.98.3-hadoop2 export?PATH=$PATH:$HBASE_HOME/bin export?HBASE_MANAGES_ZK=true#config?hive export?HIVE_HOME=/home/hUser/apache-hive-0.13.1-bin/ export?PATH=$PATH:$HIVE_HOME/bin

    ????(2)hbase與hive不在同一臺機器上。

    ? ? ? ?? 首先需要將hbase下的以hbase開頭的jar包,放到hive的lib下,同時修改

    <property><name>hive.aux.jars.path</name><value>file:///home/hUser/apache-hive-0.13.1-bin/lib/hive-hbase-handler-0.13.0.jar,file:///home/hUser/apache-hive-0.13.1-bin/lib/protobuf-java-2.5.0.jar,file:///home/hUser/apache-hive-0.13.1-bin/lib/hbase-***.jar,.....等等hbase的jar包,file:///home/hUser/apache-hive-0.13.1-bin/lib/hbase-common-0.96.0-hadoop2.jar,file:///home/hUser/apache-hive-0.13.1-bin/lib/zookeeper-3.4.5.jar,file:///home/hUser/apache-hive-0.13.1-bin/lib/guava-11.0.2.jar</value> </property>

    注意:這塊是為了好看,但自己配置的時候一定不要有換行符和空格,還有自己把hbase的jar包補齊。太多了我就不貼出來了。

    3. 操作

    ????啟動hive

    ????????????如果在一臺機器就正常啟動 hive 就ok了

    ????????????不在一臺機器需要指定下hbase的zookeeper的位置,多個用逗號分割

    ????????hive -hiveconf hbase.master=127.0.0.1:60000


    ?? (1)建表

    CREATE?TABLE?hbase_table_1(key?string,?value?string)? STORED?BY?'org.apache.hadoop.hive.hbase.HBaseStorageHandler' WITH?SERDEPROPERTIES?("hbase.columns.mapping"?=?":key,cf1:val")? TBLPROPERTIES?("hbase.table.name"?=?"xyz1");

    ?? (2)插入數據

    ????????? a.在hbase中插入

    ???????????? put 'xyz','test001','cf1:val','www.test.com'

    ????????? b.在hive中插入(注:數據類型一定要匹配,否則回報key can't be null這個錯)

    ?? ????????? insert into hbase_table_1 select n.finishtime, n.url from nginx n;

    轉載于:https://blog.51cto.com/cdelliqi/1538614

    總結

    以上是生活随笔為你收集整理的hive与hbase整合的全部內容,希望文章能夠幫你解決所遇到的問題。

    如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。