Hive 05_hive变量、动态分区
hive 參數(shù)、變量
?? ?--hive當中的參數(shù)、變量,都是以命名空間開頭
?? ?--通過${}方式進行引用,其中system、env下的變量必須以前綴開頭
hive 參數(shù)設(shè)置方式
?? ?--1、修改配置文件 ${HIVE_HOME}/conf/hive-site.xml
?? ?--2、啟動hive cli時,通過--hiveconf key=value的方式進行設(shè)置
?? ?--例:hive --hiveconf hive.cli.print.header=true
?? ?--3、進入cli之后,通過使用set命令設(shè)置
?? ?
hive set命令
?? ?--在hive CLI控制臺可以通過set對hive中的參數(shù)進行查詢、設(shè)置
?? ?--set設(shè)置:
?? ??? ?--set hive.cli.print.header=true;
?? ?--set查看
?? ??? ?--set hive.cli.print.header
?? ?--hive參數(shù)初始化配置
?? ??? ?--當前用戶家目錄下的.hiverc文件
?? ??? ?--如: ? ~/.hiverc
?? ??? ?--如果沒有,可直接創(chuàng)建該文件,將需要設(shè)置的參數(shù)寫到該文件中,hive啟動運行時,會加載改文件中的配置。
?? ?--hive歷史操作命令集
?? ??? ?--~/.hivehistory
?? ??? ?
hive 動態(tài)分區(qū)
?? ?--開啟支持動態(tài)分區(qū)
?? ??? ?--set hive.exec.dynamic.partition=true;
?? ??? ??? ?--默認:true
?? ??? ?--set hive.exec.dynamic.partition.mode=nostrict;
?? ??? ??? ?--默認:strict(至少有一個分區(qū)列是靜態(tài)分區(qū))
?? ??? ?--相關(guān)參數(shù)
?? ??? ??? ?--set hive.exec.max.dynamic.partitions.pernode;
?? ??? ??? ??? ?--每一個執(zhí)行mr節(jié)點上,允許創(chuàng)建的動態(tài)分區(qū)的最大數(shù)量(100)
?? ??? ??? ?--set hive.exec.max.dynamic.partitions;
?? ??? ??? ??? ?--所有執(zhí)行mr節(jié)點上,允許創(chuàng)建的所有動態(tài)分區(qū)的最大數(shù)量(1000)
?? ??? ??? ?--set hive.exec.max.created.files;
?? ??? ??? ??? ?--所有的mr job允許創(chuàng)建的文件的最大數(shù)量(100000)
?? ??? ??? ??? ?
加載數(shù)據(jù)
from psn21
insert overwrite table psn22 partition(age, sex) ?
select id, name, age, sex, likes, address distribute by age, sex
總結(jié)
以上是生活随笔為你收集整理的Hive 05_hive变量、动态分区的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: Hive 03_DML、SerDe、Be
- 下一篇: 小便利——免密钥简单写法