hive的静态分区与动态分区-用法实例
生活随笔
收集整理的這篇文章主要介紹了
hive的静态分区与动态分区-用法实例
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
概述
本文是對[3]的復現
所有的SQL操作都在下方gitee鏈接中
https://gitee.com/appleyuchi/Flink_Code/blob/master/hive動態靜態分區/hive.sql
靜態分區
| 分區叫法 | 表格舉例 | 不同種類分區在HDFS上存放的文件結構 |
| 單分區/一級分區/主分區 | t1 | /user/hive/warehouse/t1/department=depart-1 |
| 多分區/多級分區/副分區 | t2 | /user/hive/warehouse/t2/department=GBD/sex=F |
可以看到你所謂的多分區和單分區其實主要取決于數據在HDFS上存放的結構是否是多級文件夾結構.
動態分區
建立r3,t4表
t3表導入t4表
這里注意:
因為t3比t4多了2個字段,
所以t4會以多出來的這兩個字段進行動態分區(也就是HDFS上的多級目錄結構)
?
區別
靜態分區是的導入數據的時候,分區名是寫死的.
動態分區是導入數據時,根據數據所屬字段的取值進行動態分區.
?
動靜(半動態)分區混合使用
建立r0,t5表
t0表導入t5表
這個動靜結合體現在哪里呢?
靜態體現在coutry='china'寫死
動態體現在t0的字段比t5多了一個,多出來的字段,作為數據導入t5后的分區
?
?
?
查看Hive表的分區結構具體操作
打開:
http://desktop:9870/explorer.html#/
搜索:
/user/hive/warehouse/t1/department=depart-1
如下:
?
?
?
Reference:
[1]hive一級分區、二級分區、動態分區
[2]hive靜態分區和動態分區區別
[3]Hive中的靜態分區和動態分區使用與區別詳解
?
創作挑戰賽新人創作獎勵來咯,堅持創作打卡瓜分現金大獎總結
以上是生活随笔為你收集整理的hive的静态分区与动态分区-用法实例的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 货款是什么意思
- 下一篇: Flink的UDF写法整理