java impala_impala 概述
什么是Impala?
Impala是用于處理存儲在Hadoop集群中的大量數(shù)據(jù)的MPP(大規(guī)模并行處理)SQL查詢引擎。 它是一個用C ++和Java編寫的開源軟件。 與其他Hadoop的SQL引擎相比,它提供了高性能和低延遲。
換句話說,Impala是性能最高的SQL引擎(提供類似RDBMS的體驗),它提供了訪問存儲在Hadoop分布式文件系統(tǒng)中的數(shù)據(jù)的最快方法。
為什么選擇Impala?
Impala通過使用標(biāo)準(zhǔn)組件(如HDFS,HBase,Metastore,YARN和Sentry)將傳統(tǒng)分析數(shù)據(jù)庫的SQL支持和多用戶性能與Apache Hadoop的可擴(kuò)展性和靈活性相結(jié)合。使用Impala,與其他SQL引擎(如Hive)相比,用戶可以使用SQL查詢以更快的方式與HDFS或HBase進(jìn)行通信。
Impala可以讀取Hadoop使用的幾乎所有文件格式,如Parquet,Avro,RCFile。
Impala將相同的元數(shù)據(jù),SQL語法(Hive SQL),ODBC驅(qū)動程序和用戶界面(Hue Beeswax)用作Apache Hive,為面向批量或?qū)崟r查詢提供熟悉且統(tǒng)一的平臺。
與Apache Hive不同,Impala不基于MapReduce算法。 它實現(xiàn)了一個基于守護(hù)進(jìn)程的分布式架構(gòu),它負(fù)責(zé)在同一臺機(jī)器上運(yùn)行的查詢執(zhí)行的所有方面。
因此,它減少了使用MapReduce的延遲,這使Impala比Apache Hive快。
Impala的優(yōu)點
以下是Cloudera Impala的一些值得注意的優(yōu)點的列表。使用impala,您可以使用傳統(tǒng)的SQL知識以極快的速度處理存儲在HDFS中的數(shù)據(jù)。
由于在數(shù)據(jù)駐留(在Hadoop集群上)時執(zhí)行數(shù)據(jù)處理,因此在使用Impala時,不需要對存儲在Hadoop上的數(shù)據(jù)進(jìn)行數(shù)據(jù)轉(zhuǎn)換和數(shù)據(jù)移動。
使用Impala,您可以訪問存儲在HDFS,HBase和Amazon s3中的數(shù)據(jù),而無需了解Java(MapReduce作業(yè))。您可以使用SQL查詢的基本概念訪問它們。
為了在業(yè)務(wù)工具中寫入查詢,數(shù)據(jù)必須經(jīng)歷復(fù)雜的提取 - 變換負(fù)載(ETL)周期。但是,使用Impala,此過程縮短了。加載和重組的耗時階段通過新技術(shù)克服,如探索性數(shù)據(jù)分析和數(shù)據(jù)發(fā)現(xiàn),使過程更快。
Impala正在率先使用Parquet文件格式,這是一種針對數(shù)據(jù)倉庫場景中典型的大規(guī)模查詢進(jìn)行優(yōu)化的柱狀存儲布局。
Impala的功能
以下是cloudera Impala的功能 -Impala可以根據(jù)Apache許可證作為開源免費(fèi)提供。
Impala支持內(nèi)存中數(shù)據(jù)處理,即,它訪問/分析存儲在Hadoop數(shù)據(jù)節(jié)點上的數(shù)據(jù),而無需數(shù)據(jù)移動。
您可以使用Impala使用類SQL查詢訪問數(shù)據(jù)。
與其他SQL引擎相比,Impala為HDFS中的數(shù)據(jù)提供了更快的訪問。
使用Impala,您可以將數(shù)據(jù)存儲在存儲系統(tǒng)中,如HDFS,Apache HBase和Amazon s3。
您可以將Impala與業(yè)務(wù)智能工具(如Tableau,Pentaho,Micro策略和縮放數(shù)據(jù))集成。
Impala支持各種文件格式,如LZO,序列文件,Avro,RCFile和Parquet。
Impala使用Apache Hive的元數(shù)據(jù),ODBC驅(qū)動程序和SQL語法。
關(guān)系數(shù)據(jù)庫和Impala
Impala使用類似于SQL和HiveQL的Query語言。 下表描述了SQL和Impala查詢語言之間的一些關(guān)鍵差異。Impala關(guān)系型數(shù)據(jù)庫
Impala使用類似于HiveQL的類似SQL的查詢語言。關(guān)系數(shù)據(jù)庫使用SQL語言。
在Impala中,您無法更新或刪除單個記錄。在關(guān)系數(shù)據(jù)庫中,可以更新或刪除單個記錄。
Impala不支持事務(wù)。關(guān)系數(shù)據(jù)庫支持事務(wù)。
Impala不支持索引。關(guān)系數(shù)據(jù)庫支持索引。
Impala存儲和管理大量數(shù)據(jù)(PB)。與Impala相比,關(guān)系數(shù)據(jù)庫處理的數(shù)據(jù)量較少(TB)。
Hive,Hbase和Impala
雖然Cloudera Impala使用與Hive相同的查詢語言,元數(shù)據(jù)和用戶界面,但在某些方面它與Hive和HBase不同。 下表介紹了HBase,Hive和Impala之間的比較分析。HBaseHiveImpala
HBase是基于Apache Hadoop的寬列存儲數(shù)據(jù)庫。 它使用BigTable的概念。Hive是一個數(shù)據(jù)倉庫軟件。 使用它,我們可以訪問和管理基于Hadoop的大型分布式數(shù)據(jù)集。Impala是一個管理,分析存儲在Hadoop上的數(shù)據(jù)的工具。
HBase的數(shù)據(jù)模型是寬列存儲。Hive遵循關(guān)系模型。Impala遵循關(guān)系模型。
HBase是使用Java語言開發(fā)的。Hive是使用Java語言開發(fā)的。Impala是使用C ++開發(fā)的。
HBase的數(shù)據(jù)模型是無模式的。Hive的數(shù)據(jù)模型是基于模式的。Impala的數(shù)據(jù)模型是基于模式的。
HBase提供Java,RESTful和Thrift API。Hive提供JDBC,ODBC,Thrift API。Impala提供JDBC和ODBC API。
支持C,C#,C ++,Groovy,Java PHP,Python和Scala等編程語言。支持C ++,Java,PHP和Python等編程語言。Impala支持所有支持JDBC / ODBC的語言。
HBase提供對觸發(fā)器的支持。Hive不提供任何觸發(fā)器支持。Impala不提供對觸發(fā)器的任何支持。
所有這三個數(shù)據(jù)庫 -是NOSQL數(shù)據(jù)庫。
可用作開源。
支持服務(wù)器端腳本。
按照ACID屬性,如Durability和Concurrency。
使用分片進(jìn)行分區(qū)。
Impala的缺點
使用Impala的一些缺點如下 -Impala不提供任何對序列化和反序列化的支持。
Impala只能讀取文本文件,而不能讀取自定義二進(jìn)制文件。
每當(dāng)新的記錄/文件被添加到HDFS中的數(shù)據(jù)目錄時,該表需要被刷新。
總結(jié)
以上是生活随笔為你收集整理的java impala_impala 概述的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: java中的取模_Java 中的取模和取
- 下一篇: 在线post测试java接口测试_好用的