spark大数据基础概念
Hive和Hbase是兩種基于Hadoop的不同技術–Hive是一種類SQL的引擎,并且運行MapReduce任務,
Hbase是一種在Hadoop之上的NoSQL 的Key/vale數據庫。
當然,這兩種工具是可以同時使用的。就像用Google來搜索,用FaceBook進行社交一樣,
Hive可以用來進行統計查詢,HBase可以用來進行實時查詢,數據也可以從Hive寫到Hbase,設置再從Hbase寫回Hive。
最后但不是最重要的–為了運行Hbase,Zookeeper是必須的,
zookeeper是一個用來進行分布式協調的服務,這些服務包括配置服務,維護元信息和命名空間服務。
1.hive適合處理離線的數據
2.hbase適合處理實時的數據的查詢
Hive本身不存儲和計算數據,它完全依賴于HDFS和MapReduce,Hive中的表純邏輯。hive需要用到hdfs存儲文件,需要用到MapReduce計算框架。
hive可以認為是map-reduce的一個包裝。hive的意義就是把好寫的hive的sql轉換為復雜難寫的map-reduce程序。
hbase可以認為是hdfs的一個包裝。他的本質是數據存儲,是個NoSql數據庫;hbase部署于hdfs之上,并且克服了hdfs在隨機讀寫方面的缺點。
下面這個鏈接非常重要:
https://www.cnblogs.com/JDtech/p/5320408.html
可以看到spark+hbase
spark+hive優于spark+hbase(nosql)
https://blog.csdn.net/qq_41577045/article/details/79936353
這個鏈接中提到,元數據庫可以是derby數據庫也可以是mysql數據庫
在有mysql的情況下,為什么要使用hive
https://blog.csdn.net/nxw_tsp/article/details/54314886
hive連接mysql相關參考鏈接:
https://www.cnblogs.com/kinginme/p/7249533.html
http://www.cnblogs.com/kinginme/p/7233315.html
https://blog.csdn.net/henni_719/article/details/52919795
非關系型數據庫有以下這些:
mongoDB,redis,HBase
關系型的出名的有 sql server,oracle,mysql,postgresql,db2,sqlite ,
剩下的基本是NoSQL 新出的
總結
以上是生活随笔為你收集整理的spark大数据基础概念的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: spark大数据基本概念整理以及软件下载
- 下一篇: 总结-各种安全漏洞学习环境集合(转)