日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程资源 > 编程问答 >内容正文

编程问答

spark大数据基础概念

發布時間:2023/12/20 编程问答 24 豆豆
生活随笔 收集整理的這篇文章主要介紹了 spark大数据基础概念 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

Hive和Hbase是兩種基于Hadoop的不同技術–Hive是一種類SQL的引擎,并且運行MapReduce任務,
Hbase是一種在Hadoop之上的NoSQL 的Key/vale數據庫。
當然,這兩種工具是可以同時使用的。就像用Google來搜索,用FaceBook進行社交一樣,
Hive可以用來進行統計查詢,HBase可以用來進行實時查詢,數據也可以從Hive寫到Hbase,設置再從Hbase寫回Hive。

最后但不是最重要的–為了運行Hbase,Zookeeper是必須的,
zookeeper是一個用來進行分布式協調的服務,這些服務包括配置服務,維護元信息和命名空間服務。

1.hive適合處理離線的數據
2.hbase適合處理實時的數據的查詢

Hive本身不存儲和計算數據,它完全依賴于HDFS和MapReduce,Hive中的表純邏輯。hive需要用到hdfs存儲文件,需要用到MapReduce計算框架。
hive可以認為是map-reduce的一個包裝。hive的意義就是把好寫的hive的sql轉換為復雜難寫的map-reduce程序。
hbase可以認為是hdfs的一個包裝。他的本質是數據存儲,是個NoSql數據庫;hbase部署于hdfs之上,并且克服了hdfs在隨機讀寫方面的缺點。

下面這個鏈接非常重要:
https://www.cnblogs.com/JDtech/p/5320408.html
可以看到spark+hbase
spark+hive優于spark+hbase(nosql)

https://blog.csdn.net/qq_41577045/article/details/79936353
這個鏈接中提到,元數據庫可以是derby數據庫也可以是mysql數據庫

在有mysql的情況下,為什么要使用hive
https://blog.csdn.net/nxw_tsp/article/details/54314886

hive連接mysql相關參考鏈接:
https://www.cnblogs.com/kinginme/p/7249533.html
http://www.cnblogs.com/kinginme/p/7233315.html
https://blog.csdn.net/henni_719/article/details/52919795

非關系型數據庫有以下這些:
mongoDB,redis,HBase
關系型的出名的有 sql server,oracle,mysql,postgresql,db2,sqlite ,
剩下的基本是NoSQL 新出的

創作挑戰賽新人創作獎勵來咯,堅持創作打卡瓜分現金大獎

總結

以上是生活随笔為你收集整理的spark大数据基础概念的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。