日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程资源 > 编程问答 >内容正文

编程问答

收藏 | 史上最全的“大数据”学习资源

發布時間:2023/12/20 编程问答 24 豆豆
生活随笔 收集整理的這篇文章主要介紹了 收藏 | 史上最全的“大数据”学习资源 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

2019獨角獸企業重金招聘Python工程師標準>>>

當前,整個互聯網正在從IT時代向DT時代演進,大數據技術也正在助力企業和公眾敲開DT世界大門。當今“大數據”一詞的重點其實已經不僅在于數據規模的定義,它更代表著信息技術發展進入了一個新的時代,代表著爆炸性的數據信息給傳統的計算技術和信息技術帶來的技術挑戰和困難,代表著大數據處理所需的新的技術和方法,也代表著大數據分析和應用所帶來的新發明、新服務和新的發展機遇。

為了幫助大家更好深入了解大數據,云棲社區組織翻譯了GitHub Awesome Big Data資源,供大家參考。本資源類型主要包括:大數據框架、論文等實用資源集合。

資源列表:

  • ??關系數據庫管理系統(RDBMS)
  • ??框架
  • ??分布式編程
  • ??分布式文件系統
  • ??文件數據模型
  • ??Key -Map 數據模型
  • ??鍵-值數據模型
  • ??圖形數據模型
  • ??NewSQL數據庫
  • ??列式數據庫
  • ??時間序列數據庫
  • ??類SQL處理
  • ??數據攝取
  • ??服務編程
  • ??調度
  • ??機器學習
  • ??基準測試
  • ??安全性
  • ??系統部署
  • ??應用程序
  • ??搜索引擎與框架
  • ??MySQL的分支和演化
  • ??PostgreSQL的分支和演化
  • ??Memcached的分支和演化
  • ??嵌入式數據庫
  • ??商業智能
  • ??數據可視化
  • ??物聯網和傳感器
  • ??文章
  • ??論文
  • ??視頻


關系數據庫管理系統(RDBMS)

  • ??MySQL:世界最流行的開源數據庫;
  • ??PostgreSQL:世界最先進的開源數據庫;
  • ??Oracle 數據庫:對象-關系型數據庫管理系統。


框架

  • ??Apache Hadoop:分布式處理架構,結合了 MapReduce(并行處理)、YARN(作業調度)和HDFS(分布式文件系統);
  • ??Tigon:高吞吐量實時流處理框架。


分布式編程

  • ??AddThis Hydra :最初在AddThis上開發的分布式數據處理和存儲系統;
  • ??AMPLab SIMR:用在Hadoop MapReduce v1上運行Spark;
  • ??Apache Beam:為統一的模型以及一套用于定義和執行數據處理工作流的特定SDK語言;
  • ??Apache Crunch:一個簡單的Java API,用于執行在普通的MapReduce實現時比較單調的連接、數據聚合等任務;
  • ??Apache DataFu:由LinkedIn開發的針對Hadoop and 和Pig的用戶定義的函數集合;
  • ??Apache Flink:具有高性能的執行時間和自動程序優化;
  • ??Apache Gora:內存中的數據模型和持久性框架;
  • ??Apache Hama:BSP(整體同步并行)計算框架;
  • ??Apache MapReduce :在集群上使用并行、分布式算法處理大數據集的編程模型;
  • ??Apache Pig :Hadoop中,用于處理數據分析程序的高級查詢語言;
  • ??Apache REEF :用來簡化和統一低層大數據系統的保留性評估執行框架;
  • ??Apache S4 :S4中流處理與實現的框架;
  • ??Apache Spark :內存集群計算框架;
  • ??Apache Spark Streaming :流處理框架,同時是Spark的一部分;
  • ??Apache Storm :Twitter流處理框架,也可用于YARN;
  • ??Apache Samza :基于Kafka和YARN的流處理框架;
  • ??Apache Tez :基于YARN,用于執行任務中的復雜DAG(有向無環圖);
  • ??Apache Twill :基于YARN的抽象概念,用于減少開發分布式應用程序的復雜度;
  • ??Cascalog:數據處理和查詢庫;
  • ??Cheetah :在MapReduce之上的高性能、自定義數據倉庫;
  • ??Concurrent Cascading :在Hadoop上的數據管理/分析框架;
  • ??Damballa Parkour :用于Clojure的MapReduce庫;
  • ??Datasalt Pangool :可選擇的MapReduce范例;
  • ??DataTorrent StrAM :為實時引擎,用于以盡可能暢通的方式、最小的開支和對性能最小的影響,實現分布式、異步、實時的內存大數據計算;
  • ??Facebook Corona :為Hadoop做優化處理,從而消除單點故障;
  • ??Facebook Peregrine :MapReduce框架;
  • ??Facebook Scuba :分布式內存數據存儲;
  • ??Google Dataflow :創建數據管道,以幫助其分析框架;
  • ??Netflix PigPen :為MapReduce,用于編譯成Apache Pig;
  • ??Nokia Disco :由Nokia開發的MapReduc獲取、轉換和分析數據;
  • ??Google MapReduce :MapReduce框架;
  • ??Google MillWheel :容錯流處理框架;
  • ??JAQL :用于處理結構化、半結構化和非結構化數據工作的聲明性編程語言;
  • ??Kite :為一組庫、工具、實例和文檔集,用于使在Hadoop的生態系統上建立系統更加容易;
  • ??Metamarkets Druid :用于大數據集的實時e框架;
  • ??Onyx :分布式云計算;
  • ??Pinterest Pinlater :異步任務執行系統;
  • ??Pydoop :用于Hadoop的Python MapReduce和HDFS API;
  • ??Rackerlabs Blueflood :多租戶分布式測度處理系統;
  • ??Stratosphere :通用集群計算框架;
  • ??Streamdrill :用于計算基于不同時間窗口的事件流的活動,并找到最活躍的一個;
  • ??Tuktu :易于使用的用于分批處理和流計算的平臺,通過Scala、 Akka和Play所建;
  • ??Twitter Scalding:基于Cascading,用于Map Reduce工作的Scala庫;
  • ??Twitter Summingbird :在Twitter上使用Scalding和Storm串流MapReduce;
  • ??Twitter TSAR :Twitter上的時間序列聚合器。
?

分布式文件系統

  • ??Apache HDFS:在多臺機器上存儲大型文件的方式;
  • ??BeeGFS:以前是FhGFS,并行分布式文件系統;
  • ??Ceph Filesystem:設計的軟件存儲平臺;
  • ??Disco DDFS:分布式文件系統;
  • ??Facebook Haystack:對象存儲系統;
  • ??Google Colossus:分布式文件系統(GFS2);
  • ??Google GFS:分布式文件系統;
  • ??Google Megastore:可擴展的、高度可用的存儲;
  • ??GridGain:兼容GGFS、Hadoop內存的文件系統;
  • ??Lustre file system:高性能分布式文件系統;
  • ??Quantcast File System QFS:開源分布式文件系統;
  • ??Red Hat GlusterFS:向外擴展的附網存儲(Network-attached Storage)文件系統;
  • ??Seaweed-FS:簡單的、高度可擴展的分布式文件系統;
  • ??Alluxio:以可靠的存儲速率在跨集群框架上文件共享;
  • ??Tahoe-LAFS:分布式云存儲系統;
?

文件數據模型

  • ??Actian Versant:商用的面向對象數據庫管理系統;
  • ??Crate Data:是一個開源的大規模可擴展的數據存儲,需要零管理模式;
  • ??Facebook Apollo:Facebook的Paxos算法,類似于NoSQL數據庫;
  • ??jumboDB:基于Hadoop的面向文檔的數據存儲;
  • ??LinkedIn Espresso:可橫向擴展的面向文檔的NoSQL數據存儲;
  • ??MarkLogic:模式不可知的企業版NoSQL數據庫技術;
  • ??MongoDB:面向文檔的數據庫系統;
  • ??RavenDB:一個事務性的,開源文檔數據庫;
  • ??RethinkDB:支持連接查詢和群組依據等查詢的文檔型數據庫。


Key Map 數據模型

注意:業內存在一些術語混亂,有兩個不同的東西都叫做“列式數據庫”。這里列出的有一些是圍繞“key-map”數據模型而建的分布式、持續型數據庫,其中所有的數據都有(可能綜合了)鍵,并與映射中的鍵-值對相關聯。在一些系統中,多個這樣的值映射可以與鍵相關聯,并且這些映射被稱為“列族”(具有映射值的鍵被稱為“列”)。

另一組也可稱為“列式數據庫”的技術因其存儲數據的方式而有別于前一組,它在磁盤上或在存儲器中——而不是以傳統方式,即所有既定鍵的鍵值都相鄰著、逐行存儲。這些系統也彼此相鄰來存儲所有列值,但是要得到給定列的所有值卻不需要以前那么繁復的工作。

前一組在這里被稱為“key map數據模型”,這兩者和Key-value 數據模型之間的界限是相當模糊的。后者對數據模型有更多的存儲格式,可在列式數據庫中列出。若想了解更多關于這兩種模型的區分,可閱讀Daniel Abadi的博客:Distinguishing two major types of Column Stores。

?
  • ??Apache Accumulo:內置在Hadoop上的分布式鍵/值存儲;
  • ??Apache Cassandra:由BigTable授權,面向列的分布式數據存儲;
  • ??Apache HBase:由BigTable授權,面向列的分布式數據存儲;
  • ??Facebook HydraBase:Facebook所開發的HBase的衍化品;
  • ??Google BigTable:面向列的分布式數據存儲;
  • ??Google Cloud Datastore:為完全管理型的無模式數據庫,用于存儲在BigTable上非關系型數據;
  • ??Hypertable:由BigTable授權,面向列的分布式數據存儲;
  • ??InfiniDB:通過MySQL的接口訪問,并使用大規模并行處理進行并行查詢;
  • ??Tephra:用于HBase處理;
  • ??Twitter Manhattan:Twitter的實時、多租戶分布式數據庫。
?

鍵-值數據模型

  • ??Aerospike:支持NoSQL的閃存優化,數據存儲在內存。開源,“'C'(不是Java或Erlang)中的服務器代碼可精確地調整從而避免上下文切換和內存拷貝”。
  • ??Amazon DynamoDB:分布式鍵/值存儲,Dynamo論文的實現;
  • ??Edis:為替代Redis的協議兼容的服務器;
  • ??ElephantDB:專門研究Hadoop中數據導出的分布式數據庫;
  • ??EventStore:分布式時間序列數據庫;
  • ??GridDB:適用于存儲在時間序列中的傳感器數據;
  • ??LinkedIn Krati:簡單的持久性數據存儲,擁有低延遲和高吞吐量;
  • ??Linkedin Voldemort:分布式鍵/值存儲系統;
  • ??Oracle NoSQL Database:Oracle公司開發的分布式鍵值數據庫;
  • ??Redis:內存中的鍵值數據存儲;
  • ??Riak:分散式數據存儲;
  • ??Storehaus:Twitter開發的異步鍵值存儲的庫;
  • ??Tarantool:一個高效的NoSQL數據庫和Lua應用服務器;
  • ??TiKV:由Google Spanner和HBase授權,Rust提供技術支持的分布式鍵值數據庫;
  • ??TreodeDB:可復制、共享的鍵-值存儲,能提供多行原子寫入。
?

圖形數據模型

  • ??Apache Giraph:基于Hadoop的Pregel實現;
  • ??Apache Spark Bagel:可實現Pregel,為Spark的一部分;
  • ??ArangoDB:多層模型分布式數據庫;
  • ??DGraph:一個可擴展的、分布式、低時延、高吞吐量的圖形數據庫,旨在為Google生產水平規模和吞吐量提供足夠的低延遲,用于TB級的結構化數據的實時用戶查詢;
  • ??Facebook TAO:TAO是facebook廣泛用來存儲和服務于社交圖形的分布式數據存儲;
  • ??GCHQ Gaffer:GCHQ中的Gaffer是一個易于存儲大規模圖形的框架,其中節點和邊緣都有統計數據;
  • ??Google Cayley:開源圖形數據庫;
  • ??Google Pregel :圖形處理框架;
  • ??GraphLab PowerGraph:核心C ++ GraphLab API和建立在GraphLab API之上的高性能機器學習和數據挖掘工具包的集合;
  • ??GraphX:Spark中的彈性分布式圖形系統;
  • ??Gremlin:圖形追蹤語言;
  • ??Infovore:以RDF為中心的Map / Reduce框架;
  • ??Intel GraphBuilder:在Hadoop上構建大規模圖形的工具;
  • ??MapGraph:用于在GPU上大規模并行圖形處理;
  • ??Neo4j:完全用Java寫入的圖形數據庫;
  • ??OrientDB:文檔和圖形數據庫;
  • ??Phoebus:大型圖形處理框架;
  • ??Titan:建于Cassandra的分布式圖形數據庫;
  • ??Twitter FlockDB:分布式圖形數據庫。
?

NewSQL數據庫

  • ??Actian Ingres:由商業支持,開源的SQL關系數據庫管理系統;
  • ??Amazon RedShift:基于PostgreSQL的數據倉庫服務;
  • ??BayesDB:面向統計數值的SQL數據庫;
  • ??CitusDB:通過分區和復制橫向擴展PostgreSQL;
  • ??Cockroach:可擴展、地址可復制、交易型的數據庫;
  • ??Datomic:旨在產生可擴展、靈活的智能應用的分布式數據庫;
  • ??FoundationDB:由F1授意的分布式數據庫;
  • ??Google F1:建立在Spanner上的分布式SQL數據庫;
  • ??Google Spanner:全球性的分布式半關系型數據庫;
  • ??H-Store:是一個實驗性主存并行數據庫管理系統,用于聯機事務處理(OLTP)應用的優化;
  • ??Haeinsa:基于Percolator,HBase的線性可擴展多行多表交易庫;
  • ??HandlerSocket:MySQL/MariaDB的NoSQL插件;
  • ??InfiniSQL:無限可擴展的RDBMS;
  • ??MemSQL:內存中的SQL數據庫,其中有優化的閃存列存儲;
  • ??NuoDB:SQL / ACID兼容的分布式數據庫;
  • ??Oracle TimesTen in-Memory Database:內存中具有持久性和可恢復性的關系型數據庫管理系統;
  • ??Pivotal GemFire XD:內存中低延時的分布式SQL數據存儲,可為內存列表數據提供SQL接口,在HDFS中較持久化;
  • ??SAP HANA:是在內存中面向列的關系型數據庫管理系統;

轉載于:https://my.oschina.net/u/2509910/blog/729586

總結

以上是生活随笔為你收集整理的收藏 | 史上最全的“大数据”学习资源的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。