12个大数据项目
介紹一下,應(yīng)用較多的大數(shù)據(jù)項目:
1,離線數(shù)據(jù)處理:項目內(nèi)容為通過對網(wǎng)站訪問日志的采集和清洗,結(jié)合數(shù)據(jù)庫中的結(jié)構(gòu)化用戶數(shù)據(jù),統(tǒng)計并展示網(wǎng)站的PV、UV情況,以對網(wǎng)站的運行情況進行監(jiān)控。通過此項目,回顧并串聯(lián)前面講述的離線數(shù)據(jù)處理相關(guān)技術(shù),如:FIune、Sqoop、Hive、Spark等,了解和掌握PB級數(shù)據(jù)離線處理的一般過程和架構(gòu)。
2,流式數(shù)據(jù)處理:項目內(nèi)容為通過對數(shù)據(jù)庫交易數(shù)據(jù)修改的實時同步,監(jiān)控網(wǎng)站實時交易情況,以提高網(wǎng)站交易情況監(jiān)控的時效性,降低網(wǎng)站運行的風險。 通過此項目,回顧并串聯(lián)前面講述的實時數(shù)據(jù)處理相關(guān)技術(shù),如:kafka、Spark、Streaning和HBase等,了解和掌握實時數(shù)據(jù)處理的一般過程和架構(gòu)。
3,搜索系統(tǒng):項目內(nèi)容,通過網(wǎng)站爬蟲爬取網(wǎng)站數(shù)據(jù),然后基于KlastlcSeard和Klbana搭建一個完整的搜索系統(tǒng)。
4,系統(tǒng)運行情況儀表盤: 通過對網(wǎng)站訪問日志的采集和清洗,結(jié)合數(shù)據(jù)庫中的結(jié)構(gòu)化用戶數(shù)據(jù),統(tǒng)計并展示網(wǎng)站的PV,UV情況,以對網(wǎng)站的運行情況進行監(jiān)控。通過此項目,回顧并串聯(lián)前面講述的離線數(shù)據(jù)處理相關(guān)技術(shù),如Flume,Sqoop,Hive,Spark等,掌握PB級數(shù)據(jù)離線處理的一般過程和架構(gòu)。
5,推薦系統(tǒng):項目內(nèi)容,基于公開數(shù)據(jù)庫的商品推薦,某大型互金公司產(chǎn)品推薦系統(tǒng)剖析, 通過對公司實際推薦項目的剖析和根據(jù)真實數(shù)據(jù)搭建推薦系統(tǒng)的實操演練,了解推薦系統(tǒng)的一般架構(gòu)和常用算法。
6, 實時交易監(jiān)控系統(tǒng) : 過對數(shù)據(jù)庫交易數(shù)據(jù)修改的實時同步,監(jiān)控網(wǎng)站實時交易情況,以提高網(wǎng)站交易情況監(jiān)控的時效性,降低網(wǎng)站運行的風險。通過此項目,回顧并串聯(lián)前面講述的實時數(shù)據(jù)處理相關(guān)技術(shù),如Kafka,Spark Streaming和HBase等,掌握實時數(shù)據(jù)處理的一般過程和架構(gòu)。
7,推薦系統(tǒng)理論與實戰(zhàn): 講解推薦系統(tǒng)的相關(guān)背景,常用算法及通用架構(gòu);基于公開數(shù)據(jù)集從零構(gòu)建一個電影推薦系統(tǒng)。通過對公司實際推薦項目的剖析和根據(jù)真實數(shù)據(jù)搭建推薦系統(tǒng)的實操演練,了解推薦系統(tǒng)的一般架構(gòu)和常用算法
8,數(shù)據(jù)倉庫搭建理論與實戰(zhàn): 講解數(shù)據(jù)倉庫搭建的方法論,常用建模理論;以互金公司數(shù)據(jù)倉庫搭建場景作為切入,實例演示數(shù)據(jù)倉庫搭建過程及技術(shù)架構(gòu)。
9,分布式業(yè)務(wù)監(jiān)控系統(tǒng): 講解業(yè)務(wù)監(jiān)控系統(tǒng)需求背景,基于大數(shù)據(jù)的技術(shù)方案;通過實例代碼搭建完整的業(yè)務(wù)監(jiān)控系統(tǒng)
10,基于ES的日志系統(tǒng) : 基于Flume,ElasticSearch等技術(shù)搭建系統(tǒng)日志收集與查詢系統(tǒng)。
11,信貸需求預(yù)測系統(tǒng): 以京東信貸需求預(yù)測競賽為背景,實例講解數(shù)據(jù)挖掘項目中如何設(shè)計特征,模型基礎(chǔ),建模以及調(diào)參等。
12,用戶畫像系統(tǒng) : 講解用戶畫像系統(tǒng)的需求背景,基于大數(shù)據(jù)技術(shù)的解決方案;通過實例代碼演示用戶畫像系統(tǒng)的搭建。
?
————————————————
版權(quán)聲明:本文為CSDN博主「hyy1568786」的原創(chuàng)文章,遵循CC 4.0 BY-SA版權(quán)協(xié)議,轉(zhuǎn)載請附上原文出處鏈接及本聲明。
原文鏈接:https://blog.csdn.net/hyy1568786/article/details/106362727
總結(jié)
- 上一篇: jquery选中以什么开头的元素
- 下一篇: MySql学习之varchar类型