大数据项目需求分析
以大數據項目為主線,技術理論與項目實踐相結合,按照大數據項目的開發流程逐步推進,本文主要講解項目的需求分析、架構設計以及離線和實時數據流程設計,然后提前規劃好大數據項目需要的集群,按照項目的實現邏輯,結合具體的技術組件詳細講解整個大數據項目的開發流程。
一、項目需求分析
需求分析是基礎,需求分析貫穿整個項目的始終,是對客戶需求的深入了解。整個項目自始至終都需要與客戶或用戶進行交流。大數據項目需求是以數據為中心,在需求分析階段就強調數據的分析。大數據項目的需求分析主要分為以下四階段。
● 概念需求分析
● 場景需求分析
● 界面需求分析
● 細節需求分析
接下來以廣西壯族自治區糖業大數據平臺項目項目,糖業數據采集+存儲+治理+分析+可視化應用+共享的案例來進行需求分析,具體需求如下。
1.場景需求分析
場景需求分析階段體現了系統的總體構思與設計,目的是為了了解系統的組織形式和功能需求的全貌,解決“是什么”的問題。結合該項目案例的需求,滿足實時計算場景,需要設計大數據實時分析系統,當然同時也可以設計離線分析系統。分析系統包含數據采集、數據存儲、數據過濾清洗、數據統計分析以及數據可視化等結構,最終需要統計分析蔗糖從生產到銷售的全生命周期數據管理。
2.概念需求分析
概念需求分析的任務是對系統中涉及的概念、數據內容等進行分析,解決“有什么”的問題。該項目數據主要包含為涉農應用提供蔗農、蔗地塊精準數據,5大分析域、21個應用場景,主要以日志的形式寫到日志服務器本地磁盤。需要利用用戶瀏覽日志數據統計分析相應的需求結果,數據需要經過以下流程。
(1)數據采集∶蔗糖數據落盤到日志服務器之后,可以利用Flume采集工具完成數據采集。
(2)數據存儲與交換∶根據離線和實時應用場景,可以將采集的數據存儲到HBase或Kafka。
(3)數據計算∶利用離線和實時計算框架完成對數據的統計分析,最后將結果輸出到數據庫。
(4)數據可視化∶對數據庫中的數據進行可視化,完成數據大屏展示。
?3.細節需求分析
細節需求分析是解決“怎么做”的問題。詳細的需求分析包括采用怎樣的大數據技術架構、詳細的數據流程架構設計以及數據庫設計等。
4.界面需求分析
客戶能否用好大數據系統最終決定項目的成敗,良好的可視化界面也是不可忽視的。系統界面的好壞并不是追求界面的炫酷,而是根據可視化界面能否分析出有價值的信息,幫助決策者快速做出決策,梯度科技提供綜合性糖業監管全息可視化平臺。最終的可視化界面要準確反映糖業數據的實時變化情況,分析蔗糖從生產到銷售不同階段變化情況,以及實現糖業全產業鏈、價值鏈、供應鏈互聯互通,助力蔗糖產業走向智能化創新發展新方向。
總結
- 上一篇: mybatis里oracle与MySQL
- 下一篇: AJAXSUBMIT跨域问题