廣泛被應用的數據分析

谷歌的數據分析可以預測一個地區即將爆發的流感，從而進行針對性的預防；淘寶可以根據你瀏覽和消費的數據進行分析，為你精準推薦商品；口碑極好的網易云音樂，通過其相似性算法，為不同的人量身定制每日歌單……

數據正在變得越來越常見，小到我們每個人的社交網絡、消費信息、運動軌跡……，大到企業的銷售、運營數據，產品的生產數據，交通網絡數據……

如何從海量數據中獲得別人看不見的知識，如何利用數據來武裝營銷工作、優化產品、用戶調研、支撐決策，數據分析可以將數據的價值最大化。

數據分析人才熱度也是高居不下，一方面企業的數據量在大規模的增長，對于數據分析的需求與日俱增；另一方面，相比起其他的技術職位，數據分析師的候選者要少得多。

數據源于麥肯錫

那么，小白如何快速獲得數據分析的能力呢？知乎上有很多書單，你可能也聽過很多學習方法，但嘗試過就知道這些跟高效沒什么關系。

數據分析師應該具備哪些技能

要明確學習的路徑，最有效的方式就是看具體的職業、工作崗位對于技能的具體需求。

我們從拉勾上找了一些最具有代表性的數據分析師職位信息，來看看薪資不菲的數據分析師，到底需要哪些技能。

其實企業對數據分析師的基礎技能需求差別不大，可總結如下：

• SQL數據庫的基本操作，會基本的數據管理

• 會用Excel/SQL做基本的數據管理

• 會用腳本語言進行數據分析，Python or R

• 有獲取外部數據的能力，如爬蟲

• 會基本的數據可視化技能，能撰寫數據報告

• 熟悉常用的數據挖掘算法：以回歸分析為主

其次是數據分析的流程，一般可以按“數據獲取-數據存儲與提取-數據預處理-數據建模與分析-數據可視化”這樣的步驟來實施一個數據分析項目。按照這個流程，每個部分需要掌握的細分知識點如下：

高效的學習路徑是什么？就是數據分析的這個流程。按這樣的順序循序漸進，你會知道每個部分需要完成的目標是什么，需要學習哪些知識點，哪些知識是暫時不必要的。

接下來我們分別從每一個部分講講具體應該學什么、怎么學。

- ? -

數據獲取：公開數據、Python爬蟲

外部數據的獲取方式主要有以下兩種。

第一種是獲取外部的公開數據集，一些科研機構、企業、政府會開放一些數據，你需要到特定的網站去下載這些數據。這些數據集通常比較完善、質量相對較高。給大家推薦一些常用的可以獲取數據集的網站：

UCI：加州大學歐文分校開放的經典數據集，被很多數據挖掘實驗室采用。

http://archive.ics.uci.edu/ml/datasets.html

國家數據：數據來源于中國國家統計局，包含了我國經濟民生等多個方面的數據。

http://data.stats.gov.cn/

CEIC：超過128個國家的經濟數據，能精確查找GDP、進出口零售，銷售等深度數據。

http://www.ceicdata.com/zh-hans

中國統計信息網：國家統計局官方網站，匯集了國民經濟和社會發展統計信息。

http://www.tjcn.org/

優易數據：由國家信息中心發起，國內領先的數據交易平臺，很多免費數據。

http://www.youedata.com/

另一種獲取外部數據的方式就是爬蟲。

比如你可以通過爬蟲獲取招聘網站某一職位的招聘信息，爬取租房網站上某城市的租房信息，爬取豆瓣評分評分最高的電影列表，獲取知乎點贊排行、網易云音樂評論排行列表。基于互聯網爬取的數據，你可以對某個行業、某種人群進行分析。

在爬蟲之前你需要先了解一些 Python 的基礎知識：元素（列表、字典、元組等）、變量、循環、函數………

以及，如何用 Python 庫（urllib、BeautifulSoup、requests、scrapy）實現網頁爬蟲。如果是初學，建議從?urllib+BeautifulSoup?開始。

常用的的電商網站、問答網站、二手交易網站、婚戀網站、招聘網站等，都可以爬到非常有價值的數據。

- ? -

數據存取：SQL語言

在應對萬以內的數據的時候，Excel對于一般的分析沒有問題，一旦數據量大，就會力不從心，數據庫就能夠很好地解決這個問題。而且大多數的企業，都會以SQL的形式來存儲數據，如果你是一個分析師，也至少要懂得SQL的操作，能夠查詢、提取公司的數據。

SQL作為最經典的數據庫工具，為海量數據的存儲與管理提供可能，并且使數據的提取的效率大大提升。你需要掌握以下技能：

• 提取特定情況下的數據：企業數據庫里的數據一定是大而繁復的，你需要提取你需要的那一部分。比如你可以根據你的需要提取2017年所有的銷售數據、提取今年銷量最大的50件商品的數據、提取上海、廣東地區用戶的消費數據……，SQL可以通過簡單的命令幫你完成這些工作。

  
  

• 數據庫的增、刪、查、改：這些是數據庫最基本的操作，但只要用簡單的命令就能夠實現，所以你只需要記住命令就好。

  
  

• 數據的分組聚合、如何建立多個表之間的聯系：這個部分是SQL的進階操作，多個表之間的關聯，在你處理多維度、多個數據集的時候非常有用，這也讓你可以去處理更復雜的數據。

SQL這部分比較簡單，主要是掌握一些基本的語句。當然，還是建議你找幾個數據集來實際操作一下，哪怕是最基礎的查詢、提取等。

- ? -

數據預處理：Python（pandas）

很多時候我們拿到的數據是不干凈的，數據的重復、缺失、異常值等等，這時候就需要進行數據的清洗，把這些影響分析的數據處理好，才能獲得更加精確地分析結果。

比如缺失值，我們是直接去掉這條數據，還是用臨近的值去補全，比如異常的值，如何設置合理數據區間進行取舍……

對于數據預處理，學會 pandas （Python包）的用法，應對一般的數據清洗就完全沒問題了。需要掌握的知識點如下：

• 選擇：數據訪問（標簽、特定值、布爾索引等）

• 缺失值處理：對缺失數據行進行刪除或填充

• 重復值處理：重復值的判斷與刪除

• 異常值處理：清除不必要的空格和極端、異常數據

• 相關操作：描述性統計、Apply、直方圖等

• 合并：符合各種邏輯關系的合并操作

• 分組：數據劃分、分別執行函數、數據重組

• Reshaping：快速生成數據透視表

- ? -

概率論及統計學知識

數據整體分布是怎樣的？什么是總體和樣本？中位數、眾數、均值、方差等基本的統計量如何應用？如何在不同的場景中做假設檢驗？數據分析方法大多源于統計學的概念，所以統計學的知識也是必不可少的。需要掌握的知識點如下：

• 基本統計量：均值、中位數、眾數、百分位數、極值等

• 其他描述性統計量：偏度、方差、標準差、顯著性等

• 其他統計知識：總體和樣本、參數和統計量、ErrorBar

• 概率分布與假設檢驗：各種分布、假設檢驗流程

• 其他概率論知識：條件概率、貝葉斯等

有了統計學的基本知識，你就可以用這些統計量做基本的分析了。通過可視化的方式來描述數據的指標，其實可以得出很多結論了：比如排名前100的是哪些，平均水平是怎樣的，近幾年的變化趨勢如何……

你可以使用 Seaborn、matplotlib 等（python包）做一些可視化的分析，通過各種可視化統計圖，并得出具有指導意義的結果。

- ? -

Python 數據分析

如果你有一些了解的話，就知道目前市面上其實有很多 Python 數據分析的書籍，但每一本都很厚，學習阻力非常大。但其實真正最有用的那部分信息，只是這些書里很少的一部分。

比如掌握回歸分析的方法，通過線性回歸和邏輯回歸，其實你就可以對大多數的數據進行回歸分析，并得出相對精確地結論。這部分需要掌握的知識點如下：

• 回歸分析：線性回歸、邏輯回歸

• 基本的分類算法：決策樹、隨機森林、樸素貝葉斯……

• 基本的聚類算法：k-means……

• 特征工程基礎：如何用特征選擇優化模型

• Python 數據分析包：scipy、numpy、scikit-learn等

在數據分析的這個階段，重點了解回歸分析的方法，大多數的問題可以得以解決，利用描述性的統計分析和回歸分析，你完全可以得到一個不錯的分析結論。

然后你會知道面對不同類型的問題的時候更適合用哪種算法模型，對于模型的優化，你需要去學習如何通過特征提取、參數調節來提升預測的精度。這就有點數據挖掘和機器學習的味道了，其實一個好的數據分析師，應該算是一個初級的數據挖掘工程師了。

-???-

系統實戰與數據思維

到這個時候，你就已經具備了數據分析的基本能力了。但是還要根據不同的案例、不同的業務場景進行實戰，練習解決實際問題的能力。

上面提到的公開數據集，可以找一些自己感興趣的方向的數據，嘗試從不同的角度來分析，看看能夠得到哪些有價值的結論。

你也可以從生活、工作中去發現一些可用于分析的問題，比如上面說到的電商、招聘、社交等平臺等數據中都有著很多可以挖掘的問題。

開始的時候，你可能考慮的問題不是很周全，但隨著你經驗的積累，慢慢就會找到分析的方向，有哪些一般分析的維度，比如Top榜單、平均水平、區域分布、同比環比、相關性分析、未來趨勢預測等等。隨著經驗的增加，你會有一些自己對于數據的感覺，這就是我們通常說的數據思維了。

零基礎學習數據分析，坑確實比較多，總結如下：

• 1.環境配置，工具安裝、環境變量，對小白太不友好；

• 2.缺少合理的學習路徑，上來 Python、HTML 各種學，極其容易放棄；

• 3.Python有很多包、框架可以選擇，不知道哪個更友好；

• 4.遇到問題找不到解決辦法，學習停滯不前；

• 5.網上的資料非常零散，而且對小白不友好，很多看起來云里霧里；

• 6.懂得技巧，但面對具體問題無法系統思考和分析；

• ……………………

正好，DC學院推出的這門系統的數據分析課程，就是按照以上的學習路徑。是無數分析師的爬坑經驗、以及無數本書的總結，讓你少走彎路。60天，足夠打敗市面上多半所謂的分析師。

這門課已有2000+同學加入。不少同學都取得了從0到1的進步，能夠分析大規模數據，完成可視化分析和趨勢預測。

如果你希望在短時間內學會Python數據分析，少走彎路

掃描下方二維碼加入課程

限額底價 ￥399（原價￥599），限前100名

?關于學習路徑?

我們知道一般的數據分析流程是：“數據獲取-數據存儲-數據清洗-Python數據建模與分析-數據可視化與報告”，而課程正是按照實際的分析流程搭建整體框架。

這條學習路線足夠清晰，沒有一上來直接灌輸大量理論，而是在實踐中學習，這就有效過濾掉了無效知識。

每學習一部分知識，能解決實際的問題，即便是對于純小白來說，也沒有什么壓力。

數據清洗-獲得干凈數據

數據可視化-探索性數據分析

附：《數據分析師（入門）》課程大綱

60天入門數據分析師

第一章：開啟數據分析之旅?

1) 數據分析的一般流程及應用場景?

2) Python 編程環境的搭建及數據分析包的安裝?

第二章：獲取你想要的數據?

1) 獲取互聯網上的公開數據集?

2) 用網站 API 爬取網頁數據?

3) 爬蟲所需的 HTML 基礎?

4) 基于 HTML 的爬蟲，Python（Beautifulsoup）實現?

5) 網絡爬蟲高級技巧：使用代理和反爬蟲機制?

6) 應用案例：爬取豆瓣 TOP250 電影信息并存儲?

第三章：數據存儲與預處理?

1) 數據庫及 SQL 語言概述?

2) 基于 HeidiSQL 的數據庫操作?

3) 數據庫進階操作：數據過濾與分組聚合?

4) 用 Python 進行數據庫連接與數據查詢?

5) 其他類型數據庫：SQLite&MongoDB?

6) 用 Pandas 進行數據預處理：數據清洗與可視化?

第四章：統計學基礎與 Python 數據分析?

1）探索型數據分析：繪制統計圖形展示數據分布?

2）通過統計圖形探究數據分布的潛在規律?

3）描述統計學：總體、樣本和誤差，基本統計量?

4）推斷統計學：概率分布和假設檢驗?

5）在實際分析中應用不同的假設檢驗?

6）預測型數據分析：線性回歸

7）Python中進行線性回歸（scikit-learn實現）

8) ? 預測型數據分析：分類及邏輯回歸

9)? ?其它常用算法（k近鄰、決策樹、隨機森林）

10) 預測型數據分析：聚類算法（k均值、DBSCAN）

11) 用特征選擇方法優化模型?

12) 用 scikit-learn 實現數據挖掘建模全過程?

13) 用 rapidminer 解決商業分析關鍵問題?

14) 高級數據分析工具：機器學習、深度學習初探

第五章 報告撰寫及課程總結?

1) 養成數據分析的思維?

2) 數據分析的全流程及報告撰寫的技巧?

3) 課程回顧以及一些拓展?

?關于學習資料?

你或許受夠了零散的學習資源，不系統不清晰意味著低效；你可能收集了以G計的的學習資源，但保存后從來沒打開過？

老實說，很少有像這門課這樣的用心的課程資料。每一小節后面都有本節的重點知識、參考代碼以及延伸學習材料，供快速復習、案例實現、深入拓展……你一定不會失望。

某節部分學習資料

?關于課程老師?

課程主講老師王樂業是港科大的博士后，在數據挖掘方面成果不俗。更重要的是，他喜歡分享，知乎粉絲不少，能把知識提煉到極致，所以課程全是干貨，沒有廢話。

周濤教授很多人比較熟悉，作為這門課的研發老師，他也將自己多年的大數據分析和挖掘的經驗、教學經驗傾注其中。所以課程不僅是知識，還有思維和學習方法，你完全可以遷移到其它層面的學習中。

【課程主講老師】

王樂業

香港科技大學博士后

王樂業，香港科技大學博士后，法國國立電信學院及巴黎六大計算機科學與技術專業博士。本科和碩士畢業于北京大學計算機科學與技 術專業。目前研究方向研究方向為城市時空數據挖掘。從事研究工作包括通過社交網絡識別個人興趣、通過移動通信網絡推理人群移動模式、以及通過公共交通數據優化交通站點分布等。發表論文20余篇，其中SCI10余篇，引用300余次。樂業老師是一位樂于分享的學者，善于用簡單的方法解答復雜的問題。在他看來，找到好的學習方法和路徑，其實可以少走很多彎路。

【課程研發老師】

周濤

電子科技大學教授

周濤，電子科技大學教授、大數據研究中心主任。主要從事統計物理與復雜性，數據挖掘與數據分析方面的研究。在 Physics Reports、PNAS等國際 SCI 期刊發表300余篇學術論文，引用超過17000次，H 指數為63。2015年入選全國十大科技創新人物，超級暢銷書《大數據時代》譯者，暢銷書 《為數據而生:大數據創新實踐》作者。周濤教授參與課程的研發和課程體系的設計，以多年的教學科研和企業數據團隊管理經驗為課程的頂層設計保駕護航。

?關于學習和答疑?

課程是錄播的，所以可以根據自己的計劃，隨時學習。當然學習群也有老師隨時答疑，你的每一個問題都能被認真對待。很多時候學習效率不高，并不是因為編程多難，而是一些小問題，卡住了學習的進度。

【課程信息】

「 上課形式 」

錄播課程，可隨時開始，反復觀看

「 學習周期 」

建議每周學習至少8小時

「 學習路徑 」

數據獲取-數據預處理-數據建模與分析-可視化與報告

「 編程語言 」

人生苦短，我用Python

「 面向人群 」

零基礎的小白、負基礎的小白白

「 答疑形式 」

學習群老師隨時答疑，即便是最初級的問題

「 課程資料 」

重點筆記、操作詳解、參考代碼、課后拓展

「 課程證書 」

學完課程并達到要求，發放數據分析師結業證書

限額底價：￥399（原價599），限前100名

優惠名額有限，長按下方二維碼，馬上去搶！

咨詢、資料領取、獲取體驗課，請加下方微信群

若群滿，加Alice小姐姐微信：datacastle2017

哦，對了，課程證書長這樣

每個證書編號對應一個獨立身份信息

點擊下方“閱讀原文”也可以加入課程哦

創作挑戰賽新人創作獎勵來咯，堅持創作打卡瓜分現金大獎

總結

以上是生活随笔為你收集整理的从小白到年薪10万+，优秀的数据分析能力如何速成？的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。