scrapy 安装流程和启动
生活随笔
收集整理的這篇文章主要介紹了
scrapy 安装流程和启动
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
#Windows平臺
1. pip3 install wheel #安裝后,便支持通過wheel文件安裝軟件,wheel文件官網:https://www.lfd.uci.edu/~gohlke/pythonlibs
2. 下載pywin32的wheel文件:執行pip3 install 下載目錄\pywin32-17.9.0-cp36-cp36m-win_amd64.whl 3. 下載twisted的wheel文件:http://www.lfd.uci.edu/~gohlke/pythonlibs/#twisted 執行pip3 install 下載目錄\Twisted-17.9.0-cp36-cp36m-win_amd64.whl pip3 install scrapy
4. pip3 install scrapy
#Linux平臺 1、pip3 install scrapy
1. 創建project
scrapy startproject 項目名稱
項目名稱
項目名稱/
- spiders # 爬蟲文件
- chouti.py
- cnblgos.py
....
- items.py # 持久化
- pipelines # 持久化
- middlewares.py # 中間件
- settings.py # 配置文件(爬蟲)
scrapy.cfg # 配置文件(部署)
2. 創建爬蟲
cd 項目名稱
scrapy genspider chouti chouti.com
scrapy genspider cnblgos cnblgos.com
3. 啟動爬蟲
scrapy crawl chouti
scrapy crawl chouti --nolog ?
4. pip3 install scrapy
#Linux平臺 1、pip3 install scrapy
1. 創建project
scrapy startproject 項目名稱
項目名稱
項目名稱/
- spiders # 爬蟲文件
- chouti.py
- cnblgos.py
....
- items.py # 持久化
- pipelines # 持久化
- middlewares.py # 中間件
- settings.py # 配置文件(爬蟲)
scrapy.cfg # 配置文件(部署)
2. 創建爬蟲
cd 項目名稱
scrapy genspider chouti chouti.com
scrapy genspider cnblgos cnblgos.com
3. 啟動爬蟲
scrapy crawl chouti
scrapy crawl chouti --nolog ?
轉載于:https://www.cnblogs.com/shangchunhong/p/9586104.html
總結
以上是生活随笔為你收集整理的scrapy 安装流程和启动的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: mybatis学习(3)进阶
- 下一篇: GIMP永久保存选择的办法