三十七、细说Scrapy中的settings设置
生活随笔
收集整理的這篇文章主要介紹了
三十七、细说Scrapy中的settings设置
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
@Author:Runsen
文章目錄
- 爬蟲項目結構
- Scrapy默認設置
- Scrapy深入下載中間件設置
- 導入配置from_crawler
- 代理設置
爬蟲項目結構
建立完爬蟲項目之后,都會有如下的結構:
其中,settings.py文件是存放配置文件用的,初始化的settings文件,只有以下四個變量是默認定義好的,其他都是注釋掉的。現在從上往下,看下每個變量的含義。
Scrapy默認設置
scrapy對某些內部組件進行了默認設置,這些組件通常情況下是不能被修改的,但是我們在自定義了某些組件以后,比如我們設置了自定義的middleware中間件,需要按照一定的順序把他添加到組件之中,這個時候需要參考scrapy的默認設置,因為這個順序會影響scrapy的執行,下面列出了scrapy的默認基礎設置
# settings.py中大部分配置的注釋:總結
以上是生活随笔為你收集整理的三十七、细说Scrapy中的settings设置的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 淘宝可以绑定信用卡吗
- 下一篇: 江苏银行信用卡额度是多少