scrapy note
command
全局命令:
startproject :在 project_name 文件夾下創(chuàng)建一個名為 project_name 的Scrapy項目。
scrapy startproject myproject
settings:在項目中運行時,該命令將會輸出項目的設(shè)定值,否則輸出Scrapy默認設(shè)定。
runspider:在未創(chuàng)建項目的情況下,運行一個編寫在Python文件中的spider。
shell:以給定的URL(如果給出)或者空(沒有給出URL)啟動Scrapy shell。
fetch:使用Scrapy下載器(downloader)下載給定的URL,并將獲取到的內(nèi)容送到標準輸出。
scrapy fetch --nolog --headers http://www.example.com/
view:在瀏覽器中打開給定的URL,并以Scrapy spider獲取到的形式展現(xiàn)。
scrapy view http://www.example.com/some/page.html
version:輸出Scrapy版本。
項目(Project-only)命令:
crawl:使用spider進行爬取。
scrapy crawl myspider
check:運行contract檢查。
scrapy check -l
list:列出當前項目中所有可用的s