這里是通過爬取伯樂在線的全部文章為例子,讓自己先對scrapy進(jìn)行一個整理的理解

該例子中的詳細(xì)代碼會放到我的github地址:https://github.com/pythonsite/spider/tree/master/jobboleSpider

注:這個文章并不會對詳細(xì)的用法進(jìn)行講解,是為了讓對scrapy各個功能有個了解,建立整體的印象。

在學(xué)習(xí)Scrapy框架之前,我們先通過一個實際的爬蟲例子來理解,后面我們會對每個功能進(jìn)行詳細(xì)的理解。
這里的例子是爬取http://blog.jobbole.com/all-posts/ 伯樂在線的全部文章數(shù)據(jù)

分析要爬去的目標(biāo)站信息

先看如下圖,首先我們要獲取下圖中所有文章的連接,然后是進(jìn)入每個文章連接爬取每個文章的詳細(xì)內(nèi)容。
每個文章中需要爬取文章標(biāo)題,發(fā)表日期,以及標(biāo)簽,贊賞收藏,評論數(shù),文章內(nèi)容。

iOS培訓(xùn),Swift培訓(xùn),蘋果開發(fā)培訓(xùn),移動開發(fā)培訓(xùn)

網(wǎng)友評論