一直想做個這樣的爬蟲:定制自己的種子,爬取想要的數(shù)據,做點力所能及的小分析。正好,這段時間寶寶出生,一邊陪寶寶和寶媽,一邊把自己做的這個豆瓣電影爬蟲的數(shù)據采集部分跑起來?,F(xiàn)在做一個概要的介紹和演示。
動機
采集豆瓣電影數(shù)據包括電影詳情頁數(shù)據和電影的短評數(shù)據。
電影詳情頁如下圖所示
需要保存這些詳情字段如導演、編劇、演員等還有圖中右下方的標簽。
短評頁面如下圖所示
需要保存的字段有短評所屬的電影名稱,每條評論的詳細信息如評論人名稱、評論內容等。
數(shù)據庫設計
延伸閱讀
- ssh框架 2016-09-30
- 阿里移動安全 [無線安全]玩轉無線電——不安全的藍牙鎖 2017-07-26
- 消息隊列NetMQ 原理分析4-Socket、Session、Option和Pipe 2024-03-26
- Selective Search for Object Recognition 論文筆記【圖片目標分割】 2017-07-26
- 詞向量-LRWE模型-更好地識別反義詞同義詞 2017-07-26
- 從棧不平衡問題 理解 calling convention 2017-07-26
- php imagemagick 處理 圖片剪切、壓縮、合并、插入文本、背景色透明 2017-07-26
- Swift實現(xiàn)JSON轉Model - HandyJSON使用講解 2017-07-26
- 阿里移動安全 Android端惡意鎖屏勒索應用分析 2017-07-26
- 集合結合數(shù)據結構來看看(二) 2017-07-26
![學習是年輕人改變自己的最好方式-Java培訓,做最負責任的教育,學習改變命運,軟件學習,再就業(yè),大學生如何就業(yè),幫大學生找到好工作,lphotoshop培訓,電腦培訓,電腦維修培訓,移動軟件開發(fā)培訓,網站設計培訓,網站建設培訓](http://m.roadsoft.com.cn/attached/image/templet/e87d53eb-cf7a-4689-887a-1cd260f416a5.jpg)