節(jié)前一個誤操作把mysql中record表和movie表都清空了，顯然我是沒有做什么mysql備份的。所以，索性我把所有的表數(shù)據(jù)都清空的，一夜回到解放前……
項目地址：https://github.com/DMinerJackie/JewelCrawler
在上一個版本中，record表存儲了7萬多條記錄，爬取的有4萬多條，但是可以明顯的發(fā)現(xiàn)爬取的數(shù)據(jù)量越多的時候，機子就越卡。又一次報錯，是有關(guān)JDBC的，還有一次機子跑卡死了。
仔細一琢磨，上個版本的爬蟲程序與數(shù)據(jù)庫的讀寫次數(shù)太頻繁，存在以下問題：
1.程序運行，從種子地址開始，對于每次爬取的網(wǎng)站地址先查詢數(shù)據(jù)庫是否存在該條記錄，如果不存在，則立即插入；
2.當前網(wǎng)站地址爬取完畢后，查找數(shù)據(jù)庫從中取出第一個crawled為0的記錄進行爬取，每次只取一條；
3.存儲電影詳情頁記錄以及短評數(shù)據(jù)都是采用解析一條則立即存儲到數(shù)據(jù)庫。
顯然，上面的這種方式是一目了然的效率低下，所以今天下午對相關(guān)代碼進行改造，部分實現(xiàn)了批量插入，盡可能減少與數(shù)據(jù)庫的交互，從而降低時空成本。
