一直想做個這樣的爬蟲：定制自己的種子，爬取想要的數據，做點力所能及的小分析。正好，這段時間寶寶出生，一邊陪寶寶和寶媽，一邊把自己做的這個豆瓣電影爬蟲的數據采集部分跑起來?，F在做一個概要的介紹和演示。

 

動機

采集豆瓣電影數據包括電影詳情頁數據和電影的短評數據。

電影詳情頁如下圖所示

需要保存這些詳情字段如導演、編劇、演員等還有圖中右下方的標簽。

 

短評頁面如下圖所示

需要保存的字段有短評所屬的電影名稱，每條評論的詳細信息如評論人名稱、評論內容等。

  

數據庫設計

網友評論