Home

遍历方式介绍

本文涉及的遍历思路有两种：

• 根据id进行遍历
• 根据关键词种子，遍历搜索结果

根据id进行遍历

豆瓣电影信息的url格式为：https://movie.douban.com/subject/id

例如：https://movie.douban.com/subject/26683290/

豆瓣是从2005年创办的，2005年以前的电影信息id很可能是最早的id。

搜索1999，得到一个1998年的电影。https://movie.douban.com/subject/1303954/。 id编号是七位的数字：1303954。

搜索2016，得到最新的电影。https://movie.douban.com/subject/26928204/。 id编号是八位的数字：26928204。

由此猜测，目前(2016年)豆瓣电影的id大致是1300000到27000000。

由于反爬虫的设计，id是不连续的。为了提高命中率，需要对id的分布规律进行分析。

根据关键词种子，遍历搜索结果

豆瓣电影提供了搜索接口。通过关键词搜索得到相关记录的链接。 比如按年份获取，关键词可为：2005,2006，....2016。 比如分分类获取，关键词可为：动作，冒险，爱情，记录...。

总结

需要较为完整的数据库信息，可采用id遍历。 抓取的目的性较强时，可以采用关键词抓取。