-
http请求工具
request
, superagent -
解析工具 cheerio
- 在
case
目录下新建一个案件Test
,继承于Case
,并实现interrogate
与criminate
方法。 - 在
chessboard
中构造一个test
实例,使用test.gather()
搜集需要爬取的网站地址 - 使用
test.start()
启动 - 使用
test.onerror = (error)=>{}
监听错误 - 使用
test.onend = ()=>{}
监听结束
- name 案件名称
- opts 案件设置
- opts.domain 公共domain
- opts.sleepTime 对每个情报执行时间间隔,默认0
- opts.force 在发生错误时是否忽略错误强制执行下面情报,默认true
- opts.fork 并发数量 默认10
- name 案件名称
- intelligences 待执行的情报
- police 情报执行者
- domain 公共domain
- sleepTime 对每个情报执行时间间隔,默认
- force 在发生错误时是否忽略错误强制执行下面情报,默认true
- fork 并发数量,默认10
- gather(Intelligence intell) 情报搜集
- virtual interrogate(String culprit) 数据清洗
- virtual criminate(Object evidence) 数据处理
- onerror(Error err) 错误
- onend() 结束
- case 需要执行的案件实例
- case 需要执行的案件实例
- slammer 数据结果集合
- collar() 根据情报进行抓取
- opts 配置
- opts.domain
- opts.path
- opts.url path 与 url 必须存在一个
- domain
- path
- url 如果为null 则由domain与path自动构建url