首页 > 代码库 > nutch 采集到的数据与实际不符
nutch 采集到的数据与实际不符
现象,这个网站我总计能抽取将近500个URL,但实际只抽取了100条
解析:nutch默认从一个页面解析出的链接,只取前 100 个。
<property> <name>db.max.outlinks.per.page</name> <value>100</value> <description>The maximum number of outlinks that we‘ll process for a page. If this value is nonnegative (>=0), at most db.max.outlinks.per.page outlinks will be processed for a page; otherwise, all outlinks will be processed. </description></property>
将这个值改大一些 1000 .
nutch 采集到的数据与实际不符
声明:以上内容来自用户投稿及互联网公开渠道收集整理发布,本网站不拥有所有权,未作人工编辑处理,也不承担相关法律责任,若内容有误或涉及侵权可进行投诉: 投诉/举报 工作人员会在5个工作日内联系你,一经查实,本站将立刻删除涉嫌侵权内容。