首页 > 代码库 > nutch 很多url unfetched的原因
nutch 很多url unfetched的原因
bin/hadoop jar apache-nutch-1.7.job org.apache.nutch.crawl.CrawlDbReader crawl/crawldb -stats -sort会发现好多unfetched,原因是:nutch-default.xml对generate的时候进行了,分数限制,只有大于0分的才会被generate。所以会有很多分数低的没被采集。(将数据url dump 出来你会发现 unfetched的URL都是负分,而且负的挺大的)考虑到注释掉: // consider only entries with a score superior to the threshold if (scoreThreshold != Float.NaN && sort < scoreThreshold) return;最后还是觉得修改:<property> <name>generate.min.score</name> <value>0</value> <description>Select only entries with a score larger than generate.min.score.</description></property>value 为 -1
nutch 很多url unfetched的原因
声明:以上内容来自用户投稿及互联网公开渠道收集整理发布,本网站不拥有所有权,未作人工编辑处理,也不承担相关法律责任,若内容有误或涉及侵权可进行投诉: 投诉/举报 工作人员会在5个工作日内联系你,一经查实,本站将立刻删除涉嫌侵权内容。