首页 > 代码库 > 解决Jsoup网页抓取过程中需要cookie的问题

解决Jsoup网页抓取过程中需要cookie的问题

2024-07-19 10:39:51   224人阅读

最近在做城觅网的信息抓取，发现城觅网上海与北京的url是一样的。那怎样才确定信息的来源呢？折腾了半天，才发现城觅网是使用cookie的，如果你把网站的cookie禁用了，就无法在上海与北京之间切换了。

于是便想到了请求时将cookie带上。方法如下：

第一步，拿到上海或者北京的cookie

Map<String, String> cookies = null;Response res = Jsoup.connect("http://www.chengmi.com/shanghai").timeout(30000).execute();cookies = res.cookies();

第二步，抓取网页信息时将cookie信息带上

Document doc = null;doc = Jsoup.connect(url).cookies(cookies).timeout(30000).get();

这样就解决了抓取网页需要cookie的问题

解决Jsoup网页抓取过程中需要cookie的问题


联系
我们