首页 > 代码库 > pylibcurl之https搜索引擎之网络数据抓取小例子,302moved?google搜索引擎不让你抓搜索结果??ok,此文问题通通解决
pylibcurl之https搜索引擎之网络数据抓取小例子,302moved?google搜索引擎不让你抓搜索结果??ok,此文问题通通解决
前提:操作平台-WIN7
一.首先你得python,我安装的是python2.7.9
二.其次,你得安装pyLibCurl,安装方式:http://pycurl.sourceforge.net/
三.最后,你得编写测试用例test.py:(当然,从代码中可以看出你电脑得有E盘,否则改一下代码,然后我抓取的数据是google一下test的数据)
#! /usr/bin/env python # -*- coding: utf-8 -*- # vi:ts=4:et import sys import pycurl class Test: def __init__(self): self.contents = '' def body_callback(self, buf): self.contents = self.contents + buf f = open('e:\\tmp\\tmp.html', 'w') print f f.write(self.contents) sys.stderr.write("Testing %s\n" % pycurl.version) t = Test() c = pycurl.Curl() c.setopt(c.URL, 'https://www.google.com/search?q=testx') c.setopt(c.USERAGENT, "Mozilla/4.0 (compatible; MSIE 9.0; Windows NT 6.1; Trident/5.0) in my heart of heart.") c.setopt(c.HEADER, True) c.setopt(c.REFERER, "https://www.google.com/search?q=testx") c.setopt(c.COOKIEFILE, "./COOKIE.txt") c.setopt(c.COOKIEJAR, "./COOKIE.txt") c.setopt(c.WRITEFUNCTION, t.body_callback) c.perform() c.close() print(t.contents)
延伸:
是不是你正常发起http请求google会告诉你“302 Moved”,ok,仔细研究一下这段代码,也会解决你的问题
参考:
http://superuser.com/questions/482470/google-302-moved-in-firefox
http://stackoverflow.com/questions/22570970/php-search-by-image-google-curl-return-302-moved
pylibcurl之https搜索引擎之网络数据抓取小例子,302moved?google搜索引擎不让你抓搜索结果??ok,此文问题通通解决
声明:以上内容来自用户投稿及互联网公开渠道收集整理发布,本网站不拥有所有权,未作人工编辑处理,也不承担相关法律责任,若内容有误或涉及侵权可进行投诉: 投诉/举报 工作人员会在5个工作日内联系你,一经查实,本站将立刻删除涉嫌侵权内容。