首页 > 代码库 > scrapy基础知识之随机切换fake-useragent 库的使用：
scrapy基础知识之随机切换fake-useragent 库的使用：
pip install fake-useragent
from fake_useragent import UserAgent
ua = UserAgent()
middlewares.py
1 from fake_useragent import UserAgent 2 3 class RandomUserAgent(object): 4 # def __init__(self,crawl): 5 # super(RandomUserAgent,self).__init__() 6 # self.ua=UserAgent() 7 def process_request(self, request, spider): 8 #useragent = random.choice(USER_AGENTS) 9 ua=UserAgent() 10 request.headers.setdefault("User-Agent",ua.random)
settints.py
1 DOWNLOADER_MIDDLEWARES = { 2 ‘LaGou.middlewares.RandomUserAgent‘: 1, 3 # ‘LaGou.middlewares.MyCustomDownloaderMiddleware‘: 543, 4 }
更多访问地址：https://github.com/hellysmile/fake-useragent
scrapy基础知识之随机切换fake-useragent 库的使用：
声明：以上内容来自用户投稿及互联网公开渠道收集整理发布，本网站不拥有所有权，未作人工编辑处理，也不承担相关法律责任，若内容有误或涉及侵权可进行投诉： 投诉/举报 工作人员会在5个工作日内联系你，一经查实，本站将立刻删除涉嫌侵权内容。