首页 > 代码库 > Python爬虫项目,获取所有网站上的新闻,并保存到数据库中,解析html网页等
Python爬虫项目,获取所有网站上的新闻,并保存到数据库中,解析html网页等
1、需求说明
需求:
爬取虎嗅网站的所有新闻,并保存到数据库中。
http://www.huxiu.com
技术:
1、爬虫
获取服务器的资源(urllib)
解析html网页(BeautifulSoup)
2、数据库技术
数据库 MySQLdb
业务逻辑的分析:
(1)、虎嗅网站的新闻,包括首页和分页信息(下一页)
(2)、需要从首页的资源和分页的资源中获取每个新闻的url连接
如何获取url:
解析网站html文件,如果A标签的href属性包含 article字段,就表示这是一个新闻
(3)访问新闻的url,解析出想要的字段
http://www.woaipu.com/shops/zuzhuan/61406
http://www.woaipu.com/shops/zuzhuan/61406
Python爬虫项目,获取所有网站上的新闻,并保存到数据库中,解析html网页等
声明:以上内容来自用户投稿及互联网公开渠道收集整理发布,本网站不拥有所有权,未作人工编辑处理,也不承担相关法律责任,若内容有误或涉及侵权可进行投诉: 投诉/举报 工作人员会在5个工作日内联系你,一经查实,本站将立刻删除涉嫌侵权内容。