新手爬虫采集时容易碰到的问题有哪些

这篇文章主要介绍了新手爬虫采集时容易碰到的问题有哪些,具有一定借鉴价值,感兴趣的朋友可以参考下,希望大家阅读完这篇文章之后大有收获,下面让小编带着大家一起了解一下。

我们提供的服务有:成都网站建设、成都网站设计、微信公众号开发、网站优化、网站认证、靖西ssl等。为数千家企事业单位解决了网站和推广的问题。提供周到的售前咨询和贴心的售后服务,是有科学管理、有技术的靖西网站制作公司

 1、编码问题。

网站目前最多的两种编码:utf-8,或者gbk,当我们采集回来源网站编码和我们数据库存储的编码不一致时,比如http://163.com的编码使用的是gbk,而我们需要存储的是utf-8编码的数据,那么我们可以使用Python中提供的encode()和decode()方法进行转换,比如:content = content.decode('gbk', 'ignore')   #将gbk编码转为unicode编码。

content = content.encode('utf-8', 'ignore')  #将unicode编码转为utf-8编码

中间出现了unicode编码,我们需要转为中间编码unicode,才能向gbk或者utf-8转换。

2、增量爬取。

增量爬行是爬虫不重复下载下载的内容。为了实现增量爬行,我们需要使用一个新的概念——网址池。网址池用于统一管理所有网址。我们通过网址池记录我们的python爬虫访问过哪些内容,以避免重复。网址池的用途也可以实现断点续爬等。断点续爬是让之前没有爬过的网址继续爬虫。

3、爬虫被禁止。

爬虫会给服务器带来很大的负载,所以很多服务器会限制爬虫,甚至禁用爬虫。众所周知,要构建合理的http访问头,比如user-agent域的值。但是,还有很多其他避免被禁止的问题,比如放慢爬虫的访问速度,让爬虫的访问路径与用户的访问路径一致,采用动态ip地址等等。

感谢你能够认真阅读完这篇文章,希望小编分享的“新手爬虫采集时容易碰到的问题有哪些”这篇文章对大家有帮助,同时也希望大家多多支持创新互联,关注创新互联行业资讯频道,更多相关知识等着你来学习!


当前题目:新手爬虫采集时容易碰到的问题有哪些
转载来源:http://scyanting.com/article/gehhce.html