注意: IP代理精灵仅提供国内ip网络节点,不提供境外网络节点,不能用于任何非法用途或访问境外封闭网站,不能跨境联网,只能用于合法的国内网络加速。

请登录 注册 实名验证

首页 > 新闻资讯 > 爬虫被封禁的常见原因

爬虫被封禁的常见原因

来源:互联网 作者:admin 时间:2019-04-14 16:05:00

爬虫采集成为很多公司企业个人的需求,但正因为如此,反爬虫的技术也层出不穷,像时间限制、IP限制、验证码限制等等,都可能会导致爬虫无法进行,所以也出现了很多像代理IP、时间限制调整这样的方法去接触反爬虫限制,当然具体的操作方法需要你针对性的去研究。

爬虫被封禁的常见原因

爬虫采集数据过程中经常会出现受限问题,那么爬虫被封禁的常见原因有哪些呢?


1、检查JavaScript


如果你从网络服务器收到的页面是空白的,缺少信息,或其遇到他不符合你预期的情况(或者不是你在浏览器上看到的内容),有可能是因为网站创建页面的JavaScript执行有问题。


2、检查正常浏览器提交的参数


如果你准备向网站提交表单或发出POST请求,记得检查一下页面的内容,看看你想提交的每个字段是不是都已经填好,而且格式也正确。用Chrome浏览器的网络面板(快捷键F12打开开发者控制台,然后点击“Network”即可看到)查看发送到网站的POST命令,确认你的每个参数都是正确的。


3、是否有合法的Cookie


如果你已经登录网站却不能保持登录状态,或者网站上出现了其他的“登录状态”异常,请检查你的cookie。确认在加载每个页面时cookie都被正确调用,而且你的cookie在每次发起请求时都发送到了网站上。


4、IP被封禁


如果你在客户端遇到了HTTP错误,尤其是403禁止访问错误,这可能说明网站已经把你的IP当作机器人了,不再接受你的任何请求。你要么等待你的IP地址从网站黑名单里移除,要么就换个IP地址(可以使用代理IP,比如极光代理)。如果你确定自己并没有被封杀,那么再检查下面的内容。


5、确认你的爬虫在网站上的速度不是特别


快速采集是一种恶习,会对网管的服务器造成沉重的负担,还会让你陷入违法境地,也是IP被网站列入黑名单的首要原因。给你的爬虫增加延迟,让它们在夜深人静的时候运行。切记:匆匆忙忙写程序或收集数据都是拙劣项目管理的表现;应该提前做好计划,避免临阵慌乱。


6、修改你的请求头(必须做的事情)


有些网站会封杀任何声称自己是爬虫的访问者。如果你不确定请求头的值怎样才算合适,就用你自己浏览器的请求头吧。


7、确认你没有点击或访问任何人类用户通常不能点击或接入的信息。


最新资讯

推荐阅读

  1. 15

    2019-10

    为什么代理服务器那么受欢迎?

    为什么代理服务器那么受欢迎?如今国家对网站审核监控也越来严谨。审查制度的国家努力追踪和阻止新闻门户网站和网站。简单无数的转变实际上只是一个代理服务。其他不能贿赂该链接,允

  2. 09

    2019-04

    竞争优势与代理IP服务的关系

    外贸在线电子商务是一个竞争激烈的行业,价格从不同地点到国家变化很大。在这个没有边界与限制的网络环境中,我们先要清楚竞争优势与代理IP服务的关系 ,那么我们如何跟上价格趋势并保

  3. 06

    2019-08

    怎样鉴别用户有没有使用代理ip

    怎样鉴别用户有没有使用代理ip?有时候用代理ip之后,被对方发现了,对方是怎么发现用户使用了代理ip呢?Keep-alive报文:如果带有Proxy-Connection的Keep-alive报文,号位疑问该IP是代理IP。

  4. 01

    2019-08

    爬虫代理IP有什么作用?

    现在很多经常上网的人都知道代理IP,简单来说就是将自己的IP更换成其它的IP,可以保护自己不被发现,这一作用,也受到了越来越多爬虫用户的青睐。

  5. 23

    2019-01

    换IP可以无限次投票吗?

    网络投票活动非常多,时常有亲朋好友找我们去投票,微信投票也是目前最流行的一种方式,谁能夺冠就看谁的交友圈广,那么其他人怎么办?所有亲戚朋友就拉票了,票数还是不多,但又想有

  6. 27

    2019-06

    隐藏信息的好帮手——代理IP

    在互联网的使用中,如果大家想匿名或者隐藏自己的信息,保护信息不被泄露,可以使用代理IP。在上网的时候,电脑使用公共IP地址,可以确定相关计算机的很多数据,IP还能用来跟踪浏览过的