注意: IP精灵代理仅提供国内ip网络节点,不提供境外网络节点,不能用于任何非法用途或访问境外封闭网站,不能跨境联网,只能用于合法的国内网络加速。

您好,请登录 没有账号?

首页 > 新闻资讯 > 爬虫IP被封的解决方法

爬虫IP被封的解决方法

来源:IP代理精灵 作者:admin 时间:2019-05-07 15:01:32

在我们酣畅淋漓地使用爬虫抓取数据为我们所用的时候,却也能难免遇到强敌,IP遭到封锁,爬虫被反。那么,万一不行,IP被封了,有什么方法来解呢?当然有,还很多。下面我们就一起来看看爬虫IP被封的解决方法。

爬虫IP被封的解决方法

方法1.


之前由于公司项目需要,采集过google地图数据,还有一些大型网站数据。


经验如下:


IP必须有,可以直接使用成熟的代理IP服务商,类似像ip代理精灵这种。


好处:


1.程序逻辑变化小,只需要代理功能。


2.根据对方网站屏蔽规则不同,你只需要添加更多的代理就行了。


3.就算具体IP被屏蔽了,你可以直接把IP代理下线就OK,程序逻辑不需要变化。


方法2.


有小部分网站的防范措施比较弱,可以伪装下IP,修改X-Forwarded-for,即可绕过。


大部分网站么,如果要频繁抓取,一般还是要多IP。我比较喜欢的解决方案是VPS再配多IP,通过默认网关切换来实现IP切换。


方法3.


ADSL + 脚本,监测是否被封,然后不断切换 ip


设置查询频率限制


正统的做法是调用该网站提供的服务接口。


方法4.


1 user agent 伪装和轮换


2 使用代理 ip 和轮换


3 cookies 的处理,有的网站对登陆用户政策宽松些


友情提示:考虑爬虫给人家网站带来的负担,be a responsible crawler :)


方法5.


尽可能的模拟用户行为:


1、UserAgent经常换一换;


2、访问时间间隔设长一点,访问时间设置为随机数;


3、访问页面的顺序也可以随机着来


方法6.


网站封的依据一般是单位时间内特定IP的访问次数.


我是将采集的任务按 目标站点的IP进行分组 通过控制每个IP 在单位时间内发出任务的个数,来避免被封.当然,这个前题是你采集很多网站.如果只是采集一个网站,那么只能通过多外部IP的方式来实现了.


方法7.


1. 对爬虫抓取进行压力控制;


2. 可以考虑使用代理的方式访问目标站点。


总结:


-降低抓取频率,时间设置长一些,访问时间采用随机数


-频繁切换UserAgent(模拟浏览器访问)


-多页面数据,随机访问然后抓取数据


-使用代理IP不间断更换


最新资讯

推荐阅读

  1. 13

    2019-05

    爬虫获取动态ip代理的五种解决方案

    毫无疑问,一个IP做不来网络爬虫工作,都没有大批量的IP支撑,网络爬虫工作人员积重难返。那么,网络爬虫IP哪儿来呢?这难不倒爬虫工程师们,许多人有多种解决方法,让大家一起来看看爬

  2. 27

    2018-11

    爬虫入门精通:新手学习爬虫要掌握的知识

    现在许多行业都需要用到爬虫收集数据,爬虫的入门门槛也低,学习比较容易,都说互联网的流量50%以上都是爬虫贡献的,可想而知,有多少人在用爬虫。那么如果想学习爬虫,怎么学呢?

  3. 28

    2019-05

    如何使用http代理服务器

    在日常生活中,使用计算机中的各种浏览器访问网站是非常正常的事情,而使用代理服务器进行网络访问相信很多人都没用过。代理服务器就是结语客户端及网络服务器之间的一层架构,它能够

  4. 16

    2019-04

    http代理适用于哪些业务?

    经常使用网络的人可能会常常听到这样的一个词:IP代理。那么它真正的作用很多人都是模棱两可的,在这里给大家普及一下在我们大部分人的网络活动中,http是比较常见的网络协议,因而http

  5. 22

    2019-05

    怎样更换服务器的IP地址

    随着网站的发展或者服务器商的不靠谱都需要更换服务器IP地址,但是第一次更换难免会有些紧张或担心,网站瘫痪了怎么办?更换IP时出错了怎么办?怎样更换服务器的IP地址?本文给您以下几

  6. 03

    2019-01

    如何隐藏自己的IP地址?最好用的隐藏IP地址方法

    每个人都有一些不想让别人知道的事情,但是互联网却会记住我们的一些上网痕迹,特别是记住了我们的IP地址,这该怎么办呢?如何隐藏自己的IP地址?

在线客服
大客户VIP渠道
点击这里给我发消息
讨论QQ群
HTTP代理IP爬虫
客服电话
13318873961