注意: IP代理精灵仅提供国内ip网络节点,不提供境外网络节点,不能用于任何非法用途或访问境外封闭网站,不能跨境联网,只能用于合法的国内网络加速。

请登录 注册 实名验证

首页 > 新闻资讯 > 盘点http代理ip高效突破反爬虫机制

盘点http代理ip高效突破反爬虫机制

来源:IP代理精灵 作者:admin 时间:2019-11-13 12:00:29

盘点http代理ip高效突破反爬虫机制!因为 Python 语法简介以及强大的第三方库,所以我们使用它来制作网络爬虫程序。网络爬虫的用途是进行数据采集,也就是将互联网中的数据采集过来。

盘点http代理ip高效突破反爬虫机制

网络爬虫的难点其实并不在于爬虫本身。而是网站方为了避免数据被爬取,增加了各种各样的反爬虫措施。如果想要继续从网站爬取数据就必须绕过这些措施。因此,网络爬虫的难点在于反爬的攻克和处理。那么本文主要介绍一些网站的反爬虫措施。

妹子图

这个网站的反爬虫机制比较简单。当我们使用网络请求库下载图片时,该网站会对检查每个 HTTP 请求的 headers 头部中 Referer 字段。它判断该字段是否为空,如果字段为空,那么不会返回正常显示的图片,而是返回一张带有“图片来自妹子网,请勿盗链”字样的图片。

遇到这种机制,突破也是比较简单。对每个 HTTP 请求,将页面的 url 地址填充到 Referer 字段中。

豆瓣

几乎所有的爬虫新手都会爬取豆瓣练练手。但是豆瓣还是保持开放的态度,反爬虫机制做得还是很人性化。它的反爬虫机制大概如下:

1、在没有携带 cookie 的情况下,如果某个 IP 短时间高并发请求网站,该 IP 会立马被封。当 IP 被封,登录豆瓣网站会解封。

3、在携带 cookie 的情况下,某个 IP 请求网站过于频繁。豆瓣的反爬虫机制变为只封 cookie 不封 IP。也就说退出登录或者换个账号还能继续访问网站。

面对这么体谅新手的网站,我们要下手不能那么猛。我们只要在代码中登录账号,同时降低并发数,再随机延迟等待一段时间。我们的爬虫程序就不会被封杀了。

拉勾网

拉勾网站刚出来的时候,反爬虫机制还没有现在这么严格。估计爬取网站的人多了起来,网站管理员为了保护服务器增加一些手段。该网站的反爬虫机制大概是这样子。

1、在没有登录的情况下,程序只能连续访问 3 个 Url。如果再继续访问,网站会将链接重定向,然后提示我们登录。

2、如果在登录情况下,连续请求部分 url 之后,我们的 IP 会被封。

针对这样的爬虫机制,我们只能使用 IP 代理池来突破。

汽车之家

汽车之家论坛的反爬虫机制就比较高级。它利用前端页面自定义字体的方式来实现反爬的技术手段。具体使用到是 CSS3 中的自定义字体(@font-face)模块,自定义字体主要是实现将自定义的 Web 字体嵌入到指定网页中去。这就导致我们去爬取论坛帖子的口碑时,获取到的返回文本中每隔几个字就出现一个乱码符号。

每次访问论坛页面,其中字体是不变的,但字符编码是变化的。因此,我们需要根据每次访问动态解析字体文件。

具体可以先访问需要爬取的页面,获取字体文件的动态访问地址并下载字体,读取 js 渲染后的文本内容,替换其中的自定义字体编码为实际文本编码,就可复原网页为页面所见内容了。

最后说句良心话,我们爬取别人网站的数据,要在不损害别人网站的情况下进行。所以建议大家不要在网站访问高峰的时候爬取数据,尽量选择在晚上进行爬取。同时设置延时操作降低并发数。


最新资讯

推荐阅读

  1. 05

    2019-09

    如何将IP修改成其他城市IP?

    如何将IP修改成其他城市IP?随着经济的发展,很多公司或个人业务的需要,换IP软件需求逐渐增大。换IP软件支持修改其他城市IP,这样你想怎么换IP都行了,推荐使用IP精灵代理这个换IP软件的,

  2. 17

    2019-04

    如何获得代理ip

    在互联网冲浪时,时常为了突破某些限制,需要使用到代理IP,如网站Vote、注册账户、访问被禁止的网站等。那么,如何才能获得代理ip呢?下面分享几种获得代理ip的方法。

  3. 17

    2019-04

    如何利用代理IP软件吸粉?

    接触过互联网营销的人都知道,如今不管从事于什么行业做什么生意都需要吸粉。随着网络事业的发展,有很多依赖于互联网而出现的一些销售和相关行业也开始相继崛起。而这样的行业,他们

  4. 19

    2019-03

    爬虫被封IP了怎么办,代理IP有办法

    很多专业的爬虫工作者都会觉得爬虫的技术没有那么深奥,所谓万变不离其宗,在复杂也只是那些个东西,但是要想真正的写好一套完美的爬虫程序又似乎没有那么简单。

  5. 24

    2019-06

    动态IP地址是什么

    动态IP地址是什么?动态ip地址(Dynamic IP)指的是在需要的时候才进行动态ip地址分配的方式。动态ip地址和静态动态ip地址是对应的。。所谓动态就是指当你每一次上网时,电信会随机分配一个动

  6. 12

    2020-06

    电脑端如何更改IP地址?

    电脑端如何更改IP地址?对于那些想要申请注册账户却因为需要更改IP地址而急得抓耳挠腮的用户,如何更改IP地址成为他们当下最想解决的问题。那么,怎样更改IP地址呢?