注意: IP精灵代理仅提供国内ip网络节点,不提供境外网络节点,不能用于任何非法用途或访问境外封闭网站,不能跨境联网,只能用于合法的国内网络加速。

您好,请登录 没有账号?

首页 > 新闻资讯 > 网站反爬虫和爬虫的应对方法

网站反爬虫和爬虫的应对方法

来源:互联网 作者:admin 时间:2019-02-22 15:20:42

网站反爬虫比较多,robots限制是最基本的,告诉爬虫们哪些是不可以爬取的。还有其他的限制,比如常见的有IP限制,验证码限制,还有User-Agent检测,JS脚本等等,不同的反爬虫可以起到不同的效果。


网站反爬虫和爬虫的应对方法


1.robots.txt限制


搜索引擎本身就是一个超级大的爬虫,爬虫可以24h不间断的在网上爬取着新的信息,并返回给数据库,但是这些搜索引擎的爬虫都遵守着一个协议:robots.txt


robots.txt协议并不是一个规范,而只是约定俗成的,所以并不能保证网站的隐私。当然在特定情况下,比如说我们爬虫的获取网页的速度,和人类浏览网页是差不多的,这并不会给服务器造成太大的性能损失,在这种情况下,我们是可以不用恪守robots协议的。


2.JS脚本限制


举个例子:如果想爬取某个网站,在请求之前,它会有一个验证页面来验证你是否机器。即会通过js代码生成一大段随机的数字,然后要求浏览器通过js的运算得出这一串数字的和,再返回给服务器。


解决方法:使用PhantomJS


PhantomJS是一个Python包,他可以在没有图形界面的情况下,完全模拟一个”浏览器“,js脚本验证什么的再也不是问题了。


3.User-Agent检测


无论是浏览器还是爬虫程序,在向服务器发起网络请求的时候,都会发过去一个头文件:headers,表明身份。对于爬虫程序来说,最需要注意的字段就是User-Agent,很多网站都会建立user-agent白名单,只有属于正常范围的user-agent才能够正常访问。


解决方法:可以自己设置一下user-agent,或者更好的是,可以从一系列的user-agent里随机挑出一个符合标准的使用。


上文介绍了关于三种网站反爬虫的解决方法,仅供参考,若是在爬取的过程中还是遇到问题,可能是网站还有其他的反爬虫,这在爬取之前是需要进行分析,并找到问题解决的。


如:P限制,可以使用IP代理精灵;验证码限制,可以使用人工打码或者验证码识别...


最新资讯

推荐阅读

  1. 06

    2019-09

    代理IP的类型及使用原理

    代理IP的类型及使用原理。随着电商经济和自媒体行业的发展,代理IP的市场需求越来越大,知道代理IP的人越来越多了,不管是单纯的换IP,还是进行大量的数据采集,或者是游走于灰色之中,

  2. 16

    2019-04

    http代理和socks代理的区别

    常在一些软件的设置中可以看到HTTP代理、SOCKS代理等,那你知道它们分别是什么意思吗?这两者之间又有什么区别呢?接下来我们就来看看http代理和socks代理的区别吧。SOCKS其实是一种网络代理

  3. 12

    2019-03

    做广告推广为什么要换IP?

    我们上网是需要IP地址的,我们也可以通过换IP来做一些其他的事情,比如突破IP限制,一般是用于频繁访问之后,当前IP地址被限制,需要更换其他的IP地址来访问。这个现象,估计很多人都会

  4. 30

    2019-05

    高匿代理ip工具哪个好

    高匿代理ip工具哪个好?随着IP代理精灵为用户提供高匿代理ip逐渐出现在众人眼前,作为普通匿名代理ip发展创新的服务,高质量代理ip更加完美的为客户提供服务,让用户可以更随心的使用代

  5. 31

    2019-05

    独享IP有哪些优势

    在网络中,我们可以做很多事情,浏览网页购物做业务,现在网络电商时代全面开启,越来越多的人投入到网络营销中,这也促使了代理IP行业的发展,在一些网络业务中,抢购注册投票数据采

  6. 17

    2019-04

    如何获得代理ip

    在互联网冲浪时,时常为了突破某些限制,需要使用到代理IP,如网站Vote、注册账户、访问被禁止的网站等。那么,如何才能获得代理ip呢?下面分享几种获得代理ip的方法。