注意: IP代理精灵仅提供国内ip网络节点,不提供境外网络节点,不能用于任何非法用途或访问境外封闭网站,不能跨境联网,只能用于合法的国内网络加速。

请登录 注册

首页 > 新闻资讯 > 网站反爬虫和爬虫的应对方法

网站反爬虫和爬虫的应对方法

来源:互联网 作者:admin 时间:2019-02-22 15:20:42

网站反爬虫比较多,robots限制是最基本的,告诉爬虫们哪些是不可以爬取的。还有其他的限制,比如常见的有IP限制,验证码限制,还有User-Agent检测,JS脚本等等,不同的反爬虫可以起到不同的效果。


网站反爬虫和爬虫的应对方法


1.robots.txt限制


搜索引擎本身就是一个超级大的爬虫,爬虫可以24h不间断的在网上爬取着新的信息,并返回给数据库,但是这些搜索引擎的爬虫都遵守着一个协议:robots.txt


robots.txt协议并不是一个规范,而只是约定俗成的,所以并不能保证网站的隐私。当然在特定情况下,比如说我们爬虫的获取网页的速度,和人类浏览网页是差不多的,这并不会给服务器造成太大的性能损失,在这种情况下,我们是可以不用恪守robots协议的。


2.JS脚本限制


举个例子:如果想爬取某个网站,在请求之前,它会有一个验证页面来验证你是否机器。即会通过js代码生成一大段随机的数字,然后要求浏览器通过js的运算得出这一串数字的和,再返回给服务器。


解决方法:使用PhantomJS


PhantomJS是一个Python包,他可以在没有图形界面的情况下,完全模拟一个”浏览器“,js脚本验证什么的再也不是问题了。


3.User-Agent检测


无论是浏览器还是爬虫程序,在向服务器发起网络请求的时候,都会发过去一个头文件:headers,表明身份。对于爬虫程序来说,最需要注意的字段就是User-Agent,很多网站都会建立user-agent白名单,只有属于正常范围的user-agent才能够正常访问。


解决方法:可以自己设置一下user-agent,或者更好的是,可以从一系列的user-agent里随机挑出一个符合标准的使用。


上文介绍了关于三种网站反爬虫的解决方法,仅供参考,若是在爬取的过程中还是遇到问题,可能是网站还有其他的反爬虫,这在爬取之前是需要进行分析,并找到问题解决的。


如:P限制,可以使用IP代理精灵;验证码限制,可以使用人工打码或者验证码识别...


最新资讯

推荐阅读

  1. 19

    2021-01

    使用代理ip需要注意的地方

    使用代理ip需要注意的地方!使用代理ip注意什么地方?在现在的网络营销的工作中,自然是少不了代理ip的使用。

  2. 28

    2019-06

    你知道什么是HTTP代理IP吗?

    你知道什么是HTTP代理IP吗?HTTP代理服务器是一中间程序,由它连接用户主机和远程服务器。具体的连接过程是这样的:首先用户主机需要远程服务器数据,用户主机通过HTTP代理服务器与远程服

  3. 13

    2019-08

    怎么更换电脑IP

    更换IP是使用电脑比较常见的事情,但是很多初学者并不知道IP该怎么更换,下面就为大家进行详细的介绍。1.打开电脑后,找到网络图标,右击选择属性。或者直接在桌面左下角的开始中,找到

  4. 15

    2019-04

    代理ip对装修业务人员的作用

    谈起装修行业,前几年可以说是做的风生水起,但是随着近几年房地产行业的增长,装修公司也是越开越多,要想拿到客户,那作为线下的市场工作者就得尤为上心,单凭着“鸡毛换糖:得精神

  5. 25

    2019-11

    如何选购合适的代理服务器?

    如何选购合适的代理服务器?当今网络时代,不管是做网站还是其他一些业务都需要用到服务器,那么选购服务器找什么种类好呢?服务器的种类比较多,不同得需求,最好找相对得服务器。而且

  6. 23

    2018-11

    为什么代理服务器不能上网?使用代理服务器正确设置方法

    关于代理服务器,许多人在使用过程中都有一些疑问,比如,为什么代理服务器不能上网?是使用的代理服务器有问题吗?还是说哪里设置有问题呢?这时候应该看看局域网的代理服务器设置。