注意: IP代理精灵仅提供国内ip网络节点,不提供境外网络节点,不能用于任何非法用途或访问境外封闭网站,不能跨境联网,只能用于合法的国内网络加速。

请登录 注册 实名验证

首页 > 新闻资讯 > selenium+python设置爬虫代理IP的方法

selenium+python设置爬虫代理IP的方法

来源:IP代理精灵 作者:admin 时间:2019-04-26 14:40:32

这篇文章主要介绍了selenium+python设置爬虫代理IP的方法,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧!

selenium+python设置爬虫代理IP的方法

1. 设置背景


在使用selenium浏览器渲染技术,当我们爬取某个网站的信息的时候,在一般情况下速度都不是特别的快。而且需要利用selenium浏览器渲染技术爬取的网站,反爬虫的应对技术都比较厉害,对IP访问频率有很高程度的限制。所以,如果想提升selenium抓取数据的速度,可以从两个方面出发:


第一方面, 抓取频率要提高,破解出现的验证信息,一般都是验证码或者是用户登陆 。


第二方面,使用多线程 + 代理IP, 这种方式,需要电脑有足够的内存和充足稳定的代理IP。


2. 为chrome设置代理IP


注意事项:


第一,选择稳定的固定的代理IP。不要选择动态代理IP。我们常用的爬虫IP代理通常都是具有高度保密性质的高匿名动态IP,是通过拨号动态产生的,时效性非常的短,一般都是在3分钟左右。对于scrapy这种并发度很高,又不需要登录的爬虫来说,非常合适,但是在浏览器渲染类爬虫中并不适用。


第二,选择速度较快的代理IP。因为selenium爬虫采用的是浏览器渲染技术,这种浏览器渲染技术速度就本身就很慢。如果选择的代理IP速度较慢,爬取的时间就会进一步增加。


第三,要有足够大的电脑内存。因为chrome占内存较大,在并发度很高的情况下,容易造成浏览器崩溃,也就是程序崩溃。


第四,在程序结束时,调用 browser.quit( ) 清除浏览器缓存。


最新资讯

推荐阅读

  1. 09

    2019-09

    免费代理IP有什么功能?

     免费代理IP有什么功能?随着互联网时代的发展,代理IP的使用越来越普遍,近年来互联网各种免费代理IP的推出吸引了不少人的关注,到底什么是免费代理IP呢?简单的讲代理IP指的是代理服务器

  2. 18

    2019-05

    代理IP可以解决软件使用限制

    我们在日常的生活和工作中上网对网络有限制,比如上网的时间,或者对一些网站软件的使用有限制,对于这些限制,如何突破呢?可以使用代理ip,因为代理ip有突破网络限制的作用,因此当

  3. 10

    2020-01

    安卓模拟器怎样多开换IP防封?

    安卓模拟器怎样多开换IP防封?模拟器多开如何换IP防封?以前微商盛行,也不必担心账号被封,现在微信无人监管的红利期已经过去了,暴力抢钱时期已经过去了。如果现在还需要使用模拟器多开

  4. 09

    2019-08

    免费代理IP效果如何?

    代理IP有免费和收费的两种,免费代理IP就是不需要花钱,在网上直接就能找到,很多用户就有疑问为什么有免费还要用付费的呢。下面就为大家介绍免费代理IP效果如何?1.可用率低。免费代理I

  5. 08

    2019-11

    爬虫代理和隧道代理有什么区别?

    爬虫代理和隧道代理有什么区别?HTTP代理指的是使用代理服务器使网络用户访问外部网站。代理服务器是介于浏览器和Web服务器之间的一台服务器,是建立在超文本传输协议上的网络浏览方式,

  6. 20

    2020-08

    为什么要切换ip地址

    为什么要切换ip地址?切换ip地址就是相当于换一个身份上网站,也可以理解为换电脑上网站,坏处的话基本没有,不影响使用。每时每刻每台电脑都有全球唯一的IP地址,用来确定这台电脑的