注意: IP代理精灵仅提供国内ip网络节点,不提供境外网络节点,不能用于任何非法用途或访问境外封闭网站,不能跨境联网,只能用于合法的国内网络加速。

请登录 注册 实名验证

首页 > 新闻资讯 > Python爬虫设置代理IP的方法

Python爬虫设置代理IP的方法

来源:互联网 作者:admin 时间:2019-04-14 16:19:00

在学习Python爬虫的时候,经常会遇见所要爬取的网站采取了反爬取技术导致爬取失败。高强度、高效率地爬取网页信息常常会给网站服务器带来巨大压力,所以同一个IP反复爬取同一个网页,就很可能被封,这里讲述一个爬虫技巧——设置代理IP。


配置环境


安装requests库


安装bs4库


安装lxml库


具体代码

Python爬虫设置代理IP的方法

函数get_ip_list(url, headers)传入url和headers,最后返回一个IP列表,列表的元素类似122.114.31.177:808格式,这个列表包括国内髙匿代理IP网站首页所有IP地址和端口。


函数get_random_ip(ip_list)传入第一个函数得到的列表,返回一个随机的proxies,这个proxies可以传入到requests的get方法中,这样就可以做到每次运行都使用不同的IP访问被爬取的网站,有效地避免了真实IP被封的风险。


proxies的格式是一个字典:{‘http’: ‘http://122.114.31.177:808‘},可以将下面的执行也封装为方法。


代理IP的使用


运行上面的代码会得到一个随机的proxies,把它直接传入requests的get方法中即可

Python爬虫设置代理IP的方法

最新资讯

推荐阅读

  1. 31

    2019-07

    动态ip代理可以突破哪些IP限制

    动态ip代理可以突破哪些IP限制?代理的作用不少,主要是充当中间商,为用户获取信息,还可以突破各种关于IP的限制,比如:1.突破中国电信的IP封锁:中国电信用户有很多网站是被限制访问

  2. 06

    2019-11

    http代理调用模式是什么?

    http代理调用模式是什么?随着互联网信息的快速发展,各行各业发展尤为迅速,大数据时代来临,爬虫行业迎来高速发展,http代理的作用也日益重要。近几年来,各种代理IP的推出吸引了不少人

  3. 04

    2019-08

    爬虫为什么需要使用代理?

    在爬虫的过程中,我们经常会遇见很多网站采取了防爬取技术,或者说因为自己采集网站信息的轻度和采集速度太大,给对方服务器带去了太多的压力。如果你一直用同一个代理IP爬取这个网页

  4. 18

    2019-10

    获取代理服务器地址的方法

    获取代理服务器地址的方法!经常用网络的人会想这样的一个问题:上网时如何隐藏我的IP地址?如何访问被阻止的网站?如何下载仅适用于某些地区的视频资源或游戏资源?如何加快我的上网速度?

  5. 07

    2019-11

    怎么使用socks5代理IP?

    怎么使用socks5代理IP?HTTP代理ip相信很多朋友都比较熟悉,但对socks5代理,很多朋友都不知道如何使用?甚至把socks5代理IP当成HTTP代理IP来使用,结果自然不言而喻。今天ip代理精灵小编就来教教大

  6. 29

    2019-04

    使用代理IP爬取数据的两种方式

    大数据时代下,数据爬取成为很多企业和个人的工作重点,过程中经常遇到很多问题,比如时间限制、IP限制、验证码限制等等,都可能会导致爬虫无法进行,所以我们常常会用到代理IP,今天