注意: IP精灵代理仅提供国内ip网络节点,不提供境外网络节点,不能用于任何非法用途或访问境外封闭网站,不能跨境联网,只能用于合法的国内网络加速。

您好,请登录 没有账号?

首页 > 新闻资讯 > Python爬虫设置代理IP的方法

Python爬虫设置代理IP的方法

来源:互联网 作者:admin 时间:2019-04-14 16:19:00

在学习Python爬虫的时候,经常会遇见所要爬取的网站采取了反爬取技术导致爬取失败。高强度、高效率地爬取网页信息常常会给网站服务器带来巨大压力,所以同一个IP反复爬取同一个网页,就很可能被封,这里讲述一个爬虫技巧——设置代理IP。


配置环境


安装requests库


安装bs4库


安装lxml库


具体代码

Python爬虫设置代理IP的方法

函数get_ip_list(url, headers)传入url和headers,最后返回一个IP列表,列表的元素类似122.114.31.177:808格式,这个列表包括国内髙匿代理IP网站首页所有IP地址和端口。


函数get_random_ip(ip_list)传入第一个函数得到的列表,返回一个随机的proxies,这个proxies可以传入到requests的get方法中,这样就可以做到每次运行都使用不同的IP访问被爬取的网站,有效地避免了真实IP被封的风险。


proxies的格式是一个字典:{‘http’: ‘http://122.114.31.177:808‘},可以将下面的执行也封装为方法。


代理IP的使用


运行上面的代码会得到一个随机的proxies,把它直接传入requests的get方法中即可

Python爬虫设置代理IP的方法

最新资讯

推荐阅读

  1. 14

    2019-05

    在线营销机构为什么要使用代理服务

    Adtech世界充满了欺诈活动。无论您是拥有DSP,SSP,广告服务器,进行联盟营销还是拥有绩效营销工具,您都可能与许多合作伙伴合作并在全球范围内开展广告系列。经历了这么多,你知道在线营

  2. 21

    2019-05

    动态vps与混拨vps的区别

    我们不管是建站还是切换IP,都需要使用vps,vps分为多种类型,分别是全国混拨vps、单城市拨号vps、固定ip,这不同类型vps作用也有区别的,那么VPS用哪个类型好呢?这拨号VPS怎么设置自动拨号

  3. 16

    2019-05

    怎么使用ip修改器修改电脑ip地址?

    再外面找了很多加ip修改器,结果不是这个卡的要死就是哪个修改后延迟太高,无法正常工作。本人因为外派出差需要笔记版或者手机地址变回到公司所在的地区才能登录,下面小编就来告诉大

  4. 10

    2019-04

    Python爬虫遇到403,代理IP来解决

    当我们进行爬虫工作的时候,经常会碰上一些难题,比如 407 authentication required ,这是授权问题;HTTP Error 403: Forbidden,这可能是被反爬虫机制识破了,被目标网站拒绝请求。所以403 Forbidden错误

  5. 20

    2019-06

    独享代理IP的优越性

    我们在浏览网站的时候可能会经常遇到访问受限制,这个时候有的人是选择放弃浏览,有的人是想办法解决问题,继续问题,那么解决的问题的方法就是使用代理IP,在现在的网络上有狠毒提供

  6. 01

    2019-06

    换IP工具派克斯和PPTP的区别

    我们都知道PPTP和派克斯都是可以换IP的工具,那么他们之间究竟有什么样的区别呢?派克斯华科云商是装在电脑的软件,用来进行本地拨号,是VPN的一种,用于电脑端,是使用ADSL拨号的方式来

在线客服
大客户VIP渠道
点击这里给我发消息
讨论QQ群
HTTP代理IP爬虫
客服电话
13318873961