注意: IP代理精灵仅提供国内ip网络节点,不提供境外网络节点,不能用于任何非法用途或访问境外封闭网站,不能跨境联网,只能用于合法的国内网络加速。

请登录 注册 实名验证

首页 > 新闻资讯 > 如何爬取可用的IP代理

如何爬取可用的IP代理

来源:IP代理精灵​ 作者:admin 时间:2019-04-19 14:38:14

对付反爬虫有一个很关键的方法就是使用IP代理,那么我们应该如何爬取可用的IP代理呢?这里分享一下一些爬取IP代理的心得体会。

如何爬取可用的IP代理

1、步骤


第一可以先找几个提供免费测IP代理的网站,获取到可以使用的IP资源


第二验证对应的IP代理访问出口IP是不是跟本机的出口IP保持一致,得到的不一致的IP代理列表


第三根据自身的实验目的验证IP代理的相应速度,进行排序,择优选用


2、具体做法


第一上网搜索IP代理,例如ip代理精灵、黑核动态ip代理等等


第二可以这里进行验证


第三这个就根据自身爬虫的需要,看是下载东西还是其他的,再进一步测试速度


3、代码


View Code


关于这份代码,有几个地方做一下说明:


· check_a_ip(ip):该函数为IP代理检查函数,返回两个值(一个为访问请求是否成功使用了代理,一个为检查的响应时间)


· start_page、end_page: 手动输入获取IP代理的网页页码,这个需要根据具体网站设定


· for i in range(int(start_page), int(end_page) + 1):主函数的循环,遍历设定范围的网页


· for tr in trs[1:len(trs)]:循环遍历并解析出一个网页中的所有IP代理,以及检验是否可用


· ip_proxy_file:文本写入,最终把结果都写入proxy.txt中


4、拓展


本实验可以采用多线程进行爬取或者检验,这样的爬取速率会快很多,大家有时间可以尝试一下。


最新资讯

推荐阅读

  1. 20

    2019-06

    代理IP供应商如何选择

    随着网络的迅速发展,一些新兴的行业也跟着发展壮大起来,不断的丰富着人们的生活,例如代理IP,对于做网络营销的人员来说就是一个非常好用便利的工具,这几年代理IP行业的发展也是以

  2. 10

    2019-10

    代理ip如何助力于营销推广?

    代理ip如何助力于营销推广?如今互联网经济环境下,无论是传统行业还是新兴产业都离不开营销推广。营销推广对于每个行业都需要面对的,从传统行业线下推广直到现在的互联网线上销售,销

  3. 05

    2019-05

    IP代理不同类型的区别

    IP代理这个词,大家多多少少都有听过吧,但是你知道IP代理不同类型的区别吗?今天我们就来为各位详细讲解。

  4. 17

    2019-09

    ip代理精灵软件的特点

    ip代理精灵软件的特点。最近很多用户都在用ip代理精灵,使用反馈都比较好,那ip代理有什么特点呢?ip代理精灵高速度、高效率、功能强、安全、小巧、使用方便。自动获取代理IP,自动更换代

  5. 22

    2019-04

    如何通过变更ip来进行刷票

    参与过网络投票活动的朋友都知道,当我们给其中某一项投票后,马上进行再次投票,投票将不会成功,提示你“您已经投过票了”,那么网络投票系统是如何知道你已经投过票了呢?这就是网

  6. 19

    2019-06

    代理IP可以分为哪几类?如何选择?

    尽管代理IP的用途很广泛,使用的人群越来越多,但依然有很多新手不太理解代理IP的作用,有哪些类型,今天就来讨论下代理IP的分类以及如何选择。我们经常会用金钱去衡量一种物品,经常挂