注意: IP精灵代理仅提供国内ip网络节点,不提供境外网络节点,不能用于任何非法用途或访问境外封闭网站,不能跨境联网,只能用于合法的国内网络加速。

您好,请登录 没有账号?

首页 > 新闻资讯 > python爬虫使用代理ip或请求头的问题

python爬虫使用代理ip或请求头的问题

来源:IP代理精灵 作者:admin 时间:2019-04-26 14:56:53

python爬虫使用代理ip或请求头的问题,接下来我们一起来看看!


在request库中使用代理ip实例如下

headers = {
    'User-Agent':
    'Mozilla/5.0 (Windows NT 6.1; WOW64; rv:30.0) Gecko/20100101 Firefox/30.0',
    'Connection':
    'keep-alive',
    'Cookie':
    'session-id=130-1833310-5969908; session-id-time=2082787201l;',
    'referer':
    'https://www.amazon.com/s/ref=nb_sb_noss?field-keywords=%E7%94%B5%E8%84%91&ie=UTF8&language=zh_CN&url=search-alias%3Daps'
}

# 设置代理ip
proxies = {
    'http': 'http://110.52.235.150:9999',
    'https': 'https://58.137.62.133:80'
}
list_html = requests.get(
    'https://www.amazon.com/s/ref=nb_sb_noss?field-keywords=' + keywords +
    '&ie=UTF8&language=zh_CN&url=search-alias%3Daps',
    timeout=timeout,
    headers=headers,
    proxies=proxies,
)

一、 Failed to establish a new connection: [WinError 10061] 由于目标计算机积极拒绝,无法连接。')))


这种情况是爬取目标对本机进行反爬导致, 目前暂时考虑两种:


ip封锁导致:


解决的关键在于cookie携带还有ip更替, (cookie携带下, 对ip的封锁频率会降低)


请求头referer属性:


部分页面向下访问时会携带referer记录从哪个页面跳转, 有些反爬针对referer进行检测, 如果没有携带或者携带错误会大大增加封锁率


请求头用户代理:


二、Cannot connect to proxy.', NewConnectionError('<urllib3.connection.VerifiedHTTPSConnection object at 0x00000166942B8D30>: Failed to establish a new connection: [WinError 10060] 由于连接方在一段时间后没有正确答复或连接的主机没有反应,连接尝试失败。


这种情况是由于使用的代理ip失效而无法再连接的问题, 可以使用cmd安装tcping命令对ip + 端口进行有效性检查


三、'Connection to 121.61.3.9 timed out. (connect timeout=10)'))


这种情况是由于使用的代理ip连接失效或者连接过于久, 使得超过了程序设定的时间, 可以不设置request的timeout属性以达到最大时间看看是否代理ip失效问题。

最新资讯

推荐阅读

  1. 24

    2019-04

    短效优质代理IP好用吗?每次提取多少IP合适?

    ip代理精灵一向诚信为商,在这里如实说明本站的短效优质代理是用ADSL拨号VPS搭建的,IP地址并不具备一手性,但是一直以来某些同行在用这类IP充当“私密代理IP”来欺骗客户高价牟取暴利。短

  2. 18

    2019-05

    为什么不建议分布式爬虫使用免费的代理ip

    IP作用至关重要。IP地址是指互联网协议地址,简单的说就是互联网分配给网络设备的门牌号,为了网络中的计算机能够互相访问,并且知道对方是谁。很多时候当我想要维护自身网络访问平安

  3. 06

    2019-06

    如何选择购买https代理ip

    如何选择购买https代理ip呢?其实在之前,而且https代理ip平台,并没有在大众用户中普及。更多需要购买这种服务的都是一些淘宝商家或者电商人员。因为他们需要借助这种功能来进行刷单或者

  4. 23

    2019-04

    一手私密代理好和短效优质代理哪种好

    代理IP的使用越来越广泛,在互联网领域的需求也越来越大,网络爬虫、网络投票、营销推广、电商营销、人气补量等等,都需要用到代理IP,尽管市场上IP供应商很多,但质量却是良莠不齐,要

  5. 16

    2019-05

    使用换ip软件后网络无法连接怎么办

    使用换ip软件后网络无法连接怎么办?如今使用换ip软件的人逐渐增多,不可避免的会碰上换ip软件账号无法正常连接的情况。这就要求我们必须保证自己的账户名和密码是对的,有一部分软件网

  6. 08

    2019-05

    换IP常见的方法有哪些

    很多人再帮朋友投票,做网络推广的时候经常需要换IP。大量的工作需要换IP,单单依靠手动切换IP的方法是比较浪费时间的,效果也达不到预期,那么应该如何更换IP呢?今天小编就简单的为大

在线客服
大客户VIP渠道
点击这里给我发消息
讨论QQ群
HTTP代理IP爬虫
客服电话
13318873961