本站消息

站长简介/公众号


站长简介:高级软件工程师,曾在阿里云,每日优鲜从事全栈开发工作,利用周末时间开发出本站,欢迎关注我的微信公众号:程序员总部,程序员的家,探索程序员的人生之路!分享IT最新技术,关注行业最新动向,让你永不落伍。了解同行们的工资,生活工作中的酸甜苦辣,谋求程序员的最终出路!

  价值13000svip视频教程,python大神匠心打造,零基础python开发工程师视频教程全套,基础+进阶+项目实战,包含课件和源码

  出租广告位,需要合作请联系站长

+关注
已关注

分类  

暂无分类

标签  

暂无标签

日期归档  

2021-03(4)

2021-04(4)

代理使用速度变慢的原因

发布于2021-11-23 16:33     阅读(30)     评论(0)     点赞(0)     收藏(0)



在大数据时代,爬虫成了一项必不可少额工作,随之爬虫代理IP也就成爬虫业务中的必需品。

作为爬虫工作者,对代理ip的的使用和了解自不用说,只要是获取过数据的,不过是个人业务还是企业业务代理ip的使用都是必不可少的,那么为什么选择使用代理IP呢?是因为代理IP具备着一定的优点,能为我们带来非常明显的好处。

代理IP的优点之一,能更好的保护隐私。如果使用了代理IP,便会把自己真实的IP隐藏起来,这样就会提高上网的安全性。

代理IP的优点之二,提高访问速度。有些网站会存在缓存信息的可能,,如果您通过代理IP去访问,如果目标网站缓存您的信息,那么下次访问就会快速访问,进一步提高访问速度。

当然在使用代理IP过程中,一定会出现代理IP速度慢的问题。代理IP速度慢可能出现以下原因。

1、使用国内代理IP访问国外网站,由于是国内服务器IP访问国外的服务器,这过程比较漫长,延迟会慢许多。

2、代理IP服务器得到带宽配置问题,有的服务器带宽不足,访问网站也会慢。

3、使用代理IP的用户网络问题,也会导致使用代理IP速度慢。

4、访问目标网站服务器的问题,有些服务器限制严格或者目标网站服务器的节点多,访问也会变慢。

那如何提高访问速度,这里推介大家可以选择使用亿牛云的爬虫代理加强版,不仅能提高速度,而且更加稳定。使用方式也很简单,我们以python为例:

#! -*- encoding:utf-8 -*-

    import requests
    import random

    # 要访问的目标页面
    targetUrl = "http://httpbin.org/ip"

    # 要访问的目标HTTPS页面
    # targetUrl = "https://httpbin.org/ip"

    # 代理服务器(产品官网 www.16yun.cn)
    proxyHost = "t.16yun.cn"
    proxyPort = "31111"

    # 代理验证信息
    proxyUser = "username"
    proxyPass = "password"

    proxyMeta = "http://%(user)s:%(pass)s@%(host)s:%(port)s" % {
        "host" : proxyHost,
        "port" : proxyPort,
        "user" : proxyUser,
        "pass" : proxyPass,
    }

    # 设置 http和https访问都是用HTTP代理
    proxies = {
        "http"  : proxyMeta,
        "https" : proxyMeta,
    }


    #  设置IP切换头
    tunnel = random.randint(1,10000)
    headers = {"Proxy-Tunnel": str(tunnel)}



    resp = requests.get(targetUrl, proxies=proxies, headers=headers)

    print resp.status_code
    print resp.text

这是比较简单的使用方式,有需要的小伙伴可以试试。







所属网站分类: 技术文章 > 博客

作者:yiniuyun

链接:https://www.pythonheidong.com/blog/article/1086983/6008b81a993b3823ef7d/

来源:python黑洞网

任何形式的转载都请注明出处,如有侵权 一经发现 必将追究其法律责任

0 0
收藏该文
已收藏

评论内容:(最多支持255个字符)