【日常踩坑】从 SSLEOFError 到正确配置 Proxy

踩坑
代理服务器
追根溯源
参考资料

踩坑

在前几天搞定 pip 的 SSL 认证之后，结果在利用 requests 库请求 HTTPS 网站又出现了 SSLError(SSLEOFError(8, 'EOF occurred in violation of protocol (_ssl.c:1129)')) 的 SSL 相关错误

经过一系列的查询资料和测试发现，原因竟然在于 python 自身的 urllib 库没有正确配置 HTTPS 代理

代理服务器

普通的代理服务器

上面提及的 HTTP(S) 代理，其实是通过代理服务器进行 HTTP(S) 流量的转发的意思，也是在上图中的黄线所代表的协议，文中后续用出口协议来指代

而和代理服务器之间其实也需要一种协议进行通信，就是在上图中的绿线部分，文中后续用入口协议来指代

而入口协议 通常使用较多的都是 HTTP 和 Socks4/Socks5，很少有采用 HTTPS 作为与代理服务器间的连接协议，这点也是导致之前报错的主要原因

因国家法律规定，部分内容已删除，完整内容请查看文章末尾链接

代理配置

因此入口协议和出口协议之间其实没有任何因果联系，以 CFW 为例

它的入口协议支持 http 以及 socks，而且都在同一个端口，因此正确的代理配置应该是这样的：

# 正确的配置方式

HTTP_PROXY=http://127.0.0.1:7890

HTTPS_PROXY=http://127.0.0.1:7890

或者

# 正确的配置方式

HTTP_PROXY=socks5://127.0.0.1:7890

HTTPS_PROXY=socks5://127.0.0.1:7890

重点：

HTTPS_PROXY 也应该填写 http://127.0.0.1:7890，因为 HTTPS_PROXY 中 HTTPS 代表的是出口协议，而 http://127.0.0.1:7890 代表和 127.0.0.1:7890 服务器之间的入口协议是 HTTP

追根溯源

# 错误的配置方式

HTTP_PROXY=http://127.0.0.1:7890

HTTPS_PROXY=https://127.0.0.1:7890

而之前一直采用的上述错误配置，则会因为旧版本的 python 的 pip 内含的 urllib3 不支持 HTTPS 的入口协议，自动转换成了 HTTP 的入口协议进行连接了

urllib3

但是在 urllib3 库升级到 v1.26.0 版本之后，增加了对 HTTPS 的入口协议的支持，参见 Add support for HTTPS connections to proxies.

pip

pip 内置了的 requests 和 urllib3 包，而不依赖全局的 requests 和 urllib3 包

当 pip 版本高于 20.3 时，内置的 requests 包升级到了 v2.25.0，urllib3 包也升级到了 v1.26.2，也就是说开始支持 HTTPS 的入口协议了，参见 pypa/pip 20.3 (2020-11-30) NEWS.rst

万恶之源 urllib

但是其实他们都不是罪魁祸首，真正的原因其实在 python 的内置包 urllib 上

CFW 等软件一般会通过修改 Windows 注册表的 计算机\HKEY_CURRENT_USER\Software\Microsoft\Windows\CurrentVersion\Internet Settings 目录下的 ProxyServer 来配置代理服务器地址端口以及 ProxyEnable 是否启用代理

CFW 在配置代理服务器时，仅仅给出了地址和端口，并没有给出入口协议

# urllib 配置代理的源码摘录：

if '=' in proxyServer:

    # Per-protocol settings

    for p in proxyServer.split(';'):

        protocol, address = p.split('=', 1)

        # See if address has a type:// prefix

        if not re.match('(?:[^/:]+)://', address):

            address = '%s://%s' % (protocol, address)

        proxies[protocol] = address

else:

    # Use one setting for all protocols

    if proxyServer[:5] == 'http:':

        proxies['http'] = proxyServer

    else:

        proxies['http'] = 'http://%s' % proxyServer

        proxies['https'] = 'https://%s' % proxyServer

        proxies['ftp'] = 'ftp://%s' % proxyServer

按照上面给出的 urllib 库源码逻辑，会将代理配置为

proxies = {

    'http': 'http://127.0.0.1:7890',

    'https': 'https://127.0.0.1:7890',

    'ftp': 'ftp://127.0.0.1:7890'

}

因此导致了 pip、requests 等上层包，访问 HTTPS 网站时会错误的使用 https://127.0.0.1:7890 代理，而 CFW 根本不支持 HTTPS 的入口协议，所以才会产生这么一系列的错误

个人推荐可以根据自己常用的工具所支持的入口协议来修改 urllib 库源码逻辑（文件位置一般在 ***/python3.*/urllib/request.py 或者 ***/anaconda3/Lib/urllib/request.py）

if '=' in proxyServer:

    # Per-protocol settings

    for p in proxyServer.split(';'):

        protocol, address = p.split('=', 1)

        # See if address has a type:// prefix

        if not re.match('(?:[^/:]+)://', address):

            address = '%s://%s' % (protocol, address)

        proxies[protocol] = address

else:

    # Use one setting for all protocols

    proxies['http'] = 'http://%s' % proxyServer

    proxies['https'] = 'http://%s' % proxyServer

    proxies['ftp'] = 'http://%s' % proxyServer

或者简单的按照下面的方式进行修改（并不一定适用所有情况）

if '=' in proxyServer:

    # Per-protocol settings

    for p in proxyServer.split(';'):

        protocol, address = p.split('=', 1)

        # See if address has a type:// prefix

        if not re.match('(?:[^/:]+)://', address):

            address = '%s://%s' % (protocol, address)

        proxies[protocol] = address

else:

    # Use one setting for all protocols

    proxies['http'] = proxyServer

    proxies['https'] = proxyServer

    proxies['ftp'] = proxyServer

参考资料

本文作者： ywang_wnlo

本文链接： https://ywang-wnlo.github.io/posts/76f6af57.html

版权声明： 本博客所有文章除特别声明外，均采用 BY-NC-SA 许可协议。转载请注明出处！