urllib库认证,代理,cookie
认证,代理,cookie
1from urllib.request import HTTPBasicAuthHandler, HTTPPasswordMgrWithDefaultRealm, build_opener
2from urllib.error import URLError
3from urllib import request,parse
4from urllib.request import ProxyHandler, build_opener
5import ssl
6import http.cookiejar, urllib.request
7
8ssl._create_default_https_context = ssl._create_unverified_context
9
10
11'''验证'''
12def studyAuth():
13 username = 'username'
14 password = 'password'
15 url = 'http://localhost:5000/'
16 p = HTTPPasswordMgrWithDefaultRealm()
17 p.add_password(None, url, username, password)
18 auth_handle = HTTPBasicAuthHandler(p)
19 opener = build_opener(auth_handle)
20
21 try:
22 result = opener.open(url)
23 html = result.read().decode('utf-8')
24 print(html)
25 except URLError as e:
26 print(e.reason)
27
28studyAuth()
29
30'''代理'''
31def studyProxy():
32 proxy_handle = ProxyHandler({
33 'http': 'http:127.0.0.1:9743',
34 'https': 'https:127.0.0.1:9743'
35 })
36 opener = build_opener(proxy_handle)
37 try:
38 response = opener.open('https://www.baidu.com')
39 print(response.read().decode('utf-8'))
40 except URLError as e:
41 print(e.reason)
42
43studyProxy()
44
45'''cookie'''
46def studyCookie():
47 cookie = http.cookiejar.CookieJar()
48 handle = urllib.request.HTTPCookieProcessor(cookie)
49 opener = urllib.request.build_opener(handle)
50 response = opener.open('https://www.baidu.com')
51 for item in cookie:
52 print(item.name)
53 print(item.value)
54 print(item.name + '=' + item.value)
55
56def studyCookie1():
57 filename = 'cookie.txt'
58 cookie = http.cookiejar.LWPCookieJar(filename)
59# cookie = http.cookiejar.MozillaCookieJar(filename)
60 handle = urllib.request.HTTPCookieProcessor(cookie)
61 opener = urllib.request.build_opener(handle)
62 response = opener.open('http://www.baidu.com')
63 cookie.save(ignore_discard=True, ignore_expires=True)
64
65'''读取利用生成的cookie文件'''
66def studyCookie2():
67 cookie = http.cookiejar.LWPCookieJar()
68 cookie.load('cookie.txt', ignore_expires=True, ignore_discard=True)
69 handle = urllib.request.HTTPCookieProcessor(cookie)
70 opener = urllib.request.build_opener(handle)
71 response = opener.open('http://www.baidu.com')
72 print(response.read().decode('utf-8'))
73
74studyCookie2()
urllib库认证,代理,cookie的更多相关文章
- Python3 urllib库和requests库
1. Python3 使用urllib库请求网络 1.1 基于urllib库的GET请求 请求百度首页www.baidu.com ,不添加请求头信息: import urllib.requests d ...
- 4-urllib库添加代理,添加请求头格式 模板
urllib 库设置代理的方法 案例如下:
- python爬虫 - Urllib库及cookie的使用
http://blog.csdn.net/pipisorry/article/details/47905781 lz提示一点,python3中urllib包括了py2中的urllib+urllib2. ...
- 第三百二十九节,web爬虫讲解2—urllib库爬虫—ip代理—用户代理和ip代理结合应用
第三百二十九节,web爬虫讲解2—urllib库爬虫—ip代理 使用IP代理 ProxyHandler()格式化IP,第一个参数,请求目标可能是http或者https,对应设置build_opener ...
- urllib库利用cookie实现模拟登录慕课网
思路 1.首先在网页中使用账户和密码名登录慕课网 2.其次再分析请求头,如下图所示,获取到请求URL,并提取出cookie信息,保存到本地 3.最后在代码中构造请求头,使用urllib.request ...
- 爬虫之urllib库
一.urllib库简介 简介 Urllib是Python内置的HTTP请求库.其主要作用就是可以通过代码模拟浏览器发送请求.它包含四个模块: urllib.request :请求模块 urllib.e ...
- python3爬虫之Urllib库(二)
在上一篇文章中,我们大概讲了一下urllib库中最重要的两个请求方法:urlopen() 和 Request() 但是仅仅凭借那两个方法无法执行一些更高级的请求,如Cookies处理,代理设置等等 ...
- Python3爬虫一之(urllib库)
urllib库是python3的内置HTTP请求库. ython2中urllib分为 urllib2.urllib两个库来发送请求,但是在python3中只有一个urllib库,方便了许多. urll ...
- python3中urllib库的request模块详解
刚刚接触爬虫,基础的东西得时时回顾才行,这么全面的帖子无论如何也得厚着脸皮转过来啊! 原帖地址:https://www.2cto.com/kf/201801/714859.html 什么是 Urlli ...
随机推荐
- Python之网路编程利用multiprocessing开进程
一.multiprocessing模块介绍 python中的多线程无法利用CPU资源,在python中大部分情况使用多进程.python中提供了非常好的多进程包multiprocessing. mul ...
- pushd&popd&dirs命令
dirs 显示当前目录栈中的所有记录 -p 一个目录一行显示 -l 以完整格式显示 -c 删除目录栈中的所有记录 -v 每行一个目录来显示,每个目录前加上编号 +N 从左到右的第n个 ...
- LOJ-6280-数列分块入门4
链接: https://loj.ac/problem/6280 题意: 给出一个长为n 的数列,以及 n个操作,操作涉及区间加法,区间求和. 思路: sum维护区间和, tag维护每个区间多加的,不是 ...
- Python---webserver
一. # HTTP项目实战 - 深入理解HTTP协议 - 模拟后台服务程序基本流程和大致框架 - 每一个步骤一个文件夹 - 图解http协议,图解tcp/ip协议 # v01-验证技术 - 验证soc ...
- 【NOIP2016提高A组集训第4场11.1】平衡的子集
题目 夏令营有N个人,每个人的力气为M(i).请大家从这N个人中选出若干人,如果这些人可以分成两组且两组力气之和完全相等,则称为一个合法的选法,问有多少种合法的选法? 分析 如果暴力枚举每个人被分到哪 ...
- Java面试之框架篇(9)
spring现在无疑是Java中最火的框架,使用范围广,几乎每个公司面试都会涉及spring和数据库,你可以对Struts不熟悉,但一定不能表现出对spring不了解.第九篇赢在面试全篇介绍sprin ...
- Cassandra 集群配置
集群机制 一致性哈希(数据一致性) Token Range Partitoner Gossip协议(流言,无中心获取领导者) 用于在环内节点之间传播状态信息 周期运行,每次在环中随机挑选一个对象节点, ...
- Email 发送
namespace 99999 { /// <summary> /// Common interfaces to connect mail server to process e-mail ...
- ubuntu 7z解压
安装方法: sudo apt-get install p7zip 解压文件: 7z x manager.7z -r -o /home/xx 解释如下: x 代表解压缩文件,并且是按原始 ...
- html abbr标签 语法
html abbr标签 语法 作用:标记一个缩写 大理石平台 说明:<abbr> 标签指示简称或缩写,比如 "WWW" 或 "NATO".通过对缩写 ...