selenium-wire简介
一.简介
以下来自chatGPT回答:
selenium-wire是一个基于selenium的Python库,它扩展了selenium的功能,使得我们可以在自动化测试中直接访问和修改浏览器的网络请求和响应。selenium-wire可以拦截和修改HTTP请求和响应,从而可以在测试过程中模拟 网络环境、调试和分析网络请求以及实现自定义的网络请求和响应处理逻辑。与selenium自带的webdriver不同,selenium-wire使用了第三方库mitmproxy来实现网络请求的拦截和修改。因此,使用selenium-wire需要先安装mitmproxy。
二.用法
1.安装selenium-wire库
pip install selenium-wire
mitmproxy安装使用可参考:https://www.cnblogs.com/lihongtaoya/p/17446958.html
2.获取请求信息
1)获取所有的请求信息
get_list = driver.requests # 返回的是个数组
当调用 driver.requests时,返回的是当前页面所有已经请求并响应过了的接口数据。如果某个请求还没有完成或者被阻塞,那么这个请求对应的数据不会出现在 requests 列表中。
2)获取请求行/头/体
for i in get_list:
if 'https://www.baidu.com/sugrec' in i.url:
print(i.url) # 请求地址
print(i.date) # 请求时间
print(i.method) # 请求方式
print(i.headers) # 请求头 or i.headers['Content-Type']
print(i.params) # 请求参数
print(i.host) # 请求域名
driver.requests获取的是当前页面所有的请求,因此我们在使用时需过滤下自己所要的接口信息。
3)create_response()方法
for i in get_list:
if 'text/html' not in i.response.headers['Content-Type']:
# create_response(status_code, headers=(), body=b'')
i.create_response(200, [('Content-Type', 'text/plain')], b'["Hello","world"]') # mock接口响应
create_response()为mock接口响应信息,返回我们需要的信息。
4)abort()方法
for i in get_list:
if 'text/html' not in i.response.headers['Content-Type']:
i.abort(error_code=403) # 中断请求,并返回状态码403
print(i.response.status_code)
这里需要注意的是3,4方法所可以改变响应数据,但服务端记录的数据还是实际请求的值。
3.获取响应信息
这里直接贴代码吧,备注很详细。
for i in get_list:
if 'https://www.baidu.com/sugrec' in i.url:
print(i.response.date) # 当前响应时间
print(i.response.reason) # 响应状态 ok or Not found
print(i.response.headers['Content-Type']) # 响应的数据类型
print(i.response.status_code) # 响应状态码 # 获取响应的body并转为json类型输出
from seleniumwire.utils import decode
body = decode(i.response.body, i.response.headers.get('Content-Encoding', 'identity'))
decoded_response = body.decode('utf-8') # 将二进制字节串解码为 UTF-8 编码的字符串
json_response = json.loads(decoded_response) # 将 JSON 字符串转换为 Python 对象
print(json_response)
4.实例
import json
import time
from selenium.webdriver.common.by import By
from seleniumwire import webdriver driver = webdriver.Chrome()
driver.implicitly_wait(10)
driver.get("https://www.baidu.com")
driver.find_element(By.ID, value='kw').send_keys('猪')
driver.find_element(By.ID, value='su').click()
time.sleep(5) # 等待5s,让所有接口请求完
get_list = driver.requests # 获取当前所有的请求信息 for i in get_list:
if 'https://www.baidu.com/sugrec' in i.url:
print(i.response.date) # 当前响应时间
print(i.response.reason) # 响应状态 ok or Not found
print(i.response.headers['Content-Type']) # 响应的数据类型
print(i.response.status_code) # 响应状态码 # 获取响应的body并转为json类型输出
from seleniumwire.utils import decode
body = decode(i.response.body, i.response.headers.get('Content-Encoding', 'identity'))
decoded_response = body.decode('utf-8') # 将二进制字节串解码为 UTF-8 编码的字符串
json_response = json.loads(decoded_response) # 将 JSON 字符串转换为 Python 对象
print(json_response) driver.quit()
selenium-wrie官方文档:https://pypi.org/project/selenium-wire/
selenium-wire简介的更多相关文章
- selenium工具简介
通过selenium百科可知: 组件 Selenium IDE:一个Firefox插件,可以录制用户的基本操作,生成测试用例.随后可以运行这些测试用例在浏览器里回放,可将测试用例转换为其他语言的自动化 ...
- 自动化测试基础篇--Selenium unittest简介
一.什么是unittest unittest是Python单元测试框架,类似于JUnit框架. unittest中有4个重要的概念:test fixture, test case, test suit ...
- Selenium库简介
Selenium是一个自动化测试工具,利用它可以驱动浏览器执行特定的动作,如点击.下拉等操作,同时还可以获取浏览器当前呈现的页面的源代码,做到可见即可爬.对于一些JavaScript动态渲染的页面来说 ...
- 爬虫入门【6】Selenium用法简介
Selenium 是什么? 一句话,自动化测试工具.它支持各种浏览器,包括 Chrome,Safari,Firefox 等主流界面式浏览器. 如果你在这些浏览器里面安装一个 Selenium 的插件, ...
- python - selenium模块简介
为什么要使用Selenium? 很多浏览器渲染页面的方式都很难找出其规律, 但是利用Selenium来驱动加载网页就可以直接拿到javaScript渲染后的结果了, 不需要再担心其相关的加密系统 声明 ...
- Selenium系列之--01 简介【转】
1.selenium 工具组件 1.1 selenium2,也称为selenium webdriver.webdriver原来是另一个自动化测试工具,后与selenium 合并了.webdriver直 ...
- Selenium IDE安装及简介
一.Selenium IDE安装 Selenium IDE是Firefox浏览器的一个插件,依附于Firefox浏览器.在网上搜了Selenium IDE的安装教程,大部分都是说在官网下载安装,其实最 ...
- selenium元素定位陷阱规避
为什么selenium可以在各个浏览器上运行?因为selenium在与各个浏览器驱动执行前,会先把脚本转化成webdriver, webdriver wire协议(一种json格式的协议),这样就与脚 ...
- 所有selenium相关的库
通过爬虫 获取 官方文档库 如果想获取 相应的库 修改对应配置即可 代码如下 from urllib.parse import urljoin import requests from lxml im ...
- Python爬虫小白入门(四)PhatomJS+Selenium第一篇
一.前言 在上一篇博文中,我们的爬虫面临着一个问题,在爬取Unsplash网站的时候,由于网站是下拉刷新,并没有分页.所以不能够通过页码获取页面的url来分别发送网络请求.我也尝试了其他方式,比如下拉 ...
随机推荐
- Windows系统下Dos命令记录
# 切换到F:\test\目录 /d 参数可以直接切换,不需要先切换盘符 cd /d F:\test\ # 创建文件夹test md tset # 删除文件夹test rd test # 创建文件te ...
- Install Ansible on CentOS 8
环境准备: 1.至少俩台linux主机,一台是控制节点,一台是受控节点 2.控制节点和受控节点都需要安装Python36 3.控制节点需要安装ansible 4.控制节点需要获得受控节点的普通用户或r ...
- odoo 开发入门教程系列-添加修饰
添加修饰 我们的房地产模块现在从商业角度来看是有意义的.我们创建了特定的视图,添加了几个操作按钮和约束.然而,我们的用户界面仍然有点粗糙.我们希望为列表视图添加一些颜色,并使一些字段和按钮有条件地消失 ...
- day08 元组字典集合
day08 元组 集合 字典 元组 """ 小括号括起来,内部存放多个元素,元组之间逗号隔开,元素不可改变,元素类型不能是任意的, """ ...
- Solon2 的通讯服务线程配置
Solon 框架,关于通讯服务的所有配置 #服务端口(默认为8080) server.port: 8080 #服务主机(ip) server.host: "0.0.0.0" #服务 ...
- JUC(七)分支合并框架
JUC分支合并框架 简介 Fork/Join可以将一个大的任务拆分成多个子任务进行并行处理,最后将子任务的结果合并称为最终的计算结果. Fork:负责将任务拆分 Join:合并拆分任务 ForkJoi ...
- 手动编写Swagger文档与部署指南
Swagger介绍 在Web开发中,后端开发者在完成接口开发后,需要给前端相应的接口使用说明,所以一般会写一份API文档.一般来说,有两种方式提供API接口文档,一种是利用插件在代码中自动生成,另一种 ...
- SRAM 测试总结
SoC随着工艺进步设计复杂度增加,embeded sram也越来越多.在40nm SoC产品Sram一般在20Mbits左右,当工艺发展到28nm时Sram就增加到100Mbits.如果考虑AI产品, ...
- 在unity中制作live2d参数的AnimationClip[简单随笔]
假定:已经成功导入模型.相关文档参考:https://github.com/gtf35/live2d_unity_sdk_chinese_document(人力翻译版的Live2d SDK文档) 全部 ...
- [C++核心编程] 4.6、继承
文章目录 4.6 继承 4.6.1 继承的基本语法 4.6.2 继承方式 4.6.3 继承中的对象模型 4.6.4 继承中构造和析构顺序 4.6.5 继承同名成员处理方式 4.6.6 继承同名静态成员 ...