selenium-wire简介
一.简介
以下来自chatGPT回答:
selenium-wire是一个基于selenium的Python库,它扩展了selenium的功能,使得我们可以在自动化测试中直接访问和修改浏览器的网络请求和响应。selenium-wire可以拦截和修改HTTP请求和响应,从而可以在测试过程中模拟 网络环境、调试和分析网络请求以及实现自定义的网络请求和响应处理逻辑。与selenium自带的webdriver不同,selenium-wire使用了第三方库mitmproxy来实现网络请求的拦截和修改。因此,使用selenium-wire需要先安装mitmproxy。
二.用法
1.安装selenium-wire库
pip install selenium-wire
mitmproxy安装使用可参考:https://www.cnblogs.com/lihongtaoya/p/17446958.html
2.获取请求信息
1)获取所有的请求信息
get_list = driver.requests # 返回的是个数组
当调用 driver.requests时,返回的是当前页面所有已经请求并响应过了的接口数据。如果某个请求还没有完成或者被阻塞,那么这个请求对应的数据不会出现在 requests 列表中。
2)获取请求行/头/体
for i in get_list:
if 'https://www.baidu.com/sugrec' in i.url:
print(i.url) # 请求地址
print(i.date) # 请求时间
print(i.method) # 请求方式
print(i.headers) # 请求头 or i.headers['Content-Type']
print(i.params) # 请求参数
print(i.host) # 请求域名
driver.requests获取的是当前页面所有的请求,因此我们在使用时需过滤下自己所要的接口信息。
3)create_response()方法
for i in get_list:
if 'text/html' not in i.response.headers['Content-Type']:
# create_response(status_code, headers=(), body=b'')
i.create_response(200, [('Content-Type', 'text/plain')], b'["Hello","world"]') # mock接口响应
create_response()为mock接口响应信息,返回我们需要的信息。
4)abort()方法
for i in get_list:
if 'text/html' not in i.response.headers['Content-Type']:
i.abort(error_code=403) # 中断请求,并返回状态码403
print(i.response.status_code)
这里需要注意的是3,4方法所可以改变响应数据,但服务端记录的数据还是实际请求的值。
3.获取响应信息
这里直接贴代码吧,备注很详细。
for i in get_list:
if 'https://www.baidu.com/sugrec' in i.url:
print(i.response.date) # 当前响应时间
print(i.response.reason) # 响应状态 ok or Not found
print(i.response.headers['Content-Type']) # 响应的数据类型
print(i.response.status_code) # 响应状态码 # 获取响应的body并转为json类型输出
from seleniumwire.utils import decode
body = decode(i.response.body, i.response.headers.get('Content-Encoding', 'identity'))
decoded_response = body.decode('utf-8') # 将二进制字节串解码为 UTF-8 编码的字符串
json_response = json.loads(decoded_response) # 将 JSON 字符串转换为 Python 对象
print(json_response)
4.实例
import json
import time
from selenium.webdriver.common.by import By
from seleniumwire import webdriver driver = webdriver.Chrome()
driver.implicitly_wait(10)
driver.get("https://www.baidu.com")
driver.find_element(By.ID, value='kw').send_keys('猪')
driver.find_element(By.ID, value='su').click()
time.sleep(5) # 等待5s,让所有接口请求完
get_list = driver.requests # 获取当前所有的请求信息 for i in get_list:
if 'https://www.baidu.com/sugrec' in i.url:
print(i.response.date) # 当前响应时间
print(i.response.reason) # 响应状态 ok or Not found
print(i.response.headers['Content-Type']) # 响应的数据类型
print(i.response.status_code) # 响应状态码 # 获取响应的body并转为json类型输出
from seleniumwire.utils import decode
body = decode(i.response.body, i.response.headers.get('Content-Encoding', 'identity'))
decoded_response = body.decode('utf-8') # 将二进制字节串解码为 UTF-8 编码的字符串
json_response = json.loads(decoded_response) # 将 JSON 字符串转换为 Python 对象
print(json_response) driver.quit()
selenium-wrie官方文档:https://pypi.org/project/selenium-wire/
selenium-wire简介的更多相关文章
- selenium工具简介
通过selenium百科可知: 组件 Selenium IDE:一个Firefox插件,可以录制用户的基本操作,生成测试用例.随后可以运行这些测试用例在浏览器里回放,可将测试用例转换为其他语言的自动化 ...
- 自动化测试基础篇--Selenium unittest简介
一.什么是unittest unittest是Python单元测试框架,类似于JUnit框架. unittest中有4个重要的概念:test fixture, test case, test suit ...
- Selenium库简介
Selenium是一个自动化测试工具,利用它可以驱动浏览器执行特定的动作,如点击.下拉等操作,同时还可以获取浏览器当前呈现的页面的源代码,做到可见即可爬.对于一些JavaScript动态渲染的页面来说 ...
- 爬虫入门【6】Selenium用法简介
Selenium 是什么? 一句话,自动化测试工具.它支持各种浏览器,包括 Chrome,Safari,Firefox 等主流界面式浏览器. 如果你在这些浏览器里面安装一个 Selenium 的插件, ...
- python - selenium模块简介
为什么要使用Selenium? 很多浏览器渲染页面的方式都很难找出其规律, 但是利用Selenium来驱动加载网页就可以直接拿到javaScript渲染后的结果了, 不需要再担心其相关的加密系统 声明 ...
- Selenium系列之--01 简介【转】
1.selenium 工具组件 1.1 selenium2,也称为selenium webdriver.webdriver原来是另一个自动化测试工具,后与selenium 合并了.webdriver直 ...
- Selenium IDE安装及简介
一.Selenium IDE安装 Selenium IDE是Firefox浏览器的一个插件,依附于Firefox浏览器.在网上搜了Selenium IDE的安装教程,大部分都是说在官网下载安装,其实最 ...
- selenium元素定位陷阱规避
为什么selenium可以在各个浏览器上运行?因为selenium在与各个浏览器驱动执行前,会先把脚本转化成webdriver, webdriver wire协议(一种json格式的协议),这样就与脚 ...
- 所有selenium相关的库
通过爬虫 获取 官方文档库 如果想获取 相应的库 修改对应配置即可 代码如下 from urllib.parse import urljoin import requests from lxml im ...
- Python爬虫小白入门(四)PhatomJS+Selenium第一篇
一.前言 在上一篇博文中,我们的爬虫面临着一个问题,在爬取Unsplash网站的时候,由于网站是下拉刷新,并没有分页.所以不能够通过页码获取页面的url来分别发送网络请求.我也尝试了其他方式,比如下拉 ...
随机推荐
- 从pcap文件中提取pcma音频
操作系统 :Windows10_x64 .CentOS 7.6.1810_x64 wireshark版本:3.6.12 Python 版本 : 3.9.12 一.背景描述 工作中有时候会遇到需要从 ...
- active
rabbitMQ与activeMQ区别 之前的项目中都用到了这两个消息队列 ActiveMq,传统的消息队列,使用Java语言编写.基于JMS(Java Message Service),采用多线程并 ...
- Redis的自增也能实现滑动窗口限流?
限流是大家开发之路上一定会遇到的需求.比如:限制一定时间内,接口请求请求频率:一定时间内用户发言.评论次数等等,类似于滑动窗口算法.这里分享一份拿来即用的代码,一起看看如何利用常见的 Redis 实现 ...
- Numpy数组乘法
Numpy数组乘法 元素级乘法 numpy.multiply() 或 * : 数组对应位置元素相乘 import numpy as np # 一维数组 a = np.array([1, 2, 3, 4 ...
- vue自定义组件——split-pane
pre { overflow-y: auto; max-height: 500px } github地址: https://github.com/lxmghct/my-vue-components 组 ...
- java项目 宿舍管理系统 (源码+数据库文件+1w字论文+ppt)
java项目 宿舍管理系统 (源码+数据库文件+1w字论文+ppt)技术框架:java+springboot+vue+mysql后端框架: Spring Boot.Spring MVC.MyBatis ...
- 道德与社会问题简报 #3: Hugging Face 上的道德开放性
使命: 开放和优秀的机器学习 在我们的使命中,我们致力于推动机器学习 (ML) 的民主化,我们在研究如何支持 ML 社区工作并有助于检查危害和防止可能的危害发生.开放式的发展和科学可以分散力量,让许多 ...
- javasec(一)java反射
这篇文章介绍javasec基础知识--java反射. 0x01 反射是什么? 反射是一种机制,利用反射机制动态的实例化对象.读写属性.调用方法.构造函数. 在程序运行状态中,对于任意一个类或对象,都能 ...
- Gradio入门到进阶全网最详细教程[二]:快速搭建AI算法可视化部署演示(侧重参数详解和案例实践)
Gradio入门到进阶全网最详细教程[二]:快速搭建AI算法可视化部署演示(侧重参数详解和案例实践) 相关文章:Gradio入门到进阶全网最详细教程[一]:快速搭建AI算法可视化部署演示(侧重项目搭建 ...
- H.323详解
H.323详解 文章中的某些图粘不上去,可到资源页下载word版点击打开链接 转载博客:https://blog.csdn.net/hemingliang1987/article/details/16 ...