40. 干货系列从零用Rust编写负载均衡及代理,websocket的实现
wmproxy
wmproxy已用Rust实现http/https代理, socks5代理, 反向代理, 静态文件服务器,四层TCP/UDP转发,七层负载均衡,内网穿透,后续将实现websocket代理等,会将实现过程分享出来,感兴趣的可以一起造个轮子
项目地址
国内: https://gitee.com/tickbh/wmproxy
github: https://github.com/tickbh/wmproxy
简单介绍websocket
WebSocket 是一种在单个 TCP 连接上进行全双工通信的协议,它使得客户端和服务器之间的数据交换变得更加简单,允许服务端主动向客户端推送数据。WebSocket 通信协议于 2011 年被 IETF 定为标准 RFC 6455,并由 RFC7936 补充规范。WebSocket API 也被 W3C 定为标准。
也就是在web环境中,websocket就是socket的一种标准形式的体现。类似的还要SSE基于HTTP中的text/event-stream
源码文件含义
协议层的编码解码主要在webparse/ws
- frame_header协议头的解码与编码
- dataframe 基础单位为帧,存在多帧组成一个数据包的情况
- message 协议的基本信息,包含
Text必须为UTF-8字符串文本,Binary二进制数据流,Close关闭信息,Ping,Pong用来做心跳包相关的信息。 - mask 是否为数据进行基本的加密,服务端要求客户端传来的数据必须加密
网络处理层的源码主要在wenmeng/ws
- codec/framed_read 每一帧的读,以帧为单位进行读取
- codec/framed_write 每一帧的写,以帧为单位进行写入
- state/state_handshake websocket连接内部的握手状态
- client_connection 客户端的状态连接
- server_connection 服务端的状态连接
- control 状态的控制,写入读取的pending等,核心处理源码
- handshake 定义
on_open回调后的WsHandshake类 - option 定义
on_open回调后返回的WsOption类,当下只包含定时器,即客户端多久时间唤醒一次interval - ws_trait websocket的核心回调
#[async_trait]
pub trait WsTrait: Send {
/// 通过请求连接构建出返回的握手连接信息
#[inline]
fn on_request(&mut self, req: &RecvRequest) -> ProtResult<RecvResponse> {
// warn!("Handler received request:\n{}", req);
WsHandshake::build_request(req)
}
/// 握手完成后之后的回调,服务端返回了Response之后就认为握手成功
fn on_open(&mut self, shake: WsHandshake) -> ProtResult<Option<WsOption>>;
/// 接受到远端的关闭消息
async fn on_close(&mut self, reason: &Option<CloseData>) {}
/// 服务内部出现了错误代码
async fn on_error(&mut self, err: ProtError) {}
/// 收到来在远端的ping消息, 默认返回pong消息
async fn on_ping(&mut self, val: Vec<u8>) -> ProtResult<OwnedMessage> {
return Ok(OwnedMessage::Pong(val));
}
/// 收到来在远端的pong消息, 默认不做任何处理, 可自定义处理如ttl等
async fn on_pong(&mut self, val: Vec<u8>) {}
/// 收到来在远端的message消息, 必须覆写该函数
async fn on_message(&mut self, msg: OwnedMessage) -> ProtResult<()>;
/// 定时器定时按间隔时间返回
async fn on_interval(&mut self, option: &mut Option<WsOption>) -> ProtResult<()> {
Ok(())
}
/// 将当前trait转化成Any,仅需当需要重新获取回调处理的时候进行处理
fn as_any(&self) -> Option<&dyn Any> {
None
}
/// 将当前trait转化成mut Any,仅需当需要重新获取回调处理的时候进行处理
fn as_any_mut(&mut self) -> Option<&mut dyn Any> {
None
}
}
服务端基础demo
建立一个本地监听8081的ws端口,完整源码ws_server
建立监听类:
struct Operate {
sender: Option<Sender<OwnedMessage>>,
}
#[async_trait]
impl WsTrait for Operate {
fn on_open(&mut self, shake: WsHandshake) -> ProtResult<Option<WsOption>> {
self.sender = Some(shake.sender);
Ok(Some(WsOption::new(Duration::from_secs(10))))
}
async fn on_message(&mut self, msg: OwnedMessage) -> ProtResult<()> {
println!("callback on message = {:?}", msg);
let _ = self
.sender
.as_mut()
.unwrap()
.send(OwnedMessage::Text("from server".to_string()))
.await;
let _ = self.sender.as_mut().unwrap().send(msg).await;
Ok(())
}
async fn on_interval(&mut self, _option: &mut Option<WsOption>) -> ProtResult<()> {
println!("on_interval!!!!!!!");
Ok(())
}
}
然后启动服务器监听:
async fn run_main() -> Result<(), Box<dyn Error>> {
let addr = "127.0.0.1:8081".to_string();
let server = TcpListener::bind(&addr).await?;
println!("Listening on: {}", addr);
loop {
let (stream, addr) = server.accept().await?;
tokio::spawn(async move {
let mut server = Server::new(stream, Some(addr));
let operate = Operate { sender: None };
// 设置服务回调
server.set_callback_ws(Box::new(operate));
let e = server.incoming().await;
println!("close server ==== addr = {:?} e = {:?}", addr, e);
});
}
}
此时即可实现websocket的监听及处理。
客户端demo
当下客户端demo需要能接受终端的输入,并向服务器发送数据,所以需要自己构建sender
建立客户端连接,在这里我们手动构建了一个sender/receiver对。
async fn run_main() -> ProtResult<()> {
// 自己手动构建数据对,并将receiver传给服务端
let (sender, receiver) = channel(10);
let sender_clone = sender.clone();
tokio::spawn(async move {
let url = "ws://127.0.0.1:8081";
let mut client = Client::builder()
.url(url)
.unwrap()
.connect()
.await
.unwrap();
client.set_callback_ws(Box::new(Operate { sender:Some(sender_clone), receiver: Some(receiver) }));
client.wait_ws_operate().await.unwrap();
});
loop {
let mut buffer = String::new();
let stdin = io::stdin(); // We get `Stdin` here.
stdin.read_line(&mut buffer)?;
sender.send(OwnedMessage::Text(buffer)).await?;
}
Ok(())
}
监听实现
struct Operate {
sender: Option<Sender<OwnedMessage>>,
receiver: Option<Receiver<OwnedMessage>>,
}
#[async_trait]
impl WsTrait for Operate {
fn on_open(&mut self, shake: WsHandshake) -> ProtResult<Option<WsOption>> {
// 将receiver传给控制中心, 以让其用该receiver做接收
let mut option = WsOption::new(Duration::from_secs(1000));
if self.receiver.is_some() {
option.set_receiver(self.receiver.take().unwrap());
}
if self.sender.is_none() {
self.sender = Some(shake.sender);
}
Ok(Some(option))
}
async fn on_message(&mut self, msg: OwnedMessage) -> ProtResult<()> {
println!("callback on message = {:?}", msg);
let _ = self
.sender
.as_mut()
.unwrap()
.send(OwnedMessage::Text("from client".to_string()))
.await;
let _ = self.sender.as_mut().unwrap().send(msg).await;
Ok(())
}
async fn on_interval(&mut self, _option: &mut Option<WsOption>) -> ProtResult<()> {
println!("on_interval!!!!!!!");
Ok(())
}
}
接口说明
Client和Server为了同时兼容HTTP服务,即握手用的为HTTP的前半段请求,选择了回调用Box<dyn Trait>的形式来做回调函数的处理。
pub struct Server<T>
where
T: AsyncRead + AsyncWrite + Unpin + Sized,
{
/// http的接口回调, 处理http服务器
callback_http: Option<Box<dyn HttpTrait>>,
/// websocket的接口回调, 处理websocket服务器
callback_ws: Option<Box<dyn WsTrait>>,
// ...
}
他们两个可能是同时存在,或者单个存在的,即当作服务的时候,可能仅对/ws进行websocket的升级,其它的仅仅是http服务,所以需要能单独又能聚合的处理数据。而单存的websocket仅需WsTrait回调。
即在pub async fn incoming(&mut self) -> ProtResult<()>处理服务的时候不在传入回调地址,改成预先设置。达到灵活处理的目的。且接口比较清晰。
小结
wenmeng库当前已支持HTTP1.1/HTTP2/WEBSOCKET,在浏览器的环境中websocket是必不可缺少的存在,当然有很多原生的服务中用的都是socket,下一章中,我们将实现websocket与tcp的互转,以便一些tcp的程序可以服务web的服务。
点击 [关注],[在看],[点赞] 是对作者最大的支持
40. 干货系列从零用Rust编写负载均衡及代理,websocket的实现的更多相关文章
- Docker系列-(3) Docker-compose使用与负载均衡
上一篇文章介绍了docker镜像的制作与发布,本文主要介绍实际docker工程部署中经常用到的docker-compose工具,以及docker的网络配置和负载均衡. Docker-compose介绍 ...
- Nginx服务器部署 负载均衡 反向代理
Nginx服务器部署负载均衡反向代理 LVS Nginx HAProxy的优缺点 三种负载均衡器的优缺点说明如下: LVS的优点: 1.抗负载能力强.工作在第4层仅作分发之用,没有流量的产生,这个特点 ...
- [架构]辨析: 高可用 | 集群 | 主从 | 负载均衡 | 反向代理 | 中间件 | 微服务 | 容器 | 云原生 | DevOps | ...
词汇集 灾备 冷备份 双机热备份 异地容灾备份 云备份 灾难演练 磁盘阵列(RAID) 故障切换 心跳监测 高可用 集群 主从复制(Master-Slave) 多集群横向扩容(master-clust ...
- 死磕nginx系列--使用upsync模块实现负载均衡
问题描述 nginx reload是有一定损耗的,如果你使用的是长连接的话,那么当reload nginx时长连接所有的worker进程会进行优雅退出,并当该worker进程上的所有连接都释放时,进程 ...
- hbase源码系列(一)Balancer 负载均衡
看源码很久了,终于开始动手写博客了,为什么是先写负载均衡呢,因为一个室友入职新公司了,然后他们遇到这方面的问题,某些机器的硬盘使用明显比别的机器要多,每次用hadoop做完负载均衡,很快又变回来了. ...
- 架构之Nginx(负载均衡/反向代理)
Nginx ("engine x") 是一个高性能的 HTTP 和 反向代理 服务器 ,也是一个 IMAP/POP3/SMTP 代理 服务器 . Nginx 是由 Igor Sys ...
- nginx负载均衡(反向代理)
6,安装nginx 6.1 依赖库安装 要安装在root根目录里,不要装在虚拟环境里面 yum install gcc-c++ pcre pcre-devel zlib zlib-devel ope ...
- nginx域名转发 负载均衡 反向代理
公司有三台机器在机房,因为IP不够用,肯定要分出来,所以要建立单IP 多域名的反向代理, 就是当请求www.abc.com 跳转到本机, 请求www.bbc.com 跳转到192.168.0.35 机 ...
- Nginx HTTP负载均衡/反向代理的相关参数测试
原文地址:http://www.cnblogs.com/xiaochaohuashengmi/archive/2011/03/15/1984976.html 测试目的 (1)弄清楚HTTP Upstr ...
- nginx 负载均衡 反向代理
nginx 通过方向代理实现负载均衡,负载均衡是大流量网站要做的措施,单从字面上的意思来理解为N台服务器平均分担负载,不会因为某一台服务器负载高宕机而影响用户访问网站,负载均衡至少需要三台服务器, 既 ...
随机推荐
- 在线问诊 Python、FastAPI、Neo4j — 构建问题分类器
目录 构建字典数据 构建 Trie 字典树 按实体组装字典 问题分析 将问题进行分析,和系统已有的分类进行关联 构建字典数据 将构建的知识图片字典化, 用于后面对问题的解析,下图为症状的字典,其它字典 ...
- 最快速搭建个人服务器图床siuuuuu
@ 目录 1.服务器准备 2.docker 安装 (1)通过命令行的方式 (2)宝塔面板上安装 3.开启端口访问 什么是docker 4.docker安装minio 什么是minio 5.配置mini ...
- MySQL运维2-主从复制
一.主从复制概念 主从复制是指将主数据库的DDL和DML操作通过二进制日志传到从服务器中,然后在从服务器上对这些日志重新执行也叫重做,从而使得从数据库和主库的数据保持同步. MySQL支持一台主库同时 ...
- c语言代码练习4(改进)
#define _CRT_SECURE_NO_WARNINGS 1 #include <stdio.h> #include <string.h> #include <wi ...
- VS Code SSH
VS Code SSH 连接需要下载 VS Code Server,这是因为 VS Code Server 是在远程服务器上运行的,而不是在本地计算机上运行的.每次连接到不同的远程服务器时,都需要下载 ...
- 数据结构与算法 | 数组(Array)
数组(Array) 数组(Array)应该是最基础的数据结构之一,它由相同类型的元素组成的集合,并按照一定的顺序存储在内存中.每个元素都有一个唯一的索引,可以用于访问该元素. // java 数组示例 ...
- 【Flask模板注入】
[Flask模板注入]--概览 背景 Flask是python语言下的轻量级web应用框架,可以用来开发一些简单的网站.它使用Jinjia2渲染引擎(将html文件存放在templates文件夹中,当 ...
- 16. 从零开始编写一个类nginx工具, 反向代理upstream源码实现
wmproxy wmproxy将用Rust实现http/https代理, socks5代理, 反向代理, 静态文件服务器,后续将实现websocket代理, 内外网穿透等, 会将实现过程分享出来, 感 ...
- MicroSIP-3.21.3+pjproject-2.13.1+ opus-1.3.1+VS2019
本文记录了我通过VS2019编译MicroSIP-3.21.3开源项目的过程. Microsip:MicroSIP source code pjproject:Download PJSIP - Ope ...
- Linux g++减小可执行文件大小
去掉参数-g,产生不带有调试信息的可执行文件 加上参数-O2,产生尽可能小和尽可能快的代码 strip 可执行文件 去掉目标文件中的一些符号表.调试符号表信息,以减小程序的大小 参考文献: g++重要 ...