Egg上层框架CabloyJS是如何输出SQL语句日志的?
背景
在Egg开发实践中,经常会遇到一个问题:如何查看刚刚执行过的Egg组装的原生SQL语句呢?
1. 现有方案
可以直接在项目的config配置文件中添加MySQL配置debug: true
。这会启用底层模块mysql
的调试标志,然后输出有关SQL语句的详尽信息,效果如下:
2. 弊端
debug: true
方案有如下弊端:
输出信息过于详细,在实际开发中反而会干扰我们快速查看其他日志信息
没有输出SQL语句的执行时间
3. 理想方案
对于一个理想的SQL语句输出方案,我们其实只关心两个问题:
- Egg组装的原生SQL语句到底是怎样的?便于我们快速排查问题
- SQL语句的执行时间是多少,便于我们尽早锁定性能问题,从而得到及时解决
4. CabloyJS的方案效果
CabloyJS是基于Egg的上层开发框架,针对前面提到的两个核心问题,实现了如下效果
这种SQL语句日志的输出效果:不仅一目了然可以看到刚刚执行了多少SQL语句,而且每一条SQL语句的执行时间也是历历在目。当然,顺便我们还能看到SQL语句是由哪个连接对象执行的(通过threadId
)
实现方案
下面我们看一下CabloyJS是如何实现的。这种实现机制也适用于其他Egg系的上层框架
假设你已经创建了一个CabloyJS的项目,下面的源码均位于CabloyJS项目内
如何创建CabloyJS项目,请参见:快速开始
1. config定义
为了让方案更灵活,我们先扩展一下MySQL参数的定义
node_modules/egg-born-backend/config/config.default.js
// mysql
config.mysql = {
clients: {
__ebdb: {
// debug: true,
hook: {
meta: {
color: 'orange',
long_query_time: 0,
},
callback: {
onQuery,
},
},
},
},
};
名称 | 说明 |
---|---|
debug | 如果为true,就是启用内置的调试标志。在这里没有启用 |
hook.meta | 包含hook的配置参数 |
hook.meta.color | 日志输出的颜色 |
hook.meta.long_query_time | 如果SQL语句的执行时间超过了long_query_time (ms),就会被输出到控制台。特别的,如果long_query_time 设为0 ,则输出所有SQL语句 |
hook.callback.onQuery | 为了提升灵活性,我们可以通过onQuery 提供一个自定义的回调函数,当SQL语句的执行信息准备就绪时会被自动调用 |
2. 改写模块ali-rds
Egg执行MySQL语句的技术栈如下:模块egg
-> 模块egg-mysql
-> 模块ali-rds
-> 模块mysql
在这里,我们只需要改写模块ali-rds
即可
node_modules/@zhennann/ali-rds/lib/client.js
function RDSClient(options) {
if (!(this instanceof RDSClient)) {
return new RDSClient(options);
}
Operator.call(this);
this.pool = mysql.createPool(options);
const _hook = options.hook;
const _getConnection = this.pool.getConnection.bind(this.pool);
this.pool.getConnection = function(cb) {
_getConnection(function(err, conn) {
if (err) return cb(err, null);
onQuery(conn, function(err) {
if (err) return cb(err, null);
onConnection(conn, function(err) {
if (err) return cb(err, null);
cb(null, conn);
});
});
});
function onConnection(conn, cb) {
if (!_hook || !_hook.callback || !_hook.callback.onConnection) return cb(null);
if (conn.__hook_onConnection) return cb(null);
conn.__hook_onConnection = true;
co.wrap(_hook.callback.onConnection)(new RDSConnection(conn)).then(function() {
cb(null);
}).catch(function(err) {
cb(err);
});
}
function onQuery(conn, cb) {
if (!_hook || !_hook.callback || !_hook.callback.onQuery) return cb(null);
if (conn.__hook_onQuery) return cb(null);
conn.__hook_onQuery = true;
const _query = conn.query;
conn.query = function query(sql, values, cb) {
const prevTime = Number(new Date());
const sequence = _query.call(conn, sql, values, cb);
const _callback = sequence._callback;
sequence._callback = function(...args) {
const ms = Number(new Date()) - prevTime;
_hook.callback.onQuery(_hook, ms, sequence, args);
_callback && _callback(...args);
};
return sequence;
};
cb(null);
}
};
[
'query',
'getConnection',
].forEach(method => {
this.pool[method] = promisify(this.pool[method]);
});
}
首先,拦截
pool.getConnection
方法当系统从数据库连接池中获取到connection对象时,执行两个回调
onConnection
和onQuery
onConnection
是在第一次创建connection对象时,执行一些初始化SQL语句,比如设置一些会话级别的变量,不是这里讨论的重点onQuery
的作用就是拦截connection.query
方法,在query执行前和执行后分别记录时间,从而得到SQL语句的执行时间,然后执行config配置中指定的回调函数hook.callback.onQuery
3. 回调hook.callback.onQuery
我们再回头看一下config配置文件中的回调函数是如何实现的
node_modules/egg-born-backend/config/config.default.js
function onQuery(hook, ms, sequence, args) {
if (!hook.meta.long_query_time || hook.meta.long_query_time < ms) {
const message = `threadId: ${sequence._connection.threadId}, ${ms}ms ==> ${sequence.sql}`;
console.log(chalk.keyword(hook.meta.color)(message));
}
}
首先判断
hook.meta.long_query_time
,如果为0
或者小于执行时间,就会执行输出使用模块
chalk
,并使用指定的颜色值hook.meta.color
输出SQL执行日志
4. 模块module-alias
由于我们改写了模块ali-rds
的源代码,所以我们需要启用一个新的模块名称,在这里就是@zhennann/ali-rds
,发布到npm仓库即可
那么,如何使新模块@zhennann/ali-rds
生效呢?由于模块ali-rds
是被模块egg-mysql
所引用的。我们如果还要改写模块egg-mysql
的源码,代价就未免太大了
在这里,我们引入模块module-alias
,从而达到这样的效果:模块egg-mysql
源码不变,仍然是const rds = require('ali-rds');
,但实际上引用的却是@zhennann/ali-rds
模块
module-alias
的机理,请参见:https://github.com/ilearnio/module-alias
这里,我们只需看一下如何使用模块module-alias
node_modules/egg-born-backend/index.js
const moduleAlias = require('module-alias');
moduleAlias.addAlias('ali-rds', '@zhennann/ali-rds');
结语
这样,我们就实现了一个轻巧的方案,不仅可以直接在Egg上层框架中提供缺省的SQL语句输出方案,而且还可以通过覆盖config参数hook.callback.onQuery
提供自定义的输出方案
Egg上层框架CabloyJS是如何输出SQL语句日志的?的更多相关文章
- yii2输出sql语句
yii2如何输出具体的查询的sql语句: $query = User::find() ->where(['id'=>[1,2,3,4]) ->select(['username']) ...
- IBatis.net 输出SQL语句(七)
一.IBatis.net输出SQL语句到控制台 输出IBatis.net生成的SQL语句到控制台,能够方便调试. 如果要想输出IBatis.net的SQL语句到控制台,那么只需要做如下配置即可: &l ...
- NHibernate输出SQL语句
用了NHierbate之后,很少需要写原生的SQL语句,由于总是看不到SQL语句,所以有时候对SQL调优非常不利.因此产生了让NHibernate输出它所生成的SQL语句的想法,以便于后续调优. 一. ...
- Spring3+MyBatis3整合log4j无法输出SQL语句问题的解决
今天遇到了跟下面文章一模一样的问题,下面文章的解决方案很好,在这里记录保存一下. Spring3+MyBatis3整合无法输出SQL语句问题的解决
- Ibatis.Net 输出SQL语句学习(七)
一.IBatis.net输出SQL语句 输出IBatis.net生成的SQL语句,能够方便调试. 在MapperHelper类中添加GetSql方法: /// <summary> /// ...
- django框架 - 实时查看执行的sql语句
django框架采用的ORM模型,我们可以通过mysql的日志记录实时看到执行的sql语句,具体步骤如下: 第一步:找到mysql的配置文件 第二步:编辑mysql配置文件 第三步:重启mysql 第 ...
- Druid搭配log4j2输出SQL语句和结果
一.引言 其实Druid的内置了log4jdbc来显示SQL语句,虽然显示效果不如原生的log4jdbc效果好,但是因为内置所以不需要其他更多的配置. 二.使用 1. 创建基于druid的logger ...
- 配置p6spyLog输出sql完整日志
第一步: 配置maven <dependency> <groupid>p6spy</groupid> <artifactid>p6spy< ...
- Yii 2.0版本调试输出SQL语句
项目是基于框架Yii 2.0开发的. 今天梳理一些数据统计功能代码的时候,想把当前运行的sql语句打印出来,然后放到navicat工具里面运行,并分析一下运行效率和调优方案,之前大部分时候都是写增加. ...
随机推荐
- 微信jssdk分享(附代码)
老规矩---demo图: (注释:微信分享只支持右上角三个点触发) ======> 老规矩上菜: 1. 这边我封装了 share.js function allSharefun(param) ...
- java集合(arraylist详解)
一.ArrayList概述 ArrayList是实现List接口的动态数组,所谓动态就是它的大小是可变的.实现了所有可选列表操作,并允许包括 null 在内的所有元素.除了实现 List 接口外,此类 ...
- Netty初见-三大组件-简单使用
Netty系列文章目录 Netty初见-三大组件-简单使用 文件编程-更新中---- 目录 Netty系列文章目录 三大组件 Channel与Buffer Selector 简单使用(ByteBuff ...
- 帝国CMS批量提取正文内容到简介
最近接到一个帝国CMS模板改版项目,自带的数据可能是采集的,以前的简介字段内容只截取了60个字,新模板的简介60字符太少了,不美观,想让简介都截取200个字,怎么批量修改呢,文章太多了手动改肯定不行, ...
- Hadoop安装部署
Hadoop伪分布式搭建 1.准备Linux环境 ①开启网络,ifconfig指令查看ip ②修改主机名为自己名字(hadoop) vim /etc/sysconfig/network NETWORK ...
- 【课程汇总】OpenHarmony 成长计划知识赋能第三期系列课程(附链接)
OpenHarmony 开源开发者成长计划第三期知识赋能课程硬核程度再次升级,带领开发者上手 OpenHarmony 的标准系统应用开发,学习标准设备应用开发,使用 eTS UI 开发分布式应用样例, ...
- java高级用法之:在JNA中使用类型映射
目录 简介 类型映射的本质 TypeMapper NativeMapped 总结 简介 JNA中有很多种映射,library的映射,函数的映射还有函数参数和返回值的映射,libary和函数的映射比较简 ...
- 2021.07.23 P3275 糖果(差分约束)
2021.07.23 P3275 糖果(差分约束) [P3275 SCOI2011]糖果 - 洛谷 | 计算机科学教育新生态 (luogu.com.cn) 重点: 1.为了满足更多更多约束条件,合适地 ...
- vulnhub devguru渗透笔记
devguru渗透笔记 信息收集 kali ip 目标ip 首先我们扫描一下开放端口 nmap -A -p- 192.168.20.143 Starting Nmap 7.91 ( https://n ...
- git-config配置多用户环境以及 includeIf用法
git-config配置多用户环境以及 includeIf用法 git-config配置多用户环境以及 includeIf用法 背景 介绍 配置 栗子 背景 开发人员经常遇到这样的问题,公司仓库和个人 ...