沪江CCtalk视频地址:https://www.cctalk.com/v/15114923883523

log 日志中间件

最困难的事情就是认识自己。

在一个真实的项目中,开发只是整个投入的一小部分,版本迭代和后期维护占了极其重要的部分。项目上线运转起来之后,我们如何知道项目运转的状态呢?如何发现线上存在的问题,如何及时进行补救呢?记录日志就是解决困扰的关键方案。正如我们每天写日记一样,不仅能够记录项目每天都做了什么,便于日后回顾,也可以将做错的事情记录下来,进行自我反省。完善的日志记录不仅能够还原问题场景,还有助于统计访问数据,分析用户行为。

日志的作用

  • 显示程序运行状态
  • 帮助开发者排除问题故障
  • 结合专业的日志分析工具(如 ELK )给出预警

关于编写 log 中间件的预备知识

log4js

本项目中的 log 中间件是基于 log4js 2.x 的封装,Log4jsNode.js 中一个成熟的记录日志的第三方模块,下文也会根据中间件的使用介绍一些 log4js 的使用方法。

日志分类

日志可以大体上分为访问日志和应用日志。访问日志一般记录客户端对项目的访问,主要是 http 请求。这些数据属于运营数据,也可以反过来帮助改进和提升网站的性能和用户体验;应用日志是项目中需要特殊标记和记录的位置打印的日志,包括出现异常的情况,方便开发人员查询项目的运行状态和定位 bug 。应用日志包含了debuginfowarnerror等级别的日志。

日志等级

log4js 中的日志输出可分为如下7个等级:

在应用中按照级别记录了日志之后,可以按照指定级别输出高于指定级别的日志。

日志切割

当我们的项目在线上环境稳定运行后,访问量会越来越大,日志文件也会越来越大。日益增大的文件对查看和跟踪问题带来了诸多不便,同时增大了服务器的压力。虽然可以按照类型将日志分为两个文件,但并不会有太大的改善。所以我们按照日期将日志文件进行分割。比如:今天将日志输出到 task-2017-10-16.log 文件,明天会输出到 task-2017-10-17.log 文件。减小单个文件的大小不仅方便开发人员按照日期排查问题,还方便对日志文件进行迁移。

代码实现

安装 log4js 模块

npm i log4js -S

log4js 官方简单示例

middleware/ 目录下创建 mi-log/demo.js,并贴入官方示例代码:

var log4js = require('log4js');
var logger = log4js.getLogger();
logger.level = 'debug';
logger.debug("Some debug messages");

然后在 /middleware/mi-log/ 目录下运行:

cd ./middleware/mi-log/ && node demo.js

可以在终端看到如下输出:

[2017-10-24 15:45:30.770] [DEBUG] default - Some debug messages

一段带有日期、时间、日志级别和调用 debug 方法时传入的字符串的文本日志。实现了简单的终端日志输出。

log4js 官方复杂示例

替换 mi-log/demo.js 中的代码为如下:

const log4js = require('log4js');
log4js.configure({
appenders: { cheese: { type: 'file', filename: 'cheese.log' } },
categories: { default: { appenders: ['cheese'], level: 'error' } }
}); const logger = log4js.getLogger('cheese');
logger.trace('Entering cheese testing');
logger.debug('Got cheese.');
logger.info('Cheese is Gouda.');
logger.warn('Cheese is quite smelly.');
logger.error('Cheese is too ripe!');
logger.fatal('Cheese was breeding ground for listeria.');

再次在 /middleware/mi-log/ 目录下运行:

node demo.js

运行之后,在当前的目录下会生成一个日志文件 cheese.log文件,文件中有两条日志并记录了 error 及以上级别的信息,也就是如下内容:

[2017-10-24 15:51:30.770] [ERROR] cheese - Cheese is too ripe!
[2017-10-24 15:51:30.774] [FATAL] cheese - Cheese was breeding ground for listeria.

注意: 日志文件产生的位置就是当前启动环境的位置。

分析以上代码就会发现,configure 函数配置了日志的基本信息

{
/**
* 指定要记录的日志分类 cheese
* 展示方式为文件类型 file
* 日志输出的文件名 cheese.log
*/
appenders: { cheese: { type: 'file', filename: 'cheese.log' } }, /**
* 指定日志的默认配置项
* 如果 log4js.getLogger 中没有指定,默认为 cheese 日志的配置项
* 指定 cheese 日志的记录内容为 error 及 error 以上级别的信息
*/
categories: { default: { appenders: ['cheese'], level: 'error' } }
}

改写为log中间件

创建 /mi-log/logger.js 文件,并增加如下代码:

const log4js = require('log4js');
module.exports = ( options ) => {
return async (ctx, next) => {
const start = Date.now()
log4js.configure({
appenders: { cheese: { type: 'file', filename: 'cheese.log' } },
categories: { default: { appenders: ['cheese'], level: 'info' } }
});
const logger = log4js.getLogger('cheese');
await next()
const end = Date.now()
const responseTime = end - start;
logger.info(`响应时间为${responseTime/1000}s`);
}
}

创建 /mi-log/index.js 文件,并增加如下代码:

const logger = require("./logger")
module.exports = () => {
return logger()
}

修改 middleware/index.js 文件,并增加对 log 中间件的注册, 如下代码:

const path = require('path')
const bodyParser = require('koa-bodyparser')
const nunjucks = require('koa-nunjucks-2')
const staticFiles = require('koa-static') const miSend = require('./mi-send')
// 引入日志中间件
const miLog = require('./mi-log')
module.exports = (app) => {
// 注册中间件
app.use(miLog()) app.use(staticFiles(path.resolve(__dirname, "../public")))
app.use(nunjucks({
ext: 'html',
path: path.join(__dirname, '../views'),
nunjucksConfig: {
trimBlocks: true
}
}));
app.use(bodyParser())
app.use(miSend())
}

打开浏览器并访问 http://localhost:3000, 来发送一个http 请求。

如上,按照前几节课程中讲解的中间件的写法,将以上代码改写为中间件。 基于 koa 的洋葱模型,当 http 请求经过此中间件时便会在 cheese.log 文件中打印一条日志级别为 info 的日志并记录了请求的响应时间。如此,便实现了访问日志的记录。

实现应用日志,将其挂载到 ctx

若要在其他中间件或代码中通过 ctx 上的方法打印日志,首先需要在上下文中挂载 log 函数。打开 /mi-log/logger.js 文件:

const log4js = require('log4js');
const methods = ["trace", "debug", "info", "warn", "error", "fatal", "mark"] module.exports = () => {
const contextLogger = {}
log4js.configure({
appenders: { cheese: { type: 'file', filename: 'cheese.log' } },
categories: { default: { appenders: ['cheese'], level: 'info' } }
}); const logger = log4js.getLogger('cheese'); return async (ctx, next) => {
// 记录请求开始的时间
const start = Date.now()
// 循环methods将所有方法挂载到ctx 上
methods.forEach((method, i) => {
contextLogger[method] = (message) => {
logger[method](message)
}
})
ctx.log = contextLogger; await next()
// 记录完成的时间 作差 计算响应时间
const responseTime = Date.now() - start;
logger.info(`响应时间为${responseTime/1000}s`);
}
}

创建 contextLogger 对象,将所有的日志级别方法赋给对应的 contextLogger 对象方法。在将循环后的包含所有方法的 contextLogger 对象赋给 ctx 上的 log 方法。

打开 /mi-send/index.js 文件, 并调用 ctx 上的 log 方法:

module.exports = () => {
function render(json) {
this.set("Content-Type", "application/json")
this.body = JSON.stringify(json)
}
return async (ctx, next) => {
ctx.send = render.bind(ctx)
// 调用ctx上的log方法下的error方法打印日志
ctx.log.error('ikcamp');
await next()
}
}

在其他中间件中通过调用 ctx 上的 log 方法,从而实现打印应用日志。

const log4js = require('log4js');
const methods = ["trace", "debug", "info", "warn", "error", "fatal", "mark"] module.exports = () => {
const contextLogger = {}
const config = {
appenders: {
cheese: {
type: 'dateFile', // 日志类型
filename: `logs/task`, // 输出的文件名
pattern: '-yyyy-MM-dd.log', // 文件名增加后缀
alwaysIncludePattern: true // 是否总是有后缀名
}
},
categories: {
default: {
appenders: ['cheese'],
level:'info'
}
}
} const logger = log4js.getLogger('cheese'); return async (ctx, next) => {
const start = Date.now() log4js.configure(config)
methods.forEach((method, i) => {
contextLogger[method] = (message) => {
logger[method](message)
}
})
ctx.log = contextLogger; await next()
const responseTime = Date.now() - start;
logger.info(`响应时间为${responseTime/1000}s`);
}
}

修改日志类型为日期文件,按照日期切割日志输出,以减小单个日志文件的大小。这时候打开浏览器并访问 http://localhost:3000,这时会自动生成一个 logs 目录,并生成一个 cheese-2017-10-24.log 文件, 中间件执行便会在其中中记录下访问日志。

├── node_modules/
├── logs/
│ ├── cheese-2017-10-24.log
├── ……
├── app.js

抽出可配置量

const log4js = require('log4js');
const methods = ["trace", "debug", "info", "warn", "error", "fatal", "mark"] // 提取默认公用参数对象
const baseInfo = {
appLogLevel: 'debug', // 指定记录的日志级别
dir: 'logs', // 指定日志存放的目录名
env: 'dev', // 指定当前环境,当为开发环境时,在控制台也输出,方便调试
projectName: 'koa2-tutorial', // 项目名,记录在日志中的项目信息
serverIp: '0.0.0.0' // 默认情况下服务器 ip 地址
} const { env, appLogLevel, dir } = baseInfo
module.exports = () => {
const contextLogger = {}
const appenders = {} appenders.cheese = {
type: 'dateFile',
filename: `${dir}/task`,
pattern: '-yyyy-MM-dd.log',
alwaysIncludePattern: true
}
// 环境变量为dev local development 认为是开发环境
if (env === "dev" || env === "local" || env === "development") {
appenders.out = {
type: "console"
}
}
let config = {
appenders,
categories: {
default: {
appenders: Object.keys(appenders),
level: appLogLevel
}
}
} const logger = log4js.getLogger('cheese'); return async (ctx, next) => {
const start = Date.now() log4js.configure(config)
methods.forEach((method, i) => {
contextLogger[method] = (message) => {
logger[method](message)
}
})
ctx.log = contextLogger; await next()
const responseTime = Date.now() - start;
logger.info(`响应时间为${responseTime/1000}s`);
}
}

代码中,我们指定了几个常量以方便后面提取,比如 appLogLeveldirenv 等。 。并判断当前环境为开发环境则将日志同时输出到终端, 以便开发人员在开发是查看运行状态和查询异常。

丰富日志信息

ctx 对象中,有一些客户端信息是我们数据统计及排查问题所需要的,所以完全可以利用这些信息来丰富日志内容。在这里,我们只需要修改挂载 ctx 对象的 log 函数的传入参数:

logger[method](message)

参数 message 是一个字符串,所以我们封装一个函数,用来把信息与上下文 ctx 中的客户端信息相结合,并返回字符串。

增加日志信息的封装文件 mi-log/access.js

module.exports = (ctx, message, commonInfo) => {
const {
method, // 请求方法 get post或其他
url, // 请求链接
host, // 发送请求的客户端的host
headers // 请求中的headers
} = ctx.request;
const client = {
method,
url,
host,
message,
referer: headers['referer'], // 请求的源地址
userAgent: headers['user-agent'] // 客户端信息 设备及浏览器信息
}
return JSON.stringify(Object.assign(commonInfo, client));
}

注意: 最终返回的是字符串。

取出 ctx 对象中请求相关信息及客户端 userAgent 等信息并转为字符串。

mi-log/logger.js 文件中调用:

const log4js = require('log4js');
// 引入日志输出信息的封装文件
const access = require("./access.js");
const methods = ["trace", "debug", "info", "warn", "error", "fatal", "mark"] const baseInfo = {
appLogLevel: 'debug',
dir: 'logs',
env: 'dev',
projectName: 'koa2-tutorial',
serverIp: '0.0.0.0'
}
const { env, appLogLevel, dir, serverIp, projectName } = baseInfo
// 增加常量,用来存储公用的日志信息
const commonInfo = { projectName, serverIp }
module.exports = () => {
const contextLogger = {}
const appenders = {} appenders.cheese = {
type: 'dateFile',
filename: `${dir}/task`,
pattern: '-yyyy-MM-dd.log',
alwaysIncludePattern: true
} if (env === "dev" || env === "local" || env === "development") {
appenders.out = {
type: "console"
}
}
let config = {
appenders,
categories: {
default: {
appenders: Object.keys(appenders),
level: appLogLevel
}
}
} const logger = log4js.getLogger('cheese'); return async (ctx, next) => {
const start = Date.now() log4js.configure(config)
methods.forEach((method, i) => {
contextLogger[method] = (message) => {
// 将入参换为函数返回的字符串
logger[method](access(ctx, message, commonInfo))
}
})
ctx.log = contextLogger; await next()
const responseTime = Date.now() - start;
logger.info(access(ctx, {
responseTime: `响应时间为${responseTime/1000}s`
}, commonInfo))
}
}

重启服务器并访问 http://localhost:3000 就会发现,日志文件的记录内容已经变化。代码到这里,已经完成了大部分的日志功能。下面我们完善下其他功能:自定义配置参数和捕捉错误。

项目自定义内容

安装依赖文件 ip:

npm i ip -S

修改 middleware/index.js 中的调用方法

const path = require('path')
const ip = require('ip')
const bodyParser = require('koa-bodyparser')
const nunjucks = require('koa-nunjucks-2')
const staticFiles = require('koa-static') const miSend = require('./mi-send')
const miLog = require('./mi-log/logger')
module.exports = (app) => {
// 将配置中间件的参数在注册中间件时作为参数传入
app.use(miLog({
env: app.env, // koa 提供的环境变量
projectName: 'koa2-tutorial',
appLogLevel: 'debug',
dir: 'logs',
serverIp: ip.address()
})) app.use(staticFiles(path.resolve(__dirname, "../public"))) app.use(nunjucks({
ext: 'html',
path: path.join(__dirname, '../views'),
nunjucksConfig: {
trimBlocks: true
}
})); app.use(bodyParser())
app.use(miSend())
}

再次修改 mi-log/logger.js 文件:

const log4js = require('log4js');
const access = require("./access.js");
const methods = ["trace", "debug", "info", "warn", "error", "fatal", "mark"] const baseInfo = {
appLogLevel: 'debug',
dir: 'logs',
env: 'dev',
projectName: 'koa2-tutorial',
serverIp: '0.0.0.0'
} module.exports = (options) => {
const contextLogger = {}
const appenders = {} // 继承自 baseInfo 默认参数
const opts = Object.assign({}, baseInfo, options || {})
// 需要的变量解构 方便使用
const { env, appLogLevel, dir, serverIp, projectName } = opts
const commonInfo = { projectName, serverIp } appenders.cheese = {
type: 'dateFile',
filename: `${dir}/task`,
pattern: '-yyyy-MM-dd.log',
alwaysIncludePattern: true
} if (env === "dev" || env === "local" || env === "development") {
appenders.out = {
type: "console"
}
}
let config = {
appenders,
categories: {
default: {
appenders: Object.keys(appenders),
level: appLogLevel
}
}
} const logger = log4js.getLogger('cheese'); return async (ctx, next) => {
const start = Date.now() log4js.configure(config)
methods.forEach((method, i) => {
contextLogger[method] = (message) => {
logger[method](access(ctx, message, commonInfo))
}
})
ctx.log = contextLogger; await next()
const responseTime = Date.now() - start;
logger.info(access(ctx, {
responseTime: `响应时间为${responseTime/1000}s`
}, commonInfo))
}
}

将项目中自定义的量覆盖默认值,解构使用。以达到项目自定义的目的。

对日志中间件进行错误处理

对于日志中间件里面的错误,我们也需要捕获并处理。在这里,我们提取一层进行封装。

打开 mi-log/index.js 文件,修改代码如下:

const logger = require("./logger")
module.exports = (options) => {
const loggerMiddleware = logger(options) return (ctx, next) => {
return loggerMiddleware(ctx, next)
.catch((e) => {
if (ctx.status < 500) {
ctx.status = 500;
}
ctx.log.error(e.stack);
ctx.state.logged = true;
ctx.throw(e);
})
}
}

如果中间件里面有抛出错误,这里将通过 catch 函数捕捉到并处理,将状态码小于 500 的错误统一按照 500 错误码处理,以方便后面的 http-error 中间件显示错误页面。 调用 log 中间件打印堆栈信息并将错误抛出到最外层的全局错误监听进行处理。

到这里我们的日志中间件已经制作完成。当然,还有很多的情况我们需要根据项目情况来继续扩展,比如结合『监控系统』、『日志分析预警』和『自动排查跟踪机制』等。可以参考一下官方文档

下一节中,我们将学习下如何处理请求错误。

上一篇:iKcamp新课程推出啦~~~~~iKcamp|基于Koa2搭建Node.js实战(含视频)☞ 处理静态资源

推荐: 翻译项目Master的自述:

1. 干货|人人都是翻译项目的Master

2. iKcamp出品微信小程序教学共5章16小节汇总(含视频)

iKcamp|基于Koa2搭建Node.js实战(含视频)☞ 记录日志的更多相关文章

  1. iKcamp团队制作|基于Koa2搭建Node.js实战项目教学(含视频)☞ 环境准备

    安装搭建项目的开发环境 视频地址:https://www.cctalk.com/v/15114357764004 文章 Koa 起手 - 环境准备 由于 koa2 已经开始使用 async/await ...

  2. iKcamp|基于Koa2搭建Node.js实战(含视频)☞ 错误处理

    沪江CCtalk视频地址:https://www.cctalk.com/v/15114923887518 处理错误请求 爱能遮掩一切过错. 当我们在访问一个站点的时候,如果访问的地址不存在(404), ...

  3. iKcamp|基于Koa2搭建Node.js实战(含视频)☞ 解析JSON

    视频地址:https://www.cctalk.com/v/15114923886141 JSON 数据 我颠倒了整个世界,只为摆正你的倒影. 前面的文章中,我们已经完成了项目中常见的问题,比如 路由 ...

  4. iKcamp|基于Koa2搭建Node.js实战(含视频)☞ 处理静态资源

    视频地址:https://www.cctalk.com/v/15114923882788 处理静态资源 无非花开花落,静静. 指定静态资源目录 这里我们使用第三方中间件: koa-static 安装并 ...

  5. iKcamp|基于Koa2搭建Node.js实战(含视频)☞ 视图Nunjucks

    视频地址:https://www.cctalk.com/v/15114923888328 视图 Nunjucks 彩虹是上帝和人类立的约,上帝不会再用洪水灭人. 客户端和服务端之间相互通信,传递的数据 ...

  6. iKcamp|基于Koa2搭建Node.js实战(含视频)☞ 代码分层

    视频地址:https://www.cctalk.com/v/15114923889408 文章 在前面几节中,我们已经实现了项目中的几个常见操作:启动服务器.路由中间件.Get 和 Post 形式的请 ...

  7. iKcamp|基于Koa2搭建Node.js实战(含视频)☞ 规范与部署

    沪江CCtalk视频地址:https://www.cctalk.com/v/15114923889450 规范与部署 懒人推动社会进步. 本篇中,我们会讲述三个知识点 定制书写规范 开发环境运行 如何 ...

  8. iKcamp团队制作|基于Koa2搭建Node.js实战(含视频)☞ 中间件用法

    中间件用法--讲解 Koa2 中间件的用法及如何开发中间件

  9. iKcamp团队制作|基于Koa2搭建Node.js实战(含视频)☞ 路由koa-router

    路由koa-router--MVC 中重要的环节:Url 处理器

随机推荐

  1. python3 获取int最大值

    python2 中获取int最大值 import sys i = sys.maxint print i 但是在python3中,报错: AttributeError: module 'sys' has ...

  2. Linux系统Centos安装Python3.7

    Linux下默认系统自带python2.7的版本,这个版本被系统很多程序所依赖,所以不建议删除,如果使用最新的Python3那么我们知道编译安装源码包和系统默认包之间是没有任何影响的,所以可以安装py ...

  3. bzoj4153 [Ipsc2015]Familiar Couples

    Description 有n对夫妇,一开始夫妇之间互不认识,若两男或两女成为朋友,称他们为"熟人","熟人"关系具有传递性,即若a熟b且b熟c则a熟c.若两组夫 ...

  4. HttpUrlConnection使用详解--转

    http://blog.csdn.net/fightingXia/article/details/71775516 一,HttpURLconnection的介绍 在Android开发中网络请求是最常用 ...

  5. COMMON INTERVIEW QUESTIONS

    1. What do you see yourself doing five years from now? 2. What motivates you to put forth your great ...

  6. PostMan 使用Interceptor 发送带cookie的请求一直loading

    问题 最近要写一个爬虫(虽然是第一次写),于是就用了Chrome上非常方便一个插件,PostMan,但是由于chrome安全的限制,发不出带cookie和带有自定义头部标签的请求. 百度一番后得如果想 ...

  7. SQL语句嵌套if

    在存储过程中我要实现一个IF的嵌套语句查询,类似与 if() {     if()      {         ......      }      else      {         .... ...

  8. 关于Linux服务器磁盘空间占满问题的解决方法

    下面给大家分享一篇关于Linux服务器磁盘占满问题解决方法(/dev/sda3 满了),需要的的朋友参考下吧   下面我们一起来看一篇关于Linux服务器磁盘占满问题解决(/dev/sda3 满了), ...

  9. Unreal Engine 4 笔记 2

    转自:http://blog.csdn.net/st_dark/article/details/48005947 2.Actor继承自aactor,可以看成是一个容器,用来装"组件" ...

  10. unity开发android游戏

    环境搭建: Unity+JDK+Android Studio+Android SDK(+NDK) 教程:unity开发android游戏(一)搭建Unity安卓开发环境 注意“Build System ...