多线程操作同一个文件时会出现并发问题。解决的一个办法就是给文件加锁(lock),但是这样的话,一个线程操作文件时,其它的都得等待,这样的话性能非常差。另外一个解决方案,就是先将数据放在队列中,然后开启一个线程,负责从队列中取出数据,再写到文件中。

在这之前,有必要先了解下Redis,关于Redis的介绍可以参考我的这篇博文:ASP.NET Redis 开发

Redis工具和所需资料代码全下载,地址:http://pan.baidu.com/s/155F6A

下面我们讲解一个实际项目中应用的案例,关于日志的处理.这里是使用ASP.NET MVC项目作为Demo。

方式一:使用队列

思路:把所有产生的日志信息存放到一个队列里面,然后通过新建一个线程,不断的从这个队列里面读取异常信息,然后往日志里面写。也就是所谓的生产者、消费者模式。

1、新建一个类MyErrorAttribute,

  1. using System.Web.Mvc;
  2. public class MyErrorAttribute : HandleErrorAttribute
  3. {
  4. public static Queue<Exception> ExceptionQueue = new Queue<Exception>();
  5. public override void OnException(ExceptionContext filterContext)
  6. {
  7. ExceptionQueue.Enqueue(filterContext.Exception);
  8. filterContext.HttpContext.Response.Redirect("~/Error.html");
  9. base.OnException(filterContext);
  10. }
  11. }

2、在FilterConfig类中进行如下修改:

  1. public class FilterConfig
  2. {
  3. public static void RegisterGlobalFilters(GlobalFilterCollection filters)
  4. {
  5. //filters.Add(new HandleErrorAttribute());
  6. filters.Add(new MyErrorAttribute());
  7. }
  1. string filePath = Server.MapPath("~/Logs/");
  2. ThreadPool.QueueUserWorkItem(o => {
  3. while(true)
  4. {
  5. if (MyErrorAttribute.ExceptionQueue.Count > 0)
  6. {
  7. Exception ex = MyErrorAttribute.ExceptionQueue.Dequeue();
  8. if (ex != null)
  9. {
  10. string fileName = filePath + DateTime.Now.ToString("yyyy-MM-dd") + ".txt";
  11. File.AppendAllText(fileName, ex.Message);
  12. }
  13. else
  14. {
  15. Thread.Sleep(50);
  16. }
  17. }
  18. else
  19. {
  20. Thread.Sleep(50);
  21. }
  22. }
  23. });

方式二:使用Redis与Log4Net完成分布式日志记录

Log4Net是用来记录日志的,可以将程序运行过程中的信息输出到一些地方(文件、数据库、EventLog等),日志就是程序的黑匣子,可以通过

日志查看系统的运行过程,从而发现系统的问题。日志的作用:将运行过程的步骤、成功失败记录下来,将关键性的数据记录下来分析系统问题所在。

对于网站来讲,不能把异常信息显示给用户,异常信息只能记录到日志,出了问题把日志文件发给开发人员,就能知道问题所在。

配置Log4Net环境

(1)新建一个WebApplication

(2)添加对log4net.dll的引用(bin\net\2.0\release 不能引用debug版本)(把相应的dll文件拷贝到项目中的lib文件夹下。)

(3)在Web.Config (或App.Config)添加配置

(4)初始化:在程序最开始加入log4net.Config.XmlConfigurator.Configure()

在要打印日志的地方LogManager.GetLogger(typeof(Program)).Debug(“信息”); 。通过LogManager.GetLogger传递要记录的日志类类名获得这个类的ILog(这样在日志文件中就能看到这条日志是哪个类输出的了),然后调用Debug方法输出消息。因为一个类内部不止一个地方要打印日志,所以一般把ILog声明为一个static字段。

Private static ILog logger=LogManager.GetLogger(typeof(Test))

输出错误信息用ILog.Error方法,第二个参数可以传递Exception对象。log.Error("***错误"+ex),log.Error("***错误",ex)

Appender:可以将日志输出到不同的地方,不同的输出目标对应不同的Appender:RollingFileAppender(滚动文件)、AdoNetAppender(数据库)、SmtpAppender (邮件)等。

level(级别):标识这条日志信息的重要级别None>Fatal>ERROR>WARN>DEBUG>INFO>ALL,设定一个

Level,那么低于这个Level的日志是不会被写到Appender中的.

Log4Net还可以设定多个Appender,可以实现同时将日志记录到文件、数据、发送邮件等;可以设定不同的Appender的不同的Level,可以实现普通级别都记录到文件,Error以上级别发送邮件;可以实现对不同的类设定不同的Appender;还可以自定义Appender,这样可以自己实现将Error信息发短信等.

示例:

1、配置Log4Net,在Web.config中添加如下配置:

  1. <configSections>
  2. <!-- For more information on Entity Framework configuration, visit http://go.microsoft.com/fwlink/?LinkID=237468 -->
  3. <section name="entityFramework" type="System.Data.Entity.Internal.ConfigFile.EntityFrameworkSection, EntityFramework, Version=5.0.0.0,
  4. Culture=neutral, PublicKeyToken=b77a5c561934e089" requirePermission="false" />
  5. <section name="log4net" type="log4net.Config.Log4NetConfigurationSectionHandler, log4net"/>
  6. </configSections>
  7. <log4net>
  8. <!-- OFF, FATAL, ERROR, WARN, INFO, DEBUG, ALL -->
  9. <!-- Set root logger level to ERROR and its appenders -->
  10. <root>
  11. <level value="ALL"/>
  12. <appender-ref ref="SysAppender"/>
  13. </root>
  14. <!-- Print only messages of level DEBUG or above in the packages -->
  15. <logger name="WebLogger">
  16. <level value="DEBUG"/>
  17. </logger>
  18. <appender name="SysAppender" type="log4net.Appender.RollingFileAppender,log4net" >
  19. <param name="File" value="App_Data/" />
  20. <param name="AppendToFile" value="true" />
  21. <param name="RollingStyle" value="Date" />
  22. <param name="DatePattern" value=""Logs_"yyyyMMdd".txt"" />
  23. <param name="StaticLogFileName" value="false" />
  24. <layout type="log4net.Layout.PatternLayout,log4net">
  25. <param name="ConversionPattern" value="%d [%t] %-5p %c - %m%n" />
  26. <param name="Header" value="----------------------header--------------------------" />
  27. <param name="Footer" value="----------------------footer--------------------------" />
  28. </layout>
  29. </appender>
  30. <appender name="consoleApp" type="log4net.Appender.ConsoleAppender,log4net">
  31. <layout type="log4net.Layout.PatternLayout,log4net">
  32. <param name="ConversionPattern" value="%d [%t] %-5p %c - %m%n" />
  33. </layout>
  34. </appender>
  35. </log4net>

2、添加ServiceStack.dll、ServiceStack.Interfaces.dll、ServiceStack.ServiceInterface.dll、log4net.dll的引用,然后新建一个类MyErrorAttribute,

  1. using System.Web.Mvc;
  2. using ServiceStack.Redis;
  3. public static IRedisClientsManager clientsManager = new PooledRedisClientManager(new string[] { "127.0.0.1:6379"});
  4. public static IRedisClient redisClient = clientsManager.GetClient();
  5. public override void OnException(ExceptionContext filterContext)
  6. {
  7. redisClient.EnqueueItemOnList("errorMsg", filterContext.Exception.ToString());
  8. filterContext.HttpContext.Response.Redirect("~/Error.html");
  9. base.OnException(filterContext);
  10. }

3、在FilterConfig类中进行如下修改:

  1. public class FilterConfig
  2. {
  3. public static void RegisterGlobalFilters(GlobalFilterCollection filters)
  4. {
  5. //filters.Add(new HandleErrorAttribute());
  6. //filters.Add(new MyErrorAttribute());
  7. filters.Add(new MyExceptionAttribute());
  8. }
  9. }

4、在Gobal.asax.cs中的Application_Start事件里添加如下代码:

  1. log4net.Config.XmlConfigurator.Configure(); //获取Log4Net配置信息
  2. ThreadPool.QueueUserWorkItem(o =>
  3. {
  4. while (true)
  5. {
  6. if (MyExceptionAttribute.redisClient.GetListCount("errorMsg") > 0)
  7. {
  8. string msg = MyExceptionAttribute.redisClient.DequeueItemFromList("errorMsg");
  9. if (!string.IsNullOrEmpty(msg))
  10. {
  11. ILog logger=LogManager.GetLogger("testError");
  12. logger.Error(msg); //将异常信息写入Log4Net中
  13. }
  14. else
  15. {
  16. Thread.Sleep(50);
  17. }
  18. }
  19. else
  20. {
  21. Thread.Sleep(50);
  22. }
  23. }
  24. });

文件并发(日志处理)--队列--Redis+Log4Net的更多相关文章

  1. 【.Net】文件并发(日志处理)--队列--Redis+Log4Net

    多线程操作同一个文件时会出现并发问题.解决的一个办法就是给文件加锁(lock),但是这样的话,一个线程操作文件时,其它的都得等待,这样的话性能非常差.另外一个解决方案,就是先将数据放在队列中,然后开启 ...

  2. 队列--Redis+Log4Net

    队列--Redis+Log4Net Redis简介 Redis是一个开源的,使用C语言编写,面向“键/值”对类型数据的分布式NoSQL数据库系统,特点是高性能,持久存储,适应高并发的应用场景.Redi ...

  3. 【高并发简单解决方案】redis队列缓存 + mysql 批量入库 + php离线整合

    需求背景:有个调用统计日志存储和统计需求,要求存储到mysql中:存储数据高峰能达到日均千万,瓶颈在于直接入库并发太高,可能会把mysql干垮. 问题分析 思考:应用网站架构的衍化过程中,应用最新的框 ...

  4. 【高并发简单解决方案】redis缓存队列+mysql 批量入库+php离线整合

    原文出处: 崔小拽 需求背景:有个调用统计日志存储和统计需求,要求存储到mysql中:存储数据高峰能达到日均千万,瓶颈在于直接入库并发太高,可能会把mysql干垮. 问题分析 思考:应用网站架构的衍化 ...

  5. 基于log4net的支持动态文件名、按日期和大小自动分割文件的日志组件

    最近处理一个日志功能,用log4net的配置不能完全满足要求,所以在其基础上简单封装了一下,支持以下功能: 1 零配置 内置默认配置,引用dll后不需要添加或修改任何配置文件也可以使用 2 动态指定文 ...

  6. CoreJava_线程并发(堵塞队列):在某个目录下搜索含有某keyword的文件

    Java多线程编程是很考验一个程序猿水平的. 传统的WEB程序中.由于框架提供了太多的健壮性.并发性.可靠性的支持,所以我们都是将全部的注意力放到了业务实现上.我们不过依照业务逻辑的要求.不停的积累自 ...

  7. .NET文件并发与RabbitMQ(初探RabbitMQ)

    本文版权归博客园和作者吴双本人共同所有.欢迎转载,转载和爬虫请注明原文地址:http://www.cnblogs.com/tdws/p/5860668.html 想必MQ这两个字母对于各位前辈们和老司 ...

  8. Go项目实战:打造高并发日志采集系统(二)

    日志统计系统的整体思路就是监控各个文件夹下的日志,实时获取日志写入内容并写入kafka队列,写入kafka队列可以在高并发时排队,而且达到了逻辑解耦合的目的.然后从kafka队列中读出数据,根据实际需 ...

  9. Go项目实战:打造高并发日志采集系统(一)

    项目结构 本系列文章意在记录如何搭建一个高可用的日志采集系统,实际项目中会有多个日志文件分布在服务器各个文件夹,这些日志记录了不同的功能.随着业务的增多,日志文件也再增多,企业中常常需要实现一个独立的 ...

随机推荐

  1. JQ动画的简单介绍

    <!DOCTYPE html><html> <head> <meta charset="UTF-8"> <title>j ...

  2. c#文本控件实现换行

    要让一个Windows Form的C# TextBox换行显示多行文本就得把它的Multiline属性设置为true. 这个大家都知道,可是当你要在代码中为Text属性设置多行文本的时候可能会遇到点麻 ...

  3. 用实例讲解Spark Sreaming--转

    原文地址:http://www.infoq.com/cn/articles/spark-sreaming-practice 本篇文章用Spark Streaming +Hbase为列,Spark St ...

  4. 这10道javascript笔试题你都会么

    1.考察this var length = 10; function fn() { console.log(this.length); } var obj = {   length: 5, metho ...

  5. js每天进步一点点

    本人菜鸟一枚,进入公司不久,任务不多,期待从零开始学习js,请各位大牛指导!! <!DOCTYPE html PUBLIC "-//W3C//DTD XHTML 1.0 Transit ...

  6. 【原创】利用typeface实现不同字体的调用显示及String转换为Unicode

    最近工作用到,就写个小demo demo实现从assets中利用typeface调用不同字体,并在editText中显示出来 1.layout中创建activity_main.xml文件 布局代码如下 ...

  7. FCFS,SSTF,SCAN,FIFO,LRO考点题解

    四.应用题 ( 本大题共5 小题,50 分 ) 1. 假设某系统中有五个进程,每个进程的执行时间(单位:ms)和优先数如下表所示(优先数越小,其优先级越高). 进程 执行时间 优先数 P1 P2 P3 ...

  8. 老鸟谈谈JAVA EE的学习

    老鸟谈谈JAVA EE的学习 因为出差和项目的原因,有将近一个月的时间没有更新博客了,今天终于得闲,和兄弟们分享一下JAVA EE的学习心得.书中带过,直入主题,下面我们首先看看什么是JAVA EE. ...

  9. Microsoft Azure News(5) Azure新DV2系列虚拟机上线

    <Windows Azure Platform 系列文章目录> 在之前的文章中,笔者了Azure VM虚拟机,分为A系列和D系列2种 Microsoft Azure News(4) Azu ...

  10. Hyperledger智能合约Hello World示例程序

    简介 Hyperledger是Linux 基金会主导的一个开源的区块链(BlockChain)项目. 本文介绍了一个简单的Hyperledger智能合约的开发过程. 开发环境 本文使用Docker作为 ...