threaded模式下，比prefork模式要省资源

关于nginx + fastcgi + django 2009-03-10 17:14:43

分类： 系统运维

最近用django开发了一套广告投放系统，这套系统其实是一套网络广告联盟系统，包括广告的投放、管理、统计、防作弊、跟踪等等。硬件是一台 DELL的PC Server(双核Xeon1个，2G内存)，操作系统是redhat as4，其他的还有nginx 0.5.33，python 2.5，mysql 5.0.41，django是10月份左右从svn trunk取下来的。

开始的时候系统运行在apache + mod_python下，后来因为负荷的问题，改成了nginx + fastcgi +django的模式。其中django fastcgi运行在prefork模式下，maxchildren=10，nginx通过tcp socket连接fastcgi进程。一段时间内，系统跑的都不错，load average一直在1以下，当时整个系统的广告点击、显示大概在300w/day。

很快流量上去了，几个大站一加入联盟，系统负荷立刻上去了，不算静态文件，差不多达到2000w/day。更要命的是，频频出现502 Gateway Error。尝试着增加maxchildren，但是因为这台机器内存不太大，只有2G，其中一小半分给了mysql，还有一部分统计、分析程序也跑在这 个服务器上，maxchildren也不能加的太大。被逼急了，把django fastcgi切换到threaded模式，并且调整了一些参数，居然撑住了！以下是一点小结：

1、django fastcgi运行在threaded模式下，比prefork模式要省资源

2、以前盛传threaded模式不稳定，但是现在已经有所好转。详情可以看http://www.pkblogs.com/timchen119/2007/06/thread-dying-problem-may-fixed-in.html

3、django fastcgi模式下maxchildren参数决定了你的服务能同时处理多少个请求（nginx处理的静态文件除外）。如果请求数超过了maxchildren的设置，就可能出现502错误。maxchildren的缺省值是50

4、打开nginx的status模块，可以监控nginx的一些状态，比如：
Active connections: 5620
server accepts handled requests
882256 882256 1300056
Reading: 35 Writing: 133 Waiting: 5452

Active
connections指当前的活动连接数，这个数应该等于第四行的三个数之和。第四行的三个数中，Reading表示正在从客户端读取数据的链接数
目，Writing表示正在向客户端返回数据的链接数目，Waiting通常是因为KeepAlive，处于等待下个请求的链接数目。
Reading+Writing的数目=dajngo处理的请求+nginx处理的静态文件请求。可以根据Reading+Writing来设置
maxchildren数目。

5、如果django运行在threaded模式下，并且负荷很高，只起一个fastcgi进程可能是不够
的，一是可能不稳定，二是GIL的限制。因此，可能需要起多个运行在threaded模式的fastcgi进程。我现在临时的做法是用一个nginx虚拟
主机做反向代理，后面是多组nginx+django threaded fastcgi。回头可以考虑调整一下。

6、nginx通过unix socket和fastcgi通信，比tcp socket要高效，重负荷下可以考虑。

关于prefork和threaded模式，最近有些新的想法，请参考http://blog.csdn.net/FeiSan/archive/2008/01/23/2061208.aspx