资源限制 ( resource limit 或 rlimit ),是 Linux 内核控制 用户 或 进程 资源占用的机制。
######
https://learn-linux.readthedocs.io/zh_CN/latest/administration/kernel/rlimit.html
############
资源限制
资源限制 ( resource limit 或 rlimit ),是 Linux 内核控制 用户 或 进程 资源占用的机制。
rlimit 可控制的系统资源包括: 内存 、 文件 、 锁 、 CPU调度 、 进程数 等。 优秀系统管理员设置合适的 rlimit 值,避免某个用户或某个进程占用过多系统资源而拖垮系统。
本文介绍设置 rlimit 的来龙去脉,具体 rlimit 值属于 系统调优 范畴,暂不全面涉及。
ulimit命令
ulimit 是一个 Shell 内置命令,由于查看、调整当前 Shell 进程的 rlimit 值。 以 bash 为例,查看所有 rlimit 值:
$ ulimit -a
core file size (blocks, -c) 0
data seg size (kbytes, -d) unlimited
scheduling priority (-e) 0
file size (blocks, -f) unlimited
pending signals (-i) 3709
max locked memory (kbytes, -l) 16384
max memory size (kbytes, -m) unlimited
open files (-n) 1024
pipe size (512 bytes, -p) 8
POSIX message queues (bytes, -q) 819200
real-time priority (-r) 0
stack size (kbytes, -s) 8192
cpu time (seconds, -t) unlimited
max user processes (-u) 3709
virtual memory (kbytes, -v) unlimited
file locks (-x) unlimited
注解
资源项详细介绍请参考文章末尾处附录的表格。
也可以查看某项资源的限制,以进程打开 文件描述符 数( RLIMIT_NOFILE )为例:
$ ulimit -n
1024
由此可见,当前 Shell 进程最多只能打开 1024 个 文件描述符 ,由该 Shell 启动的程序也是如此。 接着实现一个简单的程序,不断创建 套接字 ( socket ),以验证这一点:
$ python detect-max-fd.py
error no: 24
error string: Too many open files
fd range: [3, 1023]
显然,程序无法无限地创建 套接字 。 当 文件描述符 达到 rlimit 限制时, 相关 系统调用将失败, 错误码为 EMFILE ,即 Too many open files 。 成功打开的套接字文件描述符范围从 3 到 1023 ,与 1024 的上限相吻合。
注解
进程前三个文件描述符 0 、 1 、 2 分别是 stdin 、 stdout 以及 stderr 。
当然了,可以通过 ulimit 调整 文件描述符 上限:
$ ulimit -Sn 512
注解
-S 选项指定 软限制 ,资源软硬限制之别请见下一小节。
这时,进程能打开的 文件描述符 变少了:
$ python detect-max-fd.py
error no: 24
error string: Too many open files
fd range: [3, 511]
注解
detect-max-fd.py 源码以及原理剖析请查看文章附录,位于末尾处。
软硬之分
资源限制有软硬之分, 软限制 ( soft )和 硬限制 ( hard )。
软限制 是一般意义的资源限制, 直接作用于用户或者进程 。 ulimit 默认返回软限制:
$ ulimit -n
1024
也可通过 -S 选项显式指定返回 软限制 :
$ ulimit -Sn
1024
由上一小节,我们知道用户可以将软限制调低或调高。 如果普通用户可以无限制调高, rlimit 将失去限制用户的意义。 为此,内核引入了 硬限制 ,规定了软限制调整的上限。
ulimit 查看 硬限制 需要指定 -H 选项:
$ ulimit -Hn
1048576
调整 软限制 时,不能超出 硬限制 ,否则报错:
$ ulimit -Sn 10485760
-bash: ulimit: open files: cannot modify limit: Invalid argument
同样,可以将 硬限制 调低:
$ ulimit -n 1024
注解
设置 rlimit 限制时,未指定软硬,则同时设置。
一旦调低 硬限制 ,便没有后悔药,无法再调高了(除非出动 root 用户):
$ ulimit -Hn 1048576
-bash: ulimit: open files: cannot modify limit: Operation not permitted
因此,软硬限制之别可总结为以下几点:
- 软限制 直接起作用;
- 软限制 不能超出 硬限制 ;
- 硬限制 只能调低;
配置文件
通过配置文件设置 rlimit 值,可永久生效,也可突破 ulimit 不能调高 硬限制 的局限。 配置文件 limits.conf 位于 /etc/security/limits.conf ,格式如下:
root soft nofile 1000000
root hard nofile 1000000 * soft nofile 1000000
* hard nofile 1000000
每个配置行由 4 个字段组成,分别是:
- 域 ( domain )
- 类型 ( type )
- 资源项 ( item )
- 值 ( value )
其中, 域 可以是用户或者用户组(以 @ 开头,例如 @admin ), * 则表示任意用户; 类型 分为两种,分别对应 软限制 ( soft )和 硬限制 ( hard ); 资源项 列表见附录。
配置编辑完毕后,重新登录即可生效,无需重启。
注解
limits.conf 是 pam_limits.so 的配置文件, 而 pam_limits.so 是 Linux 插入式认证模块 ( Pluggable Authentication Modules 简称 PAM )的子模块。
根据 PAM 机制,应用程序启动时,按 /etc/pam.d 配置加载 pam_xxxx.so 模块。 /etc/pam.d 下包含了 login 、 sshd 、 su 、 sudo 等程序的 PAM 配置文件, 因此用户重新登录时,将调用 pam_limits.so 加载 limits.conf 配置文件。
附录
rlimit资源项
| 项目 | ulimit选项 | 含义 |
|---|---|---|
| as | -v | 地址空间 (虚拟内存空间)大小限制 |
| chroot | chroot 目录 | |
| core | -c | 核心转储文件 大小限制 |
| cpu | -t | CPU执行时间 限制 |
| data | -d | 进程数据段 大小限制 |
| fsize | -f | 文件大小 限制 |
| locks | -x | 文件锁数量 限制 |
| memlock | -l | 锁定内存 ( locked-in-memory )地址空间大小限制 |
| maxlogins | 用户登录数 限制 | |
| maxsyslogins | 系统登录数 限制 | |
| msgqueue | -q | 消息队列内存 限制 |
| nice | -e | nice值上限 |
| nofile | -n | 文件描述符 数量限制 |
| nproc | -u | 进程数量 限制 |
| priority | ||
| rss | -m | 常驻内存 ( resident set )大小限制 |
| rtprio | -r | 实时调度优先级 |
| rttime | ||
| sigpending | -i | 排队信号 ( pending signals )数量限制 |
| stack | -s | 进程栈大小 限制 |
detect-max-fd.py源码
这是一个 Python 程序,循环创建套接字,促使进程打开文件描述符达到上限:
1 |
from socket import ( |
第 8 行,用一个列表来存放已创建的套接字( Python 套接字对象); 第 12-13 行,循环创建套接字并追加到列表中,直到 OSError 异常(系统调用出错); 第 15-16 行,打印错误码; 第 18-21 行,打印首尾套接字的文件描述符。
资源限制 ( resource limit 或 rlimit ),是 Linux 内核控制 用户 或 进程 资源占用的机制。的更多相关文章
- Linux 下监控用户最大进程数参数(nproc)是否到达上限
Linux 下监控用户最大进程数参数(nproc)是否到达上限的步骤: 1.查看各系统用户的进程(LWP)数: 注意:默认情况下采用 ps 命令并不能显示出所有的进程.因为 Linux 环境下执行多线 ...
- Linux内核学习笔记-2.进程管理
原创文章,转载请注明:Linux内核学习笔记-2.进程管理) By Lucio.Yang 部分内容来自:Linux Kernel Development(Third Edition),Robert L ...
- 十天学Linux内核之第二天---进程
原文:十天学Linux内核之第二天---进程 都说这个主题不错,连我自己都觉得有点过大了,不过我想我还是得坚持下去,努力在有限的时间里学习到Linux内核的奥秘,也希望大家多指点,让我更有进步.今天讲 ...
- Linux内核分析-创建新进程的过程
分析Linux内核创建一个新进程的过程 task_struct结构体分析 struct task_struct{ volatile long state; //进程的状态 unsigned long ...
- Linux内核分析— —创建新进程的过程
分析Linux内核创建一个新进程的过程 实验过程 要求:使用gdb跟踪分析一个fork系统调用内核处理函数sys_clone ,验证对Linux系统创建一个新进程的理解,推荐在实验楼Linux虚拟机环 ...
- Linux内核学习笔记二——进程
Linux内核学习笔记二——进程 一 进程与线程 进程就是处于执行期的程序,包含了独立地址空间,多个执行线程等资源. 线程是进程中活动的对象,每个线程都拥有独立的程序计数器.进程栈和一组进程寄存器 ...
- 实验 六:分析linux内核创建一个新进程的过程
实验六:分析Linux内核创建一个新进程的过程 作者:王朝宪 <Linux内核分析>MOOC课程http://mooc.study.163.com/course/USTC-1000029 ...
- 作业六:分析Linux内核创建一个新进程的过程
分析Linux内核创建一个新进程的过程 进程描述符PCB----task_struct数据结构 操作系统:1.进程管理 2.内存管理 3 文件系统 一.新进程如何创建和修改task_struct数据结 ...
- Linux内核分析第六周学习笔记——分析Linux内核创建一个新进程的过程
Linux内核分析第六周学习笔记--分析Linux内核创建一个新进程的过程 zl + <Linux内核分析>MOOC课程http://mooc.study.163.com/course/U ...
随机推荐
- Python的flask接收前台的ajax的post数据和get数据
ajax向后台发送数据: ①post方式 ajax: @app.route("/find_worldByName",methods=['POST']) type:'post', d ...
- CODING 首届金融科技技术交流闭门会议顺利召开
近期,由腾讯云旗下一站式 DevOps 开发平台 CODING 和中国 DevOps 社区主办的深圳第十一届 Meetup 圆满结束,会上三位专家分享了自己独到的行业见解,腾讯云 CODING Dev ...
- 为什么要进行系统拆分?如何进行系统拆分?拆分后不用dubbo可以吗?
分布式系统,我用一句话给你解释一下,实在没时间多唠了,就是原来20万行代码的系统,现在拆分成20个小系统,每个小系统1万行代码.原本代码之间直接就是基于spring调用,现在拆分开来了,20个小系统部 ...
- SpringBoot开发秘籍 - 集成Graphql Query
概述 REST作为一种现代网络应用非常流行的软件架构风格受到广大WEB开发者的喜爱,在目前软件架构设计模式中随处可见REST的身影,但是随着REST的流行与发展,它的一个最大的缺点开始暴露出来: 在很 ...
- Compound Words UVA - 10391
You are to find all the two-word compound words in a dictionary. A two-word compound word is a wor ...
- Day17_106_IO_利用Buffered和BufferWriter完成复制
利用Buffered和BufferWriter完成复制 代码示例: 用BufferedReader 和 BufferWriter完成复制 import java.io.*; public class ...
- input 的各种属性的验证 checkValidity兼容性
<!DOCTYPE html> <html> <head> <meta charset="utf-8" /> <title&g ...
- Android Hook学习之ptrace函数的使用
Synopsis #include <sys/ptrace.h> long ptrace(enum __ptrace_request request, pid_t pid, void *a ...
- 【python】Leetcode每日一题-前缀树(Trie)
[python]Leetcode每日一题-前缀树(Trie) [题目描述] Trie(发音类似 "try")或者说 前缀树 是一种树形数据结构,用于高效地存储和检索字符串数据集中的 ...
- 基于MXNET框架的线性回归从零实现(房价预测为例)
1.基于MXNET框架的线性回归从零实现例子 下面博客是基于MXNET框架下的线性回归从零实现,以一个简单的房屋价格预测作为例子来解释线性回归的基本要素.这个应用的目标是预测一栋房子的售出价格(元). ...