【Linux相识相知】文本处理工具之grep\egrep\fgrep及正则表达式
常说Linux上有文本处理的三剑客，grep、sed和awk，本文就grep做出详细的描述，并引出正则表达式。
grep
NAME：打印模式匹配的行
SYNOPISIS：
grep [OPTIONS] PATTERN [FILE...]
grep [OPTIONS] [-e PATTERN | -f FILE] [FILE...]
常用选项：
--color=auto：对匹配到的文本着色后进行高亮显示，默认已被别名alias grep='grep --color=auto'
-i：忽略字符的大小写
-o：仅显示匹配到的字符串本身
-v：显示不能被模式匹配到的行
-E：支持使用扩展的正则表达式
-q：静默模式，即不输出任何信息
-A #：显示被模式匹配的行及其后#行
-B #：显示被模式匹配的行及其前#行
-C #：显示被模式匹配的行及其前后各#行
举例1：匹配/etc/passwd下有frank的行
[root@localhost tmp]# grep "frank" /etc/passwd
frank:x:::frank:/home/frank:/bin/bash
举例2：匹配/etc/passwd下有frank的行，忽略大小写
[root@localhost tmp]# grep -i "frank" /etc/passwd
frank:x:::frank:/home/frank:/bin/bash
Frank:x::::/home/Frank:/bin/bash
举例3：匹配/etc/passwd下不能被bash匹配的行
[root@localhost tmp]# grep -v "bash" /etc/passwd
bin:x:::bin:/bin:/sbin/nologin
daemon:x:::daemon:/sbin:/sbin/nologin
adm:x:::adm:/var/adm:/sbin/nologin
lp:x:::lp:/var/spool/lpd:/sbin/nologin
sync:x:::sync:/sbin:/bin/sync
shutdown:x:::shutdown:/sbin:/sbin/shutdown
......
pulse:x:::PulseAudio System Daemon:/var/run/pulse:/sbin/nologin
gdm:x::::/var/lib/gdm:/sbin/nologin
sshd:x:::Privilege-separated SSH:/var/empty/sshd:/sbin/nologin
postfix:x::::/var/spool/postfix:/sbin/nologin
tcpdump:x::::/:/sbin/nologin
举例4：仅仅匹配/etc/passwd下的frank，忽略大小写
[root@localhost tmp]# grep -oi "frank" /etc/passwd
frank
frank
frank
Frank
Frank
举例5：静默模式匹配含有frank的行
[root@localhost tmp]# grep -q "frank" /etc/passwd
[root@localhost tmp]#
举例6：匹配/etc/passwd下含有ftp的行及其后3行
[root@localhost tmp]# grep -A "ftp" /etc/passwd
ftp:x:::FTP User:/var/ftp:/sbin/nologin
nobody:x:::Nobody:/:/sbin/nologin
systemd-bus-proxy:x:::systemd Bus Proxy:/:/sbin/nologin
systemd-network:x:::systemd Network Management:/:/sbin/nologin
举例7：匹配/etc/passwd下含有ftp的行及其前3行
[root@localhost tmp]# grep -B "ftp" /etc/passwd
mail:x:::mail:/var/spool/mail:/sbin/nologin
operator:x:::operator:/root:/sbin/nologin
games:x:::games:/usr/games:/sbin/nologin
ftp:x:::FTP User:/var/ftp:/sbin/nologin
举例8：匹配/etc/passwd下含有ftp的行及其前后各2行
[root@localhost tmp]# grep -C "ftp" /etc/passwd
operator:x:::operator:/root:/sbin/nologin
games:x:::games:/usr/games:/sbin/nologin
ftp:x:::FTP User:/var/ftp:/sbin/nologin
nobody:x:::Nobody:/:/sbin/nologin
systemd-bus-proxy:x:::systemd Bus Proxy:/:/sbin/nologin
egrep
支持扩展正则表达式实现类似于grep的文本过滤功能，相当于grep -E
NAME：打印模式匹配的行
SYNOPISIS：
egrep [OPTIONS] PATTERN [FILE...]
-i：忽略字符的大小写
-o：仅显示匹配到的字符串本身
-v：显示不能被模式匹配到的行
-q：静默模式，即不输出任何信息
-A #：显示被模式匹配的行及其后#行
-B #：显示被模式匹配的行及其前#行
-C #：显示被模式匹配的行及其前后各#行
-G:支持基本正则表达式
fgrep
fgrep搜索字符串而不是搜索匹配的表达式的模式，所以支持正则表达式，当无需要用到元字符去编写模式的时候，使用fgrep必能更好更快。
支持-i,-v,-o,-A,-B,-C,-p等选项
正则表达式
Regular Expression，正则表达式，由一类特殊字符及文本字符编写的模式，其中有些不表示其字面的意义，而是用户控制或通配功能，分为基本正则表达式和扩展正则表达式。
基本正则表达式元字符：
字符匹配
. ：匹配任意单个字符；
[]：匹配指定范围内的任意单个字符；
特殊匹配：[:digit:] 匹配任意单个数字
[:lower:] 匹配任意单个小写字母
[:upper:] 匹配任意单个大写字母
[:alpha:] 匹配任意单个字母
[:alnum:] 匹配任意单个字母或数字
[:punct:] 匹配任意单个符号
[:space:] 匹配单个空格
[^]：匹配指定范围外的任意单个字符；
匹配次数
用在要指定其出现的次数的字符后面，用于限制其前面字符出现的次数，默认工作于贪婪模式
*：匹配其前面的字符任意次数：,，多次
.*：匹配任意长度的任意字符
\?：匹配其前面的字符0次或者1次；
\+：匹配其前面的字符1次或者多次；
\{m\}：匹配其前面的字符m次
\{m,n\}：匹配其前面的字符至少m次，至多n次
\{m,\}：至少m次
位置锚定
^：托字符，行首锚定，用于模式的最左侧
$：行尾锚定，用于模式的最右侧
单词：非特殊字符组成的连续字符（字符串）都称为单词
\<或\b：词首锚定，用于单词模式的左侧
\>或\b：词尾锚定，用户单词模式的右侧
\<PATTERN\>：匹配完整单词
分组及引用
分组：
\(\)：将一个或多个字符捆绑在一起，当做一个整体进行处理
后向引用：引用前面的分组括号中的模式所匹配到的字符
分组括号中的模式匹配到的内容或被正则表达式引擎自动记录于内部的变量中：
\：模式从左侧起，第一个左括号及与之匹配的右括号之间模式匹配到的内容
\：模式从左侧起，第二个左括号及与之匹配的右括号之间模式匹配到的内容
以此类推
举例：
1.显示/etc/passwd文件中不以/bin/bash结尾的行
[root@localhost tmp]# grep -v "/bin/bash$" /etc/passwd
bin:x:::bin:/bin:/sbin/nologin
daemon:x:::daemon:/sbin:/sbin/nologin
adm:x:::adm:/var/adm:/sbin/nologin
......
gdm:x::::/var/lib/gdm:/sbin/nologin
sshd:x:::Privilege-separated SSH:/var/empty/sshd:/sbin/nologin
postfix:x::::/var/spool/postfix:/sbin/nologin
tcpdump:x::::/:/sbin/nologin
2.找出/etc/passwd文件中的两位或三位数字
[root@localhost tmp]# grep "\<[[:digit:]]\{2,3\}\>" /etc/passwd
mail:x:::mail:/var/spool/mail:/sbin/nologin
operator:x:::operator:/root:/sbin/nologin
games:x:::games:/usr/games:/sbin/nologin
......
sshd:x:::Privilege-separated SSH:/var/empty/sshd:/sbin/nologin
postfix:x::::/var/spool/postfix:/sbin/nologin
tcpdump:x::::/:/sbin/nologin
3.找出etc/grub2.cfg文件中，以至少一个空白字符开头，且后面非空白字符的行；
[root@localhost tmp]# grep "^[[:space:]]\+[^[:space:]]" /etc/grub2.cfg
load_env
set default="${next_entry}"
set next_entry=
save_env next_entry
set boot_once=true
set default="${saved_entry}"
menuentry_id_option="--id"
menuentry_id_option=""
set saved_entry="${prev_saved_entry}"
save_env saved_entry
set prev_saved_entry=
save_env prev_saved_entry
set boot_once=true
4.找出"netstat -tan"命令的结果中以LISTEN后跟0,1或多个空白结尾的行
[root@localhost tmp]# netstat -tan | grep "LISTEN[[:space:]]*$"
tcp 0.0.0.0: 0.0.0.0:* LISTEN
tcp 0.0.0.0: 0.0.0.0:* LISTEN
tcp 127.0.0.1: 0.0.0.0:* LISTEN
tcp 127.0.0.1: 0.0.0.0:* LISTEN
tcp6 ::: :::* LISTEN
tcp6 ::: :::* LISTEN
tcp6 ::: :::* LISTEN
tcp6 ::: :::* LISTEN
扩展正则表达式元字符：
字符匹配
. ：匹配任意单个字符；
[]：匹配指定范围内的任意单个字符；
特殊匹配：[:digit:] 匹配任意单个数字
[:lower:] 匹配任意单个小写字母
[:upper:] 匹配任意单个大写字母
[:alpha:] 匹配任意单个字母
[:alnum:] 匹配任意单个字母或数字
[:punct:] 匹配任意单个符号
[:space:] 匹配单个空格
[^]：匹配指定范围外的任意单个字符；
匹配次数
用在要指定其出现的次数的字符后面，用于限制其前面字符出现的次数，默认工作于贪婪模式。
*：匹配其前面的字符任意次数：,，多次
.*：匹配任意长度的任意字符
?：匹配其前面的字符0次或者1次；
+：匹配其前面的字符1次或者多次；
{m}：匹配其前面的字符m次
{m,n}：匹配其前面的字符至少m次，至多n次
{m,}：至少m次
位置锚定
^：托字符，行首锚定，用于模式的最左侧
$：行尾锚定，用于模式的最右侧
单词：非特殊字符组成的连续字符（字符串）都称为单词
\<或\b：词首锚定，用于单词模式的左侧
\>或\b：词尾锚定，用户单词模式的右侧
\<PATTERN\>：匹配完整单词
分组及引用
分组：
()：将一个或多个字符捆绑在一起，当做一个整体进行处理
后向引用：引用前面的分组括号中的模式所匹配到的字符
分组括号中的模式匹配到的内容或被正则表达式引擎自动记录于内部的变量中：
\：模式从左侧起，第一个左括号及与之匹配的右括号之间模式匹配到的内容
\：模式从左侧起，第二个左括号及与之匹配的右括号之间模式匹配到的内容
以此类推
或
a|b:a或b
C|cat：C或cat
(C|c)at：cat或Cat
小练习
1、列出当前系统上所有已经登录的用户的用户名，注意：同一个用户登录多次，则只显示一次
who | grep -o "^\<[[:alpha:]]*" | uniq
2、取出最后登录到当前系统的用户的相关信息
id `who | tail - | grep -o "^\<[[:alpha:]]*"`
3.取出当前系统上被用户当做其默认shell的最多的那个shell
cut -d: -f7 /etc/passwd | uniq -c | sort -n | tail - | cut -d' ' -f7
4.将/etc/passd中的第三个字段设置最大的后10个用户的信息全部给为大写保存至/tmp/maxuser.txt文件中
[root@localhost ~]# sort -t: -k3 -n /etc/passwd | tail - | tr 'a-z' 'A-Z' &> /tmp/maxuser.txt
5.取出当前主机的IP地址
ifconfig | grep -Eo "([1-9]|[1-9][1-9]|1[0-9][0-9]|2[0-5][0-4])\.([0-9]|[1-9][1-9]|1[0-9][0-9]|2[0-5][0-5])\.([0-9]|[1-9][1-9]|1[0-9][0-9]|2[0-5][0-5])\.([1-9]|[1-9][1-9]|1[0-9][0-9]|2[0-5][0-4])[[:space:]]" |grep -v "127.0.0.1" 或者
ifconfig | grep "[[:space:]*]\<inet\>" | cut -d' ' -f10 | grep -v "127.0.0.1"
6.列出/etc目录下所有已.conf结尾的文件的文件名，并将其名字转换为大写后保存至/tmp/etc.conf文件中
find /etc -name "*.conf" | egrep -o "[^/][^/]*$" | tr 'a-z' 'A-Z' > /tmp/etc.test
7.显示/var目录下一级子目录或文件的总数
ls /etc/ | wc -l
8.取出/etc/group第三个字段数值最小的10个组的名字
sort -t: -k3 -n /etc/group | head - | cut -d: -f1
9.将/etc/fstab和/etc/issue文件的内容合并为同一个内容后保存至/tmp/etc.test文件中
cat /etc/issue /etc/fstab | tee /tmp/etc.test &> /dev/null
10.显示/proc/meminfo文件中以大写或者小写S开头的行，用两种方式
[root@localhost home]# egrep "^[sS]" /proc/meminfo
[root@localhost home]# egrep -i "^s" /proc/meminfo
11.显示/etc/passwd文件中其默认shell为非/sbin/nologin的用户
[root@localhost home]# grep -v "/sbin/nologin" /etc/passwd
12.显示/etc/passwd文件中其默认shell为/bin/bash的用户
[root@localhost home]# grep "/bin/bash" /etc/passwd
13.找出/etc/passwd文件中的一位或两位数
[root@localhost /]# egrep "\<[[:digit:]]{1,2}\>" /etc/passwd
14.显示/boot/grub2/grup.cfg中至少一个空白字符开头的行
[root@localhost /]# egrep "^[[:space:]]+[^[:space:]]" /boot/grub2/grub.cfg
15.显示/etc/rc.d/rc.local文件中以#开头，后面跟至少一个空白字符，而后又至少一个非空白字符的行
[root@localhost /]# egrep "^#[[:space:]]+[^[:space:]]" /etc/rc.d/rc.local
# THIS FILE IS ADDED FOR COMPATIBILITY PURPOSES
# It is highly advisable to create own systemd services or udev rules
# to run scripts during boot instead of using this file.
# In contrast to previous versions due to parallel execution during boot
# this script will NOT be run after all other services.
# Please note that you must run 'chmod +x /etc/rc.d/rc.local' to ensure
# that this script will be executed during boot.
16.打出netstat -tan命令执行结果以'LISTEN'后跟空白字符结尾的行
[root@localhost /]# netstat -tan | egrep "LISTEN[[:space:]]+"
tcp 0.0.0.0: 0.0.0.0:* LISTEN
tcp 0.0.0.0: 0.0.0.0:* LISTEN
tcp 127.0.0.1: 0.0.0.0:* LISTEN
tcp 127.0.0.1: 0.0.0.0:* LISTEN
tcp6 ::: :::* LISTEN
tcp6 ::: :::* LISTEN
tcp6 ::: :::* LISTEN
tcp6 ::: :::* LISTEN
17.添加用户bash,testbash,basher,nologin（此一个用户的shell为/sbin/nologin）,而后找出当前系统上其用户名和默认shell相同的用户的信息
[root@localhost /]# useradd bash
[root@localhost /]# useradd testbash
[root@localhost /]# useradd basher
[root@localhost /]# useradd -s /sbin/nologin nologin
[root@localhost /]# egrep "^(\<[a-z]+\>).*\1$" /etc/passwd
sync:x:::sync:/sbin:/bin/sync
shutdown:x:::shutdown:/sbin:/sbin/shutdown
halt:x:::halt:/sbin:/sbin/halt
bash:x::::/home/bash:/bin/bash
nologin:x::::/home/nologin:/sbin/nologin
【Linux相识相知】文本处理工具之grep\egrep\fgrep及正则表达式的更多相关文章
- grep egrep fgrep命令
一.grep.egrep.fgrep命令 本文中主要介绍了linux系统下grep egrep fgrep命令和正则表达式的基本参数和使用格式.方法.(注释:文中fg代表例子,) 1.1.基本定义: ...
- grep, egrep, fgrep笔记
grep, egrep, fgrep grep: 根据模式搜索文本,并将符合模式的文本行显示出来.Pattern: 文本字符和正则表达式的元字符组合而成匹配条件 grep [options] PATT ...
- 文本处理工具（grep）
文本处理工具: Linux上文本处理三剑客: 文本过滤工具(模式:pattern)工具: 1.grep:支持基本正则表达式; 2.egrep: ...
- Linux正则与文本处理工具(10)
正则表达式 (Regular Expression, RE, 或称为常规表达式)是通过一些特殊字符的排列,用于『查找/替换/删除』一行或多行文字或字符串,简单的说,正则表达式就是用在字串的处理上面的一 ...
- 【linux相识相知】sed命令
在之前的博客中我们介绍了文本三剑客中grep,本次博客就另外一名剑客——sed做出详细的描述,sed真的是一款强大的工具.下面让我们来一起看一下吧! 概述和工作机制 SED的英文全称为Stream E ...
- Linux 之 awk文本分析工具
AWK是一种处理文本文件的语言,是一个强大的文本分析工具.Linux环境中自带. awk调用方法 命令行 awk [-F field-separator] 'commands' input-file( ...
- 文本处理三剑客之 grep/egrep
grep:文本过滤工具 支持BRE egrep: 支持ERE fgrep: 不支持正则 作用:根据用户指定的“模式”,对目标文本逐行进行匹配检查,打印匹配到的行 模式:由正则表达式字符及文本字符所编写 ...
- 【转载】grep,egrep,fgrep详解
[转载自]http://blog.csdn.net/homking/article/details/6000711 egrep 等价于 grep -E fgrep 等价于 grep -F grep - ...
- Linux 文本处理工具（grep sed awk ）
^test: 以test开头; test$: 以test结尾: ^$: 表示空行,不是空格: . :代表且只代表任意一个字符(其他功能:当前目录,加载文件): \ : 代表转义字符,表示特殊字符: * ...
随机推荐
- <select>标签默认值设置
<td> <label>操作类型:</label> <select id="operation_type" class="com ...
- 用Python写一个随机密码生成器
# /bin/python3 import sys import time import random strs = [ i for i in range(32,128) ] #产生密码的ASCII码 ...
- 返回类型和 return 语句
return 语句终止当前正在执行的函数并将控制权返回到调用该函数的地方.return 语句有两种形式: return; return expression; 不要返回局部对象的引用或指针: 函数完成 ...
- Java面向对象之多态（成员访问特点） 入门实例
一.基础概念 多态的调用方式在子父类中的特殊体现. 1.访问成员变量特点: 当子父类中出现同名成员变量时. 多态调用时,编译和运行都参考引用型变量所属的类中的成员变量. 即编译和运行看等号的左边. 2 ...
- 【spring】bean加载顺序
问题来源 有一个bean为A,一个bean为B.想要A在容器实例化的时候的一个属性name赋值为B的一个方法funB的返回值. 如果只是在A里单纯的写着: private B b; private S ...
- java学习笔记之对象序列化
1.简述 java对象序列化就是将对象编程二进制数据流的一种方法,从而实现对对象的传输和存储 2.作用 java是门面向对象编程语言,即一切皆对象,但是java对象只能存在于jvm中,一旦jvm停掉那 ...
- 下载azure website的code
1.登陆kudu直接下载. http://www.concurrency.com/blog/use-azure-kudu-debug-azure-websites/ 2.FTP链接拷贝(可以忽略) 3 ...
- windows下Idea结合maven开发spark和本地调试
本人的开发环境: 1.虚拟机centos 6.5 2.jdk 1.8 3.spark2.2.0 4.scala 2.11.8 5.maven 3.5.2 在开发和搭环境时必须注意版本兼容的问题 ...
- gym 102082G BZOJ4240 贪心+树状数组
4240: 有趣的家庭菜园 Time Limit: 10 Sec Memory Limit: 256 MBSubmit: 756 Solved: 349[Submit][Status][Discu ...
- jquery遇到的坑
<!DOCTYPE html> <html lang="en"> <head> <meta charset="UTF-8&quo ...