Linux基础-正则表达式整理---------------grep、sed、awk

目录：

   Ⅰ：正则表达式

   Ⅱ：作业

Ⅰ：正则表达式

正则就是用一些具有特殊含义的符号组合到一起（称为正则表达式）来描述字符或者字符串的方法。或者说：正则就是用来描述一类事物的规则。

在linux中，通配符是由shell解释的，而正则表达式则是由命令解释的，三种文本处理工具/命令：grep、sed、awk

正则介绍：^ 以什么开头（同一行）
         $ 以什么结尾（同一行）

         . 除了换行符以外的任意单个字符

         * 紧挨的左边的第一个字符出现零个到无穷个

         + 紧挨的左边的第一个字符出现1个到无穷个

? 紧挨的左边的第一个字符出现0次到1次

        .* 所有字符

{n}左边的左边的那一个字符出现n次的

{2,4}左边的那一个字符出现2到4个的（表示范围的），例如：2 3 4

{2,}左边的那一个字符出现2到无穷个的（表示范围的），例如：2 3 4 5..........到无穷

        [] 字符组内的任一字符

        [^] 对字符组内的每个字符取反(不匹配字符组内的每个字符)

       ^[^] 非字符组内的字符开头的行

       [a-z] a到z的所有小写字母   例如：a  b  c.....z

       [A-Z] A到Z的所有大写字母  例如：A  B  C .....  Z

       [a-Z] a到Z的所有小写和大写字母  例如：a A  b  B   ........z  Z

       [0-9] 数字0到9    例如：0 1 2 ....9

       \< 单词头 单词一般以空格或特殊字符做分隔,连续的字符串被当做单词

       \> 单词尾

grep种类：grep      fgrep      pgrep     egrep  

-n  :显示行号

-o  :只显示匹配的内容

-q  :静默模式，没有任何输出，得用$?来判断执行成功没有，即有没有过滤到想要的内容

-l  ：如果匹配成功，则只将文件名打印出来，失败则不打印，通常-rl一起用，grep -rl 'root' /etc

-A  :如果匹配成功，则将匹配行及其后n行一起打印出来

-B  :如果匹配成功，则将匹配行及其前n行一起打印出来

-C  :如果匹配成功，则将匹配行及其前后n行一起打印出来

--color

-c  :如果匹配成功，则将匹配到的行数打印出来

-E  :等于egrep，扩展

-i  ：忽略大小写

-v  :取反，不匹配

-w：匹配单词

-rl ：递归寻找并显示文件名

sed：流编辑器 stream editer,是以行为单位的处理程序
         a 后插

c 替换

i 前插

d 删除

p 打印匹配的行 一般和 -n 参数连用,以屏蔽默认输出

r 从文件中读入

w 写入到文件中作业二：grep作业（正则表达式及字符处理）

! 命令取反

{} 命令组合 命令用分号分隔 {1h;G} 可以理解为 -e 参数的另一种写法

= 打印行号(输入行的号码,而非处理的次数行号)

n 读入下一行到模式空间

N 而是追加下一行到模式空间，再把当前行和下一行同时应用后面的命令

s 字符串替换

awk

      -F 可以定义指定分隔符：(冒号）

-v 定义变量并赋值 也可以借用次方式从shell变量中引入

NF表示当前以分隔符（：）为分隔单位的行有几段内容

NR 表示行号

FNR表示读入行所在文件中的行数

-v 定义变量并赋值

== 判断；>=大于等于；<=小于等于；!=  非；>大于；<小于； ~ 使用正则定位 ; !~正则取反

&&且

||或

      |sort  |uniq        配续去重（排列顺序再去除重读的）

du -sh     统计文件大小

find / -size +30M 找出大于30M的文件
       find / -size +10M -size -30M 找出大于10M小于30M的文件

Ⅱ：作业

作业一：grep作业（正则表达式及字符处理）

目标文件/etc/passwd,使用grep命令或egrep
1．显示出所有含有root的行：

grep 'root' /etc/passwd

2．输出任何包含bash的所有行，还要输出紧接着这行的上下各两行的内容：

grep `bash` -C 2 /etc/passwd

3. 显示出有多少行含有nologin。

grep -c 'nologin' /etc/passwd

4．显示出那些行含有root，并将行号一块输出。

grep -n 'nologin' /etc/passwd

5．显示出文件中

grep -l 'root' /etc/passwd

6．新建用户
abominable
abominate
anomie
atomize
编写正则表达式，将他们匹配出来

egrep 'a.omi(nabl|nat|z|)e' /etc/passwd

7．建四个用户
Alex213sb
Wpq2222b
yH438PIG
egon666
egon

过滤出用户名组成是字母+数字+字母的行

egrep '^[a-Z]+[0-9]+[a-Z]+' /etc/passwd

8．显示出/etc目录下所有包含root的文件名

grep -w 'root' /etc

9. 过滤掉/etc/ssh/sshd_config内所有注释和所有空行

grep -v '^#' /etc/ssh/sshd_config |grep -v '^ *$'

作业二：Sed作业：以/etc/passwd文件为模板

1，删除文件每行的第一个字符。

 sed -r 's/^(.)(.*)/\2/' /etc/passwd

2，删除文件每行的第二个字符。

 sed -r 's/^(.)(.)(.*)/\1\3/' /etc/passwd

3，删除文件每行的最后一个字符。

 sed -r 's/(.*)(.)$/\1/' /etc/passwd

4，删除文件每行的倒数第二个字符。

 sed -r 's/(.*)(.)(.)$/\1\3/' /etc/passwd

5，删除文件每行的第二个单词。

 sed -r 's/^([a-Z]+)([^a-Z]+)([a-Z]+)([^a-Z]+)/\1\2\4/' /etc/passwd

6，删除文件每行的倒数第二个单词。

 sed -r 's/([^a-Z]+)([a-Z]+)([^a-Z]+)([a-Z]+)$/\1\3\4/' /etc/passwd

7，删除文件每行的最后一个单词。

 sed -r 's/([^a-Z]+)([a-Z]+)([^a-Z]+)([a-Z]+)$/\1\2\3/' /etc/passwd

8，交换每行的第一个字符和第二个字符。

 sed -r 's/^(.)(.*)(.)$/\3\2\1/' /etc/passwd

9，交换每行的第一个字符和第二个单词。

 sed -r 's/^(.)([a-Z]+)([^a-Z]+)([a-Z]+)([^a-Z]+)/\4\2\3\1\5/' /etc/passwd

10，交换每行的第一个单词和最后一个单词。

  sed -r 's/^([a-Z]+)([^a-Z]+)(.*)([^a-Z]+)([a-Z]+)$/\5\2\3\4\1/' /etc/passwd

11，删除一个文件中所有的数字。

  sed -r 's/[0-9]//g' /etc/passwd

12，删除每行开头的所有空格。

  sed -r 's/^ *//g' /etc/passwd

13，用制表符替换文件中出现的所有空格。

  sed -r 's/ /\t/g' /etc/passwd

14，把所有大写字母用括号（）括起来。

  sed -r 's/[A-Z]/(&)/g' /etc/passwd

15，打印每行3次。

  sed 'p;p' /etc/passwd

16，只显示每行的第一个单词。

  sed -r 's/^([a-Z]+)([^a-Z]+)(.*)/\1/' /etc/passwd

17，打印每行的第一个单词和第三个单词。

  sed -r 's/^([a-Z]+)([^a-Z]+)([a-Z]+)([^a-Z]+)([a-Z]+)([^a-Z]+)/\5\2\3\4\1\6/' /etc/passwd

18，用命令获取格式为 mm/yy/dd 的日期格式，结合管道，将其换成 mm；yy；dd格式

date | sed -r ' s/ /; /g'

作业三：awk文本处理

1)打印uid在0~40范围内的用户名

awk -F: '$3>0 && $3<40{print $1,$3}' passwd

2)打印第5-10行的行号和用户名

awk -F: 'NR>=5 && NR<=10{print NR $1}' passwd

3)打印奇数行

awk '(NR%2){print $0}' passwd

4)打印偶数行

awk '!(NR%2){print $0}' passwd

5)打印字段数大于5的行

awk -F: '(NF>3){print $0}' passwd

6)打印UID不等于GID的用户名

awk -F: '($3 != $4){print $0}' passwd

7)打印没有指定shell的用户

awk -F: '($NF != "/bin/bash"){print $0}' passwd