LinuxShell——管道命令

LinuxShell——管道命令

摘要：本文主要学习了Shell中的管道命令。

grep命令

grep命令的作用是在文件中提取和匹配符合条件的字符串行，全称是Global Regular Expressions Print。

基本语法

 grep [选项] 搜索内容 文件名

选项说明

 -A n：n为数字，列出符合条件的行，并列出后续的n行。
 -B n：n为数字，列出符合条件的行，并列出前面的n行。
 -c：统计找到的符合条件的字符串的次数。
 -i：忽略大小写。
 -n：输出行号。
 -v：反向査找，也就是查询没有关键字的一行。
 --color=auto：搜索出的关键字用颜色显示。

使用举例

 [root@localhost ~]# cat -n file | grep "hello"
          hello
          helloword
 [root@localhost ~]# cat -n file | grep -c "hello"

 [root@localhost ~]# cat -n file | grep -n "hello"
 :         hello
 :         helloword
 [root@localhost ~]# cat -n file | grep -n -A  "hello"
 :         hello
 -         ss
 :         helloword
 -         test123hhhhhhhhh
 -         ddsdfas
 [root@localhost ~]# 

sed命令

sed命令是用来处理流的编辑命令，全称是Stream Editor，用程序的方式来编辑文本，它使用预先设定好的编辑指令对输入的文本进行编辑，完成之后再输出编辑结构。

sed会一次处理一行内容。处理时，把当前处理的行存储在临时缓冲区中，称为“模式空间”，接着用sed命令处理缓冲区中的内容，处理完成后，把缓冲区的内容送往屏幕。接着处理下一行，这样不断重复，直到文件末尾。文件内容并没有改变，除非你使用重定向存储输出。

基本语法

 sed [选项] [范围][脚本] 文件名

选项说明

 -n：使用安静模式。默认会将文件的所有内容都输出到屏幕上，使用-n以后只会显示经过处理的内容。
 -e 脚本命令：将其后跟的脚本命令添加到已有的命令中。
 -f 脚本文件：将其后文件中的脚本命令添加到已有的命令中。
 -r：使命令支持扩展元字符的正则表达式，默认支持基础元字符的正则表达式。
 -i：直接修改文件内容。

范围说明

范围指的就是sed脚本命令的作用范围，用来表明该脚本命令作用到文本中的具体行。

默认情况下，sed命令会作用于文本数据的所有行。如果只想将命令作用于特定行或某些行，则必须指明范围，表示的方法有以下两种种：

1）以数字形式指定行区间。

当使用数字方式的行寻址时，可以用行在文本流中的行位置来引用。sed会将文本流中的第一行编号为1，然后继续按顺序为接下来的行分配行号。

 n：单个数字表示指定第n行作为sed命令的作用范围。
 n1,n2：两个数字用“,”分隔表示指定包含第n1行到第n2行的内容作为sed命令的作用范围。
 n,$：表示指定范围包含n开始到结束所有内容作为sed命令的作用范围。

2）用文本模式指定具体行区间。

sed允许指定文本模式来过滤出命令要作用的行，必须用“/”将要指定的文本封起来，sed会将该命令作用到包含指定文本模式的行上，多个内容需要被“/”封起来并且使用“,”分隔。

脚本说明

脚本命令a用来在指定行的下一行添加新增的内容：

 [范围]a\新内容

脚本命令i用来在指定行的上一行插入新增的内容：

 [范围]i\新内容

脚本命令c用来将指定范围的内容替换为新内容：

 [范围]c\新内容

脚本命令s用来将指定范围内的指定内容替换成新内容，可以搭配正则表达式使用，也被常用来删除指定的内容：

 [范围]s/查询内容/新内容/flags

其中，常用的flags标记：

 g：对数据中所有匹配到的内容进行替换，如果没有g，则只会在第一次匹配成功时做替换操作。 p：会打印与替换命令中指定的模式匹配的行。此标记通常与-n选项一起使用。

脚本命令d用来删除指定范围的内容：

 [范围]d

脚本命令p用来将选取出来的内容显示在命令行上，通常配合-n使用：

 [范围]p

脚本命令w用来将文本中指定范围的内容写入新文件中：

 [范围]w 新文件

脚本命令r用来将新文件的数据插入到当前文件的指定范围：

 [范围]r 新文件

使用举例

脚本命令a：

 [root@localhost ~]# cat -n file | sed '3a\test'
          ccccc
          bbbbb
          dd
 test
          hello
 [root@localhost ~]#

脚本命令i：

 [root@localhost ~]# cat -n file | sed '3i\test'
          ccccc
          bbbbb
 test
          dd
          hello
 [root@localhost ~]#

脚本命令c：

 [root@localhost ~]# cat -n file | sed '3c\test'
          ccccc
          bbbbb
 test
          hello
 [root@localhost ~]# 

脚本命令s：

 [root@localhost ~]# cat -n file | sed '2s/bb/aa/'
          ccccc
          aabbb
          dd
          hello
 [root@localhost ~]# cat -n file | sed '2s/bb/aa/g'
          ccccc
          aaaab
          dd
          hello
 [root@localhost ~]#

脚本命令d：

 [root@localhost ~]# cat -n file | sed '2d'
          ccccc
          dd
          hello
 [root@localhost ~]# 

脚本命令p：

 [root@localhost ~]# cat -n file | sed -n '2p'
          bbbbb
 [root@localhost ~]# 

脚本命令w：

 [root@localhost ~]# cat -n file | sed -n '1,3w test'
 [root@localhost ~]# cat test
          ccccc
          bbbbb
          dd
 [root@localhost ~]# 

脚本命令r：

 [root@localhost ~]# cat -n file | sed '1,2r test'
          ccccc
 ccccc
 bbbbb
 dd
          bbbbb
 ccccc
 bbbbb
 dd
          dd
          hello
 [root@localhost ~]# 

awk命令

awk命令也是逐行扫描文件，寻找含有目标文本的行，如果匹配成功，则会在该行上执行用户想要的操作，反之则不对行做任何处理。

awk命令的名字来源于此命令的设计者，他们的姓分别是Aho、Weingberger和Kernighan，awk就取自这三位大师姓的首字母。

基本语法

 awk [选项] [脚本] 文件名

默认情况下，awk会将如下变量分配给它在文本行中发现的数据字段：

 $：代表整个文本行。
 $：代表文本行中的第1个数据字段。
 $：代表文本行中的第2个数据字段。
 $n：代表文本行中的第n个数据字段。

前面说过，在awk中，默认的字段分隔符是任意的空白字符（例如空格或制表符）。在文本行中，每个数据字段都是通过字段分隔符划分的。awk在读取一行文本时，会用预定义的字段分隔符划分每个数据字段。

选项说明

 -F 分隔符：指定输入行的分隔符，默认分隔符为空格或制表符。
 -f 脚本文件：从脚本文件中读取命令，取代在命令行中输入的命令。
 -v 变量名=变量值：在执行处理过程之前，设置变量名和变量值。

脚本说明

awk的强大之处在于脚本命令，它由规则和命令两部分组成：

 '匹配规则 {执行命令}'

匹配规则用来指定脚本命令可以作用到文本内容中的范围，可以使用字符串或者正则表达式指定。

整个脚本命令是用“''”括起来，而其中的执行命令部分需要用大括号“{}”括起来。

如果没有指定执行命令，则默认会把匹配的行输出。如果没有指定匹配规则，则默认匹配文本中所有的行。

使用举例

使用数据字段变量，输出内容之间使用“,”分隔：

 [root@localhost ~]# echo 'Hello Word' | awk '{print $0}'
 Hello Word
 [root@localhost ~]# echo 'Hello Word' | awk '{print $1, $1$2}'
 Hello HelloWord
 [root@localhost ~]# 

执行多条命令，只要在命令之间使用“;”分隔或者使用回车键分隔即可：

 [root@localhost ~]# echo 'Hello Word' | awk '{$2="Hello"; print $0}'
 Hello Hello
 [root@localhost ~]# echo 'Hello Word' | awk '{$2="Hello"
 > print $}'
 Hello Hello
 [root@localhost ~]# 

使用匹配规则指定范围，“/字符串/”表示匹配含有指定字符串或者正则表达式的行，“$0~/字符串/”用来限制符合匹配规则的数据字段：

 [root@localhost ~]# awk '$0~/^T.*o/' file
 Two lines of test text.
 Three lines of test text.
 [root@localhost ~]# awk '$1~/Two/' file
 Two lines of test text.
 [root@localhost ~]# 

使用逻辑运算符，匹配规则允许使用逻辑运算符（>、<、>=、<=、==、!=）进行匹配：

 [root@localhost ~]# awk '$1=="Two" {print $0}' file
 Two lines of test text.
 [root@localhost ~]# 

BEGIN会强制在命令执行前执行BEGIN后面指定的脚本命令：

 [root@localhost ~]# awk 'BEGIN {print "Begin Read File ..."} {print $0}' file
 Begin Read File ...
 One line of test text.
 Two lines of test text.
 Three lines of test text.
 [root@localhost ~]#

END会强制在命令执行前执行END后面指定的脚本命令：

 [root@localhost ~]# awk 'END {print "End Read File ..."} {print $0}' file
 One line of test text.
 Two lines of test text.
 Three lines of test text.
 End Read File ...
 [root@localhost ~]# 

从文件中读取命令，指定分隔符，设定变量：

 [root@localhost ~]# cat script
 BEGIN {FS=":"} {print $ " -> " v}
 [root@localhost ~]# awk -v v=var -f script file
 One -> var
 Two -> var
 Three -> var
 [root@localhost ~]#