LINUX sed grep awk之间比较整理

正则表达式基础

在最简单的情况下，一个正则表达式看上去就是一个普通的查找串。例如，正则表达式"testing"中没有包含任何元字符，，它可以匹配"testing"和"123testing"等字符串，但是不能匹配"Testing"。

要想真正的用好正则表达式，正确的理解元字符是最重要的事情。下表列出了所有的元字符和对它们的一个简短的描述。

元字符		描述
.		匹配任何单个字符。例如正则表达式r.t匹配这些字符串：rat、rut、r t，但是不匹配root。
$		匹配行结束符。例如正则表达式weasel$ 能够匹配字符串"He's a weasel"的末尾，但是不能匹配字符串"They are a bunch of weasels."。
^		匹配一行的开始。例如正则表达式^When in能够匹配字符串"When in the course of human events"的开始，但是不能匹配"What and When in the"。
*		匹配0或多个正好在它之前的那个字符。例如正则表达式.*意味着能够匹配任意数量的任何字符。
\		这是引用府，用来将这里列出的这些元字符当作普通的字符来进行匹配。例如正则表达式\$被用来匹配美元符号，而不是行尾，类似的，正则表达式\.用来匹配点字符，而不是任何字符的通配符。
[ ]  [c1-c2] [^c1-c2]		匹配括号中的任何一个字符。例如正则表达式r[aou]t匹配rat、rot和rut，但是不匹配ret。可以在括号中使用连字符-来指定字符的区间，例如正则表达式[0-9]可以匹配任何数字字符；还可以制定多个区间，例如正则表达式[A-Za-z]可以匹配任何大小写字母。另一个重要的用法是“排除”，要想匹配除了指定区间之外的字符——也就是所谓的补集——在左边的括号和第一个字符之间使用^字符，例如正则表达式[^269A-Z] 将匹配除了2、6、9和所有大写字母之外的任何字符。
\< \>		匹配词（word）的开始（\<）和结束（\>）。例如正则表达式\<the能够匹配字符串"for the wise"中的"the"，但是不能匹配字符串"otherwise"中的"the"。注意：这个元字符不是所有的软件都支持的。
		将 和 之间的表达式定义为“组”（group），并且将匹配这个表达式的字符保存到一个临时区域（一个正则表达式中最多可以保存9个），它们可以用\1 到\9 的符号来引用。
|		将两个匹配条件进行逻辑“或”（Or）运算。例如正则表达式(him|her) 匹配"it belongs to him"和"it belongs to her"，但是不能匹配"it belongs to them."。注意：这个元字符不是所有的软件都支持的。
+		匹配1或多个正好在它之前的那个字符。例如正则表达式9+匹配9、99、999等。注意：这个元字符不是所有的软件都支持的。
?		匹配0或1个正好在它之前的那个字符。注意：这个元字符不是所有的软件都支持的。
\{i\} \{i,j\}		匹配指定数目的字符，这些字符是在它之前的表达式定义的。例如正则表达式A[0-9]\{3\} 能够匹配字符"A"后面跟着正好3个数字字符的串，例如A123、A348等，但是不匹配A1234。而正则表达式[0-9]\{4,6\} 匹配连续的任意4个、5个或者6个数字字符。注意：这个元字符不是所有的软件都支持的。

---

正则表达式语法支持情况

命令或环境	.	[ ]	^	$		\{ \}	?	+	|	( )
vi	X	X	X	X	X
Visual C++	X	X	X	X	X
awk	X	X	X	X			X	X	X	X
sed	X	X	X	X	X	X
Tcl	X	X	X	X	X		X	X	X	X
ex	X	X	X	X	X	X
grep	X	X	X	X	X	X
egrep	X	X	X	X	X		X	X	X	X
fgrep	X	X	X	X	X
perl	X	X	X	X	X		X	X	X	X

 

 

 

个人比较喜欢用awk，但是awk是不支持的  \{\}
的。不能强求。(可以用sed配合）

说明下 | 的用法，匹配多个正则式或者的关系。

awk '{if ($1 ~ /abc|123/)print $1}'

如果$1是abc或者是123就打印出来。

 

节选：http://blog.chinaunix.net/space.php?uid=9078996&do=blog&id=2010308

linux下写shell脚本基本上都会或多或少的处理一些琐碎的文本处理，这其中就会使用到不同的文本处理工具或命令，与windows下的batch脚本相比，linux的shell本身也是有一些字符处理的能力的，但是比较难记和使用，而且功能不够强大，使用起来不是很舒服。下面来介绍一下linux中常用的几个文本处理工具：

1 grep 命令 

grep [-acivn] "searchstr" 【filename】

参数：

-a 在二进制文件中以文本形式搜索

-c 计算并返回查到到的此数【c代表count】

-i 忽略大小写匹配【i代表ignore case】

-v 反向输出，仅输出与搜索字符不匹配的内容

-n 输出结果的时候同时输出在原文件内的行号

-e 使用扩展正则模式【e代表expand】

"searchstr"

可以是具体的字符串，也可以是正则表达式，当使用正则时可以配合-e参数

filename 

指定搜索的原内容，是可选项，不选时默认以当前目录为参数，还可以通过管道命令来传输

 ◎语法: grep [options] 

 PATTERN [FILE...] 

 grep用以在file内文中比对相对应的部分，或是当没有指定档案时， 

 由标准输入中去比对。 在预设的情况下，grep会将符合样式的那一行列出。

         此外，还有两个程式是grep的变化型，egrep及fgrep。          

         其中egrep就等同於grep -E ，fgrep等同於grep -F 。

 ◎参数

    1. -A NUM，--after-context=NUM 

               除了列出符合行之外，并且列出後NUM行。

             

         ex:   $ grep -A 1 panda file 

               (从file中搜寻有panda样式的行，并显示该行的後1行)

                                 

    2. -a或--text  

               grep原本是搜寻文字档，若拿二进位的档案作为搜寻的目标，

               则会显示如下的讯息: Binary file 二进位档名 matches 然後结束。

                  

               若加上-a参数则可将二进位档案视为文字档案搜寻，

               相当於--binary-files=text这个参数。

            

         ex:   (从二进位档案mv中去搜寻panda样式)

               (错误!!!)

               $ grep panda mv 

               Binary file mv matches  

               (这表示此档案有match之处，详见--binary-files=TYPE )

               $

               (正确!!!)

               $ grep -a panda mv 

       

    3. -B NUM，--before-context=NUM

               与 -A NUM 相对，但这此参数是显示除符合行之外

               并显示在它之前的NUM行。        

             

         ex:   (从file中搜寻有panda样式的行，并显示该行的前1行)

               $ grep -B 1 panda file 

    4. -C [NUM], -NUM, --context[=NUM]  

               列出符合行之外并列出上下各NUM行，预设值是2。

             

         ex:   (列出file中除包含panda样式的行外并列出其上下2行)

               (若要改变预设值，直接改变NUM即可)

               $ grep -C[NUM]  panda file 

             

    5. -b, --byte-offset

               列出样式之前的内文总共有多少byte ..

              

          ex:  $ grep -b  panda file  

       显示结果类似於:

         0:panda

        66:pandahuang

       123:panda03

           

    6. --binary-files=TYPE

               此参数TYPE预设为binary(二进位)，若以普通方式搜寻，只有2种结果:

                 1.若有符合的地方：显示Binary file 二进位档名 matches

                 2.若没有符合的地方：什麽都没有显示。

                   

               若TYPE为without-match，遇到此参数，

               grep会认为此二进位档案没有包含任何搜寻样式，与-I 参数相同。

                   

               若TPYE为text, grep会将此二进位档视为text档案，与-a 参数相同。

        

     Warning: --binary-files=text 若输出为终端机，可能会产生一些不必要的输出。

              

    7. -c, --count

       不显示符合样式行，只显示符合的总行数。

       若再加上-v,--invert-match，参数显示不符合的总行数。

    8. -d ACTION, --directories=ACTION

               若输入的档案是一个资料夹，使用ACTION去处理这个资料夹。

       预设ACTION是read(读取)，也就是说此资料夹会被视为一般的档案；

       若ACTION是skip(略过)，资料夹会被grep略过：

       若ACTION是recurse(递)，grep会去读取资料夹下所有的档案，

       此相当於-r 参数。

    9.  -E, --extended-regexp

       采用规则表示式去解释样式。

      

   10.  -e PATTERN, --regexp=PATTERN

       把样式做为一个partern，通常用在避免partern用-开始。  

   11.  -f FILE, --file=FILE

       事先将要搜寻的样式写入到一个档案，一行一个样式。

       然後采用档案搜寻。

       空的档案表示没有要搜寻的样式，因此也就不会有任何符合。

       

   ex: (newfile为搜寻样式档)

       $grep -f newfile file    

   12.  -G, --basic-regexp

       将样式视为基本的规则表示式解释。(此为预设)

   13.  -H, --with-filename

       在每个符合样式行前加上符合的档案名称，若有路径会显示路径。

       

   ex: (在file与testfile中搜寻panda样式)   

       $grep -H panda file ./testfile

                file:panda

                ./testfile:panda

                $

     

   14.  -h, --no-filename  

               与-H参数相类似，但在输出时不显示路径。

   15.  --help 

               产生简短的help讯息。

   16.  -I

               grep会强制认为此二进位档案没有包含任何搜寻样式，

               与--binary-files=without-match参数相同。

                   

           ex:  $ grep -I  panda mv

   17.  -i, --ignore-case       

               忽略大小写，包含要搜寻的样式及被搜寻的档案。

               

           ex:  $ grep -i panda mv

                

   18.  -L, --files-without-match 

               不显示平常一般的输出结果，反而显示出没有符合的档案名称。

   19.  -l, --files-with-matches               

               不显示平常一般的输出结果，只显示符合的档案名称。

   20.  --mmap               

               如果可能，使用mmap系统呼叫去读取输入，而不是预设的read系统呼叫。 

               在某些状况，--mmap 能产生较好的效能。 然而，--mmap 

               如果运作中档案缩短，或I/O 错误发生时，

               可能造成未定义的行为(包含core dump)，。

               

   21.  -n, --line-number

               在显示行前，标上行号。

               

            ex:  $ grep -n  panda file  

                显示结果相似於下:

                行号:符合行的内容

   22.  -q, --quiet, --silent 

               不显示任何的一般输出。请参阅-s或--no-messages

   23.  -r, --recursive

       递地，读取每个资料夹下的所有档案，此相当於 -d recsuse 参数。

   24.  -s, --no-messages

       不显示关於不存在或无法读取的错误讯息。

     

 小: 不像GNU grep，传统的grep不符合POSIX.2协定，

       因为缺乏-q参数，且他的-s 参数表现像GNU grep的 -q 参数。

       Shell Script倾向将传统的grep移植，避开-q及-s参数，

       且将输出限制到/dev/null。

    

POSIX: 定义UNIX及UNIX-like系统需要提供的功能。              

    

   25.  -V, --version

  显示出grep的版本号到标准错误。

  当您在回报有关grep的bugs时，grep版本号是必须要包含在内的。

   26.  -v, --invert-match

  显示除搜寻样式行之外的全部。

                   

   27.  -w, --word-regexp

          将搜寻样式视为一个字去搜寻，完全符合该"字"的行才会被列出。

   28.  -x, --line-regexp

http://hi.baidu.com/yuanzelin8/blog/item/b918010627c78665020881e6.html

linux安全网

2 sed 工具[该工具用于行间的内容操作，如增删改，查找替换]

sed [-nefr] [操作行为] filename

参数：

-n  安静模式，仅显示被处理的行【n代表silent】

-e  在命令行上进行sed操作编辑【e代表edit】

-f   将sed命令写入一个文件内，-f filename 则执行该文件下的sed命令

-r   设置支持扩展的正则表达式

操作行为：

格式1：[n1[,n2]动作]

n1，n2代表操作的范围的起始和终了的行数值，都是可选的。

格式2：/pattern/ 动作

pattern 是字符内容，然后sed会匹配包含该内容的行，可以使用正则匹配

动作的内容有：

a  当前行的下一行新增一行内容【a代表append】

c  替换操作范围内的内容【c代表change】

d  删除操作范围内的内容【d代表delete】 

i   当前行的上一行插入一行内容【i代表insert】

p  打印某行行的内容【p代表print】 sed '3p' 打印

s  搜索及替换所搜索的内容，可以使用正则【s代表search】，使用方式类似于vi中的替换句法

   格式：s/search/replace/flag

   flag: 为数字时代表对第几次匹配的项操作

   为g是代表全局范围内适用，global

   为p时表示应打印替换后的内容

   为w file时表示替换结果写入到指定文件内，而不改变原文件内容

y  转换命令，将指定的字符换为期望的字符，是但字符处理和转换。如sed '2,4y/1234/abcd/' 

    所有1都转换成a，2->b，3->c, 4->d。若指定了重复的转换则以第一次指定的为准。比如1指定了2个转换符，则第一次指定     的生效

w filename 将选项的内容写入到指定文件中。如：sed '2,4w test.txt' inputfile 将inputfile中的2-4行的内容写入到test文件里

r filename 将从filename文件中读取内容写入到指定的行中。如：sed '2r test.txt' inputfile 是将test文件中的内容读出来写入到inptufile文件的第二行后面，即插入到第三行前面。等价于cat test.txt | sed '2a' inputfile

此外在对操作对象需要进行多种操作行为时可以使用组合命令：

如：

sed '2{s/1234/abcd/g s/abcd/1234/g}'

举例：

last | sed '2,5d'   将删除第二和第五行之间的内容

last | sed '1,20s/^$/test/g' 全局范围内搜索空行并替换为test字符   

3 awk 工具【该工具用于处理有字段规则的行内内容，并支持格式化输出】

awk [options] '条件类型1{语句1; 语句2} 条件类型2{语句1；语句2}....' filename

options"

-F fs  指定FS变量的初始值

-f  filename   指定读取程序的文件【即存放awk脚本操作的文件】

-v var=value  定义awk的临时变量及值，而后可以在awk中使用变量

-mf N  指定最大的字段数【max field】

-mr N  指定最大的记录数【max record】

-W keyword  指定兼容模式

内置变量：

NF 当前行的字段总数 [number of field]

NR 当前为止已处理的行数，即当前行号 [number of row]

$0,$1,....$n   $0代表当前行的内容，$1代表当前行被分割后的第一个字段的内容

FS  当前的字段分割符。默认为空格 [file splitter]

RS  当前的行分割符。默认为回车

FIELDWIDTHS  定义数字字段显示的宽度

OFS  输出字段分割符，默认空格

ORS  输出行分割符，默认回车

条件比较操作符：

>

<

>=

<=

==

!=

用于条件类型的的条件比较运算，通常是用行内变量的比较结果来判断是否执行相应的动作

如：

NF==10

$1>3

条件选项的正则运用：

条件选项可以是任何的表达式，但主要还是利用awk自身的变量值进行判断，当条件为空时默认为无条件执行动作，有条件但为假时则不执行其后的动作；此外条件还可以是正则匹配表达时

如：awk '/^a/ {print $1}'   ##当前行匹配以a开头成功时则执行后面的打印 

上面正则匹配的范围是整行的内容，如果只想匹配指定字段的内容，则可以这样使用：

awk '$n ~ /^1/ {print $1}'    ##通过～符号规定了正则的匹配操作范围【这里是字段n】，～叫做匹配操作符               

动作内容：

内容必须放{}大扩弧中，其内就是具体的执行的语句，可以是一句，多句，使用；逗号分割

如：

{print $1 "\t" $2}                   ##普通输出

{printf "%s \t %s", $1,$2}      ##格式化输出

此外awk的语句还可以使用结构化命令，如分支，循环等

如：

if (condition) 

{

  stat1;

}

else if (condition)

{ 

  stat2;

} 

else

{

stat3;

}

while (condition)

{ 

  stat1;

  stat2;

}

for (i=1;i<3;i++)

{

  stat1;

  stat2;

} 

注：

awk的执行是按行号依次循环内容的，如果想在所有行执行对awk进行设置并生效的话，那么就需要使用关键字BEGIN

在所有行处理完之后还要做后期处理操作，则可以使用END关键字

如：

awk 'BEGIN { FS=“:”} $1 > 3 {print $1} END {print "END"}'       ##在执行第一行之前设置分割符为：冒号。

节选：http://blog.csdn.net/beyondlpf/article/details/6925897