linux shell编程总结

linux shell编程总结

本周学习了unix/linux
shell编程，参考的是《LINUX与UNIX
Shell 编程指南》，David
Tansley著；徐焱，张春萌等译，由机械工业出版社出版的了，往内页那么一翻，都是2000年3月译的了，原书估计会更老，不过图书馆能找到合适于我这种初学者的也许就这么本了，将就着的吧。

这本书是以Bourne
shell这个UNIX系统都支持的标准shell。Bourne
Again shell(BASH)、TCSH
shell和Z
shell它们都是相应的UNIX命令解释程序的增强型版本。BASH
shell是Bourne
shell的高级版本。TCSH
原来是为UNIX的BSD版本开发的C
shell的增强型版本。

1.基本unix/linux命令

(1)
setuid,guid

作用:
suid意味着如果某个用户对属于自己的shell脚本设置了这种权限，

那么其他用户在执行这一脚本时也会具有其属主的相应权限。

guid执行相应脚本的用户将具有该文件所属用户组中用户的权限

例：chmod
4755

(2)
chmod,chown,chgrp

作用：修改权限

格式：chmod
[who] operator [permission] filename

who:u(文件属主)
g(同组用户)
o(其他用户)
a(所有用户)

operator:
+(增加权限)
-(取消权限)
=(设定权限)

permission:r(读)
w(写)
x(执行)
s(文件属主和组set-ID)
t(粘性位*)
l(给文件加锁，使其他用户无法访问)

例：chmod
ugo+rwx myfile 将myfile文件给u,g,o用户r,w,x的权限

(3)
umask

作用：设置所创建文件/目录的缺省权限

格式：umask
[value]

例：umask
022

touch
file1

则file1的权限部分变为：-rw-r--r--

(4)
ln

格式：ln
[-s] source_path target_path

(5)
touch

作用：创建一个空文档

格式：tough
myfile

注解：tough
myfile将创建一个文件myfile

(6)
find

作用：搜索文件

格式：find
pathname -options [-print -exec -ok]

-print:find命令将匹配的文件输出到标准输出

-exec:find命令对匹配的文件执行该参数所给出的shell命令,相应命令的格式为'command'{}
\;

-ok:作用和-exec作用相同。只不过每一步执行都需要用户的确认

-options:(主要的)

-name:按文件名查找

-perm:按文件权限查找

-prune:使find命令不在当前指定的目录中查找

-user:按照文件属主查找

-group:按照文件所属组来查找

-mtime
-n
+n，按照文件的更改时间来查找,-n表示文件更改时间距现在n天以内,+n表示文件更改时间距现在n天以前;此外，还有-atime,-ctime选项，和-mtime选项类似

-type:查找某一类型的文件,诸如：b(块设备文件),d(目录),c(字符设备文件),p(管道文件),l(符号链接文件),f(普通文件)

-size
n[c]：查找文件长度为n块的文件

例：

在当前目录及其子目录中查找所有的"*.txt"文件

find
. -name "*.txt" -print

在当前目录下查找文件权限位为755的文件,即文件属主可以读、写、执行，其他用户可以读、执行的文件

find
. -perm 755 -print

在当前目录下查找除目录以外的所有类型的文件

find
. ! -type d -print

用ls
-l 命令列出所匹配的文件

find
. -type f -exec ls -l {} \;

在/logs目录中查找更改时间在5日以前的文件并删除它们

find
logs -type f -mtime +5 -exec rm {} \;

(7)echo

作用：显示文本行或变量，或者把字符串输入到文件

格式：echo
string

例：

给出提示符，并输入值给变量name

echo
"What's your name:\c"

read
name

(8)pg

作用：显示文件

格式：pg
filename

(9)read

作用：读入值给变量

格式：read
var

例：read
name 从键盘读入字符到name变量

(10)cat

作用：显示文件

格式：cat
filename

(11)tee

作用：把输出的一个副本输送到标准输出,另一个副本拷贝到相应的文件中

格式：tee
filename

例：who
| tee who.out 使用who命令，结果输出到屏幕上，同时保存在who.out文件中

(12)grep(全局正则表达式)

作用：允许对文本文件进行模式查找，如果找到匹配模式，grep打印包含模式的所有行

格式：grep
[options] 基本正则表达式[文件]

常用options值：

-c
只输出匹配行的计数

-i
不区分大小写(只适用于单字符)

-h
查询多文件时不显示文件名

-l
查询多文件时只输出包含匹配字符的文件名

-n
显示匹配行及行号

-s
不显示不存在或无匹配文本的错误信息

-v
显示不包含匹配文本的所有行

例：grep
"sort" *.doc 在当前目录下所有的.doc文件中查找字符串"sort"

grep
"48<tab>" data.f 抽取字符串后有一个<Tab>键

grep
'[0-9]\{3\}\.[0-0\[3\}\.' ipfile 要抽取其中所有nnn.nnn的IP地址(原文印刷错误？)

(13)awk

格式：awk
[-f field-separator] 'command' input-file(s)

===============================================================================

awk条件操作符

===============================================================================

操作符描述操作符描述

<
小于>=
大于等于

<=
小于等于~
匹配正则表达式

==
等于!
不匹配正则表达式

!=
不等于

===============================================================================

awk内置变量

------------------------------------------------------

ARGC
命令行参数个数

ARGV
命令行参数排列

ENVIRON
支持队列中系统环境变量的使用

FILENAME
awk浏览的文件名

FNR
浏览文件的记录数

FS
设置输入域分隔符，等价于命令行-F选项

NF
浏览记录的域个数

NR
已读的记录数

OFS
输出域分隔符

ORS
输出记录分隔符

RS
控制记录分隔符

注：awk中所采用的正则表达式的符号要比grep和sed多两个：+(匹配一个或多个字符),?(匹配模式出现率)

例：

awk
'{if($4~/Brown/) print $0}' grade.txt 如果field-4包含了Brwon,打印该行

awk
'$3 == "48" {print $0}' grade.txt 精确匹配，如果field-3等于了"48"，则打印该行

awk
'{if( $1=="p1" && $4=="p2" ) print $0}'
grade.txt 同时满足两个条件，则打印该行

awk
'{if( $1=="p1" || $4=="p2" ) print $0}' grade.txt
只要满足其中一个条件，则打印该行

(14)expr
用于计算或数值测试

格式：expr
argument operator argument

例：expr
10 + 10 其结果为20

expr
30 / 3 其结果为10

expr
30 \* 3 其结果为90,使用乘号时，必须用反斜线屏蔽其特定含义。

expr
rr + 1 当rr非整数时，将返回错误，此处为"expr:non-numeric
argument"

2.文件名的匹配

特殊的匹配符号：

*
匹配文件名中的任何字符串，包括空字符串

?
匹配文件名中的任何单个字符串

[...]
匹配[]中包含的任何字符

[!...]
匹配[]中非感吧号!之后的字符

例：

显示所有以.doc结尾的文件名

ls
*.doc

显示以cl开头，后面跟任何字符串，最后以.sed结尾的文件名

ls
cl*.sed

显示任意两个字符开头，接着是r,后面跟任何字符的文件

ls
??r*

显示以i或o开头的文件名

ls
[io]*

匹配所有以log.开头，后面跟随一个数字，然后可以是任意字符串的文件名

ls
log.[0-9]*

匹配所有以log.开头，使用[!0-9]来表示非数字开头的字符串

ls
log.[0-9]*

3.文本过滤

===============================================================================

基本元字符集及其含义

===============================================================================

^
只匹配行首

$
只匹配行尾

*
一个单字符后紧跟*,匹配0个或多个此单字符

[]
匹配[]内字符。可以是一个单字符，也可以是字符序列,用-表示范围

如用[1-5]代替[12345]

\
用来屏蔽一个元字符的特殊含义。如$
. ' " * ^ | ( ) \ + ?

.
匹配任意单字符

pattern\{n\}
用来匹配前面pattern出现次数。n为次数

pattern\{n,\}m
含义同上，但次数最少为n

pattern\{n,m\}
含义同上，但pattern出现次数在n与m之间

===============================================================================

例：

^$
匹配一个空行

^.$
匹配只包含一个字符的行

compu*t
匹配字符u
0次或多次,这个可匹配computer,

A\{2\}B
匹配字母A出现两次，并以B结尾

A\{2,4\}B
匹配字母A出现2到4次之间

4.特定shell变量

===============================================================================

$#
传递到脚本的参数个数

$*
以一个单字符串显示所有向脚本传递的参数。与位置变量不同，此选项参数可超过9个

$$
脚本运行的当前进程ID号

$!
后台运行的最后一个进程的进程ID号

$@
与$#相同，但是使用时加引号，并在引号中返回每个参数

$-
显示shell使用的当前选项，与set命令功能相同

$?
显示最后命令的退出状态。0表示没有错误，其他任何值表明有错误

===============================================================================

其他：$0(脚本名字)
$1 $2 $3 ...$9

5.shell输入与输出

5.1文件描述符

===============================================================================

文件描述符文件

0
输入文件——标准输入

1
输出文件——标准输出

2
错误输出文件——标准错误

===============================================================================

注：标准输入是文件描述符0,它是命令的输入，缺省是键盘，也可以是文件或其他命令的输出

标准输出是文件描述符1,它是命令的输出，缺省是屏幕，也可以是文件

标准错误是文件描述符2,它是命令错误的输出，缺省是屏幕，也可以是文件

5.2
重定向:<,<<,>,>>

===============================================================================

command>filename
把标准输出重定向到一个新文件中

command>>filename
把标准输出重定向到一个文件中(追加)

command
1>filename 把标准输出重定向到一个新文件中

command>filename
2>&1 把标准输出和标准错误一起重定向到一个文件中

command
2>filename 把标准错误重定向到一个新文件中

command
2>>filename 把标准错误重定向到一个文件中(追加)

command
>>filename 2>&1 把标准输出和标准错误一起重定向到一个文件中(追加)

command
<filename >filename 2
command命令以filename文件作为标准输入，以filename2文件作为标准输出

command
<&m 把文件描述符m作为标准输入

command
>&m 把标准输出重定向到文件描述符m中

command
<&- 关闭标准输入

===============================================================================

例：

#############################################################################

#!
/bin/sh

#
f_desc

#把文件描述符4指定为标准输入，然后打开stock.txt文件

exec
4<&0 0<stock.txt

#读入2行文本

read
line1

read
line2

#作为标准输入的文件描述符4被关闭

exec
0<&4

#显示两个变量的内容

echo
&line1

echo
&line2

#############################################################################

5.3管道:
命令1|命令2

who
| awk '{print $1"\t"$2}'

6.条件测试

格式1：test
condition

格式2：[condition]

===============================================================================

文件测试状态

===============================================================================

-d
目录-s
文件长度大于0,非空

-f
正规文件-w
可写

-l
符号链接-u
文件有suid位设置

-r
可读-x
可执行

===============================================================================

组合测试：-a
逻辑与-o逻辑或!逻辑否

例：[-w
results.txt -a -w scores.txt

echo
$?

检查上面两个文件是不是都是可写的

字符串测试string_operator
可为=(相等)
!=(不相等)
-z(空串)
-n(非空串)

格式1：test
"string"

格式2：test
string_operator "string"

格式3：test
"string" string_operator "string"

格式4：[string_operator
string]

格式5：[string
string_operator string]

数值测试numeric_operator可为-eq(相等),-ne(不相等),-gt(大于),-lt(小于),-le(小于等于),-ge(大于等于)

格式1："number"
numeric_operator "number"

格式2：["number"
numeric_operator "number"]

7.命令执行顺序&&
,||, (), {}

&&

格式：命令1
&& 命令2

说明：命令1返回真(即返回0,成功被执行)后，命令2才能够被执行

例：/apps/bin目录将会被移到/apps/dev/bin目录下，如果它没有被成功的执行，就不会删除/apps/bin目录

mv
/apps/bin /apps/dev/bin && rm -r /apps/bin

||

格式：命令1
|| 命令2

说明：命令1未执行成功，那么就执行命令2

例：拷贝文件没成功的话，就显示错误.

cp
word.txt word.bak || echo "cp file failed!"

()
{}

格式：(命令1;命令2;...)
{命令1;命令2;...}

8.控制流结构if...then...else...fi,case,for,until,while,break,continue

1)返回码

观察：echo
$?

退出：exit
n (n为一数字)

break
n ==>跳出指定的循环个数。如break
2则跳出2个循环

continue
==>跳出循环当前步

2)流控制if...then...else...fi

if
condition1

then

command1

elif
condition2

then

command2

else

command3

fi

例1：

##############################################

#!
/bin/sh

#
ifwr

LOGFILE=test.txt

echo
$LOGFILE

if
[ ! -w "$LOGFILE" ]; then

echo
"You cannot write to $LOGFILE " >&2

fi

##############################################

例2：

##############################################

#!
/bin/sh

#
ifcp

#下面用2>&1重定向标准错误，去除了系统产生的错误和系统输出

if
cp myfile myfile.bak >/dev/null 2>&1 ; then

echo
"good copy"

else

echo
"`basename $0`:error could not copy the files " >&2

fi

##############################################

例3：

##############################################

#!
/bin/sh

#
ifcp

#将脚本参数传入系统命令

#此处检测目录是否为空

DIRECTORY=$1

if
[ "`ls -A $DIRECTORY`" = ""] ; then #也可用if
[$# -lt 1] 来代替判断语句

echo
"$DIRECTORY is indeed empty"

else

echo
"$DIRECTORY is not empty " >&2

fi

##############################################

例4：

##############################################

#!
/bin/sh

#
ifmkdir

#将脚本参数传入系统命令

#此处检测目录是否为空

DIRECTORY=$1

if
[ "$DIRECTORY" = ""] ; then

echo
"Usage: `basename $0` directory to create"

exit
1

fi

if
[ -d $DIRECTORY ]

then
: # do nothing

else

echo
"The directory does exist"

echo
-n "Create it now? [y..n] :"

read
ANS

if
[ "$ANS" = "y" ] || [ "$ANS" = "Y"
]

then

echo
"creating now"

mkdir
$DIRECTORY >/dev/null 2>&1

if
[ $? != 0 ]; then

echo
"Errors createing the directory $DIRECTORY" >&2

exit
1

fi

else
: # do nothing

fi

fi

##############################################

3)case控制流

case语句为多选择语句。可以用case语句匹配一个值与一个模式，如果匹配成功，执行相匹配的命令。

格式：

==========================================================================

case
值in

模式1)

命令1

....

;;

模式2)

命令2

....

;;

esac

==========================================================================

注：每一模式必须以右括号结束，取值可以为变量或常数。

匹配发现取值符合某一模式后，其间所有命令开始执行直至“;;”

取值将检测匹配每一个模式，一旦模式匹配，则执行完匹配模式相应命令后不再继续其他模式。

如果无一匹配模式，使用星号*捕获该值，再接受其他输入

模式部分可能包括元字符，与在命令行文件扩展名例子中使用过的匹配模式类型相同，即

*(任意字符),?(任意单字符),[..](类或范围中任意字符)

例1：

##############################################

#!
/bin/sh

#
caseterm

echo
"choices are..vt100,vt102,vt220"

echo
-n "enter your terminal type :"

read
TERMINAL

case
$TERMINAL in

vt100|vt102)
TERM=vt100

;;

vt220)
TERM=vt220

;;

*)
echo "`basename $0`:Unknow response" >&2

echo
"setting it to vt100 anyway,so there"

TERM=vt100

;;

esac

export
TERM

echo
"Your terminal is set to $TERM"

##############################################

例2：

##############################################

#!
/bin/sh

#
caseparam

if
[ $# !=1 ] ; then

echo
"Usage:`basename $0` [start|stop|help]" >&2

exit
1

fi

#assign
the parameter to the variable OPT

OPT=$1

case
$OPT in

start)
echo "starting..`basename $0`"

;;

stop)
echo "stopping..`basename $0`"

;;

help)

;;

*)
echo "Usage:`basename $0` [start|stop|help]"

;;

esac

##############################################

4)循环

for格式

==========================================================================

for
变量名in 列表

do

命令1

命令2

.....

命令n

done

==========================================================================

注：列表可以包含替换，字符串和文件名

例1:

##############################################

#!
/bin/sh

#
for_i

for
loop in 1 2 3 4 5 #for loop in "orange red blue grey"

do

echo
$loop

done

##############################################

例2:

##############################################

#!
/bin/sh

#
for_ls

for
loop in `ls `

do

echo
$loop

done

##############################################

例3:

#for
params，不使用in列表选项时，实际上等价于

#for
params in "$@" 或

#for
params in "$*"

##############################################

#!
/bin/sh

#
for_param

for
loop in "$@" # 也可以是"$*,"
这可以从命令行中取得参数

do

echo
$loop

done

##############################################

until(不常用)格式

==========================================================================

until
条件

do

命令1

命令2

.....

命令n

done

==========================================================================

例1:监视文件系统容量，当它达到一定水平时通知超级用户

##############################################

#!
/bin/sh

#
until_mon

LOOK_OUT=`df
| grep /logs | awk '{print $5}' | sed 's/%//g'`

echo
$LOOK_OUT

until
["$LOOK_OUT" -gt "90" ]

do

echo
"Filesystem..logs is nearly full" | mail root

exit
0

done

##############################################

while格式

==========================================================================

while
命令

do

命令1

命令2

.....

命令n

done

==========================================================================

例1：从文件中读取数据，使用重定向以保证从文件中读取数据

#########################################################################

#!
/bin/sh | SAVEDIFS=$IFS

#
whileread | IFS=:

while
read LINE | while read NAME DEPT ID

do
| do

echo
$LINE | echo -e "$NAME\t $DEPT\t $ID"

done
<names.txt | done <names.txt

|
IFS=$SAVEDIFS

#########################################################################

上面右边使用IFS将域分隔符改为;号而不是空格或tab键

测试数据names.txt：

Louise
Conrad:Accounts:Acc889

Peter
James:Payroll:PR483

#########################################################################

死循环格式

while
:

do

命令

done

例2：

#########################################################################

#!
/bin/sh

#
menu

#set
the date,user and hostname up

MYDATE=`date
+%d/%m/%Y`

THIS_HOST=`hostname
-s`

USER=`whoami`

#loop
forever !

while
:

do

#
clear the screen

tput
clear

#
here documents starts here

cat
<<MAYDAY

---------------------------------------------------------------------------

User:$USER
Host:$THIS_HOST Date:$MYDATE

---------------------------------------------------------------------------

1
: List files in current directory

2
: Use the vi editor

3
: See who is on the system

H
: Help screen

Q
: Exit Menu

---------------------------------------------------------------------------

MADAY

#
here document finished

echo
-e "\tYour Choice [1,2,3,H,Q] >"

read
CHOICE

case
$CHOICE in

1)
ls

;;

2)
vi

;;

3)
who

;;

H|h)

cat
<<MAYDAY

this
is the help screen,nothing here yet to help you !

MAYDAY

;;

Q|q)
exit 0

;;

*)
echo -e "\t\007Unknown user response"

;;

esac

echo
-e -n "\tHit the return key to continue"

read
DUMMY

done

#########################################################################

等我总结完了，后面又翻了一本书《Linux
编程命令详解》第二版,Richard
Petersen著,梁普选，刘玉芬等译，2001年由电子工业出版社出版的，这本书总结得更好了。呵呵，看来，凡事都是有个过程的。

===================================================================

特殊符号的总结

1、{}
大括号：

用法一：通配符扩展

eg:
ls my_{finger,toe}s

这条命令相当于如下命令的组合：

ls
my_fingers my_toes

eg:
mkdir {userA,userB,userC}-{home,bin,data}

我们将得到userA-home,
userA-bin, userA-data, userB-home, userB-bin,userB-data,userC-home,
userC-bin, userC-data，这几个目录

用法二：可用于语句块的构造，语句之间用回车隔开。如果你想在某些使用单个语句的地方（比如在AND或OR列表中）使用多条语句，你可以把它们括在花括号{}中来构造一个语句块。

eg:

{

grep
-v "$cdcatnum" $strack_file > $temp_file

cat
$temp_file > $strack_file

echo

cat
-n file1

}
(注：以上大括号中的四句命令够成了一个语句块)

用法三：参数扩展

${name:-default}
使用一个默认值（一般是空值）来代替那些空的或者没有赋值的变量name；

${name:=default}使用指定值来代替空的或者没有赋值的变量name；

${name:?message}如果变量为空或者未赋值，那么就会显示出错误信息并中止脚本的执行同时返回退出码1。

${#name}
给出name的长度

${name%word}
从name的尾部开始删除与word匹配的最小部分，然后返回剩余部分

${name%%word}
从name的尾部开始删除与word匹配的最长部分，然后返回剩余部分

${name#word}
从name的头部开始删除与word匹配的最小部分，然后返回剩余部分

${name##word}
从name的头部开始删除与word匹配的最长部分，然后返回剩余部分

（注，name为变量名，word为要匹配的字符串）

用法三在处理字符串和未知变量时，是很有用的。

2、[]
中括号：

用法一：通配符扩展：

允许匹配方括号中任何一个单个字符

eg:
ls /[eh][to][cm]*

相当于执行ls
/etc /home（若有/eom目录，就相当于会执行ls
/etc /home /eom）

注：在mkdir命令下不能扩展

用法二：用于条件判断符号：

[]符号可理解为指向test命令的一个软链接，所以其用法可完全参照test，将test位置替换为[便可。

eg:
if [ "$?" != 0 ] 等价于if
test "$?" != 0

then
echo "Executes error"

3、`command`
反引号：`command`与$(command)的含义相同，都是返回当前执行命令的结果

eg:
#!/bin/sh

for
file in $(ls f*.sh);do

lpr
$file

done

exit
0

该例实现了扩展f*.sh给出所有匹配模式的文件的名字。

4、'string'
单引号和"string"
双引号

双引号：如果想在定义的变量中加入空格，就必须使用单引号或双引号，

单、双引号的区别在于双引号转义特殊字符而单引号不转义特殊字符

eg:
$ heyyou=home

$
echo '$heyyou'

$
$heyyou （$没有转义）

eg:
$ heyyou=home

$
echo "$heyyou"

$
home （很明显，$转义了输出了heyyou变量的值）

5、$#
它的作用是告诉你引用变量的总数量是多少；

$$
它的作用是告诉你shell脚本的进程号；

$*
以一个单字符串显示所有的脚本传递的参数。等价于$1
$2 $3.......；

$@
与$*基本类似（参见序号7），但在数组赋值时有些不同；

$?
前一个命令的退出码；

$-
显示shell使用的当前选项；

$!
最后一个后台运行的进程ID号。

6、$((...))
语法：对括号内的表达式求值(fantaxy注：千万别乱加入空格）

eg:

#!/bin/sh

x=0

hile
[ "$x" -ne 10 ];do

echo
$x

x=$(($x+1))

done

exit
0

7、shell中几种特殊的参数变量的引用

$1、$2、$3……${10}、${11}、${12}……
：表示脚本传入的的各个参数，注意当需表示两位数以后的参数时数字要用花括号括起。

$@
列出所有的参数，各参数用空格隔开

$*:
列出所有的参数，各参数用环境变量IFS的第一个字符隔开

8、命令列表：

AND列表statement1
&& statement2 && statement3 &&
…:只有在前面所有的命令都执行成功的情况下才执行后一条命令

OR列表statement1
|| statement2 || statement3 ||
…:允许执行一系列命令直到有一条命令成功为止，其后所有命令将不再被执行

eg:#!/bin/sh

touch
file_one

rm
-f file_two

if
[ -f file_one ] && echo "hello" && [ -f
file_two ] && echo " there"

then

echo "in if"

else

echo "in else"

fi

exit
0

上例的输出为：

hello

in
else

关于AND列表与OR列表，在逻辑判断中很使用，下面就举一个其最常用的例子：

[
condition ] && command for true || command for false:

当条件为真时，执行commandfor
true ,当条件为假时，执行command
for false

9、:
冒号：内建空指令，返回值为0

eg:
$ :

$
echo $?

$
0

while:
(该语句结构可实现一个无限循环)

10、;
分号:
在shell
中，担任"连续指令"功能的符号就是"分号"

eg:cd
~/backup ; mkdir startup ; cp ~/.* startup/.

11、#
井号：表示符号后面的是注解文字，不会被执行；

*
匹配文件名中的任何字符，包括字符串；

？匹配文件名中的任何单个字符。

~
代表使用者的home
目录

12、\
倒斜线：放在指令前，有取消aliases（别名）的作用；放在特殊符号前，则该特殊符号的作用消失；放在指令

的最末端，表示指令连接下一行（使得回车符无效，只起换行作用）

14、!
感叹号：通常它代表反逻辑的作用，譬如条件侦测中，用!=
来代表"不等于"

15、**
次方运算：两个星号在运算时代表"次方"
的意思

eg:let
"sus=2**3"

echo
"sus = $sus"

$
sus = 8