awk模式pattern

再来回顾下awk的语法

awk [option] 'pattern[action]'  file ...

awk是按行处理文本，刚才讲解了print动作，现在讲解特殊的pattern：BEGIN和END

  • BEGIN模式是处理文本之前需要执行的操作
  • END模式是处理完所有行之后执行的操作
[root@pylinux tmp]# awk 'BEGIN{print "超哥教你学awk"}'

超哥教你学awk

#上述操作没有指定任何文件作为数据源，而是awk首选会执行BEGIN模式指定的print操作，打印出如上结果，然后发现没有任何文件需要操作，就结束了
[root@pylinux tmp]# awk 'BEGIN{print "超哥带你学awk"}{print $1}' alex.txt

超哥带你学awk

alex1

alex6

alex11

alex16

alex21

alex26

alex31

alex36

alex41

alex46

  • 再次总结，BEGIN就是处理文本前，先执行BEGIN模式指定的动作
  • 再来看END的作用（awk处理完所有指定的文本后，需要执行的动作）

awk结合BEGIN和END模式

[root@pylinux tmp]# awk 'BEGIN{print "来路飞学城听超哥讲linux"}{print $1,$2}END{print "超哥nb"}' alex.txt

awk模式pattern讲解

再来看一下awk的语法，模式也可以理解为是条件

awk [option] 'pattern[action]'  file ...

刚才我们学了两个模式(条件)

  • BEGIN
  • END

awk默认是按行处理文本，如果不指定任何模式（条件），awk默认一行行处理

如果指定了模式，只有符合模式的才会被处理

模式（条件）案例

[root@pylinux tmp]# cat -n alex.txt

     1    alex1 alex2 alex3 alex4 alex5

     2    alex6 alex7 alex8 alex9 alex10

     3    alex11 alex12 alex13 alex14 alex15

     4    alex16 alex17 alex18 alex19 alex20

     5    alex21 alex22 alex23 alex24 alex25

     6    alex26 alex27 alex28 alex29 alex30

     7    alex31 alex32 alex33 alex34 alex35

     8    alex36 alex37 alex38 alex39 alex40

     9    alex41 alex42 alex43 alex44 alex45

    10    alex46 alex47 alex48 alex49 alex50  alex51

[root@pylinux tmp]#

[root@pylinux tmp]#

[root@pylinux tmp]# awk 'NF==5 {print $1}'  alex.txt

alex1

alex6

alex11

alex16

alex21

alex26

alex31

alex36

alex41

[root@pylinux tmp]# awk 'NF==6 {print $1}'  alex.txt

alex46

awk的模式

关系运算符 解释 示例
< 小于 x<y
<= 小于等于 x<=y
== 等于 x==y
!= 不等于 x!=y
>= 大于等于 x>=y
> 大于 x>y
~ 匹配正则 x~/正则/
!~ 不匹配正则 x!~/正则/

案例

[root@pylinux tmp]# awk 'NR>3{print $0}' alex.txt

alex16 alex17 alex18 alex19 alex20

alex21 alex22 alex23 alex24 alex25

alex26 alex27 alex28 alex29 alex30

alex31 alex32 alex33 alex34 alex35

alex36 alex37 alex38 alex39 alex40

alex41 alex42 alex43 alex44 alex45

alex46 alex47 alex48 alex49 alex50  alex51

[root@pylinux tmp]#

[root@pylinux tmp]# awk '$1=="alex36"{print $0}' alex.txt

alex36 alex37 alex38 alex39 alex40

awk基础总结

  • 空模式，没有指定任何的模式（条件），因此每一行都执行了对应的动作，空模式会匹配文档的每一行，每一行都满足了（空模式）
[root@pylinux tmp]# awk '{print $1}' alex.txt

alex1

alex6

alex11

alex16

alex21

alex26

alex31

alex36

alex41

alex46
  • 关系运算符模式，awk默认执行打印输出动作
[root@pylinux tmp]# awk 'NR==2,NR==5' alex.txt

alex6 alex7 alex8 alex9 alex10

alex11 alex12 alex13 alex14 alex15

alex16 alex17 alex18 alex19 alex20

alex21 alex22 alex23 alex24 alex25
  • BEGIN/END模式（条件设置）

awk与正则表达式

正则表达式主要与awk的pattern模式（条件）结合使用

  • 不指定模式，awk每一行都会执行对应的动作
  • 指定了模式，只有被模式匹配到的、符合条件的行才会执行动作

找出pwd.txt中有以games开头的行

1.用grep过滤

[root@pylinux tmp]# cat -n pwd.txt

     1    sync:x:5:0:sync:/sbin:/bin/sync

     2    shutdown:x:6:0:shutdown:/sbin:/sbin/shutdown

     3    halt:x:7:0:halt:/sbin:/sbin/halt

     4    mail:x:8:12:mail:/var/spool/mail:/sbin/nologin

     5    operator:x:11:0:operator:/root:/sbin/nologin

     6    games:x:12:100:games:/usr/games:/sbin/nologin

     7    ftp:x:14:50:FTP User:/var/ftp:/sbin/nologin

     8    nobody:x:99:99:Nobody:/:/sbin/nologin

     9    systemd-network:x:192:192:systemd Network Management:/:/sbin/nologin

    10    dbus:x:81:81:System message bus:/:/sbin/nologin

    11    polkitd:x:999:998:User for polkitd:/:/sbin/nologin

    12    libstoragemgmt:x:998:997:daemon account for libstoragemgmt:/var/run/lsm:/sbin/nologin

    13    rpc:x:32:32:Rpcbind Daemon:/var/lib/rpcbind:/sbin/nologin

    14    ntp:x:38:38::/etc/ntp:/sbin/nologin

[root@pylinux tmp]# grep '^games' pwd.txt

games:x:12:100:games:/usr/games:/sbin/nologin

2.awk怎么办？

[root@pylinux tmp]# awk '/^games/{print $0}'  pwd.txt

games:x:12:100:games:/usr/games:/sbin/nologin

#省略写法

[root@pylinux tmp]# awk '/^games/'  pwd.txt

games:x:12:100:games:/usr/games:/sbin/nologin

awk使用正则语法

awk命令使用正则表达式，必须把正则放入 "//" 双斜杠中，匹配到结果后执行动作{print $0}，打印整行信息

grep可以过滤，那我还用你awk干啥？

awk强大的格式化文本

[root@pylinux tmp]# awk -F ":"  'BEGIN{printf "%-10s\t%-10s\n","用户名","用户id"} /^n/ {printf "%-10s\t%-10s\n",$1,$3}' pwd.txt

用户名           用户id

nobody        99

ntp           38

nawerwertp    38

nqwerqstp     38

nqweqsdtp     38

nqwetp        38

awk命令执行流程

解读需求：从pwd.txt文件中，寻找我们想要的信息，按照以下顺序执行

awk 'BEGIN{ commands } pattern{ commands } END{ commands }'
  1. 优先执行BEGIN{}模式中的语句
  2. 从pwd.txt文件中读取第一行，然后执行pattern{commands}进行正则匹配/^n/ 寻找n开头的行，找到了执行{print} 进行打印
  3. 当awk读取到文件数据流的结尾时，会执行END{commands}

找出pwd.txt文件中禁止登录的用户（/sbin/nologin）

正则表达式中如果出现了 "/"则需要进行转义

找出pwd.txt文件中禁止登录的用户（/sbin/nologin）

1.用grep找出

grep '/sbin/nologin$' pwd.txt

2.awk用正则得用双斜杠/正则表达式/

[root@pylinux tmp]# awk '/\/sbin\/nologin$/{print $0}' pwd.txt

找出文件的区间内容

1.找出mail用户到nobody用户之间的内容

[root@pylinux tmp]# awk '/^mail/,/^nobody/ {print $0}' pwd.txt

mail:x:8:12:mail:/var/spool/mail:/sbin/nologin

operator:x:11:0:operator:/root:/sbin/nologin

games:x:12:100:games:/usr/games:/sbin/nologin

ftp:x:14:50:FTP User:/var/ftp:/sbin/nologin

nobody:x:99:99:Nobody:/:/sbin/nologin

2.关系表达式模式

[root@pylinux tmp]# awk 'NR>=4 && NR<=8 {print $0}' pwd.txt

mail:x:8:12:mail:/var/spool/mail:/sbin/nologin

operator:x:11:0:operator:/root:/sbin/nologin

games:x:12:100:games:/usr/games:/sbin/nologin

ftp:x:14:50:FTP User:/var/ftp:/sbin/nologin

nobody:x:99:99:Nobody:/:/sbin/nologin

awk企业实战nginx日志

Access.log

39.96.187.239 - - [11/Nov/2019:10:08:01 +0800] "GET / HTTP/1.1" 302 0 "-" "Zabbix"

211.162.238.91 - - [11/Nov/2019:10:08:02 +0800] "GET /api/v1/course_sub/category/list/?belong=1 HTTP/1.1" 200 363 "https://www.luffycity.com/free" "Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/69.0.3497.100 Safari/537.36"

211.162.238.91 - - [11/Nov/2019:10:08:02 +0800] "GET /api/v1/degree_course/ HTTP/1.1" 200 370 "https://www.luffycity.com/free" "Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/69.0.3497.100 Safari/537.36"

统计日志的访客ip数量

#sort -n 数字从大到小排序

#wc -l 统计行数，也就是ip的条目数

[root@pylinux tmp]# awk '{print $1}' 500access.log |sort -n|uniq|wc -l

75

查看访问最频繁的前10个ip

#uniq -c 去重显示次数

#sort -n 从大到小排序

1.先找出所有ip排序，排序，然后去重统计出现次数

awk '{print $1}' 500access.log |sort -n |uniq -c

2.再次从大到小排序，且显示前100个ip

[root@pylinux tmp]# awk '{print $1}' 500access.log |sort -n |uniq -c |sort -nr |head -10

     32 113.225.0.211

     22 119.123.30.32

     21 116.30.195.155

     20 122.71.65.73

     18 163.142.211.160

     16 39.96.187.239

     16 124.200.147.165

     16 101.249.53.64

     14 120.228.193.218

     14 113.68.155.221

awk模式pattern的更多相关文章

  1. awk(2)-模式(pattern)

    在上文 awk(1)-简述我们将简要描述了awk的主要使用方向和构成(由一个或多个模式-动作组成),本小节主要讲述awk的各种模式. ps:例子中使用的输入文件(如countries)内容可由awk( ...

  2. awk 的 pattern(模式)

    我们知道, awk程序由一系列 pattern 以及与之对应的 action 组成的 rule 组成,rule之间用";"分号隔开, 一条输入记录与 pattern 匹配则执行与之 ...

  3. （转）关于 awk 的 pattern(模式)

    本文转自chinaunix http://bbs.chinaunix.net/thread-4246512-1-1.html   作者reyleon 我们知道, awk程序由一系列 pattern 以 ...

  4. Linux常用基本命令：三剑客命令之-awk模式用法(1)

    再次回顾一下,awk基本语法格式: awk [options] 'Pattern {Action}' file1 file2 ··· 之前的文章有讲过两种Pattern(BEGIN, END),本文, ...

  5. Linux shell awk模式使用

    awk的PATTERN表示方法: 1,正则表达式,格式为/regex/ 以冒号为分隔符,显示/etc/passwd以r开头的行的第一段 [root@wei awk]# awk -F: '/^r/{pr ...

  6. Redis Keys 命令 - 查找所有符合给定模式( pattern)的 key

    Redis Keys 命令用于查找所有符合给定模式 pattern 的 key .. 语法 redis KEYS 命令基本语法如下: redis 127.0.0.1:6379> KEYS PAT ...

  7. Awk 从入门到放弃 （6） Awk模式（Pattern）之二

    第一题:从/etc/passwd 匹配以 vmuser开头的用户 grep “^vmuser”   /etc/passwd  -r  -n awk  ‘/^vmuser /{print $0}’  / ...

  8. Awk 从入门到放弃（5）– Awk模式（Pattern）之一

    转:http://www.zsythink.net/archives/1426

  9. Linux常用基本命令：三剑客命令之-awk模式用法(2)

    1,正则模式,在/etc/passwd中 过滤出使用/bin/bash的用户 ghostwu@dev:~/linux/awk$ awk -v FS=":" 'BEGIN{print ...

随机推荐

  1. 面试突击75：SpringBoot 有几种读取配置文件的方法？

    Spring Boot 中读取配置文件有以下 5 种方法: 使用 @Value 读取配置文件. 使用 @ConfigurationProperties 读取配置文件. 使用 Environment 读 ...

  2. CLIP：多模态领域革命者

    CLIP:多模态领域革命者 当前的内容是梳理<Transformer视觉系列遨游>系列过程中引申出来的.目前最近在AI作画这个领域 Transformer 火的一塌糊涂,AI画画效果从18 ...

  3. 【Azure 应用服务】在 App Service for Windows 中自定义 PHP 版本的方法

    问题描述 在App Service for Windows的环境中,当前只提供了PHP 7.4 版本的选择情况下,如何实现自定义PHP Runtime的版本呢? 如 PHP Version 8.1.9 ...

  4. rh358 002 fact变量获取 ansible配置网络 service_facts

    通过ansible 获取网络信息 1.如何获取fact事实变量 方式1: ansible servera -m servera 方式2: 剧本 [root@workstation ansible]# ...

  5. kafka详解(一)--kafka是什么及怎么用

    kafka是什么 在回答这个问题之前,我们需要先了解另一个东西--event streaming. 什么是event streaming 我觉得,event streaming 是一个动态的概念,它描 ...

  6. KingbaseES V8R6单实例外部备份故障案例

    案例说明: 在KingbaseES V8R6单实例环境,配置外部备份服务器使用sys_backup.sh物理备份时,出现以下"WAL segment xxx was not archived ...

  7. LIKE与等式查询比较

    我们知道 char 是定长类型的数据,如果数据长度小于定义的长度,会在字符串尾部加上空格.而对于空格的处理,对于等式匹配,或length等,会忽略空格.而对于like 或模式匹配,空格不能忽略. 一. ...

  8. 【读书笔记】C#高级编程 第四章 继承

    (一)继承的类型 1.实现继承和接口继承 在面向对象的编程中,有两种截然不同的继承类型:实现继承和接口继承. 实现继承:表示一个类型派生于一个基类型,它拥有该基类型的所有成员字段和函数.在实现继承中, ...

  9. 内卷时代下的前端技术-使用JavaScript在浏览器中生成PDF文档

    背景 在计量领域中,计量检定是一种重要形式,主要用于评定计量器具的计量性能,确定其量值是否准确一致,实现手段包括计量检验.出具检定证书和加封盖印等. 在检定证书这一环节,存在一个难点,就是无法在线预览 ...

  10. java的数据类型分为两大类

    java的数据类型分为两大类 基本类型(primitive type) 数据类型 整数类型 byte占一个字节范围:-128-127 short占两个字节范围:-32768-32767 int占四个字 ...