一次awk脚本的重构
# 脚本功能说明:
# . 检查URL中的域名是否是指定版本的域名
# . 对访问bid,authorid的游客身份排重,并累加其pv
# 全局变量说明
# DOMIAN_LIST 是数组,key是要统计的域名value是域名所属的业务 # 函数参数说明:
# domain 从URL里提取出来的域名
# ver 域名属于哪个业务(wap or touch)
# statid 从URL里提取的出来的bookid或者authorid
# array 用于排重的并累加PV的数组
function compute(domain, ver, statid, userid, array __ARGVEND__)
{
# 提取失败或该域名不在本次处理的业务范围内
if(domain == "" || DOMAIN_LIST[domain] != ver)
{
next # 跳过当前记录的处理,处理下一条记录
} # 提取statid失败
if(statid == )
{
next
} array[statid " " userid]++
next
} {# 记录处理器 url = $
userid = $
session = $ # URL里包含该标志则该URL记录的是用户对wap版书籍的访问记录
if(match(url,/ct=bk&ac=cver&total=wap_book/) > )
{
domain = getMatchDomin(url, DOMAIN_LIST) # 从URL里提取域名,提取失败则为""
userid = choice(userid, session) # 从日志里选择用户身份,userid < 则取session
bid = getBid(url) # 从URL里提取书籍ID compute(domain, "wap", bid, userid, WAP_BOOKS)
} # URL里包含该标志则该URL记录的是用户对wap版作者的访问记录
if(match(url,/ct=bk&ac=zz&total=wap_author/) > )
{
domain = getMatchDomin(url, DOMAIN_LIST) # 从URL里提取域名,提取失败则为""
userid = choice(userid, session) # 从日志里选择用户身份,userid < 则取session
authorid = getAuthorid(url) # 从URL里提取书籍ID compute(domain, "wap", authorid, userid, WAP_AUTHORS)
} # other code ...
}
看起来还不错,但是函数的参数真心的多,一般的编码规范说多于5个和5个以上函数就不容易被使用了(这么说起来win32 api其实也蛮逆天的...)但是这里似乎还好吧,忍了吧,错!这里除了参数多,还有一个问题,就是一旦提取域名失败或者域名不是我们这次要处理的域名,则userid,bid等数据不需要提取,严重的浪费了CPU时间(要知道这些动作得多执行一亿多次)仔细想想,这个函数其实完成了2个事情:检查域名是否有效,累加pv,分成2个函数是不是更好呢?
#检查URL中的域名是否是指定版本的域名
function checkVer(domain, ver, __ARGVEND__)
{
if(domain == "" || DOMAIN_LIST[domain] != ver)
{
next
}
} #对访问bid,authorid的作者排重,并累加pv
function compute(statid, userid, array, __ARGVEND__)
{
if(statid == )
{
next
} array[statid " " userid]++
next
} {# 记录处理器 url = $
userid = $
session = $ # URL里包含该标志则该URL记录的是用户对wap版书籍的访问记录
if(match(url,/ct=bk&ac=cver&total=wap_book/) > )
{
checkVer(getMatchDomin(url, DOMAIN_LIST), "wap") # 检查域名 userid = choice(userid, session)
bid = getBid(url)
compute(bid, userid, WAP_BOOKS)
} # URL里包含该标志则该URL记录的是用户对wap版作者的访问记录
if(match(url,/ct=bk&ac=zz&total=wap_author/) > )
{
checkVer(getMatchDomin(url, DOMAIN_LIST), "wap") userid = choice(userid, session)
authorid = getAuthorid(url)
compute(authorid, userid, WAP_AUTHORS)
}
}
试验了一下,不仅函数参数个数减少了,而且逻辑更通顺,性能也更好,代价就是函数个数增加了,不过看起来这个代价仍然是合算的
更正:
我查了代码大全,代码大全说7个参数才是人类记忆的极限,好吧,不过我认为之前的重构是没有问题的~~~因为好处很明显
一次awk脚本的重构的更多相关文章
- awk脚本
$0,意即所有域. 有两种方式保存shell提示符下awk脚本的输出.最简单的方式是使用输出重定向符号>文件名,下面的例子重定向输出到文件wow. #awk '{print $0}' grade ...
- awk 脚本同时解析多个文件
ARGC The number of command line arguments (does not include options to gawk ...
- 一些我后写出来的awk脚本
mail.awk function mailByShell(receiver, sender, subject, content, __ARGVEND__, xhead, xfrom, xmime, ...
- AWK 脚本编写习惯
教训总结: 不能忽略了脚本语言的编写规范! 创建数组的时候初始化,特别是在for循环中使用的数组: u_count[; g_count[; 认真对待对象,特别是数组的命名: username_to_d ...
- awk脚本使用的几种方法
1. awk名包含在文件内 [root@nhserver1 08]# cat sample.txtaaabbbccc [root@nhserver1 08]# cat readsample.awkaw ...
- 【sed / awk脚本编写】
awk awk分为BEGIN部分,正则匹配部分,END部分三部分. 我一般在BEGIN部分定义一些变量,正则部分用于匹配和执行一些解析和统计,END部分用于输出结果. 总体结构: awk 'BEGIN ...
- 听说awk语言也可以编写脚本
导读 从 awk 系列开始,我们都是在命令行或者脚本文件里写一些简短的 awk 命令和程序.然而 awk 和 shell 一样也是一个解释型语言.通过从开始到现在的一系列的学习,你现在能写可以执行的 ...
- Linux Shell脚本入门--awk命令详解
简单使用: awk :对于文件中一行行的独处来执行操作 . awk -F :'{print $1,$4}' :使用‘:’来分割这一行,把这一行的第一第四个域打印出来 . 详细介绍: AWK命令介绍 ...
- shell脚本 awk工具
awk工具概述awk编程语言/数据处理引擎基于模式匹配检查输入文本,逐行处理并输出通常在shell脚本中,或取指定的数据单独用时,可对文本数据做统计 命令格式格式一:awk [选项] '[条件]{编辑 ...
随机推荐
- Java---文件的切割与合并,已经实现图形界面(工具)
实现对任意文件的切割,实现对切割后的文件的合并. 上次只写了特定目录下的文件切割与合并,有点遗憾, 这次,我写了一个图形界面来实现对文件的切割与合并. 文件切割: 用户可以自己选择需要切割的文件, 软 ...
- date命令使用总结【转载】
本文转载自:http://blog.sina.com.cn/s/blog_674b5aae0100o0w9.html 由于跨年.跨月.闰平年等特殊性,在日常编程过程中对日期的处理总是异常麻烦.目前,各 ...
- hyperVisors
容器有效地将由单个操作系统管理的资源划分到孤立的组中,以更好地在孤立的组之间平衡有冲突的资源使用需求 期望继续进军中国市场 就像IBM公司,惠普公司和戴尔公司在中国服务器市场的霸主地位一样,Inspu ...
- 搭建完整邮件系统(postfix+dovecot+clamAV+Spamassassin+amavisd-new)
============================ 相关软件: 1. 发送邮件 --- postfix 2. 身份认证 --- sasl2 3. 接收邮件 --- dovecot 4. 防病毒邮 ...
- MVCC的一种实现方案
源信息来源:http://my.oschina.net/juliashine/blog/111624 -- 简单描述: 一个data-server,通过mvcc来实现事务的一致性,已支持更高的吞吐和更 ...
- ios将一个项目完全导为另一个项目(tool)
--前言:有时开始一个新项目,但新项目跟已做完的一个项目很类似,基本可以在原有项目上更改.这个时候,可以new一个新project,在将相应的代码文件copy到新的project,配置工程各参数,库等 ...
- 机房收费系统——在VB中将MSHFlexGrid控件中的数据导出到Excel
机房收费系统中,好多查询的窗体都包含同一个功能:将数据库中查询到的数据显示在MSHFlexGrid控件中,然后再把MSHFlexGrid控件中的数据导出到Excel表格中. 虽然之前做过学生信息管理系 ...
- uploadify上传大文件时出现404错误
出现这个错误的话一般是IIs限制了文件大小.IIS7下的默认设置限制了上传大小.这个时候Web.Config中的大小设置也就失效了.具体步骤:1.打开IIS管理器,找到Default Web Site ...
- JavaScript 浮点数运算 精度问题
JavaScript小数在做四则运算时,精度会丢失,这会在项目中引起诸多不便,先请看下面脚本. //加减 <script type="text/javascript" lan ...
- JY05-JavsScript-JS基础01
JavaScript第一天 1.前端三层 HTML 结构层 语义 骨架 css 表现层 审美 衣服 JavsScript 行为层 行为交互 动作 2.转义字符\r\n\t \r return 回 ...