一次awk脚本的重构
# 脚本功能说明:
# . 检查URL中的域名是否是指定版本的域名
# . 对访问bid,authorid的游客身份排重,并累加其pv
# 全局变量说明
# DOMIAN_LIST 是数组,key是要统计的域名value是域名所属的业务 # 函数参数说明:
# domain 从URL里提取出来的域名
# ver 域名属于哪个业务(wap or touch)
# statid 从URL里提取的出来的bookid或者authorid
# array 用于排重的并累加PV的数组
function compute(domain, ver, statid, userid, array __ARGVEND__)
{
# 提取失败或该域名不在本次处理的业务范围内
if(domain == "" || DOMAIN_LIST[domain] != ver)
{
next # 跳过当前记录的处理,处理下一条记录
} # 提取statid失败
if(statid == )
{
next
} array[statid " " userid]++
next
} {# 记录处理器 url = $
userid = $
session = $ # URL里包含该标志则该URL记录的是用户对wap版书籍的访问记录
if(match(url,/ct=bk&ac=cver&total=wap_book/) > )
{
domain = getMatchDomin(url, DOMAIN_LIST) # 从URL里提取域名,提取失败则为""
userid = choice(userid, session) # 从日志里选择用户身份,userid < 则取session
bid = getBid(url) # 从URL里提取书籍ID compute(domain, "wap", bid, userid, WAP_BOOKS)
} # URL里包含该标志则该URL记录的是用户对wap版作者的访问记录
if(match(url,/ct=bk&ac=zz&total=wap_author/) > )
{
domain = getMatchDomin(url, DOMAIN_LIST) # 从URL里提取域名,提取失败则为""
userid = choice(userid, session) # 从日志里选择用户身份,userid < 则取session
authorid = getAuthorid(url) # 从URL里提取书籍ID compute(domain, "wap", authorid, userid, WAP_AUTHORS)
} # other code ...
}
看起来还不错,但是函数的参数真心的多,一般的编码规范说多于5个和5个以上函数就不容易被使用了(这么说起来win32 api其实也蛮逆天的...)但是这里似乎还好吧,忍了吧,错!这里除了参数多,还有一个问题,就是一旦提取域名失败或者域名不是我们这次要处理的域名,则userid,bid等数据不需要提取,严重的浪费了CPU时间(要知道这些动作得多执行一亿多次)仔细想想,这个函数其实完成了2个事情:检查域名是否有效,累加pv,分成2个函数是不是更好呢?
#检查URL中的域名是否是指定版本的域名
function checkVer(domain, ver, __ARGVEND__)
{
if(domain == "" || DOMAIN_LIST[domain] != ver)
{
next
}
} #对访问bid,authorid的作者排重,并累加pv
function compute(statid, userid, array, __ARGVEND__)
{
if(statid == )
{
next
} array[statid " " userid]++
next
} {# 记录处理器 url = $
userid = $
session = $ # URL里包含该标志则该URL记录的是用户对wap版书籍的访问记录
if(match(url,/ct=bk&ac=cver&total=wap_book/) > )
{
checkVer(getMatchDomin(url, DOMAIN_LIST), "wap") # 检查域名 userid = choice(userid, session)
bid = getBid(url)
compute(bid, userid, WAP_BOOKS)
} # URL里包含该标志则该URL记录的是用户对wap版作者的访问记录
if(match(url,/ct=bk&ac=zz&total=wap_author/) > )
{
checkVer(getMatchDomin(url, DOMAIN_LIST), "wap") userid = choice(userid, session)
authorid = getAuthorid(url)
compute(authorid, userid, WAP_AUTHORS)
}
}
试验了一下,不仅函数参数个数减少了,而且逻辑更通顺,性能也更好,代价就是函数个数增加了,不过看起来这个代价仍然是合算的
更正:
我查了代码大全,代码大全说7个参数才是人类记忆的极限,好吧,不过我认为之前的重构是没有问题的~~~因为好处很明显
一次awk脚本的重构的更多相关文章
- awk脚本
$0,意即所有域. 有两种方式保存shell提示符下awk脚本的输出.最简单的方式是使用输出重定向符号>文件名,下面的例子重定向输出到文件wow. #awk '{print $0}' grade ...
- awk 脚本同时解析多个文件
ARGC The number of command line arguments (does not include options to gawk ...
- 一些我后写出来的awk脚本
mail.awk function mailByShell(receiver, sender, subject, content, __ARGVEND__, xhead, xfrom, xmime, ...
- AWK 脚本编写习惯
教训总结: 不能忽略了脚本语言的编写规范! 创建数组的时候初始化,特别是在for循环中使用的数组: u_count[; g_count[; 认真对待对象,特别是数组的命名: username_to_d ...
- awk脚本使用的几种方法
1. awk名包含在文件内 [root@nhserver1 08]# cat sample.txtaaabbbccc [root@nhserver1 08]# cat readsample.awkaw ...
- 【sed / awk脚本编写】
awk awk分为BEGIN部分,正则匹配部分,END部分三部分. 我一般在BEGIN部分定义一些变量,正则部分用于匹配和执行一些解析和统计,END部分用于输出结果. 总体结构: awk 'BEGIN ...
- 听说awk语言也可以编写脚本
导读 从 awk 系列开始,我们都是在命令行或者脚本文件里写一些简短的 awk 命令和程序.然而 awk 和 shell 一样也是一个解释型语言.通过从开始到现在的一系列的学习,你现在能写可以执行的 ...
- Linux Shell脚本入门--awk命令详解
简单使用: awk :对于文件中一行行的独处来执行操作 . awk -F :'{print $1,$4}' :使用‘:’来分割这一行,把这一行的第一第四个域打印出来 . 详细介绍: AWK命令介绍 ...
- shell脚本 awk工具
awk工具概述awk编程语言/数据处理引擎基于模式匹配检查输入文本,逐行处理并输出通常在shell脚本中,或取指定的数据单独用时,可对文本数据做统计 命令格式格式一:awk [选项] '[条件]{编辑 ...
随机推荐
- CentOS安装搜狗词库
中文输入使用ibus-pinyin. 在ibus-pinyin里使用搜狗词库 # wget http://hslinuxextra.googlecode.com/files/sougou-phrase ...
- 2014-08-26 解决HttpContext.Current.Session在ashx文件中出现“未将对象引用设置到对象的实例”的问题
今天是在吾索实习的第35天. 最近在使用HttpContext.Current.Session来获取Session["..."]的值时,常常会弹出错误——“未将对象引用设置到对象的 ...
- Linux操作系统Centos7.2版本搭建Apache+PHP+Mysql环境
对于在校大学生来说腾讯云1元主机很划算,所以就申请了一台,打算在上面学习下linux,使用版本为centos7.2版本.在服务器上比较推荐centos,此版本生命周期较长,而且网上有关centos的教 ...
- sql server 2005中IMAGE类型的BUG问题
目的:在sql server 2005数据库上筛选出那些有照片的员工 由于客户之前的数据库是sql server 2000,定义的photo字段的数据类型为image, 在sql 2005数据库上,用 ...
- 用endsWith()来限制图片的后缀名
var a=document.getElementById('file-name'); var filename=a.value if(!a.endsWith('.jpg')||!a.endsWith ...
- html自定义提示框
自定义html提示框比较令人困惑的就是编写三角形的样式:以前的实现方式是在标签内使用span标签来实现.不过现在有了css提供的两个为类:before,:after之后,可以不用再内置span标签了: ...
- struct 结构
//原始套接字学习笔记之代码结构 /* *host端程序结构 */ #include <> #define .. //主函数 int main() { //建立发送线程 pthread_t ...
- 查询表达式Linq
LINQ简介 OO(面向对象)以外的疆域:信息的访问与整合.关系数据库与XML为其中的典型应用. .net Language Integrated Query(Linq):不采用特定关于数据库与XML ...
- js中内建对象
JavaScript charAt() 函数 string.charAt(n) -- 返回指定位置(n)的字符 char是character的缩写,中文"符号,字符" 引用网址:h ...
- nginx+keepalive主从双机热备+自动切换解决方案
环境采集cenots 6.3 64位迷你安装,因为安装前,你需要做一些工作 yum install -y make wget 如果你愿意可以更新下系统,更换下yum源. 1.安装keepalive 官 ...