一次awk脚本的重构
# 脚本功能说明:
# . 检查URL中的域名是否是指定版本的域名
# . 对访问bid,authorid的游客身份排重,并累加其pv
# 全局变量说明
# DOMIAN_LIST 是数组,key是要统计的域名value是域名所属的业务 # 函数参数说明:
# domain 从URL里提取出来的域名
# ver 域名属于哪个业务(wap or touch)
# statid 从URL里提取的出来的bookid或者authorid
# array 用于排重的并累加PV的数组
function compute(domain, ver, statid, userid, array __ARGVEND__)
{
# 提取失败或该域名不在本次处理的业务范围内
if(domain == "" || DOMAIN_LIST[domain] != ver)
{
next # 跳过当前记录的处理,处理下一条记录
} # 提取statid失败
if(statid == )
{
next
} array[statid " " userid]++
next
} {# 记录处理器 url = $
userid = $
session = $ # URL里包含该标志则该URL记录的是用户对wap版书籍的访问记录
if(match(url,/ct=bk&ac=cver&total=wap_book/) > )
{
domain = getMatchDomin(url, DOMAIN_LIST) # 从URL里提取域名,提取失败则为""
userid = choice(userid, session) # 从日志里选择用户身份,userid < 则取session
bid = getBid(url) # 从URL里提取书籍ID compute(domain, "wap", bid, userid, WAP_BOOKS)
} # URL里包含该标志则该URL记录的是用户对wap版作者的访问记录
if(match(url,/ct=bk&ac=zz&total=wap_author/) > )
{
domain = getMatchDomin(url, DOMAIN_LIST) # 从URL里提取域名,提取失败则为""
userid = choice(userid, session) # 从日志里选择用户身份,userid < 则取session
authorid = getAuthorid(url) # 从URL里提取书籍ID compute(domain, "wap", authorid, userid, WAP_AUTHORS)
} # other code ...
}
看起来还不错,但是函数的参数真心的多,一般的编码规范说多于5个和5个以上函数就不容易被使用了(这么说起来win32 api其实也蛮逆天的...)但是这里似乎还好吧,忍了吧,错!这里除了参数多,还有一个问题,就是一旦提取域名失败或者域名不是我们这次要处理的域名,则userid,bid等数据不需要提取,严重的浪费了CPU时间(要知道这些动作得多执行一亿多次)仔细想想,这个函数其实完成了2个事情:检查域名是否有效,累加pv,分成2个函数是不是更好呢?
#检查URL中的域名是否是指定版本的域名
function checkVer(domain, ver, __ARGVEND__)
{
if(domain == "" || DOMAIN_LIST[domain] != ver)
{
next
}
} #对访问bid,authorid的作者排重,并累加pv
function compute(statid, userid, array, __ARGVEND__)
{
if(statid == )
{
next
} array[statid " " userid]++
next
} {# 记录处理器 url = $
userid = $
session = $ # URL里包含该标志则该URL记录的是用户对wap版书籍的访问记录
if(match(url,/ct=bk&ac=cver&total=wap_book/) > )
{
checkVer(getMatchDomin(url, DOMAIN_LIST), "wap") # 检查域名 userid = choice(userid, session)
bid = getBid(url)
compute(bid, userid, WAP_BOOKS)
} # URL里包含该标志则该URL记录的是用户对wap版作者的访问记录
if(match(url,/ct=bk&ac=zz&total=wap_author/) > )
{
checkVer(getMatchDomin(url, DOMAIN_LIST), "wap") userid = choice(userid, session)
authorid = getAuthorid(url)
compute(authorid, userid, WAP_AUTHORS)
}
}
试验了一下,不仅函数参数个数减少了,而且逻辑更通顺,性能也更好,代价就是函数个数增加了,不过看起来这个代价仍然是合算的
更正:
我查了代码大全,代码大全说7个参数才是人类记忆的极限,好吧,不过我认为之前的重构是没有问题的~~~因为好处很明显
一次awk脚本的重构的更多相关文章
- awk脚本
$0,意即所有域. 有两种方式保存shell提示符下awk脚本的输出.最简单的方式是使用输出重定向符号>文件名,下面的例子重定向输出到文件wow. #awk '{print $0}' grade ...
- awk 脚本同时解析多个文件
ARGC The number of command line arguments (does not include options to gawk ...
- 一些我后写出来的awk脚本
mail.awk function mailByShell(receiver, sender, subject, content, __ARGVEND__, xhead, xfrom, xmime, ...
- AWK 脚本编写习惯
教训总结: 不能忽略了脚本语言的编写规范! 创建数组的时候初始化,特别是在for循环中使用的数组: u_count[; g_count[; 认真对待对象,特别是数组的命名: username_to_d ...
- awk脚本使用的几种方法
1. awk名包含在文件内 [root@nhserver1 08]# cat sample.txtaaabbbccc [root@nhserver1 08]# cat readsample.awkaw ...
- 【sed / awk脚本编写】
awk awk分为BEGIN部分,正则匹配部分,END部分三部分. 我一般在BEGIN部分定义一些变量,正则部分用于匹配和执行一些解析和统计,END部分用于输出结果. 总体结构: awk 'BEGIN ...
- 听说awk语言也可以编写脚本
导读 从 awk 系列开始,我们都是在命令行或者脚本文件里写一些简短的 awk 命令和程序.然而 awk 和 shell 一样也是一个解释型语言.通过从开始到现在的一系列的学习,你现在能写可以执行的 ...
- Linux Shell脚本入门--awk命令详解
简单使用: awk :对于文件中一行行的独处来执行操作 . awk -F :'{print $1,$4}' :使用‘:’来分割这一行,把这一行的第一第四个域打印出来 . 详细介绍: AWK命令介绍 ...
- shell脚本 awk工具
awk工具概述awk编程语言/数据处理引擎基于模式匹配检查输入文本,逐行处理并输出通常在shell脚本中,或取指定的数据单独用时,可对文本数据做统计 命令格式格式一:awk [选项] '[条件]{编辑 ...
随机推荐
- 再谈javascript原型继承
Javascript原型继承是一个被说烂掉了的话题,但是自己对于这个问题一直没有彻底理解,今天花了点时间又看了一遍<Javascript模式>中关于原型实现继承的几种方法,下面来一一说明下 ...
- Unity3D基础学习 加载场景时隐藏物体,点击显示时显示物体
隐藏物体有两种方法,一是设置Meshrender为False,即不渲染物体. 二是设置物体为False,禁用物体,我使用的第二种. 当场景中需要隐藏的物体很多时,我们可以添加一个层来表示需要隐藏的物体 ...
- [原创小知识] 如何优雅的判断 ie 版本
之前一直不怎么做低版本ie的前端,毕竟ie的大半江山都被chrome 霸占,但大部分情况下,却还是要去兼容下那些老顽固.一切的原因,都是因为当年微软的年轻气盛,喜欢另起炉灶,真是很无语. 通常我们去h ...
- [Angular 2] Dispatching Action with Payloads and type to Reducers
While action types allow you tell your reducer what action it should take, the payload is the data t ...
- [React] Radium: Updating Button Styles via Props
In a CSS library like Bootstrap we can set a button's style to be "primary" or "secon ...
- android ListView和GridView拖拽移位具体实现及拓展
关于ListView拖拽移动位置,想必大家并不陌生,比较不错的软件都用到如此功能了.如:搜狐,网易,百度等,但是相比来说还是百度的用户体验较好,不偏心了,下面看几个示例: 首 ...
- Task的运行过程分析
Task的运行过程分析 Task的运行通过Worker启动时生成的Executor实例进行, caseRegisteredExecutor(sparkProperties)=> logInfo( ...
- AJAX校验用户名是否存在,焦点离开用户名、点击 【 检 查用户名 】的校验。分别用 XMLHttp 和 JQueryAJAX实现。
XMLHttp方法: $("#name").blur(function () { var xmlhttp = new ActiveXObject("Microsoft. ...
- Page_Load基类,重写OnLoad
protected override void OnLoad(EventArgs e) { userid = PublicFun.GetSessionValue(HttpContext.Current ...
- Memcached 搭建过程
原文链接:http://www.open-open.com/lib/view/open1324368235733.html 安装 memcached 服务端 yum -y install libeve ...