linux awk 命令实用手册
0,简介
Linux awk
是一个实用的文本处理工具
,它不仅是一款工具软件,也是一门编程语言
。awk
的名称来源于其三位作者的姓氏缩写,其作者分别是Alfred Aho
,Peter Weinberger
和 Brian Kernighan
。
如果你在linux 系统中追踪awk
,可以看到其最终指向的是/usr/bin/gawk
,也就是gawk
命令。其GNU官方手册 权威且全面,但对于初学者并不是很友好,因为内容非常多,你可能不知从何看起。对于普通用户,一般也用不到非常复杂的功能。
如果一个文件由规则的多个列
组成,则非常适合使用awk
来处理。本文介绍awk
常用方法,对于普通使用者应该是足够了。
1,基本概念
awk
命令会对文本文件
的每一行
进行处理,其语法格式如下:
awk `参数` `pattern {action}` `filename`
pattern
是要匹配的规则,action
是要执行的动作,只有匹配了pattern
的行
,才会执行动作action
。
这句命令的含义是:对于文件filename
的每一行,如果能够符合条件pattern
,则执行动作action
。如果不写pattern
,则表示对于文件filename
的每一行,都进行action
处理。
1.1,参数
awk
最常使用的参数是-F
,其后跟一个分隔符
或者正则表达式
,其表示的意思是以怎样的规则
对每一行进行分割。 默认是空格
或Tab键
。
1.2,pattern
pattern
可以是下表中的任意一项:
pattern | 说明 |
---|---|
/正则表达式/ |
正则写在两个/ 之间 |
关系表达式 |
由awk 中支持的关系运算符 组成 |
模式匹配表达式 |
由 ~ (匹配)和!~ (不匹配)组成 |
BEGIN{语句} |
在处理第一行 文本之前,执行BEGIN 块 中的语句,可以在这里进行一些变量初始化等操作 |
END{语句} |
在处理完最后一行 文本之后,执行END 块 中的语句 |
/规则1/,/规则2/ |
这是一个范围模板 ,只处理规则1 第一次出现与规则2 第一次出现之间的行 |
1.3,action
action
由awk
语句组成,比如print
,用于输出。
2,awk 内置变量
awk
中内置了很多变量,来方便使用,这里介绍一些常用的:
awk 内置变量 |
含义 |
---|---|
FS |
表示分隔符 ,类似-F 参数的功能 |
$0 |
一行的完整内容 |
$n |
用分隔符 隔开的第n 列,比如$1 表示第一列 |
FILENAME |
当前文件名 |
NR |
当前行数,即当前行 是第几行 |
NF |
当前行的列数,即当前行 被分割符 分成了几列 |
IGNORECASE |
如果为真,表示忽略大小写进行匹配 |
3,awk 内建函数
awk
常用函数如下:
函数 | 含义 |
---|---|
tolower() |
字符串转小写 |
toupper() |
字符串转大写 |
length() |
计算字符串长度 |
split() |
字符串分割 |
systime() |
Unix 时间戳 |
strftime() |
时间格式化,用法同C语言 中的strftime 函数 |
rand() |
随机数 |
sin() |
正弦 |
cos() |
余弦 |
sqrt() |
平方根 |
exp() |
求幂 |
4,awk 运算符
awk
支持如下常用运算符
:
运算符 | 含义 |
---|---|
+ - * / & |
加,减,乘,除,求余 |
= += -= *= /= %= ^= **= |
赋值 运算符 |
< <= > >= != == |
比较 运算符 |
空格 |
用于连接字符串 ,使用较多 |
|| |
逻辑或 |
&& |
逻辑与 |
! |
逻辑非 |
~ |
匹配 |
!~ |
不匹配 |
5,awk 使用案例
假如,我们有如下文件,分别为姓名
,性别
,年龄
,成绩
,等级
和省份
:
>>> cat log.txt
_________________
小明,男,23,550^优秀---北京
小丽,女,22,560^优秀---河北
小磊,男,24,530^良好---河南
小召,男,23,540^优良---山东
小欣,女,23,545^优良---山西
5.1 使用-F
以逗号,
为分隔符
,并将第1列,第2列和第3列输出,如下:
>>> awk -F, '{print $1,$2,$3}' log.txt
______________________________________
小明 男 23
小丽 女 22
小磊 男 24
小召 男 23
小欣 女 23
当分隔符
只有一个字符
时,分割符
可以紧挨-F
,还有如下几种写法:
awk -F , '{print $1,$2,$3}' log.txt #`分隔符`与`-F`之间有一个空格
awk -F',' '{print $1,$2,$3}' log.txt #`分隔符`用单引号引住,并且紧挨`-F`
awk -F"," '{print $1,$2,$3}' log.txt #`分隔符`用双引号引住,并且紧挨`-F`
awk -F ',' '{print $1,$2,$3}' log.txt #`分隔符`用单引号引住,与`-F`之间有空格
awk -F "," '{print $1,$2,$3}' log.txt #`分隔符`用双引号引住,与`-F`之间有空格
当分隔符
有多个连续字符
时,必须用双引号
或者单引号
引住分割符
,可以紧挨-F
,也可以有空格
:
awk -F '---' '{print $2}' log.txt #`分隔符`用单引号引住,与`-F`之间有空格
awk -F"---" '{print $5}' log.txt #`分隔符`用双引号引住,与`-F`之间没有空格
以上两个命令输出的内容一样,此时分隔符
为---
,每一行都被分成了两列,如下:
小明,男,23,550^优秀 北京
小丽,女,22,560^优秀 河北
小磊,男,24,530^良好 河南
小召,男,23,540^优良 山东
小欣,女,23,545^优良 山西
当有多个单独的分割符
时,将多个分隔符写在中括号[]
中,如下,表示以,
或者以---
为分隔符:
>>> awk -F "[,^]" '{print $1, $2, $3, $4, $5}' log.txt
________________________
小明 男 23 550 优秀---北京
小丽 女 22 560 优秀---河北
小磊 男 24 530 良好---河南
小召 男 23 540 优良---山东
小欣 女 23 545 优良---山西
5.2 使用内置变量
我们用变量NR
输出当前行号
,变量NF
输出当前行的列数
,变量FILENAME
输出当前文件名
,如下:
>>> awk -F"---" '{print NR, $1, $2, NF, FILENAME}' log.txt
__________________________________________________________
1 小明,男,23,550^优秀 北京 2 log.txt
2 小丽,女,22,560^优秀 河北 2 log.txt
3 小磊,男,24,530^良好 河南 2 log.txt
4 小召,男,23,540^优良 山东 2 log.txt
5 小欣,女,23,545^优良 山西 2 log.txt
5.3 如何连接字符串
我们将每一列使用竖线|
分割,方法是将分隔符
用双引号
引住,然后紧挨变量
,如下:
>>> awk -F"---" '{print NR"|"$1"|"$2"|"NF"|"FILENAME}' log.txt
__________________________________
1|小明,男,23,550^优秀|北京|2|log.txt
2|小丽,女,22,560^优秀|河北|2|log.txt
3|小磊,男,24,530^良好|河南|2|log.txt
4|小召,男,23,540^优良|山东|2|log.txt
5|小欣,女,23,545^优良|山西|2|log.txt
5.3 使用内置函数
使用内置函数systime()
输出时间戳,如下:
>>> awk -F"---" '{print NR"|"$1"|"$2"|"NF"|"FILENAME"|"systime()}' log.txt
—————————————————————————————————————————————
1|小明,男,23,550^优秀|北京|2|log.txt|1587022443
2|小丽,女,22,560^优秀|河北|2|log.txt|1587022443
3|小磊,男,24,530^良好|河南|2|log.txt|1587022443
4|小召,男,23,540^优良|山东|2|log.txt|1587022443
5|小欣,女,23,545^优良|山西|2|log.txt|1587022443
使用length
输出行长度
大于5 的行:
>>> awk 'length>5' log.txt
——————————————————————————
小明,男,23,550^优秀---北京
小丽,女,22,560^优秀---河北
小磊,男,24,530^良好---河南
小召,男,23,540^优良---山东
小欣,女,23,545^优良---山西
5.4 使用pattern
使用pattern
只输出男
同学信息,$0
表示每一行的原始内容,如下:
>>> awk '/男/ {print NR"|"$0}' log.txt
__________________________
1|小明,男,23,550^优秀---北京
3|小磊,男,24,530^良好---河南
4|小召,男,23,540^优良---山东
5.5 使用逻辑非!
使用逻辑非!
,输出不为男
的学生信息:
>>> awk '!/男/ {print NR"|"$0}' log.txt
__________________________
2|小丽,女,22,560^优秀---河北
5|小欣,女,23,545^优良---山西
5.6 使用关系表达式
使用关系表达式
,输出年龄为23 的学生信息:
# 以逗号分割后的第三列为年龄
>>> awk -F, '$3==23 {print $3, $0}' log.txt
____________________________
23 小明,男,23,550^优秀---北京
23 小召,男,23,540^优良---山东
23 小欣,女,23,545^优良---山西
也可以写成如下方式,输出年龄为23或25 的学生信息:
>>> awk -F, '$3==23 || $3==25' log.txt
________________________
小明,男,23,550^优秀---北京
小召,男,23,540^优良---山东
小欣,女,23,545^优良---山西
5.7 使用模式匹配表达式
使用模式匹配表达式
,输出年龄为24 的学生信息:
awk -F, '$3 ~/24/ {print $3, $0}' log.txt
24 小磊,男,24,530^良好---河南
5.8 使用if 语句
awk
也支持if 语句
,输出年龄为22 的学生信息,if 语句
写在大括号{}
内:
>>> awk -F, '{if($3==22) print $3, $0}' log.txt
___________________________
22 小丽,女,22,560^优秀---河北
5.9 使用NR 输出基数行
# `NR % 2 == 1` 为基数行
>>> awk -F, 'NR % 2 == 1 {print NR, $0}' log.txt
——————————————————————————
1 小明,男,23,550^优秀---北京
3 小磊,男,24,530^良好---河南
5 小欣,女,23,545^优良---山西
5.10 使用NF 输出倒数第一列
$(NF)
为倒数第1列,$(NF-1)
为倒数第2列,$(NF-2)
为倒数第3列,依次类推。
如下输出倒数第1列:
>>> awk -F, '{print $(NF)}' log.txt
______________
550^优秀---北京
560^优秀---河北
530^良好---河南
540^优良---山东
545^优良---山西
5.11 使用BEGIN 块
BEGIN 块
中可以是任意多个合法的awk 语句
。
>>> awk -F, 'BEGIN{print "姓名", "性别", "年龄"} {print $1, $2, $3}' log.txt
____________
姓名 性别 年龄
小明 男 23
小丽 女 22
小磊 男 24
小召 男 23
小欣 女 23
5.12 使用END 块
END 块
中可以是任意多个合法的awk 语句
,BEGIN 块
与END 块
可以一起使用。
>>> awk -F, 'BEGIN{print "姓名", "性别", "年龄"} {print $1, $2, $3} END{print "共有"NR"行信息"}' log.txt
____________
姓名 性别 年龄
小明 男 23
小丽 女 22
小磊 男 24
小召 男 23
小欣 女 23
共有5行信息
5.13 使用范围模板
输出小丽和小欣之间的行数据:
>>> awk '/小丽/,/小欣/' log.txt
______________________________
小丽,女,22,560^优秀---河北
小磊,男,24,530^良好---河南
小召,男,23,540^优良---山东
小欣,女,23,545^优良---山西
(完。)
linux awk 命令实用手册的更多相关文章
- linux uniq 命令实用手册
Linux uniq 命令用于处理文本内容中的重复行. 这里我们只介绍其常用参数,其完整用法可参见man uniq. 例如,我们有如下文件内容: >>> cat log.txt __ ...
- linux sort 命令实用手册
Linux 中的sort 命令是一个很实用的工具,用于对文本内容以行为单位进行ASCII 码排序,默认按照升序进行排序(当然也可以按照降序). sort 命令的格式如下: sort `参数` `文件名 ...
- linux awk命令详解
linux awk命令详解 简介 awk是一个强大的文本分析工具,相对于grep的查找,sed的编辑,awk在其对数据分析并生成报告时,显得尤为强大.简单来说awk就是把文件逐行的读入,以空格为默认分 ...
- Linux awk命令常见使用方法介绍
Linux awk命令常见使用方法介绍 By:授客 QQ:1033553122 awk运行方式有三种,其中常用的为命令行方式 awk [-F field_separator] '{patter ...
- Linux awk命令 --三剑客老大
Linux awk命令 --三剑客老大 基本用法: awk [参数] ['找谁{干啥}'] 文件 参数: -F 分隔符 -v 创建或修改awk变量 OFS 输出分割符 awk显示每一列的时候分隔 ...
- linux awk命令详解,使用system来内嵌系统命令, awk合并两列
linux awk命令详解 简介 awk是一个强大的文本分析工具,相对于grep的查找,sed的编辑,awk在其对数据分析并生成报告时,显得尤为强大.简单来说awk就是把文件逐行的读入,以空格为默认分 ...
- linux awk命令详解--转载
awk是行处理器: 相比较屏幕处理的优点,在处理庞大文件时不会出现内存溢出或是处理缓慢的问题,通常用来格式化文本信息 awk处理过程: 依次对每一行进行处理,然后输出 awk命令形式: awk [-F ...
- [转]linux awk命令详解
原文链接 : http://blog.chinaunix.net/uid-23302288-id-3785105.html awk是行处理器: 相比较屏幕处理的优点,在处理庞大文件时不会出现内存溢 ...
- Linux awk命令详解??????????(研究)
http://blog.chinaunix.net/uid-25120309-id-3801250.html 一. AWK 说明 awk是一种编程语言,用于在linux/unix下对文本和数据进行 ...
随机推荐
- Pytest系列(4) - fixture的详细使用
如果你还想从头学起Pytest,可以看看这个系列的文章哦! https://www.cnblogs.com/poloyy/category/1690628.html 前言 前面一篇讲了setup.te ...
- GitHub 热点速览 Vol.14:周获 2k+ Vim 掀起三维编程风
作者:HelloGitHub-小鱼干 摘要(用于 公众号/博客园等地方)寓教于乐,应该是上周 Trending 的主题了,无论是被多人转发推荐的三维 Vim 项目 Vim³ 或者是流体运动的 WebG ...
- 2019ICPC(银川) - Delivery Route(强连通分量 + 拓扑排序 + dijkstra)
Delivery Route 题目:有n个派送点,x条双向边,y条单向边,出发点是s,双向边的权值均为正,单向边的权值可以为负数,对于单向边给出了一个限制:如果u->v成立,则v->u一定 ...
- 用全站 CDN 部署 Discourse 论坛
Discourse 介绍 Discourse 是一款由 Stack Overflow 的联合创始人--Jeff Atwood,基于 Ruby on Rails 开发的开源论坛.相较于传统论坛,Disc ...
- 《SEMI-SUPERVISED CLASSIFICATION WITH GRAPH CONVOLUTIONAL NETWORKS》论文阅读
背景简介 GCN的提出是为了处理非结构化数据(相对于image像素点而言).CNN处理规则矩形的网格像素点已经十分成熟,其最大的特点就是利用卷积进行①参数共享②局部连接,如下图: 那么类比到非结构数据 ...
- 掌握使用gitlab ci构建Android包的正确方式
最近公司在做移动端的项目,自然而然的需要搭建打包的环境.本来计划用Jenkins的,但是发现在gitlab上创建完项目后,提示去配置pipeline,于是决定用gitlab去尝试下,毕竟我觉得Jenk ...
- PTA数据结构与算法题目集(中文) 7-34
PTA数据结构与算法题目集(中文) 7-34 7-34 任务调度的合理性 (25 分) 假定一个工程项目由一组子任务构成,子任务之间有的可以并行执行,有的必须在完成了其它一些子任务后才能执行.“ ...
- .net core 对dapper 新增 更新 删除 查询 的扩展
早期的版本一直用的是EF,但是EF一直有个让人很不爽的东西需要mapping 实体对象:如果没有映射的情况下连查询都没办法: 所以后来开始使用dapper 但是dapper都是直接用的是sql,这个对 ...
- 使用基于vuecli创建的目录推送到指定远程分支
笔者使用vuecli创建项目目录以后,在想将该目录提交到远程仓库时发现行不通,在忙活了一下午以后写下此文 1.github上新建一空分支,然后克隆该分支地址: https://github.com/ ...
- 通过STC15F2K60S2控制SIM900A发中英文短信,打电话
本文通过串口通信,使用STC15系列单片机实现发短信打电话功能. 一. 注意事项 1. 首先要确定手机卡已经注册到网络,具备打电话发短信功能 2. 正确的硬件连接: P3.0-----STXD或者5V ...