gawk基础及进阶

GUN awk:
文本处理三工具:grep,sed,awd
grep,egrep,fgrep:文本过滤工具:pattern
sed:行编辑器
模式空间、保持空间
awk:报告生成器,格式化文本输出;

AWK:Aho,Weinberger,Kernighan –> New AWK,NAWK

GNU awk,gawk

gawk – pattern scanning and processing language
基本用法:gawk [options] ‘program’ FILE …
语句之间用分号分隔

print,printf

选项:
-F:指明输入时用到的字段分隔符;
-v var=value:自定义变量;

1、print 
print item1,item2,…

要点:
(1)逗号是分隔符;
(2)输出的各item可以字符串,也可以是数值;当前记录的字段、变量或awk的表达式;
(3)如省略item,相当于print $0;

2、变量
2.1 内建变量
FS:input field seperator,默认为空白字符;
OFS:output field seperator,默认为空白字符;
RS:input record seperator,输入时的换行符;
ORS:output record seperator,输出时的换行符;

NF:number of field,字段数量
{print NF},{print $NF}
NR:number of record,行数;
FNR:各文件分别计数;行数;

FILENAME:当前正在处理的文件名
ARGC:命令行参数的个数;
ARGV:数组,保存的是命令行所给定的各参数
2.2 自定义变量
(1)-v var=value

变量名区分字符大小写;

(2)在program中直接定义
3、printf命令

格式化输出:printf FORMAT,item1,item2,…

(1)FORMAT必须要给出;
(2)print不会自动换行,需要显示给出换行控制符,]n
(3)FORMAT中需要分别为后面的每个item制定一个格式化符号;

格式符:
%c:显示字符的ASCII码;
%d,%i:显示十进制整数;
%e,%E:科学计数法数值显示;
%f:显示为浮点数;
%g,%G:以科学计数法灬或浮点形式显示数值;
%s:显示字符串;
%u:无符号整数;
%%:显示%自身;

修饰符:
#[.#]:第一个数字控制显示的宽度;第二个#表示小数点后的精度;
%3.1f
-:左对齐
+:显示数值的符号

4、操作符

算数运算操作符:
x+y,x-y,xy,x/y,x^y,x%y
-x
+x:转换为数值;

字符串操作符:没有符号的操作符,字符串连接

赋值操作符:
=,+=,-=,
=,/=,%=,^=
++,–
比较操作符:
>, >=, <, <=, !=, ==

模式匹配符:
~:是否匹配
~!:是否不匹配

逻辑操作符:
&&
||

函数调用:
function_name(argu1,argu2,…)

条件表达式:
selector?if-true-expression:if-false-expression

示例:
awk -F: ‘{$3>=1000?usertype=”Common User”:usertype=”Sysadmin or SysUser”;printf”%15s:%s\n”,$1,usertype}’ /etc/passwd
5、PATTERN
(1) empty:空模式,匹配每一行;
(2) /regular expression/:仅处理能够被此处的模式匹配到的行;
示例:
[root@localhost ~]# awk ‘/^UUID/{print $1}’ /etc/fstab
UUID=fd541d64-e144-49d4-9b77-6899ba3601cb
UUID=3a0f13ab-55c1-407c-b9c3-bcc8ddd2510a
UUID=9c4ac38f-3aff-470b-b6a1-d6ac69b9d7e7
UUID=946ed936-3e7b-4a30-b07b-41a966c7fe7f
UUID=40122e09-2c38-4e40-8d28-7a49b14f6ab9
(3) 关系表达式 relational expression:结果有”真”有”假”,结果为“真”才会被处理;
真:结果为非0值,非空字符串  
(4) line ranges:行范围
startline;endline:/pat1/,/pat2/

注意:不支持直接给出数字的格式
~]# awk -F: ‘(NR>=2&&NR<=10){print $1}’ /etc/passwd
(5) BEGIN/END模式
BEGIN{}: 仅在开始处理文件中的文本之前执行一次;
END{}:仅在文本处理完成之后执行一次;

6、常用的action

(1) Expressions :表达式
(2) Contronl statements :控制语句: if,while等;
(3) Compound statements :组合语句;
(4) input statements 输入语句
(5) output statements 输出语句

7、控制语句

if(condition) {statements}
if(condition) {statements} else {statements}
while(condition) {statements}
do {statements} while(condition)
for(expr1;expr2;expr3) {statements}
break
continue
delete array[index]
delete array
exit
{ statements }

7.1 if-else

语法:if(condition) statements [else statement]

~]# awk -F: ‘{if($3>=1000) {printf “Common user: %s\n”,$1} else {printf “root or Sysuser: %s\n”,$1}}’ /etc/passwd

 ~]# awk -F: ‘{if($NF==”/bin/bash”) print $1}’ /etc/passwd

 ~]# df -h | awk -F[%] ‘/^\/dev/{print $1}’|awk ‘{if($NF>=20) print $1}’

使用场景:对awk取得的整行或某个字段做条件判断;
7.2 while循环
语法:while(condition) statement
条件“真”,进入循环;条件“假”,退出循环;

使用场景:对一行内的多个字段逐一类似处理时使用;对数组中的各元素逐一处理时使用;

7.3 do-while循环
语法:do statement while(condtion)
意义:至少执行一次循环体

7.4 for循环
语法:for(expr1;expr2;expr3) statement

for(variable assignment;condition;iteration process) {for-body}

特殊用法:
能够遍历数组中的每一个元素;
语法:for(var in array) {for-body}
 变量

7.5 switch语句
语法:switch(expression) {case VALUE1 or /REGEXP/: statement; caseVALUE2 or /REGEXP2/: statement;…; default: statement}

7.6 break和continue
break [n]
continue

7.7 next

提前结束对本行的处理而直接进入下一行;

~]# awk -F: ‘{if($3%2!=0) next; print $1,$3}’ /etc/passwd

8、array (awk中的数组)

关联数组:array[index-expression]

index-expression:
(1) 可使用任意字符串;字符串要使用双引号;
(2) 如果某数组元素事先不存在,在引用时,awk会自动创建此元素,并将其值初始化为“空串”;

若要判断数组中是否存在某元素,要使用“index in array”格式进行;

weekdays[mon]=”Monday”
若要遍历数组中的每个元素,要使用for循环:
for(var in array) [for-body]

~]# awk ‘BEGIN{weekdays[“mon”]=”Monday”;weekdays[“tue”]=”Tuesday”;for(i in weekdays ) {print weekdays[i]}}’

注意:var会遍历array的每个索引;
state[“LISTEN”]++
state[“ESTABLISHED”]++  
 
9、函数

9.1 内置函数
数值处理:
rand():返回0和1之间一个随机数

字符串处理:
length([s]): 返回指定字符串的长度;
sub(r,s,[t]):以r表示的模式来查找t所表示的字符中的匹配的内容,并将其第一次出现替换为s所表示的内容;
gsub(r,s,[t]):以r表示的模式来查找t所表示的字符中的匹配的内容,并将其所有出现均替换为s所表示的内容;

split(s,a,[r]):以r为分隔符去切割字符串s,并将切割后的结果保存至a所表示的数组中;

9.2 自定义函数

原创文章,作者:木,如若转载,请注明出处:http://www.178linux.com/76742

(0)
木
上一篇 2017-05-22
下一篇 2017-05-22

相关推荐

  • N22-第六周作业

    1、复制/etc/rc.d/rc.sysinit文件至/tmp目录,将/tmp/rc.sysinit文件中的以至少一个空白字符开头的行的行首加#; :%s@[[:space:]]\+@#&@g    2、复制/boot/grub/grub.conf至/tmp目录中,删除/tmp/grub.conf文件中的行首的空白字符; :%s#…

    Linux干货 2016-09-26
  • shell编程的常见实例

    1. 写一个脚本/root/bin/argsnum.sh 用户输入一个文件路径并查找文件中空白行的个数 ,如果用户没有输入路径则自动退出  实验结果如下: 如果不输入任何路径程序会自动退出:实验结果如下: 用其他方法验证是不是有两行空行: (个人总结): 1.   read 命令,如果用 -p 来做提示信息,则不支持\n换行,这…

    Linux干货 2016-08-12
  • inotify介绍及rsync + inotify 实时同步备份

    1、前言 rsync (remote sync)是一款非常好的数据同步工具,能够通过对比同步双方的数据变动,实现增量同步,还可以通过LAN/WAN实现远程多台主机间文件的同步,还能结合crond任务计划来执行自动备份,又可以结合ssh实现远程数据备份的安全,种种特性使他看起来相当优秀。但如果需备份数据十分庞大时,它的不足之处就显现出来了,比如每次执…

    Linux干货 2016-06-15
  • python装饰器详解

    python之装饰器详解 一、装饰器定义 定义一个函数,可以接受一个函数作为参数,对该函数进行一些包装,不改变函数的本身。 二、装饰器四部曲(分解) 1、函数可赋值给变量。若赋值给变量的是调用后的函数,变量的值就是return的返回值。 切记:函数赋值给变量,只看return的值。分清楚函数是处于调用状态还是未被调用状态。若函数没有写return,默认ret…

    2017-02-08
  • 推荐-Nginx Rewrite的应用-根据访问平台做简单跳转

    Nginx Rewrite的应用-根据访问平台做简单跳转 Nginx Rewrite的应用-根据访问平台做简单跳转 Rewrite模块简介 Rewrite的配置 使用不同平台进行测试 配置参数详解 Rewrite模块简介    Rewrite最主要的作用就是对URL进行重写,即重定向。举个简单的例子,我们用电脑打开淘宝显示出的页面与手机打开显示出的页面,或者…

    Linux干货 2016-03-27
  • linux第一周学习

      一周过去了,这周学习并新认识了不少内容。由一开始的萌逼状态,逐步清晰的认识了不少内容。相信我会越来越好的。 文件与目录 touch touch newfile         创建空文件touch oldfile          更新文件的三个…

    Linux干货 2017-09-02