原文：http://blog.hexu.org/archives/41.shtml#id2874788

awk编程

14.1. 变量

• 在awk中，变量不需要定义就可以直接使用，变量类型可以是数字或字符串。赋值格式：Variable = expression，
  如$ awk ‘$1 ~/test/{count = $2 + $3; print count}’ test,上式的作用是,awk先扫描第一个域，一旦test匹配，就把第二个域的值加上第三个域的值，并把结果赋值给变量count，最后打印出来。
• awk 可以在命令行中给变量赋值，然后将这个变量传输给awk脚本。
  如$ awk -F: -f awkscript month=4 year=2004 test，上式的month和year都是自定义变量，分别被赋值为4和2004。在awk脚本中，这些变量使用起来就象是在脚本中建立的一样。注意，如果参数前面出现test，那么在BEGIN语句中的变量就不能被使用。

• 域变量也可被赋值和修改，
  如$ awk ‘{$2 = 100 + $1; print }’ test,上式表示，如果第二个域不存在，awk将计算表达式100加$1的值，并将其赋值给$2，如果第二个域存在，则用表达式的值覆盖$2原来的值。 再例如：$ awk ‘$1 == “root”{$1 =”test”;print}’ test，如果第一个域的值是“root”，则把它赋值为“test”，注意，字符串一定要用双引号。
• 内建变量的使用。 变量列表在前面已列出，现在举个例子说明一下。$ awk -F: ‘{IGNORECASE=1; $1 == “MARY”{print NR,$1,$2,$NF}’test，把IGNORECASE设为1代表忽略大小写，打印第一个域是mary的记录数、第一个域、第二个域和最后一个 域。

14.2. BEGIN模块

BEGIN 模块后紧跟着动作块，这个动作块在awk处理任何输入文件之前执行。所以它可以在没有任何输入的情况下进行测试。它通常用来改变内建变量的值，如OFS, RS和FS等，以及打印标题。如：$ awk ‘BEGIN{FS=”:”; OFS=”\t”; ORS=”\n\n”}{print $1,$2,$3} test。上式表示，在处理输入文件以前，域分隔符(FS)被设为冒号，输出文件分隔符(OFS)被设置为制表符，输出记录分隔符(ORS)被设置为两个 换行符。$ awk ‘BEGIN{print “TITLE TEST”}只打印标题。

14.3. END模块

END不匹配任何的输入文件，但是执行动作块中的所有动作，它在整个输入文件处理完成后被执行。如$ awk ‘END{print “The number of records is” NR}’ test，上式将打印所有被处理的记录数。

14.4. 重定向和管道

• awk 可使用shell的重定向符进行重定向输出，如：$ awk ‘$1 = 100 {print $1 > “output_file” }’ test。上式表示如果第一个域的值等于100，则把它输出到output_file中。也可以用>>来重定向输出，但不清空文件，只做追加 操作。
• 输出重定向需用到getline函数。getline从标准输入、管道或者当前正在处理的文件之外的其他输入文件 获得输入。它负责从输入获得下一行的内容，并给NF,NR和FNR等内建变量赋值。如果得到一条记录，getline函数返回1，如果到达文件的末尾就返 回0，如果出现错误，例如打开文件失败，就返回-1。如：$ awk ‘BEGIN{ “date” | getline d; print d}’ test。执行linux的date命令，并通过管道输出给getline，然后再把输出赋值给自定义变量d，并打印它。

  $ awk ‘BEGIN{“date” | getline d; split(d,mon); print mon[2]}’ test。执行shell的date命令，并通过管道输出给getline，然后getline从管道中读取并将输入赋值给d，split函数把变量d转 化成数组mon，然后打印数组mon的第二个元素。

  $ awk ‘BEGIN{while( “ls” | getline) print}’，命令ls的输出传递给geline作为输入，循环使getline从ls的输出中读取一行，并把它打印到屏幕。这里没有输入文件，因为 BEGIN块在打开输入文件前执行，所以可以忽略输入文件。

  $ awk ‘BEGIN{printf “What is your name?”; getline name < “/dev/tty” } $1 ~name {print “Found” name on line “, NR “.”} END{print “See you,” name “.”} test。在屏幕上打印”What is your name?”,并等待用户应答。当一行输入完毕后，getline函数从终端接收该行输入，并把它储存在自定义变量name中。如果第一个域匹配变量 name的值，print函数就被执行，END块打印See you和name的值。

  $ awk ‘BEGIN{while (getline < “/etc/passwd” > 0) lc++; print lc}’。awk将逐行读取文件/etc/passwd的内容，在到达文件末尾前，计数器lc一直增加，当到末尾时，打印lc的值。注意，如果文件不存 在，getline返回-1，如果到达文件的末尾就返回0，如果读到一行，就返回1，所以命令 while (getline < “/etc/passwd”)在文件不存在的情况下将陷入无限循环，因为返回-1表示逻辑真。

• 可以在awk中打开一个管 道，且同一时刻只能有一个管道存在。通过close()可关闭管道。如：$ awk ‘{print $1, $2 | “sort” }’ test END {close(“sort”)}。awd把print语句的输出通过管道作为linux命令sort的输入,END块执行关闭管道操作。
• system函数可以在awk中执行linux的命令。如：$ awk ‘BEGIN{system(“clear”)’。
• fflush函数用以刷新输出缓冲区，如果没有参数，就刷新标准输出的缓冲区，如果以空字符串为参数，如fflush(“”),则刷新所有文件和管道的输出缓冲区。

14.5. 条件语句

awk中的条件语句是从C语言中借鉴过来的，可控制程序的流程。

14.5.1. if语句

$ awk ‘{if ($1 <$2) print $2 “too high”}’ test。如果第一个域小于第二个域则打印。

$ awk ‘{if ($1 < $2) {count++; print “ok”}}’ test.如果第一个域小于第二个域，则count加一，并打印ok。

14.5.2. if/else语句，用于双重判断。

$ awk ‘{if ($1 > 100) print $1 “bad” ; else print “ok”}’ test。如果$1大于100则打印$1 bad,否则打印ok。

$ awk ‘{if ($1 > 100){ count++; print $1} else {count–; print $2}’ test。如果$1大于100，则count加一，并打印$1，否则count减一，并打印$1。

14.5.3. if/else else if语句，用于多重判断。

14.6. 循环

• awk有三种循环:while循环；for循环；special for循环。
• $ awk ‘{ i = 1; while ( i <= NF ) { print NF,$i; i++}}’ test。变量的初始值为1，若i小于可等于NF(记录中域的个数),则执行打印语句，且i增加1。直到i的值大于NF.
• $ awk ‘{for (i = 1; i<NF; i++) print NF,$i}’ test。作用同上。
• breadk、continue语句。
  break用于在满足条件的情况下跳出循环；
  continue用于在满足条件的情况下忽略后面的语句，直接返回循环的顶端。如：
•  

  1 2 3 4

  {for ( x=3; x<=NF; x++)             if ($x<0){print "Bottomed out!"; break}} {for ( x=3; x<=NF; x++)             if ($x==0){print "Get next item"; continue}}

• next语句从输入文件中读取一行，然后从头开始执行awk脚本。如：
  
   

  1 2 3

  {if ($1 ~/test/){next}     else {print} }

• exit语句用于结束awk程序，但不会略过END块。退出状态为0代表成功，非零值表示出错。

14.7. 数组

awk中的数组的下标可以是数字和字母，称为关联数组。

14.7.1. 下标与关联数组

• 用 变量作为数组下标。如：$ awk {name[x++]=$2};END{for(i=0;i<NR;i++) print i,name[i]}’ test。数组name中的下标是一个自定义变量x，awk初始化x的值为0，在每次使用后增加1。第二个域的值被赋给name数组的各个元素。在END 模块中，for循环被用于循环整个数组，从下标为0的元素开始，打印那些存储在数组中的值。因为下标是关健字，所以它不一定从0开始，可以从任何值开始。
• special for循环用于读取关联数组中的元素。格式如下：
  
   

  1 2 3 4

  {for (item in arrayname){          print arrayname[item]          } }

  
  $ awk ‘/^tom/{name[NR]=$1}; END{for(i in name){print name[i]}}’ test。打印有值的数组元素。打印的顺序是随机的。
• 用字符串作为下标。如：count["test"]
• 用 域值作为数组的下标。一种新的for循环方式，for (index_value in array) statement。如:$ awk ‘{count[$1]++} END{for(name in count) print name,count[name]}’ test。该语句将打印$1中字符串出现的次数。它首先以第一个域作数组count的下标，第一个域变化，索引就变化。
• delete 函数用于删除数组元素。如：$ awk ‘{line[x++]=$1} END{for(x in line) delete(line[x])}’ test。分配给数组line的是第一个域的值，所有记录处理完成后，special for循环将删除每一个元素。

14.8. awk的内建函数

14.8.1. 字符串函数

• sub函数匹配记录中最大、最靠左边的子字符串的正则表达式，并用替换字符串替换这些字符串。如果没有指定目标字符串就默认使用整个记录。替换只发生在第一次匹配的时候。格式如下：
  
   

  1 2	sub (regular expression, substitution string):             sub (regular expression, substitution string, target string)

  
  实例：
  
   

  1 2	$ awk ‘{ sub(/test/, "mytest"); print }‘ testfile             $ awk ‘{ sub(/test/, "mytest"); $1}; print }‘ testfile

  
  第一个例子在整个记录中匹配，替换只发生在第一次匹配发生的时候。如要在整个文件中进行匹配需要用到gsub

   

  第二个例子在整个记录的第一个域中进行匹配，替换只发生在第一次匹配发生的时候。

• gsub函数作用如sub，但它在整个文档中进行匹配。格式如下：

   

   

  1 2	gsub (regular expression, substitution string)             gsub (regular expression, substitution string, target string)

  实例：

   

  1 2	$ awk ‘{ gsub(/test/, "mytest"); print }‘ testfile             $ awk ‘{ gsub(/test/, "mytest"), $1 }; print }‘ testfile

  第一个例子在整个文档中匹配test，匹配的都被替换成mytest。

  第二个例子在整个文档的第一个域中匹配，所有匹配的都被替换成mytest。

• index函数返回子字符串第一次被匹配的位置，偏移量从位置1开始。格式如下：

   

   

  1	index(string, substring)

  实例：

   

  1	$ awk ‘{ print index("test", "mytest") }‘ testfile

  实例返回test在mytest的位置，结果应该是3。

• length函数返回记录的字符数。格式如下：

   

   

  1 2	length( string )             length

  实例：

   

  1 2	$ awk ‘{ print length( "test" ) }‘             $ awk ‘{ print length }‘ testfile

  第一个实例返回test字符串的长度。

  第二个实例返回testfile文件中第条记录的字符数。

• substr函数返回从位置1开始的子字符串，如果指定长度超过实际长度，就返回整个字符串。格式如下：

   

   

  1 2	substr( string, starting position )             substr( string, starting position, length of string )

  实例：

   

  1	$ awk ‘{ print substr( "hello world", 7,11 ) }‘

  上例截取了world子字符串。

• match函数返回在字符串中正则表达式位置的索引，如果找不到指定的正则表达式则返回0。match函数会设置内建变量RSTART为字符串中子字符串的开始位置，RLENGTH为到子字符串末尾的字符个数。substr可利于这些变量来截取字符串。函数格式如下：

   

   

  1	match( string, regular expression )

  实例：

   

  1 2	$ awk ‘{start=match("this is a test",/[a-z]+$/); print start}‘             $ awk ‘{start=match("this is a test",/[a-z]+$/); print start, RSTART, RLENGTH }‘

  第一个实例打印以连续小写字符结尾的开始位置，这里是11。

  第二个实例还打印RSTART和RLENGTH变量，这里是11(start)，11(RSTART)，4(RLENGTH)。

• toupper和tolower函数可用于字符串大小间的转换，该功能只在gawk中有效。格式如下：

   

   

  1 2	toupper( string )             tolower( string )

  实例：

   

  1	$ awk ‘{ print toupper("test"), tolower("TEST") }‘

   

• split函数可按给定的分隔符把字符串分割为一个数组。如果分隔符没提供，则按当前FS值进行分割。格式如下：

   

   

  1 2	split( string, array, field separator )             split( string, array )

  实例：

   

  1	$ awk ‘{ split( "20:18:00", time, ":" ); print time[2] }‘

  上例把时间按冒号分割到time数组内，并显示第二个数组元素18。

14.8.2. 时间函数

• systime函数返回从1970年1月1日开始到当前时间(不计闰年)的整秒数。格式如下：

   

   

  1

  systime()

  实例：

   

  1	$ awk ‘{ now = systime(); print now }‘

   

• strftime函数使用C库中的strftime函数格式化时间。格式如下：

   

   

  1	systime( [format specification][,timestamp] )

   

  Table 3. 日期和时间格式说明符

  格式	描述
  %a	星期几的缩写(Sun)
  %A	星期几的完整写法(Sunday)
  %b	月名的缩写(Oct)
  %B	月名的完整写法(October)
  %c	本地日期和时间
  %d	十进制日期
  %D	日期 08/20/99
  %e	日期，如果只有一位会补上一个空格
  %H	用十进制表示24小时格式的小时
  %I	用十进制表示12小时格式的小时
  %j	从1月1日起一年中的第几天
  %m	十进制表示的月份
  %M	十进制表示的分钟
  %p	12小时表示法(AM/PM)
  %S	十进制表示的秒
  %U	十进制表示的一年中的第几个星期(星期天作为一个星期的开始)
  %w	十进制表示的星期几(星期天是0)
  %W	十进制表示的一年中的第几个星期(星期一作为一个星期的开始)
  %x	重新设置本地日期(08/20/99)
  %X	重新设置本地时间(12：00：00)
  %y	两位数字表示的年(99)
  %Y	当前月份
  %Z	时区(PDT)
  %%	百分号(%)

  实例：
  $ awk ‘{ now=strftime( “%D”, systime() ); print now }’
  $ awk ‘{ now=strftime(“%m/%d/%y”); print now }’

14.8.3. 内建数学函数

Table 4.

14.8.4. 自定义函数

在awk中还可自定义函数，格式如下：