Linux基本命令：awk文字處理命令

awk命令簡介：
      awk是一個強大的文字分析工具,通常，awk是以檔案的每一行,為處理單位的。awk每接收檔案的一行，然後執行相應的命令，來處理文字。

 1．命令格式：
  awk 'pattern {action}' {filenames}

    其中 pattern 表示 AWK 在資料中查詢的內容，而 action 是在找到匹配內容時所執行的一系列命令。花括號（{}）不需要在程式中始終出現，但它們用於根據特定的模式對一系列指令進行分組。 pattern就是要表示的正規表示式，用斜槓括起來。
    呼叫awk有幾種方式：
        命令列方式：
    awk  [-F field-separator] 'commands' input-file(s)
    其中，commands 是awk的處理命令，-F 表示區域分隔符是可選項。input-file(s) 是需要處理的文字檔案。在awk中，檔案的每一行中，由區域分隔符分開的每一項稱為一個區域。通常，在不指定-F區域分隔符的情況下，預設的區域分隔符是空格。
        shell指令碼方式：
      將所有的awk命令插入一個檔案，並使用awk程式可執行，然後awk命令直譯器作為指令碼的首行，以便通過鍵入指令碼名稱來呼叫。相當於shell指令碼首行的：#!/bin/bash可以換成：#!/bin/awk3.將所有的awk命令插入一個單獨檔案，然後呼叫:awk -f awk-script-file input-file(s) 其中，-f選項：載入awk-script-file中的awk指令碼，input-file(s)：是需要處理的文字檔案

2．命令功能：
awk是一個強大的文字分析工具，行編輯器，相對於grep的查詢，sed的編輯，awk在其對資料分析並生成報告時，顯得尤為強大。簡單來說awk就是把檔案逐行的讀入，以空格為預設分隔符將每行切片，切開的部分再進行各種分析處理。

3．命令引數：
-F fs or --field-separator fs
指定輸入檔案折分隔符，fs是一個字串或者是一個正規表示式，如-F:。

-v var=value or --asign var=value
賦值一個使用者定義變數。

-f scripfile or --file scriptfile
從指令碼檔案中讀取awk命令。

-mf nnn and -mr nnn
對nnn值設定內在限制，-mf選項限制分配給nnn的最大塊數目；-mr選項限制記錄的最大數目。這兩個功能是Bell實驗室版awk的擴充套件功能，在標準awk中不適用。

-W compact or --compat, -W traditional or --traditional
在相容模式下執行awk。所以gawk的行為和標準的awk完全一樣，所有的awk擴充套件都被忽略。

-W copyleft or --copyleft, -W copyright or --copyright
列印簡短的版權資訊。

-W help or --help, -W usage or --usage
列印全部awk選項和每個選項的簡短說明。

-W lint or --lint
列印不能向傳統unix平台移植的結構的警告。

-W lint-old or --lint-old
列印關於不能向傳統unix平台移植的結構的警告。

-W posix
開啟相容模式。但有以下限制，不識別：/x、函數關鍵字、func、換碼序列以及當fs是一個空格時，將新行作為一個域分隔符；操作符**和**=不能代替^和^=；fflush無效。

-W re-interval or --re-inerval
允許間隔正規表示式的使用，參考(grep中的Posix字元類)，如括號表示式[[:alpha:]]。

-W source program-text or --source program-text
使用program-text作為原始碼，可與-f命令混用。

-W version or --version
列印bug報告資訊的版本。

awk內建變數
awk有許多內建變數用來設定環境資訊，這些變數可以被改變，下面給出了最常用的一些變數。
ARGC              命令列引數個數
ARGV              命令列引數排列
ENVIRON            支援佇列中系統環境變數的使用
FILENAME          awk瀏覽的檔名
FNR                瀏覽檔案的記錄數
FS                設定輸入域分隔符，等價於命令列 -F選項
NF                瀏覽記錄的域的個數
NR                已讀的記錄數
OFS                輸出域分隔符
ORS                輸出記錄分隔符
RS                控制記錄分隔符 此外,$0變數是指整條記錄。$1表示當前行的第一個域,$2表示當前行的第二個域,......以此類推。
統計/etc/passwd:檔名，每行的行號，每行的列數，對應的完整行內容:
#awk -F ':'  '{print "filename:" FILENAME ",linenumber:" NR ",columns:" NF ",linecontent:"$0}' /etc/passwdfilename:/etc/passwd,linenumber:1,columns:7,linecontent:root:x:0:0:root:/root:/bin/bash
filename:/etc/passwd,linenumber:2,columns:7,linecontent:daemon:x:1:1:daemon:/usr/sbin:/bin/shfilename:/etc/passwd,linenumber:3,columns:7,linecontent:bin:x:2:2:bin:/bin:/bin/shfilename:/etc/passwd,linenumber:4,columns:7,linecontent:sys:x:3:3:sys:/dev:/bin/sh使用printf替代print,可以讓程式碼更加簡潔，易讀
 awk  -F ':'  '{printf("filename:%10s,linenumber:%s,columns:%s,linecontent:%sn",FILENAME,NR,NF,$0)}' /etc/passwd
print和printf
awk中同時提供了print和printf兩種列印輸出的函數。
其中print函數的引數可以是變數、數值或者字串。字串必須用雙引號參照，引數用逗號分隔。如果沒有逗號，引數就串聯在一起而無法區分。這裡，逗號的作用與輸出檔案的分隔符的作用是一樣的，只是後者是空格而已。
printf函數，其用法和C語言中printf基本相似,可以格式化字串,輸出複雜時，printf更加好用，程式碼更易懂。
 awk程式設計
 變數和賦值
除了awk的內建變數，awk還可以自定義變數。
下面統計/etc/passwd的賬戶人數
  /etc/::root:/root:/bin/count是自定義變數。之前的action{}裡都是只有一個print,其實print只是一個語句，而action{}可以有多個語句，以;號隔開。
 
這裡沒有初始化count，雖然預設是0，但是妥當的做法還是初始化為0:
awk 'BEGIN {count=0;print "[start]user count is ", count} {count=count+1;print $0;} END{print "[end]user count is ", count}' /etc/passwd[start]user count is  0root:x:0:0:root:/root:/bin/bash
...
[end]user count is  40統計某個資料夾下的檔案佔用的位元組數
 -l |如果以M為單位顯示:
 -l | 
[end]size is  8.25889 M注意，統計不包括資料夾的子目錄。
條件語句
 awk中的條件語句是從C語言中借鑑來的，見如下宣告方式：
if (expression) {
    statement;
    statement;
    ... ...
}if (expression) {
    statement;
} else {
    statement2;
}if (expression) {
    statement1;
} else if (expression1) {
    statement2;
} else {
    statement3;
}統計某個資料夾下的檔案佔用的位元組數,過濾4096大小的檔案(一般都是資料夾):
 -l | 
[end]size is  8.22339 M迴圈語句
awk中的迴圈語句同樣借鑒於C語言，支援while、do/while、for、break、continue，這些關鍵字的語意和C語言中的語意完全相同。
陣列
  因為awk中陣列的下標可以是數位和字母，陣列的下標通常被稱為關鍵字(key)。值和關鍵字都儲存在內部的一張針對key/value應用hash的表格裡。由於hash不是順序儲存，因此在顯示陣列內容時會發現，它們並不是按照你預料的順序顯示出來的。陣列和變數一樣，都是在使用時自動建立的，awk也同樣會自動判斷其儲存的是數位還是字串。一般而言，awk中的陣列用來從記錄中收集資訊，可以用於計算總和、統計單詞以及跟蹤模板被匹配的次數等等。
 
顯示/etc/passwd的賬戶
awk -F ':' 'BEGIN {count=0;} {name[count] = $1;count++;}; END{for (i = 0; i < NR; i++) print i, name[i]}' /etc/passwd0 root1 daemon2 bin3 sys4 sync5 games
......4．命令範例：
      1、如何顯示最近登入的5個賬號的使用者名稱；
        last -n 5 | head -n 5 | awk '{print $1}'  不指定-F分隔符，預設為空格
[root@xuelinux tmp]#  last | head -n 5 | awk '{print $1}'
donggen
root
reboot
root
reboot
awk工作流程是這樣的：讀入有'n'換行符分割的一條記錄，然後將記錄按指定的域分隔符劃分域，填充域，$0則表示所有域,$1表示第一個域,$n表示第n個域。預設域分隔符是"空白鍵" 或 "[tab]鍵",所以$1表示登入使用者，$3表示登入使用者ip,以此類推。
 
如果只是顯示/etc/passwd的賬戶
#cat /etc/passwd |awk  -F ':'  '{print $1}'  rootdaemonbinsys這種是awk+action的範例，每行都會執行action{print $1}。
-F指定域分隔符為':'。
 
如果只是顯示/etc/passwd的賬戶和賬戶對應的shell,而賬戶與shell之間以tab鍵分割
#cat /etc/passwd |awk  -F ':'  '{print $1"t"$7}'root    /bin/bashdaemon  /bin/shbin    /bin/shsys    /bin/sh
如果只是顯示/etc/passwd的賬戶和賬戶對應的shell,而賬戶與shell之間以逗號分割,而且在所有行新增列名name,shell,在最後一行新增"blue,/bin/nosh"。
cat /etc/passwd |awk  -F ':'  'BEGIN {print "name,shell"}  {print $1","$7} END {print "blue,/bin/nosh"}'name,shell
root,/bin/bashdaemon,/bin/shbin,/bin/shsys,/bin/sh....blue,/bin/noshawk工作流程是這樣的：先執行BEGING，然後讀取檔案，讀入有/n換行符分割的一條記錄，然後將記錄按指定的域分隔符劃分域，填充域，$0則表示所有域,$1表示第一個域,$n表示第n個域,隨後開始執行模式所對應的動作action。接著開始讀入第二條記錄······直到所有的記錄都讀完，最後執行END操作。
 
搜尋/etc/passwd有root關鍵字的所有行
#awk -F: '/root/' /etc/passwdroot:x:0:0:root:/root:/bin/bash這種是pattern的使用範例，匹配了pattern(這裡是root)的行才會執行action(沒有指定action，預設輸出每行的內容)。
搜尋支援正則，例如找root開頭的: awk -F: '/^root/' /etc/passwd
 
搜尋/etc/passwd有root關鍵字的所有行，並顯示對應的shell
# awk -F: '/root/{print $7}' /etc/passwd            /bin/bash 這裡指定了action{print $7}

本文永久更新連結地址：http://www.linuxidc.com/Linux/2016-11/136965.htm