模式部分决定动作语句何时触发及触发事件。处理即对数据进行的操作。如果省略模式部分，动作将时刻保持执行状态。即省略时不对输入记录进行匹配比较就执行相应的actions。

模式可以是任何条件语句或正则表达式等。awk_pattern可以是以下几种类型:

1) 正则表达式用作awk_pattern: /regexp/

例如:awk ‘/ ^[a-z]/‘ input_file

2) 布尔表达式用作awk_pattern，表达式成立时，触发相应的actions执行。

① 表达式中可以使用变量(如字段变量$1,$2等)和/regexp/

② 布尔表达式中的操作符:

关系操作符: < > <= >= == !=
匹配操作符: value ~ /regexp/ 如果value匹配/regexp/，则返回真
value !~ /regexp/ 如果value不匹配/regexp/，则返回真
例如: awk ‘$2 > 10 {print"ok"}‘ input_file
      awk ‘$3 ~ /^d/ {print"ok"}‘ input_file

③ &&(与)和 ||(或) 可以连接两个/regexp/或者布尔表达式，构成混合表达式。!(非) 可以用于布尔表达式或者/regexp/之前。

例如: awk ‘($1 < 10 ) && ($2> 10) {print "ok"}‘ input_file
      awk ‘/^d/ || /x$/ {print"ok"}‘ input_file

模式包括两个特殊字段 BEGIN和END。使用BEGIN语句设置计数和打印头。BEGIN语句使用在任何文本浏览动作之前，之后文本浏览动作依据输入文本开始执行。END语句用来在awk完成文本浏览动作后打印输出文本总数和结尾状态标志。

实际动作在大括号{ }内指明。动作大多数用来打印，但是还有些更长的代码诸如i f和循环语句及循环退出结构。如果不指明采取动作，awk将打印出所有浏览出来的记录。

awk执行时，其浏览域标记为$1，$2...$n。这种方法称为域标识。使用这些域标识将更容易对域进行进一步处理。

使用$1 , $3表示参照第1和第3域，注意这里用逗号做域分隔。如果希望打印一个有5个域

的记录的所有域，不必指明$1 ,$2 , $3 , $4 , $5，可使用$0，意即所有域。

为打印一个域或所有域，使用print命令。这是一个awk动作

awk的运行过程:

①    如果BEGIN区块存在，awk执行它指定的actions。

②     awk从输入文件中读取一行，称为一条输入记录。(如果输入文件省略，将从标准输入读取)

③     awk将读入的记录分割成字段，将第1个字段放入变量$1中，第2个字段放入$2，以此类推。$0表示整条记录。

④     把当前输入记录依次与每一个awk_cmd中awk_pattern比较，看是否匹配，如果相匹配，就执行对应的actions。如果不匹配，就跳过对应的actions，直到比较完所有的awk_cmd。

⑤     当一条输入记录比较了所有的awk_cmd后，awk读取输入的下一行，继续重复步骤③和④，这个过程一直持续，直到awk读取到文件尾。

⑥     当awk读完所有的输入行后，如果存在END，就执行相应的actions。

入门实例：

例1：显示/etc/passwd文件中的用户名和登录shell

如果只是显示/etc/passwd的账户和账户对应的shell,而账户与shell之间以tab键分割

如果只是显示/etc/passwd文件中的用户名和登录shell, 而账户与shell之间以逗号分割

注：awk的总是输出到标准输出，如果想让awk输出到文件，可以使用重定向。

例2：显示/etc/passwd文件中的UID大于500的所有用户的用户名和登录shell

例3：如果只是显示/etc/passwd文件中的UID大于500的用户名和登录shell,而账户与shell之间以逗号分割,而且在所有行添加列名name,shell,在最后一行添加"blue,/bin/nosh"。

注：

1.awk 后面接两个单引号并加上大括号 {} 来设定想要对数据进行的处理动作

2.awk工作流程是这样的：先执行BEGING，然后读取文件，读入有\n换行符分割的一条记录，然后将记录按指定的域分隔符划分域，填充域，$0则表示所有域,$1表示第一个域,$n表示第n个域,随后开始执行模式所对应的动作。接着开始读入第二条记录······直到所有的记录都读完，最后执行END操作。

思考题：如何打印所有记录（以/etc/passwd中的内容为例）

例4：搜索/etc/passwd有root关键字的所有行

这种是pattern（模式）的使用示例，匹配了pattern(这里是root)的行才会执行action(没有指定action，默认输出每行的内容)。

搜索支持正则表达式，例如找root开头的:

搜索/etc/passwd有root关键字的所有行，并显示对应的shell

这里指定了action是{print $7}

grep用法详解:grep与正则表达式

首先要记住的是: 正则表达式与通配符不一样,它们表示的含义并不相同!
正则表达式只是一种表示法,只要工具支持这种表示法，那么该工具就可以处理正则表达式的字符串。vi grep ,awk ,sed 等都支持正则表达式.

1基础正则表达式
grep 工具，以前介绍过。
grep -[acinv] ‘搜索内容串‘ filename
-a 以文本文件方式搜索
-c 计算找到的符合行的次数
-i 忽略大小写
-n 顺便输出行号
-v 反向选择，即找 没有搜索字符串的行
其中搜索串可以是正则表达式!

1
搜索有the的行,并输出行号
$grep -n ‘the‘ regular_express.txt
搜索没有the的行,并输出行号
$grep -nv ‘the‘ regular_express.txt

2 利用[]搜索集合字符
[] 表示其中的某一个字符 ，例如[ade] 表示a或d或e
woody@xiaoc:~/tmp$ grep -n ‘t[ae]st‘ regular_express.txt
8:I can‘t finish the test.
9:Oh! the soup taste good!

可以用^符号做[]内的前缀，表示除[]内的字符之外的字符。
比如搜索oo前没有g的字符串所在的行. 使用 ‘[^g]oo‘ 作搜索字符串
woody@xiaoc:~/tmp$ grep -n ‘[^g]oo‘ regular_express.txt
2:apple is my favorite food.
3:Football game is not use feet only.
18:google is the best tools for search keyword.
19:goooooogle yes!

[] 内可以用范围表示，比如[a-z] 表示小写字母,[0-9] 表示0~9的数字, [A-Z] 则是大写字母们。[a-zA-Z0-9]表示所有数字与英文字符。 当然也可以配合^来排除字符。
搜索包含数字的行
woody@xiaoc:~/tmp$ grep -n ‘[0-9]‘ regular_express.txt
5:However ,this dress is about $ 3183 dollars.
15:You are the best is menu you are the no.1.

行首与行尾字符 ^ $. ^ 表示行的开头，$表示行的结尾( 不是字符，是位置）那么‘^$’ 就表示空行,因为只有
行首和行尾。
这里^与[]里面使用的^意义不同。它表示^后面的串是在行的开头。
比如搜索the在开头的行
woody@xiaoc:~/tmp$ grep -n ‘^the‘ regular_express.txt
12:the symbol ‘*‘ is represented as star.

搜索以小写字母开头的行
woody@xiaoc:~/tmp$ grep -n ‘^[a-z]‘ regular_express.txt
2:apple is my favorite food.
4:this dress doesn‘t fit me.
10:motorcycle is cheap than car.
12:the symbol ‘*‘ is represented as star.
18:google is the best tools for search keyword.
19:goooooogle yes!
20:go! go! Let‘s go.
woody@xiaoc:~/tmp$

搜索开头不是英文字母的行
woody@xiaoc:~/tmp$ grep -n ‘^[^a-zA-Z]‘ regular_express.txt
1:"Open Source" is a good mechanism to develop programs.
21:#I am VBird
woody@xiaoc:~/tmp$

$表示它前面的串是在行的结尾，比如 ‘\.‘ 表示 . 在一行的结尾
搜索末尾是.的行
woody@xiaoc:~/tmp$ grep -n ‘\.$‘ regular_express.txt //. 是正则表达式的特殊符号，所以要用\转义
1:"Open Source" is a good mechanism to develop programs.
2:apple is my favorite food.
3:Football game is not use feet only.
4:this dress doesn‘t fit me.
5:However ,this dress is about $ 3183 dollars.
6:GNU is free air not free beer.
.....

注意在MS的系统下生成的文本文件，换行会加上一个 ^M 字符。所以最后的字符会是隐藏的^M ,在处理Windows
下面的文本时要特别注意！
可以用cat dos_file | tr -d ‘\r‘ > unix_file 来删除^M符号。 ^M==\r

那么‘^$‘ 就表示只有行首行尾的空行拉！
搜索空行
woody@xiaoc:~/tmp$ grep -n ‘^$‘ regular_express.txt
22:
23:
woody@xiaoc:~/tmp$

搜索非空行
woody@xiaoc:~/tmp$ grep -vn ‘^$‘ regular_express.txt
1:"Open Source" is a good mechanism to develop programs.
2:apple is my favorite food.
3:Football game is not use feet only.
4:this dress doesn‘t fit me.
..........

任意一个字符. 与重复字符 *

在bash中*代表通配符，用来代表任意个字符，但是在正则表达式中，他含义不同，*表示有0个或多个 某个字符。
例如 oo*, 表示第一个o一定存在，第二个o可以有一个或多个，也可以没有，因此代表至少一个o.

点. 代表一个任意字符，必须存在。 g??d 可以用 ‘g..d‘ 表示。 good ,gxxd ,gabd .....都符合。

woody@xiaoc:~/tmp$ grep -n ‘g..d‘ regular_express.txt
1:"Open Source" is a good mechanism to develop programs.
9:Oh! the soup taste good!
16:The world is the same with ‘glad‘.
woody@xiaoc:~/tmp$

搜索两个o以上的字符串
woody@xiaoc:~/tmp$ grep -n ‘ooo*‘ regular_express.txt //前两个o一定存在，第三个o可没有，也可有多个。
1:"Open Source" is a good mechanism to develop programs.
2:apple is my favorite food.
3:Football game is not use feet only.
9:Oh! the soup taste good!
18:google is the best tools for search keyword.
19:goooooogle yes!

搜索g开头和结尾，中间是至少一个o的字符串，即gog, goog....gooog...等
woody@xiaoc:~/tmp$ grep -n ‘goo*g‘ regular_express.txt
18:google is the best tools for search keyword.
19:goooooogle yes!

搜索g开头和结尾的字符串在的行
woody@xiaoc:~/tmp$ grep -n ‘g.*g‘ regular_express.txt     // .*表示 0个或多个任意字符
1:"Open Source" is a good mechanism to develop programs.
14:The gd software is a library for drafting programs.
18:google is the best tools for search keyword.
19:goooooogle yes!
20:go! go! Let‘s go.


限定连续重复字符的范围 { }
. * 只能限制0个或多个， 如果要确切的限制字符重复数量，就用{范围} 。范围是数字用,隔开 2,5 表示2~5个,
2表示2个，2, 表示2到更多个
注意，由于{ }在SHELL中有特殊意义，因此作为正则表达式用的时候要用\转义一下。

搜索包含两个o的字符串的行。
woody@xiaoc:~/tmp$ grep -n ‘o\{2\}‘ regular_express.txt
1:"Open Source" is a good mechanism to develop programs.
2:apple is my favorite food.
3:Football game is not use feet only.
9:Oh! the soup taste good!
18:google is the best tools for search keyword.
19:goooooogle yes!

搜索g后面跟2~5个o,后面再跟一个g的字符串的行。
woody@xiaoc:~/tmp$ grep -n ‘go\{2,5\}g‘ regular_express.txt
18:google is the best tools for search keyword.


搜索包含g后面跟2个以上o,后面再跟g的行。。
woody@xiaoc:~/tmp$ grep -n ‘go\{2,\}g‘ regular_express.txt
18:google is the best tools for search keyword.
19:goooooogle yes!


注意，相让[]中的^ － 不表现特殊意义，可以放在[]里面内容的后面。
‘[^a-z\.!^ -]‘ 表示没有小写字母，没有. 没有!, 没有空格，没有- 的 串，注意[]里面有个小空格。

另外shell 里面的反向选择为[!range], 正则里面是 [^range]


2扩展正则表达式

扩展正则表达式是对基础正则表达式添加了几个特殊构成的。
它令某些操作更加方便。
比如我们要去除 空白行和行首为 #的行， 会这样用：
woody@xiaoc:~/tmp$ grep -v ‘^$‘ regular_express.txt | grep -v ‘^#‘
"Open Source" is a good mechanism to develop programs.
apple is my favorite food.
Football game is not use feet only.
this dress doesn‘t fit me.
............

然而使用支持扩展正则表达式的 egrep 与扩展特殊符号 | ，会方便许多。
注意grep只支持基础表达式， 而egrep 支持扩展的，其实 egrep 是 grep -E 的别名而已。因此grep -E 支持扩展正则。
那么:
woody@xiaoc:~/tmp$ egrep -v ‘^$|^#‘ regular_express.txt
"Open Source" is a good mechanism to develop programs.
apple is my favorite food.
Football game is not use feet only.
this dress doesn‘t fit me.
....................
这里| 表示或的关系。 即满足 ^$ 或者 ^# 的字符串。

这里列出几个扩展特殊符号： ＋，于 . * 作用类似，表示 一个或多个重复字符。 ?， 于 . * 作用类似，表示0个或一个字符。
｜，表示或关系，比如 ‘gd|good|dog‘ 表示有gd,good或dog的串 （），将部分内容合成一个单元组。比如 要搜索 glad 或 good 可以这样 ‘g(la|oo)d‘ ()的好处是可以对小组使用 + ? * 等。 比如要搜索A和C开头结尾，中间有至少一个(xyz) 的串，可以这样 : ‘A(xyz)+C‘

◎grep -- print lines matching a pattern (将符合样式的该行列出)

 ◎语法: grep [options] 

 PATTERN [FILE...] 

 grep用以在file内文中比对相对应的部分，或是当没有指定档案时， 

 由标准输入中去比对。在预设的情况下，grep会将符合样式的那一行列出。

         此外，还有两个程式是grep的变化型，egrep及fgrep。          

         其中egrep就等同於grep -E ，fgrep等同於grep -F 。

 ◎参数

    1. -A NUM，--after-context=NUM 

               除了列出符合行之外，并且列出後NUM行。

         ex:   $ grep -A 1 panda file 

               (从file中搜寻有panda样式的行，并显示该行的後1行)

    2. -a或--text  

               grep原本是搜寻文字档，若拿二进位的档案作为搜寻的目标，

               则会显示如下的讯息: Binary file 二进位档名 matches 然後结束。

               若加上-a参数则可将二进位档案视为文字档案搜寻，

               相当於--binary-files=text这个参数。

         ex:   (从二进位档案mv中去搜寻panda样式)

               (错误!!!)

               $ grep panda mv 

               Binary file mv matches  

               (这表示此档案有match之处，详见--binary-files=TYPE )

               $

               (正确!!!)

               $ grep -a panda mv 

    3. -B NUM，--before-context=NUM

               与 -A NUM 相对，但这此参数是显示除符合行之外

               并显示在它之前的NUM行。        

         ex:   (从file中搜寻有panda样式的行，并显示该行的前1行)

               $ grep -B 1 panda file 

    4. -C [NUM], -NUM, --context[=NUM]  

               列出符合行之外并列出上下各NUM行，预设值是2。

         ex:   (列出file中除包含panda样式的行外并列出其上下2行)

               (若要改变预设值，直接改变NUM即可)

               $ grep -C[NUM]  panda file 

    5. -b, --byte-offset

               列出样式之前的内文总共有多少byte ..

          ex:  $ grep -b  panda file  

       显示结果类似於:

         0:panda

        66:pandahuang

       123:panda03

    6. --binary-files=TYPE

               此参数TYPE预设为binary(二进位)，若以普通方式搜寻，只有2种结果:

                 1.若有符合的地方：显示Binary file 二进位档名 matches

                 2.若没有符合的地方：什麽都没有显示。

               若TYPE为without-match，遇到此参数，

               grep会认为此二进位档案没有包含任何搜寻样式，与-I 参数相同。

               若TPYE为text, grep会将此二进位档视为text档案，与-a 参数相同。

     Warning: --binary-files=text 若输出为终端机，可能会产生一些不必要的输出。

    7. -c, --count

       不显示符合样式行，只显示符合的总行数。

       若再加上-v,--invert-match，参数显示不符合的总行数。

    8. -d ACTION, --directories=ACTION

               若输入的档案是一个资料夹，使用ACTION去处理这个资料夹。

       预设ACTION是read(读取)，也就是说此资料夹会被视为一般的档案；

       若ACTION是skip(略过)，资料夹会被grep略过：

       若ACTION是recurse(递)，grep会去读取资料夹下所有的档案，

       此相当於-r 参数。

    9.  -E, --extended-regexp

       采用规则表示式去解释样式。

   10.  -e PATTERN, --regexp=PATTERN

       把样式做为一个partern，通常用在避免partern用-开始。  

   11.  -f FILE, --file=FILE

       事先将要搜寻的样式写入到一个档案，一行一个样式。

       然後采用档案搜寻。

       空的档案表示没有要搜寻的样式，因此也就不会有任何符合。

   ex: (newfile为搜寻样式档)

       $grep -f newfile file    

   12.  -G, --basic-regexp

       将样式视为基本的规则表示式解释。(此为预设)

   13.  -H, --with-filename

       在每个符合样式行前加上符合的档案名称，若有路径会显示路径。

   ex: (在file与testfile中搜寻panda样式)   

       $grep -H panda file ./testfile

                file:panda

                ./testfile:panda

                $

   14.  -h, --no-filename  

               与-H参数相类似，但在输出时不显示路径。

   15.  --help 

               产生简短的help讯息。

   16.  -I

               grep会强制认为此二进位档案没有包含任何搜寻样式，

               与--binary-files=without-match参数相同。

           ex:  $ grep -I  panda mv

   17.  -i, --ignore-case       

               忽略大小写，包含要搜寻的样式及被搜寻的档案。

           ex:  $ grep -i panda mv

   18.  -L, --files-without-match 

               不显示平常一般的输出结果，反而显示出没有符合的档案名称。

   19.  -l, --files-with-matches               

               不显示平常一般的输出结果，只显示符合的档案名称。

   20.  --mmap               

               如果可能，使用mmap系统呼叫去读取输入，而不是预设的read系统呼叫。 

               在某些状况，--mmap 能产生较好的效能。然而，--mmap 

               如果运作中档案缩短，或I/O 错误发生时，

               可能造成未定义的行为(包含core dump)，。

   21.  -n, --line-number

               在显示行前，标上行号。

            ex:  $ grep -n  panda file  

                显示结果相似於下:

                行号:符合行的内容

   22.  -q, --quiet, --silent 

               不显示任何的一般输出。请参阅-s或--no-messages

   23.  -r, --recursive

       递地，读取每个资料夹下的所有档案，此相当於 -d recsuse 参数。

   24.  -s, --no-messages

       不显示关於不存在或无法读取的错误讯息。

 小: 不像GNU grep，传统的grep不符合POSIX.2协定，

       因为缺乏-q参数，且他的-s 参数表现像GNU grep的 -q 参数。

       Shell Script倾向将传统的grep移植，避开-q及-s参数，

       且将输出限制到/dev/null。

POSIX: 定义UNIX及UNIX-like系统需要提供的功能。              

   25.  -V, --version

  显示出grep的版本号到标准错误。

  当您在回报有关grep的bugs时，grep版本号是必须要包含在内的。

   26.  -v, --invert-match

  显示除搜寻样式行之外的全部。

   27.  -w, --word-regexp

          将搜寻样式视为一个字去搜寻，完全符合该"字"的行才会被列出。

   28.  -x, --line-regexp

grep参数

1.   -c 显示匹配的行数（就是显示有多少行匹配了）；

2.   -n 显示匹配内容所在文档的行号；

3.   -i 匹配时忽略大小写；

4.   -s 错误信息不输出；

5.   -v 输出不匹配内容；

6.   -x 输出完全匹配内容；

7.   \ 忽略表达式中字符原有含义；

8.   ^ 匹配表达式的开始行；

9.   $ 匹配表达式的结束行；

10. \< 从匹配表达式的行开始；

11. \> 到匹配表达式的行结束；

12. [ ] 单个字符（如[A] 即A符合要求）；

13. [ - ] 范围；如[A-Z]即A，B，C一直到Z都符合要求；

14. . 所有的单个字符;

15. * 所有字符，长度可以为0；

何为转义：将特殊符号当普通符号来处理

笔记：

1.^在[]内外的含义

2.何时需要转义

3.*在bash中和正则表达式中本身的区别

4.-acinv

    正则表达式是一种符号表示法，用于识别文本模式。Linux处理正则表达式的主要程序是grep。grep搜索与正则表达式匹配的行，并将结果输送至标准输出。

1. grep匹配模式

grep按下述方式接受选项和参数(其中，regex表示正则表达式)

其中options主要为下表：

举例说明

假设有三个文件del1、del2、del3三个文件的内容如下

例子

2. 特殊字符

3. 范围

注意：{}在郑则表达式中需要转移，而{}()不需要。    

注意理解{}范围的例子：

4. 标准字符类

例子

可视化正则表达式

工具：

Shell正则表达式之grep、sed、awk实操笔记

最近一直在研究shell脚本这块，刚好闲下来整了下自己手头上比较好的资料中的一些范例，以下是我整理的鸟哥私房菜里面正则表达式里面比较基础的一些语法详解，适合新手查阅。

首先先复制一段范例：