[开发工具]Linux文本三剑客——awk、sed、grep

一、grep——文本过滤工具

文本过滤器（模式：pattern）工具，grep,egrep（不支持正则表达式搜索）

grep [选项] 条件 目标文件

二、sed——编辑器

sed [选项] ‘操作’  参数

sed [选项] -f scripfile 参数

输出符合条件的文本

输出第三行

sed -n ‘3p’ test.txt

输出第3-5行

sed -n ‘3,5p’ test.txt 

输出所有奇数行

sed -n ‘p;n’ test.txt

输出所有偶数行

sed -n ‘n;p’ test.txt

输出第1-5行之间的奇数行

sed -n ‘1,5{p;n}’ test.txt

输出第10行之后的偶数行

sed -n ’10,${n;p}’ test.txt

输出包含the的行

sed -n ‘/the/p’ test.txt

输出从第4行的第一个包含the的行

sed -n ‘4,/the/p’ test.txt

输出以PI开头的行

sed -n ‘/^PI/p’ test.txt

输出以数字结尾的行

sed -n ‘/[0-9]$/p’ test.txt

输出包含wood的行

sed -n '/\<wood\>/p' test.sh

删除符合条件的文本

删除第3行

sed ‘3d’ test.txt

删除第3-5行

sed ‘3,5d’ test.txt

删除以小写字母开头的行

sed ‘/^[a-z]/d’ test.txt

替换符合条件的文本

将每行中的第一个the替换为THE

sed ‘s/the/THE/’ test.txt

将每行中的第2个l替换为L

sed ‘s/l/L/2’ test.txt

在包含the的每行行首插入#号

sed 's/^/#/' test.txt 

在每行行尾插入字符串EOF

sed ‘s/$/EOF/’ test.txt

将第3-5行中的所有the替换为THE

sed ‘3,5s/the/THE/g’ test.txt

将包含the的所有行中的o替换为O

sed ‘/the/s/o/O/g’ test.txt

将文件中所有的o删除

sed ‘s/o//g’ test.txt

迁移符合条件的文本

将包含the的行迁移至文件末尾

sed ‘/the/{H;d};$G’ test.txt

将第1-5行内容转移至第17行后

sed ‘1,5{H’d};17G’ test.txt

将包含the的行号另存为文件out.file

sed ‘/the/w out.file’ test.txt

将文件/etc/hostname的内容添加到包含the的每行以后

sed ‘/the/r /etc/hostname’ test.txt

在第3行后插入一个新行，内容为NEW

sed ‘/the/3aNEW’ test.txt

在包含the的每行后插入一个新行，内容为NEW

sed ‘/the/aNEW’ test.txt

在第3行后插入多行内容，中间的\n表示换行

sed ‘3aNEW1\nNEW3’ test.txt

三、awk——报告生成器

awk 选项  ‘模式或条件{编辑命令}’ 文件1 文件2…. //过滤并输出文件中符合条件的内容

awk -f 脚本文件  文件1 文件2… //从脚本中调用的编辑指令，过滤并输出内容 

• awk包含几个特殊的内建变量（可直接用）如下所示：

按行输出文本

输出所有内容，等同于cat test.txt

awk  ‘{print}’ test.txt
awk  ‘{print $0}’  test.txt

输出第1~3行内容

awk  ‘NR==1,NR==3{print}’  test.txt

输出第1~3行内容

awk  ‘（NR>=1）&&(NR<=3){print}’   test.txt

输出第1行，第3行的内容

awk  ‘NR==1||NR==3{print}’  test.txt

输出所有奇数行的内容

awk  ‘(NR%2)==1{print}’  test.txt

输出所有偶数行的内容

awk  ‘(NR%2)==0{print}’  test.txt

输出以root开头的行

awk  ‘/^root/{print}’  /etc/passwd

输出以nologin结尾的行

awk  ‘/nologin$/{print}’  /etc/passwd

统计以/bin/bash结尾的行数，等同于grep –c “/bin/bash$” /etc/passwd

awk  ‘BEGIN {x=0};/\/bin\/bash$/{x++};END {print x}’  /etc/passwd

统计以空行分隔的文本段落数

awk  ‘BEGIN {RS=””} ;END{print NR}’  test.txt

按字段输出文本

输出每行中（以空格或制表符分隔）的第三个字段

awk  ‘{print $3}’  test.txt

输出每行中第1，3个字段

awk  ‘{print $1,$3}’  test.txt

输出密码为空的用户的shadow记录

awk -F ”:” ‘$2==””{print}’  /etc/shadow

输出密码为空的用户的shadow记录

awk  ‘BEGIN {FS=”:”} ; $2==””{print}’  /etc/shadow

输出以冒号分隔且第7个字段中包含/bash的行的第一个字段

awk -F ”:” ‘$7~”/bash”{print $1}’  /etc/shadow

输出包含8个字段且第一个字段中包含nfs的行的第1，2个字段

awk  ‘($1~”nfs”)&&(NF==8){print $1,$2}’  /etc/services

输出第七个字段既不为/bin/bash也不为/sbin/nologin的所有行

awk -F “:” ‘($7 != “/bin/bash”)&&($7 != “/sbin/nologin”){print}’  /etc/passwd

打印文本文件的总行数

awk 'END{print NR}' filename

打印文本第二行第一列

sed -n "2, 1p" filename | awk 'print $1'

输出文件最后一行

 awk -F: '{print $NF}' zz

输出文件的倒数第二列以"，"隔开

awk -F ',' 'END {print $2}' BIRoomTime20160229.txt 

shell里面的赋值方法有两种，格式为

1. arg=(命令)
2. arg=$(命令)

因此，如果想要把某一文件的总行数赋值给变量nlines，可以表达为：

1. nlines=(awk 'END{print NR}' filename)
   或者
2. nlines=$(awk ‘END{print NR}’ filename)

通过管道、双引号调用Shell命令

调用wc –l命令统计使用bash的用户的个数，等同于grep –c “bash$” /etc/passwd

awk  -F: ‘/bash$/{print | “wc -l”}’  /etc/passwd

调用w命令，并用来统计在线用户数

awk ‘BEGIN {while (“w” | getline) n++ ; {print n-2}}’

调用hostname，并输出当前主机名

awk ‘BEGIN {“hostname” | getline ; print $0}’

ifconfig ens33 |awk '/RX p/{print $5 "字节"}'

扩充

 echo -e "\033[31m 哈哈 \033[0m"

创作打卡挑战赛

赢取流量/现金/CSDN周边激励大奖