http://www.forfreezone.com

三剑客之awk

三刺客之awk

第1章 awk简介

1.1 awk简介

  • 生龙活虎种名字古怪的言语。
  • 方式扫描和拍卖。管理文本流,水流。

awk不止是linux系统中的一个命令,而且是黄金年代种编制程序语言,能够用来拍卖数量和扭转报告。

拍卖的数目足以是三个或八个文本,能够是来源于专门的学问输入,也足以通过管道获取标准输入,awk能够

在命令行上间接编辑命令进行操作,也得以编写成awk程序来扩充更进一层复杂的行使。这里最首要解说

awk命令行的应用。

学完本章你会领会:

  • 域(字段)与记录
  • 方式与协作
  • 宗旨的awk推行进度
  • awk常用内置变量(预约义变量)
  • awk数组(职业中相比常用)

还可能有部分任何awk用法:(这里不作介绍卡塔尔(قطر‎

  • awk语法:循环,条件
  • awk常用函数:print
  • 向awk传递参数
  • awk引用shell变量
  • awk编程

 

1.2 awk情状简要介绍

[root@linux-node1 ~]# cat /etc/redhat-release

CentOS release 6.6 (Final)

 

[root@linux-node1 ~]# uname -r

2.6.32-504.el6.x86_64

 

[root@linux-node1 ~]# awk --version

GNU Awk 3.1.7

 

[root@linux-node1 ~]# which awk

/bin/awk

#/bin下和/sbin下的吩咐差别:

/bin : commands in this dir are all system installed user commands    系统的有的指令

/sbin:  commands in this dir are all system installed super user commands  一级客商指令 系统管理命令,这里寄放的是系统管理员使用的治本程序 

/usr/bin: user commands for applications  早先时期安装的有个别软件的运作脚本

/usr/sbin: super user commands for applications  顶尖顾客的少年老成部分拘禁程序

 

 

1.3 awk的格式

awk指令是由形式,动作,或许情势和动作的组成组成。

形式既pattern,能够周围通晓成sed的方式相称,能够由表明式组成,也足以是多少个正斜杠之间的正则表明式。比方NPAJERO=1,那正是形式,能够把他领会为三个条件。

动作即action,是由在大括号里面包车型地铁一条或多条语句组成,语句之间用分号隔断。如awk使用格式:

 图片 1

 

图1-1 awk命令行格式

awk管理的内容可以来自专门的学业输入(<),四个或八个文本文件或管道。

图片 2

 

图1-2 awk形式动作解释图

pattern既格局,也得以精晓为标准,也叫找哪个人,你找何人?高矮,胖瘦,男女?都以基准,既形式。

action 既动作,可以精晓为干啥,找到人事后您要做什么。

 

1.4 awk实践进度

在深切了解awk前,大家要求通晓awk如什么地方理公事的。

亲自过问1-1 演示文件的始建

[root@linux-node1 ~]# mkdir -p /server/files/

[root@linux-node1 ~]# head /etc/passwd > /server/files/awkfile.txt

[root@linux-node1 ~]# cat /server/files/awkfile.txt  

root:x:0:0:root:/root:/bin/bash

bin:x:1:1:bin:/bin:/sbin/nologin

daemon:x:2:2:daemon:/sbin:/sbin/nologin

adm:x:3:4:adm:/var/adm:/sbin/nologin

lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin

sync:x:5:0:sync:/sbin:/bin/sync

shutdown:x:6:0:shutdown:/sbin:/sbin/shutdown

halt:x:7:0:halt:/sbin:/sbin/halt

mail:x:8:12:mail:/var/spool/mail:/sbin/nologin

uucp:x:10:14:uucp:/var/spool/uucp:/sbin/nologin

 

[root@linux-node1 ~]# awk 'NR>=2{print $0}' /server/files/awkfile.txt

bin:x:1:1:bin:/bin:/sbin/nologin

daemon:x:2:2:daemon:/sbin:/sbin/nologin

adm:x:3:4:adm:/var/adm:/sbin/nologin

lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin

sync:x:5:0:sync:/sbin:/bin/sync

shutdown:x:6:0:shutdown:/sbin:/sbin/shutdown

halt:x:7:0:halt:/sbin:/sbin/halt

mail:x:8:12:mail:/var/spool/mail:/sbin/nologin

uucp:x:10:14:uucp:/var/spool/uucp:/sbin/nologin

 

[root@linux-node1 ~]# awk 'NR>=2{print NR,$0}' /server/files/awkfile.txt

2 bin:x:1:1:bin:/bin:/sbin/nologin

3 daemon:x:2:2:daemon:/sbin:/sbin/nologin

4 adm:x:3:4:adm:/var/adm:/sbin/nologin

5 lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin

6 sync:x:5:0:sync:/sbin:/bin/sync

7 shutdown:x:6:0:shutdown:/sbin:/sbin/shutdown

8 halt:x:7:0:halt:/sbin:/sbin/halt

9 mail:x:8:12:mail:/var/spool/mail:/sbin/nologin

10 uucp:x:10:14:uucp:/var/spool/uucp:/sbin/nologin

awk是经过大器晚成行后生可畏行的管理公事,那条命令中包蕴格局部分(条件)和动作部分(动作),awk将管理格局钦命的行。

小结awk实践进程:

a)awk读入第生龙活虎行内容

b)决断符合情势中的条件(NEscort>=2)

l 假使匹配暗中同意则试行相应的动作({print $0}State of Qatar

l 借使不相配原则,继续读取下生机勃勃行

c卡塔尔)继续读取下风姿洒脱行

d)重复进度a-c,直到读取到结尾生龙活虎行(EOF:end of fileState of Qatar

 

 1.5 区域和笔录

名称

含义

field

域,区域,字段

record

记录,默认一整行

eg:$1,$2,$3,$NF

$0: 整行,叁个记录

$ 取 引用

 

1.5.1 字段(区域)

每条记下皆以由四个字段(田野同志)组成的,暗中同意情形下里面包车型客车相间符是由空白符(即空格或制表符)来分隔,何况将分隔符记录在停放变量FS中。每行记录的字段数保存在awk的放松权利变量NF中。

 

 

图1-4 awk区域分隔符

awk使用内置变量FS来记录字段分隔符的内容,能够通过BEGIN语句来改造,也得以在指令行上通过-F参数来改造,下边通过示范来升高学习。

演示1-3  FS演示文件生成

[root@linux-node1 ~]# awk -F ":" 'NR>=2&&NR<=5{print $1,$3}' /server/files/awkfile.txt

bin 1

daemon 2

adm 3

lp 4

1.5.2记录

awk对各种要拍卖的输入数据人为都以享有格式和结构的,而不仅是一群字符串。默许境况下,每大器晚成行内容都形成一条记下,并以换行符结束。

 

² 暗中认可景况 -风度翩翩行==一个记下,每行都以一个记录。

² EnclaveS ==》 record separator 每种记录读入的时候的分隔符。

² N揽胜极光==》 number of record 行号,记录的数。awk当前拍卖着的,记录的数。

² OPRADOS==》 output record separate 输出食肉的相间符

 

awk使用内置变量来存放在记录分隔符,凯雷德S代表的是输入的笔录分隔符,那个值也足以以特定的办法校订。

前面我们讲到过的$0,awk使用$0来表示整条记录。记录分隔符n保存在凯雷德S变量中。别的awk对每生龙活虎行的记录号都有五个停放变量N奥迪Q7来保存,每管理完一条记下N奥迪Q7的值就能够活动+1.

上面通过示范来巩固一下什么是记录,记录分隔符。

亲自去做1-5 NLacrosse记录行号

[root@linux-node1 files]# awk '{print NR,$0}' awkfile.txt

1 root:x:0:0:root:/root:/bin/bash

2 bin:x:1:1:bin:/bin:/sbin/nologin

3 daemon:x:2:2:daemon:/sbin:/sbin/nologin

4 adm:x:3:4:adm:/var/adm:/sbin/nologin

5 lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin

6 sync:x:5:0:sync:/sbin:/bin/sync

7 shutdown:x:6:0:shutdown:/sbin:/sbin/shutdown

8 halt:x:7:0:halt:/sbin:/sbin/halt

9 mail:x:8:12:mail:/var/spool/mail:/sbin/nologin

10 uucp:x:10:14:uucp:/var/spool/uucp:/sbin/nologin

 

示范1-6 奇骏S记录分隔符

#以/为分隔符记录蓬蓬勃勃行

[root@linux-node1 files]# awk 'BEGIN{RS="/"}{print NR,$0}' awkfile.txt

1 root:x:0:0:root:

2 root:

3 bin

4 bash

bin:x:1:1:bin:

5 bin:

6 sbin

7 nologin

daemon:x:2:2:daemon:

8 sbin:

9 sbin

10 nologin

adm:x:3:4:adm:

11 var

12 adm:

13 sbin

14 nologin

lp:x:4:7:lp:

15 var

16 spool

17 lpd:

18 sbin

19 nologin

#以:为分隔符记录风流倜傥行

[root@linux-node1 files]# awk 'BEGIN{RS=":"}{print NR,$0}' awkfile.txt  

1 root

2 x

3 0

4 0

5 root

三剑客之awk。6 /root

7 /bin/bash

bin

8 x

9 1

10 1

11 bin

12 /bin

13 /sbin/nologin

daemon

14 x

15 2

16 2

17 daemon

18 /sbin

19 /sbin/nologin

adm

20 x

21 3

22 4

23 adm

24 /var/adm

25 /sbin/nologin

lp

26 x

27 4

28 7

29 lp

30 /var/spool/lpd

31 /sbin/nologin

awk 眼中的公文,从头至尾后生可畏段连接的字符串,恰巧中间稍稍n(回车换行符)

 

示例1-7 RS为空值

#途胜S为空值的时候将钦点行输出为大器晚成行

[root@linux-node1 files]# awk 'BEGIN{RS=""}{print NR,$1,$2,$3}' awkfile.txt  

 

 

说明:

在行首打字与印刷输出记录号,并打字与印刷出每风姿罗曼蒂克行$0的开始和结果

 

供销合作社案例1:计算文件中各类单词的再一次数量

[root@linux-node1 files]# sed -ri.bak 's#[:/0-9]+# #g' awkfile.txt

1)单词弄成一列(排队)

里面 -o 表示“only-matching 准确相称

[root@linux-node1 files]# egrep -o "[a-zA-z]+" awkfile.txt |sort| uniq -c|sort -r

      5 x

      5 sbin

      4 nologin

      4 bin

      3 root

      3 adm

      2 var

      2 lp

      2 daemon

      1 spool

      1 lpd

      1 bash

2)统计

[root@linux-node1 files]# awk 'BEGIN{RS="() | n"}{print $0}' awkfile.txt|sort |uniq -c|sort -rn

      5 x

      5 sbin

      4 nologin

      4 bin

      3 root

      3 adm

      2 var

      2 lp

      2 daemon

      1 spool

      1 lpd

      1 bash

      1

 

公司案例2: 总括文件中各类字母的双重数量

 

记录小结:

  1. 小象放对开门双门电冰箱分几步?展开双门电冰箱,把大象放进去,关闭双门对开门电冰箱门。
  2. 多用N福特Explorer,NF,$数字,协作你实行调节和测量检验awk命令。
  3. N奥德赛寄存着各样记录的号(行号)读取新行时候会自动+1
  4. LX570S是记录的分隔符,简单领会正是足以钦定各类记录的末梢标识。
  5. (用RS替换n)
  6. 途锐S成效正是意味着叁个笔录的收尾。
  7. FS标志着每个地区的终结。

1.6 情势相称

1.6.1 正则表达式

awk帮衬的正则表明式元字符

元字符

功能

示例

解释

^

字符串最先

/^cool/

合作全体以cool初步的字符串

$

字符串结尾

/cool$/

协作全部以cool结尾的字符串

.

同盟大肆单个字符

(包蕴回车符)

/c..l/

相配字母c,然后七个随机字符,再以l结尾的行,比如ckk1,c@#1等

*

相称0个或八个前导字符

/a*cool/

相配0个或多少个a之后紧跟着cool的行,比如cool,aaacool

+

再也二次或叁回以上

/a+b/

卓殊三个或几个a加b的行

匹配0个或二个引导字符

/a?b/

匹配b或ab的行

[]

相配内定字符组内的任一个字符

/^[abc]/

相称以字母a或b或c开首的行

[^]

格外不在内定字符组

/^[^abc]/

 相称不以字母a或b或c起头的行

x{m}

x重复m次

x重复起码m次

x重复起码m次,但不抢先n次

亟需钦赐参数:--posix或然--re-interval

/(cool){5}

内需潜心的有个别是,cool加括号或不加括号的区分,x能够使字符串也得以只是三个字符,全部/cool{5}/表示相配coo再加上5个l,即coolllll,

^(cool){2,}则象征匹配coolcool,

coolcoolcool等

x{m,}

/(cool){2,}/

 

/(cool){5,6}/

正则表明式的采纳,私下认可是在行内查找相称的字符串,若有协作则试行action操作,不过不常仅要求一定的列来同盟内定的正则表明式,譬如:$3这一列查找相配tom的行,那样就供给别的八个地位卓殊操作符:

~:用于对记录或字段的表明式进行(相称)

!~:用于说明与~主张的意思。(不匹配)

#相称 第五列以l恐怕a发轫的具备行 ,这里(l|a卡塔尔(قطر‎ 能够换来[al]

[root@linux-node1 files]# awk '$3~/^(l|a)/{print $0}' awkfile.txt

adm x adm var adm sbin nologin

lp x lp var spool lpd sbin nologin

#取eth0 ip

[root@linux-node1 files]# ifconfig eth0| awk -F "[ :]+" 'NR==2{print $4}'

10.0.0.7

[root@linux-node1 files]# ifconfig eth0| awk -F "addr:| Bcast:" 'NR==2{print $2}'  

10.0.0.7

[root@linux-node1 files]# echo "-----=====1#######2"

-----=====1#######2

[root@linux-node1 files]# echo "-----=====1#######2"|grep "[-=#]"

-----=====1#######2

[root@linux-node1 files]# echo "-----=====1#######2"|grep -o "[-=#]"

-

-

-

-

-

=

=

=

=

=

#

#

#

#

#

#

#

[root@linux-node1 files]# echo "-----=====1#######2"|egrep -o "[-=#]+"

-----=====

#######

 

 

 

#匹配o现身三遍照旧三遍的行打字与印刷第一列和尾声一列

[root@linux-node1 files]# awk --posix '$1~/o{1,2}/{print NR,$1,$NF}' awkfile.txt

1 root bash

3 daemon nologin

1.6.2比较表明式

示例1-18

[root@linux-node1 files]# awk 'NR>=2&&NR<=5{print NR,$0}' awkfile.txt

2 bin x bin bin sbin nologin

3 daemon x daemon sbin sbin nologin

4 adm x adm var adm sbin nologin

5 lp x lp var spool lpd sbin nologin

1.6.3范围格局

awk ‘/start pos/,/end pos/{print $0} ‘ test.txt

awk ‘/start pos/,NR==XXX{print $0}’ passwd.oldboy

节制情势的时候,范围条件的时候,表明式必得协作风华正茂行,

[root@linux-node1 files]# awk 'NR==2,NR==5{print NR,$1,$3}' awkfile.txt

2 bin bin

3 daemon daemon

4 adm adm

5 lp lp

[root@linux-node1 files]# awk 'NR==2,NR==5{print NR,$0}' awkfile.txt      

2 bin x bin bin sbin nologin

3 daemon x daemon sbin sbin nologin

4 adm x adm var adm sbin nologin

5 lp x lp var spool lpd sbin nologin

[root@linux-node1 files]# awk 'NR==2,NR<=5{print NR,$0}' awkfile.txt  

2 bin x bin bin sbin nologin

1.6.4供销合作社案例:抽出常用服务端口号

ftp http https mysql ssh 端口号 /etc/services 文件

[root@linux-node1 files]# awk -F "[ /]+" '$1~/ftp|https|mysql|ssh)$/{print $1,$2}' /etc/services|uniq

小结:

  1. 模式===》条件
  2. 正则表明式
  3. 基准表明式(NENCORE>=2 N索罗德==2)
  4. 界定表明式
  5. (NR==2,NR==5)
  6. /正则表明式-初阶/,/正则截至/
  7. $1~/正则表明式-在那在此之前/,$3~/正则截至/ 行,记录。
  8. 区域:FS刀分隔的,FS区域分隔符
  9. 记录:中华VS刀分隔的,本田CR-VS记录分隔符
  10. FS===>NF 区域的多寡
  11. WranglerS===>NTiguan 记录号,随着记录的加多NTiggo自动+1

 

1.7 awk协会的追忆

1.7.1 BEGIN模块

BEGIN情势此前我们有在演示中涉嫌,自定义变量,给内容变量赋值等,都以用过。必要专一的是BEGIN格局前边要接跟八个action操作块,包蕴在大括号内。awk必需在对输入文件实行任何处理前先进行BEGIN定义的action操作块。咱们得以不要任何输入文件,就足以对BEGIN模块实行测试,因为awk须要先进行完BEGIN方式,菜对输入文件做管理。BEGIN形式日常被用来改良内置变量O途乐S,ENCORES,FS,OFS等的值。

示例1-25

[root@linux-node1 files]# awk 'BEGIN{print "this is begin!nand thiscommand donnot have file"}'

this is begin!

and thiscommand donnot have file

说明:

从未公文awk仍可以拍卖BEGIN格局下的操作块。

1.7.2 END模块

END 在awk读取完全体的公文的时候

awk编制程序观念:

1.先管理,最后再END模块输出。

与BEGIN方式绝对于的END形式,格式同样,可是END方式仅在awk管理完全体输入行后才开展管理。况且在END方式下awk不合作任何输入行。

1.7.3 计算awk实践进度

1.读入生机勃勃行

2.论断是或不是是要求的行 条件$3>15 满足超越15 施行action :print

3.不满足条件重复1,2手续

1.7.4 公司案例3:总计文件之中的空行数量

[root@linux-node1 files]# grep -c "^$" /etc/services

16

[root@linux-node1 files]# awk '/^$/{a=a+1;print a}' /etc/services  

1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

[root@linux-node1 files]# awk '/^$/{a=a+1}END{print a}' /etc/services             

16

 

 head -20 /etc/passwd >awkfile2.txt

面试题:awkfile2.txt 里面 以:为分隔符,区域3大于15行,黄金年代共有多少个?

[root@linux-node1 files]# awk -F ":" '$3>15{print $0}' awkfile2.txt   

nobody:x:99:99:Nobody:/:/sbin/nologin

dbus:x:81:81:System message bus:/:/sbin/nologin

usbmuxd:x:113:113:usbmuxd user:/:/sbin/nologin

vcsa:x:69:69:virtual console memory owner:/dev:/sbin/nologin

rpc:x:32:32:Rpcbind Daemon:/var/cache/rpcbind:/sbin/nologin

rtkit:x:499:497:RealtimeKit:/proc:/sbin/nologin

#测算一遍,输出贰回

[root@linux-node1 files]# awk -F ":" '$3>15{a=a+1;print a}' awkfile2.txt           

1

2

3

4

5

6

#拍卖完文件自此再输出a   这里a=a+1 能够用a++代替

[root@linux-node1 files]# awk -F ":" '$3>15{a=a+1;}END{print a}' awkfile2.txt        

6

厂家面试题5:1+.....+100 1加到100的值,用awk达成

root@linux-node1 files]# seq 100 > test.txt  

[root@linux-node1 files]# cat test.txt |awk '{a+=$0}END{print a}'

5050

[[root@linux-node1 files]# awk 'a=a+$0;END{print a}' test.txt |sed -n '$p'

5050

1.7.4 集团案例4:

寻找情状变量$PATH中,所有独有八个随机字符的一声令下,举例tee,并将他们重定向到command.txt中,必要生机勃勃行呈现1个,并在文书尾巴部分总括他们的个数.

 

[root@linux-node1 files]# find $(echo $PATH|tr ":" " ") -type f -name "???"| awk '{a++}END{print "result:"a}'

find: `/root/bin': No such file or directory

result:75

通配符:用来同盟文件名的。{}字符体系

正则表明:字符串

1.7.5 总计awk实行进度

 

[root@linux-node1 files]# awk -F ":" 'BEGIN{print FS}'        

:

先实践命令再实行BEGIN模块

 

 

思想:

  1. awk主题理想就是现管理,然后END模块输出。(累积(a++;a+=$0卡塔尔(قطر‎,awk数组)
  2. BEGIN模块用于awk内置变量FS,RubiconS的赋值,打字与印刷标题头的音讯,(excel表格里面标题行)
  3. END模块用来末了输出,计算音信,awk数组音信。
  4. 区域,记录

 

  1. BEGIN和END模块只好有叁个。不可能BEGIN{}BEGIN{}或许END{}END{}
  2. 找什么人干啥模块,能够是多个。

NR=2{print $1}NR=5{print $0}

1.8awk放置变量(预订义变量)

 

变量名

属性

$0

当前记录

$1-$n

当前记录的第n个字段,字段间由FS分隔

FS

输入字段分隔符 默认是空格

NF

当前记录中的字段个数。就是有多少列

NR

已经读出的记录数,就是行号,从1开始

RS

输入的记录分隔符默认为换行符

OFS

输出字段分隔符 默认也是空格

ORS

输出的记录分隔符,默认为

FNR

当前文件的读入记录号

1.9 awk数组

示范1-9数组演示

array[b]=”aaa”:array.....

 

 

1.9.1铺面面试题1

 

管理以下文件内容,将域名抽出并依照域名实行计数排序管理(去重卡塔尔国:(百度和sohu面试题)

[root@linux-node1 files]# cat awkfile3.txt

http://post.etiantian.org/2.html

 

[root@linux-node1 files]# awk -F "/" '{array[$3]++}END{for(key in array) print key,array[key]}' awkfile3.txt

mp3.etiantian.org 1

post.etiantian.org 2

www.etiantian.org 3

 

[root@linux-node1 files]# awk -F "/+" '{array[$2]++}END{for(key in array)print key,array[key]}'  awkfile3.txt

mp3.etiantian.org 1

post.etiantian.org 2

www.etiantian.org 3

小结:

 

  1. awk数组去重
  2. 选好分隔符 -F “/”
  3. 选好管理的区域,print $1,$3,$2
  4. array[$3]++
  5. 先管理,最后END模块输出
  6. 输出awk数组大家使用for(key in array卡塔尔国
  7. ===>for ()循环
  8. key in array 手去框里,抓苹果。
  9. key 正是苹果名字(数组成分的名字)
  10. array数组名(框的名字)
  11. 打字与印刷输出print key,array[key]

 

1.9.2 集团案例2总括每种IP的访问量

access_awk.log

 

1.10 awk连锁Türkiye Cumhuriyeti语总计

名称

含义

filed

域,区域,字段

record

记录,默认一整行

Filed Separator

FS:区域分隔符,表示一个区域的结束,字段,域

Number of Filed

NF:每一个记录中区域的数量

Record Separator

RS:记录分隔符,表示每个记录的结束

output filed separator

OFS

output Record Separator

ORS

awk当前处理的文件的记录号

FNR

[root@linux-node1 files]# seq 20 30 >20-30.txt

[root@linux-node1 files]# seq 50 60 >50-60.txt

[root@linux-node1 files]# awk '{print FNR,NR,$0}' 20-30.txt 50-60.txt

1 1 20

2 2 21

3 3 22

4 4 23

5 5 24

6 6 25

7 7 26

8 8 27

9 9 28

10 10 29

11 11 30

1 12 50

2 13 51

3 14 52

4 15 53

5 16 54

6 17 55

7 18 56

8 19 57

9 20 58

10 21 59

11 22 60

第2章awk总结:

2.1.找什么人干啥模块

 图片 3

图片 4

 

 

 

 

 

 

 

 

2.2awk施行进度-完全

 图片 5

 

BEGIN模块输出一些提醒性文字。awk内置变量FS,凯雷德S,OENCORES,OFS。

END 模块输出一些提示性文字,突显最终的结果,总括空行,awk数组,去苹果的历程把苹果来得管理。

awk里面包车型地铁平常变量不用起头化。

awk先拍卖,后生可畏行生机勃勃行的拍卖,然后END模块输出。

  1. 域与记录

FS内定多姿多彩的刀(正则表示),KugaS正则表明

 

  1. 形式相称===》条件 怎样找人。

正则表明式

^字符串初叶

$字符串结尾

$3~/^http$/

--posix或 --re-interval

r{n,m}

特别正确,模糊

NR==1

NR>=2

形式默许相称 意气风发行$0

$3~/^r/

awk ‘$3~/[4-6]/{print $0}’ passwd.txt

范围相配

NR=2,NR=5   ==>2,5p

/start 地点/,/停止地方/

 

  1. 相遇正则表达式/ /
  2. $3~/reg/
  3. > = <
  4. NMurano==2,N途锐=5 /start地点/,/甘休地点/

 

  1. awk数组

数组 ==>元素

一个筐==》苹果

图片 6

图片 7

图片 8

 

 

 

标题来源:

http://edu.51cto.com/course/course_id-4319.html

 

3. 考试题

考察题1:管理以下文件内容,将域名收取并基于域名进行计数排序管理:(百度和sohu面试题卡塔尔国

oldboy.log

答案 (4种)

#这里的

root@linux-node1 files]# awk -F "/" '{array[$3]++}END{for(key in array) print key,array[key]}' awkfile3.txt

[root@linux-node1 files]# awk -F "/+" '{array[$2]++}END{for(key in array)print key,array[key]}'  awkfile3.txt

[root@linux-node1 files]#  cut -d / -f3 awkfile3.txt|sort|uniq -c|sort -nrk2

[root@linux-node1 files]#  sort -t / -rk3 awkfile3.txt|awk -F / '{print $3}'|uniq -c

 

考试题2:计算公司办事中高并发web服务器差异网络连接状态对应的数据

[root@linux-node1 files]# netstat -ant|awk 'NR>=3{array[$6]++}END{for(key in array)print key,array[key]}'              

TIME_WAIT 134

SYN_SENT 1

ESTABLISHED 5

LISTEN 10

 

[root@linux-node1 files]# netstat -ant|awk '{print $6}'|uniq -c|sort -nr

    138 TIME_WAIT

      7 LISTEN

      5 ESTABLISHED

      3 LISTEN

      1 Foreign

      1 established)

考试题3.分析图片服务日志,把日记(每一种图片访谈次数*图片大小的总和)排名,取top10,相当于计量每种url的总访问大小【附加题:加分题】。

表明:本题临盆条件应用:那几个意义能够用来IDC网址流量带宽超级高,然后通过深入分析服务器日志哪些要素占用流量过大,进而实行优化或裁剪该图形,压缩js等艺术。

核心需求输出七个目的: 【访谈次数】    【访谈次数*单个文件大小】   【文件名(能够带U中华VL)】

测验数据

59.33.26.105 - - [08/Dec/2010:15:43:56 +0800] "GET /staticphotos/2.jpg HTTP/1.1" 200 11299 "" "Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; SV1; .NET CLR 2.0.50727; .NET CLR 3.0.4506.2152; .NET CLR 3.5.30729)"

59.33.26.105 - - [08/Dec/2010:15:43:56 +0800] "GET /staticphotos/2.jpg HTTP/1.1" 200 11299 "" "Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; SV1; .NET CLR 2.0.50727; .NET CLR 3.0.4506.2152; .NET CLR 3.5.30729)"

59.33.26.105 - - [08/Dec/2010:15:44:02 +0800] "GET /static/flex/vedioLoading.swf HTTP/1.1" 200 3583 "" "Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; SV1; .NET CLR 2.0.50727; .NET CLR 3.0.4506.2152; .NET CLR 3.5.30729)"

124.115.4.18 - - [08/Dec/2010:15:44:15 +0800] "GET /?= HTTP/1.1" 200 46232 "-" "-"

124.115.4.18 - - [08/Dec/2010:15:44:25 +0800] "GET /static/js/web_js.js HTTP/1.1" 200 4460 "-" "-"

124.115.4.18 - - [08/Dec/2010:15:44:25 +0800] "GET /static/js/jquery.lazyload.js HTTP/1.1" 200 1627 "-" "-"

 

答案:

[root@linux-node1 files]# awk 'BEGIN{print"URL:""t""num:t""total_size:"}{a[$7]++;b[$7]=$10}END{for(key in a)print key"t"a[key]"t"a[key]*b[key]}' images.log  

URL:    num:    total_size:

/?=     1       46232

/static/js/web_js.js    1       4460

/staticphotos/2.jpg     2       22598

/static/flex/vedioLoading.swf   1       3583

/static/js/jquery.lazyload.js   1       1627

明亮透上述难点并解决后,你将得以轻巧化解如下扩充的调查题:

扩充考试题1:

4.借使现行反革命有个文本,格式如下:

a  1

b  3

c  2

d  7

b  5

a  3 

g  2

f  6

d  9

即左侧是随机字母,侧边是随便数字,供给写个脚本使其出口格式为:

a  4

b  8

c  2

d  16

f  6

g  2

即将肖似的字母前边的数字加在一同,按字母的次第输出。

答案:

答案

[root@linux-node1 files]# awk '{if(! a[$1]++)b[++n]=$1;c[$1]+=$2}END{for(i=1;i<=n;i++)print b[i],c[b[i]]}' a.txt

a 4

b 8

c 2

d 16

g 2

f 6

扩大考试题2:用shell管理以下内容

1、按单词现身频率降序排序!

2、按字母现身频率降序排序!

the squid project provides a number of resources to assist users design,implement and support squid installations. Please browse the documentation and support sections for more infomation

1.答案

[root@linux-node1 files]# sed -r 's#,| #n#g' b.txt|awk '{array[$0]++}END{for(key in array) print array[key],key}'|sort -r          

2 the

2 support

2 squid

2 and

1 users

1 to

1 sections

1 resources

1 provides

1 project

1 of

1 number

1 more

1 installations.

1 infomation

1 implement

1 for

1 documentation

1 design

1 browse

1 assist

1 a

1 Please

1

 

 

 

2.答案

[root@linux-node1 files]# sed 's#[a-zA-Z]#& #g' b.txt|awk 'BEGIN{RS=" "}{arr[$1]++}END{for(i in arr) print arr[i],i}'|sort -nr     

25

19 s

17 e

16 o

14 t

12 n

11 r

11 i

9 a

8 u

7 p

7 d

6 m

4 l

4 c

3 f

2 q

2 h

2 b

1 w

1 v

1 j

1 g

1 P

1 .

1 ,i

 

郑重声明:本文版权归澳门新葡8455最新网站所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时间联系我们修改或删除,多谢。