awk神器

时间:2023-03-09 16:22:58
awk神器

  产品经理(PM)过来找你要最近某某的数据,而你知道这些数据目前只能通过日志文件去分析,因为我们知道,我们不可能把所有数据都放入db中(这不科学啊!)。每当有这样任务的时候,你就用php或java(又或c)写一个特殊任务的程序,这真是一件令人头痛的事情。
  awk神器
  
放入db???

  为什么我不建议把数据放入db中呢?优点不言自明,我们可以通过sql语句很容易把数据拿出来。

  缺点呢?首先就是我们不能把什么东西都往db里放?

  原因,我归纳了以下几点:
  1、数据的抽风型:
    一般都是某某(不敢指明点姓,怕打击报复)脑门子一拍,突然想要某些数据,这就会来找你要。等这股抽风劲一过,很长时间没人再找你要数据了。
  2、数据的臃肿型:
    与其说是臃肿还不如说是乱七八糟。你不能把那一坨一坨的杂七杂八的数据,一股脑放入db中吧?那你的后台db成什么样子了?所以我们要管好我们的后院,不能什么东西都放到家里面。
  3、成本:
    干什么事情,我们不能做赔本的买卖。像这种一次性的买卖,我们就要降低成本去做。
  为了解决以上问题,我们请出awk神器吧?一种“短小精悍”的神器,常常用一两行代码就能搞定一些复杂的任务。
awk神器
本文宗旨
  awk不难,关键是看我们怎么思考?我的思考方式是:在这么多数据行中,我要找什么(行位置)?找到之后,我们要干什么(如{})?
  故我的主题就出来了:找什么和干什么。我不想讲什么语法之类的东西(不要在意这些细节)。
找什么?
   这个世界最难的不是做什么,而是找什么?李清照的“寻寻觅觅”,最后把自己寻觅没了。仿古人,俺也寻寻觅觅了一阵子,结果跟清照大姐一样,迷失在寻寻觅觅中,到现在都不知道我在寻觅什么?——个人认为找什么不是体力活,而是技术活。awk吸引我的,也就是它教会了我怎么找我想要的东西?
 准备干粮
cat  netstat.txt
Proto Recv-Q Send-Q Local-Address Foreign-Address State
tcp 0.0.0.0: 0.0.0.0:* LISTEN
tcp 0.0.0.0: 0.0.0.0:* LISTEN
tcp 127.0.0.1: 0.0.0.0:* LISTEN
tcp yuedu.com: 124.205.5.146: TIME_WAIT
tcp yuedu.com: 61.140.101.185: FIN_WAIT2
tcp yuedu.com: 110.194.134.189: ESTABLISHED
tcp yuedu.com: 123.169.124.111: ESTABLISHED
tcp yuedu.com: 116.234.127.77: FIN_WAIT2
tcp yuedu.com: 123.169.124.111: ESTABLISHED
tcp yuedu.com: 183.60.215.36: TIME_WAIT
tcp yuedu.com: 61.148.242.38: ESTABLISHED
tcp yuedu.com: 124.152.181.209: FIN_WAIT1
tcp yuedu.com: 110.194.134.189: ESTABLISHED
tcp yuedu.com: 183.60.212.163: TIME_WAIT
tcp yuedu.com: 208.115.113.92: LAST_ACK
tcp yuedu.com: 123.169.124.111: ESTABLISHED
tcp yuedu.com: 117.136.20.85: FIN_WAIT2
tcp ::: :::* LISTEN
 上小菜(基础条件匹配):

查询所有tcp中,接受队列非0的网络包。

localhost:zhoubc Guest$ awk '$1 =="tcp" && $2 > 0' netstat.txt
tcp 0.0.0.0: 0.0.0.0:* LISTEN

打印出来的内容,我们不知所云。如果把第一行打出来,就一目了然了。这时候我们要用到awk的全局常量(如果想知道AWK的全局常量,我们可以往下看,附录,我把常用的罗列出来了)NR。

localhost:zhoubc Guest$ awk 'NR==1 || $1 =="tcp" && $2 > 0' netstat.txt
Proto Recv-Q Send-Q Local-Address Foreign-Address State
tcp 0.0.0.0: 0.0.0.0:* LISTEN

看爽了是不是?

推荐
awk神器
参考资料
不错的博客文章:
http://bbs.linuxtone.org/thread-24441-1-1.html
手册:http://www.gnu.org/software/gawk/manual/gawk.html