首页 > 其他 > 详细

awk 数据处理小技巧

时间:2015-03-17 13:57:28      阅读:998      评论:0      收藏:0      [点我收藏+]
进行数据分析或统计时,如果数据量较小,我们可以用awk快速处理,以下是一些小技巧
 
一、时间戳转换
日期转时间戳: date -d "20150315"  "+%s"
时间戳转日期:date -d @1426565428 "+%Y-%m-%d"
 
二、数据统计处理
随机取100个数
awk ‘BEGIN{srand()} {print rand()" "$1}‘ 2.txt | sort -k1 | head -100

取交集
cat 1.txt 2.txt | sort | uniq -d

取并集
cat 1.txt 2.txt | sort | uniq
 
除去交集
cat 1.txt 2.txt | sort | uniq -u
 
求重复出现次数最多的数字
cat 1.txt 2.txt | sort | uniq -c | sort -r -k1 | head -100

求平均数
awk ‘{sum+=$1} END{print "average="sum/NR}‘ 1.txt

三、文件处理
拷贝文件某几行
sed -n ‘1,10p‘ 1.txt > copy.txt

awk 数据处理小技巧

原文:http://www.cnblogs.com/-Lei/p/4344044.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!