日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 人文社科 > 生活经验 >内容正文

生活经验

使用cat,awk和sort命令从nginx访问日志中统计user-agent类型

發布時間:2023/11/27 生活经验 32 豆豆
生活随笔 收集整理的這篇文章主要介紹了 使用cat,awk和sort命令从nginx访问日志中统计user-agent类型 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

業務場景描述如下:

我有一個Nginx的web服務器,需要從統計日志中統計有哪些類型的設備終端和瀏覽器訪問了我的網站。

訪問日志中的每條記錄是這樣的:


使用下面的命令得到user-agent所在的字段

cat cpm.access.log-20141211 | awk -F '"' '{print $6}' > ua_1211.txt

意思是,處理該文件的每一行,指定“為分隔符,只輸出第6個文本域


提取的user-agent字段得到的文件為


很顯然,需要對這些行進行去重,這只需要一個簡單的sort命令就可以請求搞定:

sort ua_1211.txt | uniq -u > ua_1211.sort.txt

對文檔按照ascii字符順序進行排序,同時去掉重復行,并將結果重定向到新文件中

下面是去重后的文件內容


為了結果更精確,我需要對當前目錄下面的所有日志都做相同的分析,為此,我需要先將這些文件都合并到一個大日志文件中,再對這個大文件執行上面的操作。使用cat的通配符合并功能很容易實現文件合并:

cat cpm.access.log-2014121* > cpm.access.log

再對這個合并文件cpm.access.log做分析

cat cpm.access.log | awk -F '"' '{print $6}' | sort | uniq -u > ua_analysis.txt

這次我們看到了更多神奇的東西,看來訪問各種移動端訪問我們網站還是很多的,總結有1333種終端訪問。



其實類似的其他場景的問題也可以參照解決。

下面是我收集的user-agent文件,參見下載鏈接

收集的user-agent大全.txt

觀察日志發現UA字符串:

Mozilla/5.0 (compatible; Baiduspider/2.0; http://www.baidu.com/search/spider.html) ?

參考文獻

[1].http://www.cnblogs.com/51linux/archive/2012/05/23/2515299.html

[2].http://www.cnblogs.com/ggjucheng/archive/2013/01/13/2858385.html

總結

以上是生活随笔為你收集整理的使用cat,awk和sort命令从nginx访问日志中统计user-agent类型的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。