日韩av黄I国产麻豆传媒I国产91av视频在线观看I日韩一区二区三区在线看I美女国产在线I麻豆视频国产在线观看I成人黄色短片

歡迎訪問 生活随笔!

生活随笔

當(dāng)前位置: 首頁 >

nginx日志切割并使用flume-ng收集日志

發(fā)布時(shí)間:2024/9/27 34 豆豆
生活随笔 收集整理的這篇文章主要介紹了 nginx日志切割并使用flume-ng收集日志 小編覺得挺不錯(cuò)的,現(xiàn)在分享給大家,幫大家做個(gè)參考.
nginx的日志文件沒有rotate功能。如果你不處理,日志文件將變得越來越大,還好我們可以寫一個(gè)nginx日志切割腳本來自動(dòng)切割日志文件。 第一步就是重命名日志文件,不用擔(dān)心重命名后nginx找不到日志文件而丟失日志。在你未重新打開原名字的日志文件前,nginx還是會(huì)向你重命名的文件寫日志,linux是靠文件描述符而不是文件名定位文件。 第二步向nginx主進(jìn)程發(fā)送USR1信號(hào)。 nginx主進(jìn)程接到信號(hào)后會(huì)從配置文件中讀取日志文件名稱,重新打開日志文件(以配置文件中的日志名稱命名),并以工作進(jìn)程的用戶作為日志文件的所有者。 重新打開日志文件后,nginx主進(jìn)程會(huì)關(guān)閉重名的日志文件并通知工作進(jìn)程使用新打開的日志文件。 工作進(jìn)程立刻打開新的日志文件并關(guān)閉重名名的日志文件。 然后你就可以處理舊的日志文件了。 nginx日志按日期自動(dòng)切割腳本如下 #nginx日志切割腳本 #!/bin/bash #設(shè)置日志文件存放目錄 logs_path="/usr/local/nginx/logs/" #設(shè)置pid文件 pid_path="/usr/local/nginx/nginx.pid" #重命名日志文件 mv ${logs_path}access.log ${logs_path}access_$(date-d"yesterday"+"%Y%m%d").log #向nginx主進(jìn)程發(fā)信號(hào)重新打開日志 kill -USR1 `cat ${pid_path}` #以上是對(duì)日志的處理,可是重新命名后原來的那個(gè)access.log已經(jīng)不存在了,使用tail -f 時(shí)候flumeng無法再繼續(xù)收集新產(chǎn)生的日志了,這個(gè)時(shí)候我們把flume收集日志的命令改為tail -F 收集日志即可。

詳細(xì)見 http://liyonghui160com.iteye.com/blog/2098777

保存以上腳本nginx_log.sh,設(shè)置定時(shí)執(zhí)行。

設(shè)置上面的shell腳本文件加入到定時(shí)任務(wù)中去。crontab是linux下面一個(gè)定時(shí)任務(wù)進(jìn)程。開機(jī)此進(jìn)程會(huì)啟動(dòng),它每隔一定時(shí)間會(huì)去自己的列表中看是否有需要執(zhí)行的任務(wù)。

crontab -e

0 0 * * * /data/wwwlogs/nginx_log_division.sh

會(huì)打開一個(gè)文件,加入上面的代碼

格式為 “分 時(shí) 日 月 星期幾 要執(zhí)行的shell文件路徑”。用*可以理解成“每”,每分鐘,每個(gè)小時(shí),每個(gè)月等等。

我設(shè)置是在凌晨0點(diǎn)0分運(yùn)行nginx_log_division.sh腳本放到flume中bin文件夾下,腳本的內(nèi)容就是重新生成一個(gè)新的日志文件。

nginx_log_division.sh代碼:

#!/bin/bash #設(shè)置日志文件存放目錄 logs_path="/usr/local/nginx/nginxlog/" #設(shè)置pid文件 pid_path="/usr/local/nginx/nginx-1.7.3/logs/nginx.pid" #日志文件 filepath=${logs_path}"access.log" # Source function library. #重命名日志文件 mv ${logs_path}access.log ${logs_path}access_$(date -d '-1 day' '+%Y-%m-%d').log #向nginx主進(jìn)程發(fā)信號(hào)重新打開日志 kill -USR1 `cat ${pid_path}`

flumeng配置:

# A single-node Flume configuration # Name the components on this agent agent1.sources = source1 agent1.sinks = sink1 agent1.channels = channel1 # Describe/configure source1 agent1.sources.source1.type = exec agent1.sources.source1.command = tail -n +0 -F /logs/access.log agent1.sources.source1.channels = channel1 # Describe sink1 agent1.sinks.sink1.type = file_roll agent1.sinks.sink1.sink.directory=/var/log/data # Use a channel which buffers events in memory agent1.channels.channel1.type = file agent1.channels.channel1.checkpointDir=/var/checkpoint agent1.channels.channel1.dataDirs=/var/tmp agent1.channels.channel1.capacity = 1000 agent1.channels.channel1.transactionCapactiy = 100 # Bind the source and sink to the channel agent1.sources.source1.channels = channel1 agent1.sinks.sink1.channel = channel1

總結(jié)

以上是生活随笔為你收集整理的nginx日志切割并使用flume-ng收集日志的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò),歡迎將生活随笔推薦給好友。