當前位置：首頁 > 编程资源 > 编程问答 >内容正文

编程问答

Logstash之Logstash inputs（file和redis插件）、Logstash outputs（elasticsearch 和redis插件）和Filter plugins...

發布時間：2024/4/15 编程问答 41 豆豆

生活随笔收集整理的這篇文章主要介紹了 Logstash之Logstash inputs（file和redis插件）、Logstash outputs（elasticsearch 和redis插件）和Filter plugins... 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

?前期博客

Logstash安裝和設置（圖文詳解）（多節點的ELK集群安裝在一個節點就好）

　　Filebeat啊，根據input來監控數據，根據output來使用數據！！！

　請移步，

Filebeat之input和output（包含Elasticsearch Output 、Logstash Output、 Redis Output、 File Output和 Console Output）

　　Logstash啊，根據input來監控數據，根據output來使用數據！！！

手把手帶你看官方文檔（Logstash inputs和Logstash outputs）

https://www.elastic.co/guide/index.html

https://www.elastic.co/guide/en/logstash/index.html

https://www.elastic.co/guide/en/logstash/2.4/index.html

　　關于?Logstash inputs、Logstash outputs和Filter plugins，很多很多，自行去官網看，我這里不多贅述。僅僅拿下面來示范：

Logstash?的input

file input

　　最常用的input插件是file。

https://www.elastic.co/guide/en/logstash/2.4/plugins-inputs-file.html

[hadoop@HadoopMaster logstash-2.4.1]$ pwd /home/hadoop/app/logstash-2.4.1 [hadoop@HadoopMaster logstash-2.4.1]$ ll total 164 drwxrwxr-x. 2 hadoop hadoop 4096 Mar 27 03:58 bin -rw-rw-r--. 1 hadoop hadoop 102879 Nov 14 10:04 CHANGELOG.md -rw-rw-r--. 1 hadoop hadoop 2249 Nov 14 10:04 CONTRIBUTORS -rw-rw-r--. 1 hadoop hadoop 5084 Nov 14 10:07 Gemfile -rw-rw-r--. 1 hadoop hadoop 23015 Nov 14 10:04 Gemfile.jruby-1.9.lock drwxrwxr-x. 4 hadoop hadoop 4096 Mar 27 03:58 lib -rw-rw-r--. 1 hadoop hadoop 589 Nov 14 10:04 LICENSE -rw-rw-r--. 1 hadoop hadoop 46 Mar 27 05:30 logstash-simple.conf -rw-rw-r--. 1 hadoop hadoop 149 Nov 14 10:04 NOTICE.TXT drwxrwxr-x. 4 hadoop hadoop 4096 Mar 27 03:58 vendor [hadoop@HadoopMaster logstash-2.4.1]$ vim file_stdout.conf

　　這個，是可以自定義的。我這里是

　　path => "/home/hadoop/app.log"
或者
　　path => [ "/home/hadoop/app", "/home/hadoop/*.log" ]

input {file {path => "/home/hadoop/app.log"} } filter {} output {stdout {} }

　　我這里是，監控/home/hadoop/app.log這個文件的變化。

[hadoop@HadoopMaster logstash-2.4.1]$ pwd /home/hadoop/app/logstash-2.4.1 [hadoop@HadoopMaster logstash-2.4.1]$ ll total 168 drwxrwxr-x. 2 hadoop hadoop 4096 Mar 27 03:58 bin -rw-rw-r--. 1 hadoop hadoop 102879 Nov 14 10:04 CHANGELOG.md -rw-rw-r--. 1 hadoop hadoop 2249 Nov 14 10:04 CONTRIBUTORS -rw-rw-r--. 1 hadoop hadoop 107 Mar 27 05:55 file_stdout.conf -rw-rw-r--. 1 hadoop hadoop 5084 Nov 14 10:07 Gemfile -rw-rw-r--. 1 hadoop hadoop 23015 Nov 14 10:04 Gemfile.jruby-1.9.lock drwxrwxr-x. 4 hadoop hadoop 4096 Mar 27 03:58 lib -rw-rw-r--. 1 hadoop hadoop 589 Nov 14 10:04 LICENSE -rw-rw-r--. 1 hadoop hadoop 46 Mar 27 05:30 logstash-simple.conf -rw-rw-r--. 1 hadoop hadoop 149 Nov 14 10:04 NOTICE.TXT drwxrwxr-x. 4 hadoop hadoop 4096 Mar 27 03:58 vendor [hadoop@HadoopMaster logstash-2.4.1]$ bin/logstash -f file_stdout.conf Settings: Default pipeline workers: 1 Pipeline main started

　　重新打開，另外一個HadoopMaster界面。

[hadoop@HadoopMaster ~]$ pwd /home/hadoop [hadoop@HadoopMaster ~]$ ll total 48 drwxrwxr-x. 12 hadoop hadoop 4096 Mar 27 03:59 app -rw-rw-r--. 1 hadoop hadoop 18 Mar 26 19:59 app.log drwxrwxr-x. 7 hadoop hadoop 4096 Mar 25 06:34 data drwxr-xr-x. 2 hadoop hadoop 4096 Oct 31 17:19 Desktop drwxr-xr-x. 2 hadoop hadoop 4096 Oct 31 17:19 Documents drwxr-xr-x. 2 hadoop hadoop 4096 Oct 31 17:19 Downloads drwxr-xr-x. 2 hadoop hadoop 4096 Oct 31 17:19 Music drwxr-xr-x. 2 hadoop hadoop 4096 Mar 26 20:35 mybeat drwxr-xr-x. 2 hadoop hadoop 4096 Oct 31 17:19 Pictures drwxr-xr-x. 2 hadoop hadoop 4096 Oct 31 17:19 Public drwxr-xr-x. 2 hadoop hadoop 4096 Oct 31 17:19 Templates drwxr-xr-x. 2 hadoop hadoop 4096 Oct 31 17:19 Videos [hadoop@HadoopMaster ~]$ echo bbbbbbb >> app.log [hadoop@HadoopMaster ~]$

　　其實，這個文件，.sincedb_8f3299d0a5bdb7df6154f681fc150341也會記錄。

?注意：

? ?第一次讀取新文件，不會有.sincedb等這些，默認根據這個start_position去讀，若start_position是end,則讀最后。若start_position是begin，則讀最開始。

若不是第一次讀取文件了，重啟Logstash，則會有.sincedb文件了，則就轉去根據這個.sincedb文件讀了。不管start_position是什么，都不起效了。

　　start_position：指定從什么位置開始讀取文件數據，默認是結束位置，也可以指定為從頭開始。
　　注意：start_position僅在該文件從未被監聽過的時候起作用，因為logstash在讀取文件的時候會記錄一個.sincedb文件來跟蹤文件的讀取位置，當文件被讀取過一次之后，下次就會從.sincedb中記錄的位置讀取，start_position參數就無效了。文件默認在用戶目錄下。

　　注意一個坑：ignore_older屬性，表示忽略老的數據，值默認為86400，表示忽略24小時以前的數據。如果你新監控一個24小時以上沒有被修改過的老文件的話，就算把start_position設置為beginning，也無法獲取之前的數據。

redis?input

https://www.elastic.co/guide/en/logstash/2.4/plugins-inputs-redis.html

input {redis {host => "192.168.80.12"port => 6379data_type => "list"key => "filebeat"} } filter {} output {stdout {} }

?　　這里，用到redis，不會用的博友，請移步

redis的安裝（圖文詳解）

?　　這里，等我安裝好了之后，再來。

Logstash?的output

redis output

https://www.elastic.co/guide/en/logstash/2.4/plugins-outputs-redis.html

[hadoop@HadoopMaster logstash-2.4.1]$ pwd /home/hadoop/app/logstash-2.4.1 [hadoop@HadoopMaster logstash-2.4.1]$ ll total 172 drwxrwxr-x. 2 hadoop hadoop 4096 Mar 27 03:58 bin -rw-rw-r--. 1 hadoop hadoop 102879 Nov 14 10:04 CHANGELOG.md -rw-rw-r--. 1 hadoop hadoop 2249 Nov 14 10:04 CONTRIBUTORS -rw-rw-r--. 1 hadoop hadoop 107 Mar 27 05:55 file_stdout.conf -rw-rw-r--. 1 hadoop hadoop 5084 Nov 14 10:07 Gemfile -rw-rw-r--. 1 hadoop hadoop 23015 Nov 14 10:04 Gemfile.jruby-1.9.lock drwxrwxr-x. 4 hadoop hadoop 4096 Mar 27 03:58 lib -rw-rw-r--. 1 hadoop hadoop 589 Nov 14 10:04 LICENSE -rw-rw-r--. 1 hadoop hadoop 46 Mar 27 05:30 logstash-simple.conf -rw-rw-r--. 1 hadoop hadoop 149 Nov 14 10:04 NOTICE.TXT -rw-rw-r--. 1 hadoop hadoop 155 Mar 27 06:43 redis_stdout.conf drwxrwxr-x. 4 hadoop hadoop 4096 Mar 27 03:58 vendor [hadoop@HadoopMaster logstash-2.4.1]$ vim stdin_es.conf

elasticsearch output

　　即把Logstash里的數據，寫到elasticsearch 集群（這臺192.168.80.10里）

　　hosts=>"192.168.80.00"或hosts=>["192.168.80.10:9200","192.168.80.11:9200","192.168.80.12:9200"]

　　1.x中屬性名稱叫host
　　默認向es中創建的索引庫是logstash-%{+YYYY.MM.dd}，可以利用es中的索引模板特性定義索引庫的一些基礎配置。

input {stdin { } } filter {} output {elasticsearch {hosts => "192.168.80.10:9200"} }

繼續

Filter plugins

繼續

轉載于:https://www.cnblogs.com/zlslch/p/6624457.html

總結

以上是生活随笔為你收集整理的Logstash之Logstash inputs（file和redis插件）、Logstash outputs（elasticsearch 和redis插件）和Filter plugins...的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。

上一篇：解决iOS地图持续定位耗电问题
下一篇： JavaScript中的面向对象（1）：