新都在

新都在

使用logstash监控文件并传输到ES中

2023-07-26
使用logstash监控文件并传输到ES中

使用logstash监控文件并传输到ES中

因为现在有一个需求是不再使用logstash监听kafka发送数据到es,而是监听文件然后发送数据到es。并且,我们文件是txt的文件,文件中的每一行数据是一个标准的json。因此,我们可以使用下面的config进行配置。

input {
    file {
        type => "monitor"
        path => ["/data/monitor/filelog/*.txt"]
        codec => json
     }
}

filter {
    mutate
        {
            gsub => [ "message", "\\n", "
" ]
        }
}

output {
    elasticsearch
        {
            user => admin
            password => admin
            pool_max => 1000
            pool_max_per_route => 200
            hosts => ["127.0.0.1:9200"]
            index => "monitor-%{+YYYY.MM.dd}"
        }
}