首页 > Web开发 > 详细

ELK Kafka json to elk

时间:2016-04-05 19:50:27      阅读:327      评论:0      收藏:0      [点我收藏+]

Logstash配置

? ?

input {

kafka {

zk_connect => "127.0.0.1:2181"

topic_id => "cluster"

codec => plain

reset_beginning => false

consumer_threads => 5

decorate_events => true

}

}

? ?

? ?

output {

if [type]=="cluster3" or [type]=="cluster2" or [type]=="clusterjson"

{

elasticsearch {

hosts => ["localhost:9200"]

index => "test-kafka-%{type}-%{+YYYY-MM}"

}

}

? ?

stdout { codec => rubydebug }

}

? ?

Server.properties 主要内容

broker.id=0

? ?

############################# Socket Server Settings #############################

? ?

listeners=PLAINTEXT://:9092

? ?

# The port the socket server listens on

port=9092

? ?

? ?

Server-1.properties 主要内容

? ?

broker.id=1

? ?

############################# Socket Server Settings #############################

? ?

listeners=PLAINTEXT://:9093

? ?

# The port the socket server listens on

port=9093

? ?

? ?

启动kafka,server.properties和server-1.properties

E:\soft\elk\kafka_2.11-0.9.0.1>bin\windows\kafka-server-start.bat config\custom\server-1.properties

? ?

创建topic,并查看状态

? ?

技术分享

? ?

查找端口占用情况,并删除一个节点

? ?

技术分享

? ?

查看 topic状态

? ?

技术分享

? ?

? ?

生产者输入json数据,如下

? ?

{"Name":"BULK 7","Data":7,"CreateTime":"2016-04-05T10:16:22Z","type":"cluster3"}

? ?

Kibana 4显示如下

技术分享

? ?

? ?

? ?

? ?

? ?

? ?

? ?

ELK Kafka json to elk

原文:http://www.cnblogs.com/liuyuhua/p/5356293.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!