最好用的 Kafka Json Logger Java客户端。

slf4j4json

最好用的 Kafka Json Logger 库;不尝试一下可惜了!

Description

一款为 Kafka 提供的 json logger 客户端,支持将 json 格式的 log 输出到 kafka、文件、控制台。

支持 slf4j 的全部功能。

比 KafkaLog4jAppender 更好用,可配置性更好。

支持 close logger, 在程序关闭之前 flush log to kafka。

支持链式编程模式,方便用户使用。

maven dependency

  1. 添加repository
  1. <repositories>
  2. <repositories>
  3. <repository>
  4. <id>release</id>
  5. <url>https://raw.github.com/joyang1/slf4j4json/mvn-repo/</url>
  6. <snapshots>
  7. <enabled>true</enabled>
  8. <updatePolicy>always</updatePolicy>
  9. </snapshots>
  10. </repository>
  11. </repositories>
  12. </repositories>
  1. 添加dependency
  1. <dependency>
  2. <groupId>cn.tommyyang</groupId>
  3. <artifactId>slf4j4json</artifactId>
  4. <version>1.4.0</version>
  5. </dependency>

使用

需要配置log4j.properties

因为该 jar 包同样是依赖于 slf4j, 所以按 log4j 配置 log4j.properties 即可正常使用。

log4j.properties 的详细配置说明请参考log4j 配置说明

  1. log4j.rootLogger=DEBUG,console
  2. #输出日志到控制台
  3. log4j.appender.console=org.apache.log4j.ConsoleAppender
  4. log4j.appender.console.Threshold=all
  5. log4j.appender.console.layout=org.apache.log4j.PatternLayout
  6. log4j.appender.console.layout.ConversionPattern=%-d{yyyy-MM-dd HH\:mm\:ss} [%c\:%L]-[%p] %m%n

slf4j4json使用

  1. 直接打印

    跟 slf4j 类似,不过该库提供链式编程方式,便于用户使用。

  1. //通过LoggerFactory获取一个logger
  2. final static Logger logger = LoggerFactory.getLogger(Test.class);
  3. //打印必须调用log()方法
  4. logger.info().field("key1", "value1").intField("key2", 1).log();
  5. logger.warn().field("key1", "value1").intField("key2", 1).log();
  6. logger.debug().strField("key1", "value1").longField("key2", 1L).log();
  7. logger.trace().strField("key1", "value1").intField("key2", 1).log();
  8. logger.error().strField("key1", "value1").intField("key2", 1).log();
  1. 比如有一些键值对要重复赋值,使用getLogger方法,实例如下

  1. JsonLogger jsonLogger = logger.info().strField("appname", "app").getLogger();
  2. jsonLogger.strField("msg","infotest1").intField("port", 2).log();
  3. jsonLogger.field("msg","infotest2").longField("long", 23L).log();
  1. 1.4.0更新, 只提供getLogger方法

配置了 LogConfig 则打印 log 到 kafka,否则打印 log 到 file;

如果打印 log 到 file 文件或者控制台,则需要配置 log4j.properties,具体如何配置见使用

如果只用打印 log 到 kafka,则不用配置 log4j.properties。


  1. LogConfig conf = new LogConfig("Vinci", LogLevel.INFO, "localhost:9092", "admin-app-log");
  2. LoggerFactory.openKafkaLogger(conf);
  3. Logger logger = LoggerFactory.getLogger();
  4. logger.info().strField("test", "test-info").log();
  5. logger.error().strField("test", "test-error").log();
  6. logger.warn().strField("test", "test-warn").log();
  7. logger.debug().strField("test", "test-debug").log();

输出


  1. {"key1":"value1","key2":1,"index":"server-end-log","host":"DESKTOP-2B1VG6J","level":"info","time":1535021174}

version

  • 1.0版本

    • 实现 JsonLog For Java 的基本功能

    • 使用 KafkaLog4jAppender 打印 log 到 Kafka

  • 1.1版本

    • 修复JsonLogger jsonLogger = logger.info().strField("appname", "app").getLogger(); 出现重复内容的bug
  • 1.2版本

    • 去掉log中自带的index键值对

    • repository修改


      1. <repositories>
      2. <repository>
      3. <id>release</id>
      4. <url>https://raw.github.com/joyang1/slf4j4json/mvn-repo/</url>
      5. <snapshots>
      6. <enabled>true</enabled>
      7. <updatePolicy>always</updatePolicy>
      8. </snapshots>
      9. </repository>
      10. </repositories>
  • 1.3.0版本

    • 添加kafka logger的实现,批量打印log到kafka

    • 10s或者5m flush一次

  • 1.4.0版本

    • 优化logger实现

欢迎 fork 和 star

Github地址:slf4j4json

最好用的 Kafka Json Logger Java客户端,赶紧尝试一下的更多相关文章

  1. 4 kafka集群部署及kafka生产者java客户端编程 + kafka消费者java客户端编程

    本博文的主要内容有   kafka的单机模式部署 kafka的分布式模式部署 生产者java客户端编程 消费者java客户端编程 运行kafka ,需要依赖 zookeeper,你可以使用已有的 zo ...

  2. java kafka单列模式生产者客户端

    1.所需要的依赖 <?xml version="1.0" encoding="UTF-8"?> <project xmlns="ht ...

  3. 报错:java.lang.AbstractMethodError: nl.techop.kafka.KafkaHttpMetricsReporter.logger()Lcom/typesafe/scalalogging/Logger;

    报错背景: CDH启动kafka的时候出现报错情况,并且报错的节点挂掉. 报错现象: Exiting Kafka due to fatal exception java.lang.AbstractMe ...

  4. 大数据学习day31------spark11-------1. Redis的安装和启动,2 redis客户端 3.Redis的数据类型 4. kafka(安装和常用命令)5.kafka java客户端

    1. Redis Redis是目前一个非常优秀的key-value存储系统(内存的NoSQL数据库).和Memcached类似,它支持存储的value类型相对更多,包括string(字符串).list ...

  5. kafka java客户端编程

    kafka_2.10-0.8.1.1 maven <dependencies> <dependency> <groupId>org.apache.kafka< ...

  6. kafka的Java客户端示例代码(kafka_2.11-0.8.2.2)

    1.使用Producer API发送消息到Kafka 从版本0.9开始被KafkaProducer替代. HelloWorldProducer.java package cn.ljh.kafka.ka ...

  7. kafka的Java客户端示例代码(kafka_2.12-0.10.2.1)

    使用0.9开始增加的KafkaProducer和KafkaConsumer. Pom.xml <project xmlns="http://maven.apache.org/POM/4 ...

  8. elasticsearch系列七:ES Java客户端-Elasticsearch Java client(ES Client 简介、Java REST Client、Java Client、Spring Data Elasticsearch)

    一.ES Client 简介 1. ES是一个服务,采用C/S结构 2. 回顾 ES的架构 3. ES支持的客户端连接方式 3.1 REST API ,端口 9200 这种连接方式对应于架构图中的RE ...

  9. Solr JAVA客户端SolrJ 4.9使用示例教程

    http://my.oschina.net/cloudcoder/blog/305024 简介 SolrJ是操作Solr的JAVA客户端,它提供了增加.修改.删除.查询Solr索引的JAVA接口.So ...

随机推荐

  1. mysql——批量插入数据

    要测试一下新功能,需要测试环境下的数据库有大量的数据,一个个插入显然不现实,需要了解一下存储过程 https://www.cnblogs.com/endtel/p/5407455.html Navic ...

  2. pycharm2017版本永久激活

    亲测有效,为了以后方便查看,就复制粘贴了一下 声明:转自https://blog.csdn.net/qq_34173491/article/details/81157519 目前比较好用的Python ...

  3. linux运维、架构之路-redis集群

    一.介绍            redis cluster 3.0之后的功能,至少需要3(Master)+3(Slave)才能建立集群,是无中心的分布式存储架构,可以在多个节点之间进行数据共享,解决了 ...

  4. Python3 三元表达式、列表推导式、生成器表达式

    Python3 三元表达式.列表推导式.生成器表达式 三元表达式 表达式中,有三个元素 name = input("请输入姓名: ")ret = '输入正确' if name == ...

  5. 特征提取算法(3)——SIFT特征提取算子

    目录: 前言 1.高斯尺度空间GSS 2.高斯差分DOG 用DoG检测特征点 GSS尺度选择 3.图像金字塔建立 用前一个octave中的倒数第三幅图像生成下一octave中的第一幅图像 每层octa ...

  6. 【PowerOJ1737&网络流24题】太空飞行计划问题(最小割)

    题意: 思路: #include<bits/stdc++.h> using namespace std; typedef long long ll; typedef unsigned in ...

  7. 阿里云CentOS 7.3安装Redis详细步骤

    ############  准备  ############### 从Redis官网下载Linux redis3.2.6版本,我下载的redis-3.2.6.tar.gz(目前最新稳定版),下载到/u ...

  8. Python 高效编程技巧实战(2-1)如何在列表,字典, 集合中根据条件筛选数据

    Python 高效编程技巧实战(2-1)如何在列表,字典, 集合中根据条件筛选数据 学习目标 1.学会使用 filter 借助 Lambda 表达式过滤列表.集合.元组中的元素: 2.学会使用列表解析 ...

  9. 大数据笔记(三)——Hadoop2.0的安装与配置

    一.Hadoop安装部署的预备条件 准备:1.安装Linux和JDK. 安装JDK 解压:tar -zxvf jdk-8u144-linux-x64.tar.gz -C ~/training/ 设置环 ...

  10. chrome flash 自动暂停问题

    chrome flash 尺寸小于398*298时,只要宽和高某一个值小于对应值就会自动暂停,出现这个圆形的播放按钮.(估计是当广告处理了...) 将尺寸调大即可.