1. [elk@dr-mysql01 api-access]$ date
  2. Wed Nov 30 19:21:35 CST 2016
  3. [elk@dr-mysql01 api-access]$
  4.  
  5. [elk@dr-mysql01 config]$ ../bin/logstash -f stdin02.conf
  6. Settings: Default pipeline workers: 8
  7. Pipeline main started
  8. 12/Sep/2016:21:32:33 +0800
  9. {
  10. "message" => "12/Sep/2016:21:32:33 +0800",
  11. "@version" => "1",
  12. "@timestamp" => "2016-11-30T11:21:57.442Z", ##时间为当前系统时间
  13. "host" => "dr-mysql01.zjcap.com",
  14. "logdate" => "12/Sep/2016:21:32:33 +0800"
  15. }
  16.  
  17. [elk@dr-mysql01 config]$ ../bin/logstash -f stdin02.conf
  18. Settings: Default pipeline workers: 8
  19. Pipeline main started
  20. 12/Sep/2016:21:32:33 +0800
  21. {
  22. "message" => "12/Sep/2016:21:32:33 +0800",
  23. "@version" => "1",
  24. "@timestamp" => "2016-09-12T13:32:33.000Z",
  25. "host" => "dr-mysql01.zjcap.com",
  26. "logdate" => "12/Sep/2016:21:32:33 +0800",
  27. "response_time" => "12/Sep/2016:21:32:33 +0800"
  28. }
  29.  
  30. c[elk@dr-mysql01 config]$ cat stdin02.conf
  31. input {
  32. stdin {
  33. }
  34. }
  35.  
  36. filter {
  37. grok {
  38. match => ["message", "%{HTTPDATE:logdate}"]
  39. }
  40. date {
  41. match => ["logdate", "dd/MMM/yyyy:HH:mm:ss Z"]
  42. add_field =>["response_time","%{logdate}"]
  43. }
  44. }
  45. output {
  46. stdout {
  47. codec=>rubydebug{}
  48. }
  49. }
  50.  
  51. /****************iss日志
  52. 2016-11-30 06:33:33 192.168.5.116 GET /Hotel/HotelDisplay/cncqcqb230 - 80 - 192.168.9.2 Mozilla/5.0+(Macintosh;+U;+Intel+Mac+OS+X+10.9;+en-US;+rv:1.9pre)+Gecko - 200 0 0 45
  53.  
  54. [elk@dr-mysql01 config]$ cat iss.conf
  55. input {
  56. stdin {
  57. }
  58. }
  59. filter {
  60. grok {
  61. match => [
  62. "message" ,"\s*(?<time>([0-9]{4}\-[0-9]{2}\-[0-9]{2}\s+[0-9]{2}:[0-9]{2}:[0-9]{2}))\s+%{IPORHOST:clientip}\s+%{WORD:verb}\s+%{URIPATHPARAM:request}\s+\-\s+(?<port>
  63.  
  64. ([0-9]{2}.*?))\s+\-\s+%{IPORHOST:sourceip}\s+(?<http_user_agent>(\S+\s+).*?).*"
  65. ]
  66. }
  67. date {
  68. match => ["time", "yyyy-MM-dd HH:mm:ss"]
  69. }
  70. }
  71. output {
  72. stdout {
  73. codec => rubydebug
  74. }
  75.  
  76. }
  77.  
  78. [elk@dr-mysql01 config]$ ../bin/logstash -f iss.conf
  79. Settings: Default pipeline workers: 8
  80. Pipeline main started
  81. 2016-11-30 06:33:33 192.168.5.116 GET /Hotel/HotelDisplay/cncqcqb230 - 80 - 192.168.9.2 Mozilla/5.0+(Macintosh;+U;+Intel+Mac+OS+X+10.9;+en-US;+rv:1.9pre)+Gecko - 200 0 0 45
  82. {
  83. "message" => "2016-11-30 06:33:33 192.168.5.116 GET /Hotel/HotelDisplay/cncqcqb230 - 80 - 192.168.9.2 Mozilla/5.0+(Macintosh;+U;+Intel+Mac+OS+X+10.9;+en-US;
  84.  
  85. +rv:1.9pre)+Gecko - 200 0 0 45",
  86. "@version" => "1",
  87. "@timestamp" => "2016-11-29T22:33:33.000Z",
  88. "host" => "dr-mysql01.zjcap.com",
  89. "time" => "2016-11-30 06:33:33",
  90. "clientip" => "192.168.5.116",
  91. "verb" => "GET",
  92. "request" => "/Hotel/HotelDisplay/cncqcqb230",
  93. "port" => "80",
  94. "sourceip" => "192.168.9.2",
  95. "http_user_agent" => "Mozilla/5.0+(Macintosh;+U;+Intel+Mac+OS+X+10.9;+en-US;+rv:1.9pre)+Gecko "
  96.  
  97. [elk@dr-mysql01 config]$ cat iss.conf
  98. input {
  99. stdin {
  100. }
  101. }
  102. filter {
  103. grok {
  104. match => [
  105. "message" ,"\s*(?<time>([0-9]{4}\-[0-9]{2}\-[0-9]{2}\s+[0-9]{2}:[0-9]{2}:[0-9]{2}))\s+%{IPORHOST:clientip}\s+%{WORD:verb}\s+%{URIPATHPARAM:request}\s+\-\s+(?<port>
  106.  
  107. ([0-9]{2}.*?))\s+\-\s+%{IPORHOST:sourceip}\s+(?<http_user_agent>(\S+\s+).*?).*"
  108. ]
  109. }
  110. date {
  111. match => ["time", "yyyy-MM-dd HH:mm:ss Z"]
  112. }
  113. }
  114. output {
  115. stdout {
  116. codec => rubydebug
  117. }
  118.  
  119. }
  120. [elk@dr-mysql01 config]$ ../bin/logstash -f iss.conf
  121. Settings: Default pipeline workers: 8
  122. Pipeline main started
  123. 2016-11-30 06:33:33 192.168.5.116 GET /Hotel/HotelDisplay/cncqcqb230 - 80 - 192.168.9.2 Mozilla/5.0+(Macintosh;+U;+Intel+Mac+OS+X+10.9;+en-US;+rv:1.9pre)+Gecko - 200 0 0 45
  124. Failed parsing date from field {:field=>"time", :value=>"2016-11-30 06:33:33", :exception=>"Invalid format: \"2016-11-30 06:33:33\" is too short", :config_parsers=>"yyyy-MM-dd
  125.  
  126. HH:mm:ss Z", :config_locale=>"default=en_US", :level=>:warn}
  127. {
  128. "message" => "2016-11-30 06:33:33 192.168.5.116 GET /Hotel/HotelDisplay/cncqcqb230 - 80 - 192.168.9.2 Mozilla/5.0+(Macintosh;+U;+Intel+Mac+OS+X+10.9;+en-US;
  129.  
  130. +rv:1.9pre)+Gecko - 200 0 0 45",
  131. "@version" => "1",
  132. "@timestamp" => "2016-11-30T11:28:32.972Z",
  133. "host" => "dr-mysql01.zjcap.com",
  134. "time" => "2016-11-30 06:33:33",
  135. "clientip" => "192.168.5.116",
  136. "verb" => "GET",
  137. "request" => "/Hotel/HotelDisplay/cncqcqb230",
  138. "port" => "80",
  139. "sourceip" => "192.168.9.2",
  140. "http_user_agent" => "Mozilla/5.0+(Macintosh;+U;+Intel+Mac+OS+X+10.9;+en-US;+rv:1.9pre)+Gecko ",
  141. "tags" => [
  142. [0] "_dateparsefailure"
  143. ]
  144. }

logstash date插件的更多相关文章

  1. logstash date插件介绍

    时间处理(Date) 之前章节已经提过, filters/date 插件可以用来转换你的日志记录中的时间字符串,变成 LogStash::Timestamp 对象,然后转存到 @timestamp 字 ...

  2. ELK——Logstash 2.2 date 插件【翻译+实践】

    官网地址 本文内容 语法 测试数据 可配置选项 参考资料 date 插件是日期插件,这个插件,常用而重要. 如果不用 date 插件,那么 Logstash 将处理时间作为时间戳.时间戳字段是 Log ...

  3. Logstash filter 插件之 date

    使用 date 插件解析字段中的日期,然后使用该日期或时间戳作为事件的 logstash 时间戳.对于排序事件和导入旧数据,日期过滤器尤其重要.如果您在事件中没有得到正确的日期,那么稍后搜索它们可能会 ...

  4. 导入旧数据需要 使用date插件

    "@version" => "1", "@timestamp" => "2016-09-12T08:31:06.630 ...

  5. logstash常用插件解析

    官方地址:https://www.elastic.co/guide/en/logstash-versioned-plugins/current/index.html 配置文件写法: # 日志导入inp ...

  6. logstash过滤器插件filter详解及实例

    1.logstash过滤器插件filter 1.1.grok正则捕获 grok是一个十分强大的logstash filter插件,他可以通过正则解析任意文本,将非结构化日志数据弄成结构化和方便查询的结 ...

  7. ElasticSearch7.3学习(三十二)----logstash三大插件(input、filter、output)及其综合示例

    1. Logstash输入插件 1.1 input介绍 logstash支持很多数据源,比如说file,http,jdbc,s3等等 图片上面只是一少部分.详情见网址:https://www.elas ...

  8. Logstash的插件

    Logstash的插件: input插件: File:从指定的文件中读取事件流: 使用FileWatch(Ruby Gem库)监听文件的变化. .sincedb:记录了每个被监听的文件的inode, ...

  9. 日志分析平台ELK之日志收集器logstash常用插件配置

    前文我们了解了logstash的工作流程以及基本的收集日志相关配置,回顾请参考https://www.cnblogs.com/qiuhom-1874/p/13761906.html:今天我们来了解下l ...

随机推荐

  1. Java List中的一个List选择选择移除方法

    记录: 第一个参数:传入需要处理的List 第二个参数:需要处理的参数在List中的标识符 第三个参数:在需要处理的参数中的开始位置 第三个参数:在需要处理的参数中的个数 List<String ...

  2. Unity3D 之UGUI 按钮

    新建一个按钮 按钮对应的属性 按钮下面只有一个文本的 游戏对象,是Button对应的显示文字 Interactable -->是否可以交互 Transition -->变换,对应各种关于按 ...

  3. 关于安卓应用(APK文件)的二次打包

    http://blog.csdn.net/baiyuliang2013/article/details/40426681 很多开发者,不管是个人或是公司都不太注重自己开发的应用的安全性,即是 否会被不 ...

  4. sqlserver临时表排序问题

    在2005和2008中,如果将有序的记录插入临时表,则从临时表查看出来的记录是有序的(不使用Order by也是有序状态) 但从2012开始,即使插入的记录集是有序的,查看出来的结果变得无序了,需要依 ...

  5. 【JAVA错误笔记】 - 【Could not open ServletContext resource [/WEB-INF/applicationContext.xml]解决方法】

    错误描述: Could not open ServletContext resource [/WEB-INF/applicationContext.xml] 原因分析: 问题主要由于加载spring的 ...

  6. Java中到底有没有指针;同时注意引用和指针的区别

    Java中引用的作用类似于指针,但是有区别:()    (1) 指针必然指向一个内存地址,如果你定义的时候不指定,就会乱指(很可能造成安全隐患)但是引用定义出来后默认指向为空.     (2) 指针可 ...

  7. sql server varchar和nvarchar的区别

    一.前言 在了解varchar 和nvarchar之前咱们先了解一下这些词的字面和常用意思,以方便我们更好的使用: SQL SERVER中生成的语句中,字符串前加N.N 前缀必须是大写字母.是Unic ...

  8. O-C相关-06:对象与对象的关系

    对象与对象的关系 1.对象与对象的关系 依赖 关联 组合 常常讨论对象与对象关系时会提供两个属于:内聚性,耦合性 内聚一般指功能上的指向性 耦合一般指关联上的依赖性 2.依赖: 对象之间最弱的一种关联 ...

  9. jQuery动态效果实例

    jQuery常见的动态效果: 隐藏/显示效果: 1.(1):隐藏,显示:通过 jQuery,使用 hide() 和 show() 方法可以用来隐藏和显示 HTML 元素. (2):隐藏/显示的速度: ...

  10. io流之写文件

    用Java程序写文件有多种方式,对于不同类型的数据,有不同的写方法.写文件的关键技术点如下: 1.FileOutputStream打开文件输出流,通过write方法以字节为单位写文件,是写文件最通用的 ...