logstash配置白名单决定去哪个index
- input {
- kafka {
- bootstrap_servers => "127.0.0.1:9092"
- client_id => "log"
- auto_offset_reset => "latest"
- consumer_threads =>
- decorate_events => true
- topics => ["nginx_access_log_test"]
- codec => "json"
- type => "nginx_log"
- }
- }
- filter {
- mutate {
- gsub => ["message", "\\x22", '"']
- gsub => ["message", "\\x09", '']
- }
- json {
- source => "message"
- remove_field=>["message","beat","@version"]
- }
- ruby {
- code => '
- file = File.open("/usr/local/logstash/config/white.txt", "r")
- text = file.read
- file.close
- if !text.include?(event.get("request_uri")) then
- event.set("es_flag","")
- else
- event.set("es_flag","")
- end
- '
- }
- }
- output {
- if [es_flag] ==""
- {
- elasticsearch
- {
- hosts => "127.0.0.1:9200"
- index => "nginx_access_log_test"
- }
- }
- else
- {
- elasticsearch
- {
- hosts => "127.0.0.1:9200"
- index => "nginx_access_log_test2"
- }
- }
- stdout {
- codec => rubydebug
- }
- }
复杂点的生产环境配置:
- input{
- kafka {
- bootstrap_servers => "127.0.0.1:9092"
- client_id => "nginxaccesslog"
- auto_offset_reset => "latest"
- consumer_threads =>
- decorate_events => true
- topics => ["nginx_access_log"]
- codec => "json"
- type => "nginx_log"
- }
- kafka {
- bootstrap_servers => "127.0.0.1:9092"
- client_id => "database"
- auto_offset_reset => "latest"
- consumer_threads =>
- decorate_events => true
- topics => ["dsideal_db"]
- codec => "json"
- type => "dsideal_db"
- }
- kafka {
- bootstrap_servers => "127.0.0.1:9092"
- client_id => "devops_real"
- auto_offset_reset => "latest"
- consumer_threads =>
- decorate_events => true
- topics => ["devopsrealinfo"]
- codec => "json"
- type => "devopsrealinfo"
- }
- kafka {
- bootstrap_servers => "127.0.0.1:9092"
- client_id => "devops_base"
- auto_offset_reset => "latest"
- consumer_threads =>
- decorate_events => true
- topics => ["devopsbaseinfo"]
- codec => "json"
- type => "devopsbaseinfo"
- }
- }
- filter{
- mutate {
- gsub => ["message", "\\x22", '"']
- gsub => ["message", "\\x09", '']
- }
- json {
- source => "message"
- remove_field=>["message","beat","@version","@timestamp"]
- }
- if [type] == "nginx_log" {
- ruby {
- code => '
- file = File.open("/usr/local/logstash/config/white.txt", "r")
- text = file.read
- file.close
- if !text.include?(event.get("request_uri")) then
- event.set("es_flag","")
- else
- event.set("es_flag","")
- end
- '
- }
- }
- }
- output {
- if [type] == "nginx_log" {
- if [es_flag] =="" {
- elasticsearch {
- hosts => "127.0.0.1:9200"
- index => "nginx-access-log"
- }
- }
- else {
- elasticsearch {
- hosts => "127.0.0.1:9200"
- index => "nginx-access-log-other"
- }
- }
- }
- if [type] == "dsideal_db" {
- elasticsearch {
- hosts => "127.0.0.1:9200"
- index => "%{table_name}"
- document_id => "%{id}"
- }
- }
- if [type] == "devopsbaseinfo" {
- elasticsearch {
- hosts => "127.0.0.1:9200"
- index => "devopsbaseinfo"
- document_id => "%{id}"
- }
- }
- if [type] == "devopsrealinfo" {
- elasticsearch {
- hosts => "127.0.0.1:9200"
- index => "devopsrealinfo"
- }
- }
- }
logstash配置白名单决定去哪个index的更多相关文章
- servlet过滤器配置白名单、黑名单
1.web.xml配置 <filter> <description>过滤是否登陆</description> <filter-name>encoding ...
- Confluence 6 配置白名单
Confluence 管理员可以通过添加 URLs 到白名单选择出入的链接和使用 RSS 宏,HTML 包含宏和小工具中的内容. 如果一个内容被添加到 Confluence 系统中,但是这个 URLs ...
- ubuntu apache2.4.7配置白名单
1.仅允许192.168.1.1访问,此处需要注意apache2.2和2.4版本之后白名单配置的方法是不一样的 <Directory /var/www/> Options FollowSy ...
- nginx配置白名单
配置如下: http模块: http { include mime.types; default_type application/octet-stream; #log_format main '$r ...
- 【Azure Redis 缓存 Azure Cache For Redis】在创建高级层Redis(P1)集成虚拟网络(VNET)后,如何测试VNET中资源如何成功访问及配置白名单的效果
当使用Azure Redis高级版时候,为了能更好的保护Redis的安全,启用了虚拟网路,把Redis集成在Azure中的虚拟网络,只能通过虚拟网络VENT中的资源进行访问,而公网是不可以访问的.但是 ...
- axios 封装 跨域 实现 (后端跨域配置白名单)
1. 始vue化项目 vue init webpack deaxios # 使用脚手架创建项目 deaxios(项目名,随便取得) cd deaxios # 进入项目cnpm install npm ...
- nginx 配置白名单
在http 模块 增加 geo $remote_addr $ip_whitelist{ default 0; include white_ip.conf; } 在location 模块 增加 (注意i ...
- mysql配置白名单
1. 测试是否允许远程连接 $ telnet 192.168.1.8 3306 host 192.168.1.4 is not allowed to connect to this mysql ser ...
- xinetd黑/白名单配置教程(以telnet为例)
对于诸如telnet等托管于xinetd的服务,当请求到来时由于是通过xinetd进行通知,所以可以直接在xinetd上配置白名单允许和拒绝哪些ip连接服务. 本文主要参考xinetd.conf的ma ...
随机推荐
- 在Linux环境下使用Apache部署ASP.NET Core
在前几篇文章中我们一起探讨了如何在Linux环境中安装ASP.NET Core运行时环境及将ASP.NET Core项目部署在Jexus中,这篇文章中我们将探讨如何将ASP.NET Core部署于Ap ...
- np.nonzero()函数用法
返回数组中不为0的元素的下标. 数组中元素可为布尔.整型和浮点型,返回值为元祖 一.一维数组 1.数组元素为布尔类型 a=np.array([True,False,True,False]) b=np. ...
- 2018牛客暑期ACM多校训练营第一场(有坑未填)
(重新组队后的第一场组队赛 也是和自己队友的一次磨合吧 这场比赛真的算是一个下马威吧……队友上手一看 啊这不是莫队嘛 然后开敲 敲完提交发现t了 在改完了若干个坑点后还是依然t(真是一个悲伤的故事)然 ...
- Linker Scripts3--简单的链接脚本命令1
1.前言 这个部分我们描述了简单的链接脚本命令 2.设置entry point 程序中第一条运行的指令被称为入口点entry point,可以使用ENTRY链接脚本命令设置entry point,参数 ...
- k64 datasheet学习笔记12---System Integration Module (SIM)
1.前言 Features of the SIM include: System clocking configuration(1)System clock divide values(2) Arch ...
- CPU 利用率背后的真相,只有 1% 人知道【转】
导读:本文翻译自 Brendan Gregg 去年的一篇博客文章 “CPU Utilization is Wrong”,从标题就能想到这篇文章将会引起争议.文章一上来就说,我们“人人皆用.处处使用,每 ...
- events.py 知识点记录
1.__all__ __all__是一个字符串list,其他模块中使用from xxx import *的时候只能导入__all__列表里的内容 2.sys.version_info 获取版本号 im ...
- ADO读写DateTime方式
// 读取日期 var = m_pResultSet->GetCollect(_variant_t("Birth_Time")); DATE dt = var.date; C ...
- VC操作excel
http://www.cnblogs.com/witxjp/archive/2010/06/05/1752181.html 最近在做个数据库程序,因为有些数据用户要求导出到Excel文件显示(需要 ...
- 搭建Unity安卓开发环境
原文见 https://blog.csdn.net/chenggong2dm/article/details/20654075 tiny教程 https://docs.unity3d.com/Pack ...