(转)开源分布式搜索平台ELK(Elasticsearch+Logstash+Kibana)入门学习资源索引
Github, Soundcloud, FogCreek, Stackoverflow, Foursquare,等公司通过elasticsearch提供搜索或大规模日志分析可视化等服务。博主近4个月搜索数以百计的内容,甄选了以下有用的中英文slides以及blogs或相关的学习网站分享出来, 内容包括分布式索引与搜索服务Elasticsearch, logstash,数据可视化服务Kibana的学习资源,可以极大减少入门ELK的时间成本:
1.ELK整体介绍(Elasticsearch + Logstash + Kibana)
(必看) Using elasticsearch, logstash & kibana to create realtime dashboards
https://speakerdeck.com/elasticsearch/using-elasticsearch-logstash-and-kibana-to-create-realtime-dashboards
Elasticsearch官方的slide
(必看) Collect & visualize your logs with Logstash, Elasticsearch & Redis
http://michael.bouvy.net/blog/en/2013/11/19/collect-visualize-your-logs-logstash-elasticsearch-redis-kibana/
对搭建ELK平台的具体操作做了详细介绍。
(必看)2014 SCALE12X-Introduction to Elasticsearch, Logstash and Kibana
https://speakerdeck.com/elasticsearch/scale-12x-introduction-to-elasticsearch-logstash-and-kibana
Elasticsearch的说明占50%,logstash的说明占40%,Kibana的说明占10%
使用logstash+elasticsearch+kibana快速搭建日志平台
http://www.cnblogs.com/buzzlight/p/logstash_elasticsearch_kibana_log.html
Kibana+Logstash+Elasticsearch 日志查询系统
http://enable.blog.51cto.com/747951/1049411
Log Analytics Using Elasticsearch-Logstash-Kibana(Part 1)
http://blog.nugrahais.me/blog/2013/12/23/log-analytics-using-elasticsearch-logstash-kibana-part-1/
Using ElasticSearch and Logstash to Serve Billions of Searchable Events for Customers
http://www.elasticsearch.org/blog/using-elasticsearch-and-logstash-to-serve-billions-of-searchable-events-for-customers/
使用ELK的一个案例介绍
一个很简洁,很简洁的ELK介绍 (2014年9月16日更新)
http://slides.com/garyelephant/elk-intro#/
2.logstash介绍
(必看) Logstash -Nicolas Szalay
http://slides.com/aurelienrougemont/logstash/
(必看) Getting started with Logstash - New to Logstash? Start here!
http://logstash.net/docs/1.4.0/tutorials/getting-started-with-logstash
(必看) Logstash-Jordan Sissel
http://semicomplete.com/presentations/logstash-scale11x/#/
Logstash and friends
http://www.slideshare.net/roidelapluie/logstash-and-friends?qid=0c61ce8f-1a87-4678-a9c7-61a18ae74993&v=default&b=&from_search=11
Logstash
http://www.slideshare.net/startit/logstash-29012201?qid=0c61ce8f-1a87-4678-a9c7-61a18ae74993&v=default&b=&from_search=7
page 11 to page 32:直观的罗列了一些input,filter,output,讲解了一下grok pattern
Starting out with grok in Logstash
http://antonlindstrom.com/2012/09/24/starting-out-with-grok-in-logstash.html
介绍Logstash Grok Filter
(重要) Logstash1.4.0 Grok Filter Docs
http://logstash.net/docs/1.4.0/filters/grok
(重要) Logstash1.4.0 Grok Filter 的 Predefined Patterns
https://github.com/elasticsearch/logstash/tree/v1.4.0/patterns
如BASE10NUM的Predefined Pattern是 (?<![0-9.+-])(?>[+-]?(?:(?:[0-9]+(?:\.[0-9]+)?)|(?:\.[0-9]+)))
(重要) http://grokdebug.herokuapp.com/
可以用来学习和测试Grok匹配的一个网站
3.Elasticsearch介绍
(必看) Elasticsearch :Search made easy for (web) developers
http://spinscale.github.io/elasticsearch/2012-03-jugm.html#/
(必看) Getting Down and dirty with Elasticsearch
http://www.slideshare.net/clintongormley/down-and-dirty-with-elasticsearch
200pages+的slide,对Elasticsearch的Rest API介绍的比较多
(必看) Elasticsearch :Pluggable architecture under the hood
http://spinscale.github.io/elasticsearch-intro-plugins/#/
(必看) An interactive coder oriented Elasticsearch tutorial [此条目更新于2014-10-10]
https://github.com/s1monw/hammertime
作者是Elasticsearch的一个主要开发者。纯代码形式的tutorial,简单过了一下Es的主要功能,可以下载下来执行一下。
(必看) Exploring Elasticsearch
http://exploringelasticsearch.com/
系统的介绍了Elasticsearch, 当然这本书“Elasticsearch Server”比它更全面、细节更多
(重要) Terms of endearment - the ElasticSearch Query DSL explained
http://www.slideshare.net/clintongormley/terms-of-endearment-the-elasticsearch-query-dsl-explained
Apache Lucene - Query Parser Syntax
(1)http://www.elasticsearch.org/guide/en/elasticsearch/reference/current/query-dsl-query-string-query.html#query-string-syntax
(2) http://lucene.apache.org/core/4_6_0/queryparser/org/apache/lucene/queryparser/classic/package-summary.html#Overview
Lucene的Query语法格式
Learning Elasticsearch
http://slides.com/garyelephant/learning-elasticsearch
推荐一下我制作的slide, 参考了很多资料集百家之所长、有针对性做的,从各方面介绍Elasticsearch, 内容不断更新中。
(重要) Elasticsearch References: Glossary of terms
http://www.elasticsearch.org/guide/en/elasticsearch/reference/current/glossary.html#glossary
Elasticsearch的一些核心概念
(重要) What is an ElasticSearch Index?
http://euphonious-intuition.com/2013/02/what-is-an-elasticsearch-index/
详细介绍Index
(重要) An introduction to mapping in elasticsearch
http://euphonious-intuition.com/2012/07/an-introduction-to-mapping-in-elasticsearch/
inquisitor
https://github.com/polyfractal/elasticsearch-inquisitor
这个elasticsearch site pluging 可以帮助你测试和理解Query, 如测试一句话使用各种analyzer分词的结果。
Elasticsearch Facets
http://www.elasticsearch.org/guide/en/elasticsearch/reference/current/search-facets.html
Elasticsearch Aggregations Overview
http://chrissimpson.co.uk/elasticsearch-aggregations-overview.html
Elastic Search Training#1 (brief tutorial)-ESCC#1
http://www.slideshare.net/medcl/elastic-search-training1-brief-tutorial
Lucene Scoring and elasticsearch’s _all Field
http://jontai.me/blog/2012/10/lucene-scoring-and-elasticsearch-_all-field/
Elasticsearch 数据的score计算
Advanced Scoring in elasticsearch
http://jontai.me/blog/2013/01/advanced-scoring-in-elasticsearch/
Elasticsearch 数据的score计算
4.Elasticsearch优化
elasticsearch configuration
http://www.elasticsearch.org/guide/en/elasticsearch/reference/current/setup-configuration.html#setup-configuration-memory
elasticsearch configuration and performance tuning.html
http://weiweiwang.github.io/elasticsearch-configuration-and-performance-tuning.html
ElasticSearch Training#2 (advanced concepts)-ESCC#1
http://www.slideshare.net/medcl/elastic-search-training2-advanced-concepts
Elasticsearch的性能优化,查询优化等技巧
Elasticsearch Java Virtual Machine settings explained
http://jprante.github.io/2012/11/28/Elasticsearch-Java-Virtual-Machine-settings-explained.html
ElasticSearch and Logstash Tuning
http://jablonskis.org/2013/elasticsearch-and-logstash-tuning/
Elasticsearch Plugin: Marvel
http://www.elasticsearch.org/overview/marvel/
Elasticsearch.org发布的Elasticsearch集群监控工具
Elasticsearch Plugin: Head
https://github.com/mobz/elasticsearch-head
Elasticsearch Plugin: Bigdesk - Live charts and statistics for elasticsearch cluster.
http://bigdesk.org/
Elasticsearch Plugin: Paramedic
https://github.com/karmi/elasticsearch-paramedic
Scaling Massive Elasticsearch Clusters
http://www.slideshare.net/sematext/scaling-massive-elasticsearch-clusters
Elasticsearch集群
5.Kibana介绍
(必看) 10 Minute Walk Through Kibana
http://www.elasticsearch.org/guide/en/kibana/current/using-kibana-for-the-first-time.html
Elasticsearch.org官方的Guide, 最近刚发布的。
Kibana Overview
http://www.elasticsearch.org/overview/kibana/
What’s Cooking in Kibana
http://www.elasticsearch.org/blog/whats-cooking-kibana/
Kibana 3: Milestone 4
http://www.elasticsearch.org/blog/kibana-3-milestone-4/
Kibana3.m4的新功能特性
Kibana入門-Yusuke Mito
https://speakerdeck.com/y310/kibanaru-men?slide=23
page23 ~ page37 里面有各种panel的截图
6.Elasticsearch的实际应用(updated in 2014-05-05)
Building a Recipe Search Site with Angular and Elasticsearch
http://www.sitepoint.com/building-recipe-search-site-angular-elasticsearch/
一个使用Angular和Elasticsearch搭建,食谱搜索应用的简单例子
7.最根本最重要的Resources
(1) Elasticsearch团队博客,每周更新
http://www.elasticsearch.org/blog
(2) Elasticsearch最新版本的API References
http://www.elasticsearch.org/guide/en/elasticsearch/reference/current/index.html
(3) logstash 1.4.0 的documents
http://logstash.net/docs/1.4.0/
(4) Kibana最新版本的documents
http://www.elasticsearch.org/guide/en/kibana/current/index.html
7.推荐2本书籍

"Elasticsearch Server"
推荐初学者看此书,至少应看完Chapter1,Chapter2, 而且目录可以帮助你规划学习路线。
"Mastering Elasticsearch"
原文链接:http://garyelephant.me
(转)开源分布式搜索平台ELK(Elasticsearch+Logstash+Kibana)入门学习资源索引的更多相关文章
- 开源分布式搜索平台ELK(Elasticsearch+Logstash+Kibana)入门学习资源索引
from: http://www.w3c.com.cn/%E5%BC%80%E6%BA%90%E5%88%86%E5%B8%83%E5%BC%8F%E6%90%9C%E7%B4%A2%E5%B9%B ...
- ELK(elasticsearch+logstash+kibana)入门到熟练-从0开始搭建日志分析系统教程
#此文篇幅较长,涵盖了elk从搭建到运行的知识,看此文档,你需要会点linux,还要看得懂点正则表达式,还有一个聪明的大脑,如果你没有漏掉步骤的话,还搭建不起来elk,你来打我. ELK使用elast ...
- 使用ELK(Elasticsearch + Logstash + Kibana) 搭建日志集中分析平台实践--转载
原文地址:https://wsgzao.github.io/post/elk/ 另外可以参考:https://www.digitalocean.com/community/tutorials/how- ...
- CentOS 6.x ELK(Elasticsearch+Logstash+Kibana)
CentOS 6.x ELK(Elasticsearch+Logstash+Kibana) 前言 Elasticsearch + Logstash + Kibana(ELK)是一套开源的日志管理方案, ...
- 键盘侠Linux干货| ELK(Elasticsearch + Logstash + Kibana) 搭建教程
前言 Elasticsearch + Logstash + Kibana(ELK)是一套开源的日志管理方案,分析网站的访问情况时我们一般会借助 Google / 百度 / CNZZ 等方式嵌入 JS ...
- ELk(Elasticsearch, Logstash, Kibana)的安装配置
目录 ELk(Elasticsearch, Logstash, Kibana)的安装配置 1. Elasticsearch的安装-官网 2. Kibana的安装配置-官网 3. Logstash的安装 ...
- 基于CentOS6.5或Ubuntu14.04下Suricata里搭配安装 ELK (elasticsearch, logstash, kibana)(图文详解)
前期博客 基于CentOS6.5下Suricata(一款高性能的网络IDS.IPS和网络安全监控引擎)的搭建(图文详解)(博主推荐) 基于Ubuntu14.04下Suricata(一款高性能的网络ID ...
- 【转】ELK(ElasticSearch, Logstash, Kibana)搭建实时日志分析平台
[转自]https://my.oschina.net/itblog/blog/547250 摘要: 前段时间研究的Log4j+Kafka中,有人建议把Kafka收集到的日志存放于ES(ElasticS ...
- 【Big Data - ELK】ELK(ElasticSearch, Logstash, Kibana)搭建实时日志分析平台
摘要: 前段时间研究的Log4j+Kafka中,有人建议把Kafka收集到的日志存放于ES(ElasticSearch,一款基于Apache Lucene的开源分布式搜索引擎)中便于查找和分析,在研究 ...
随机推荐
- Windows下搭建HTTP/HTTPS服务器及测试过程
1 安装Apache http://www.apachehaus.com/cgi-bin/download.plx 选择合适的版本下载 本次下载的是 Apache 2.4.x VC14 Apache版 ...
- Linux驱动技术(五) _设备阻塞/非阻塞读写
等待队列是内核中实现进程调度的一个十分重要的数据结构,其任务是维护一个链表,链表中每一个节点都是一个PCB(进程控制块),内核会将PCB挂在等待队列中的所有进程都调度为睡眠状态,直到某个唤醒的条件发生 ...
- ZooKeeper 学习笔记
ZooKeeper学习笔记 1. zookeeper基本概念 zookeeper是一个分布式的,开放源码的分布式应用程序协调服务,是hadoop和Habase的重要组件,是为分布式应用提供一致性服 ...
- 球谐光照(Spherical Harmonics Lighting)及其应用-应用篇
上一篇介绍了球谐函数的一些原理和性质,本篇主要介绍如何实现球谐光照,将这种光照应用到实际的场景中去. 我们知道,球谐光照实际上就是将周围的环境光采样成几个系数,然后渲染的时候用这几个系数来对光照进行还 ...
- 康复计划#4 快速构造支配树的Lengauer-Tarjan算法
本篇口胡写给我自己这样的老是证错东西的口胡选手 以及那些想学支配树,又不想啃论文原文的人- 大概会讲的东西是求支配树时需要用到的一些性质,以及构造支配树的算法实现- 最后讲一下把只有路径压缩的并查集卡 ...
- 每天一个Linux命令(07)--mv命令
mv命令是move的缩写,可以用来移动文件或者将文件改名,这也是个常用命令,经常用来备份文件或者目录. 1.命令格式: mv [选项] 源文件或目录 目标文件或目录 2.命令功能: 视mv命令中第 ...
- cassandra 数据到Java对象的映射绑定
类似Hibernate和MyBatis的关系映射,自动帮你将查询数据或是修改的参数进行数据映射和绑定. 支持查询后返回数据ResultSet到Java对象的映射,支持修改.删除.查询之前参数的绑定. ...
- MES工具机器列表功能操作
概述 在机器权限组.限制工序变更等其他情况下,有时候需要重启中间件才能起作用,这样会直接影响其他人员的加工情况.为了改善这种情况,现在MES工具中新加了一个功能,可以单独重启某一个机器,其它机器不受影 ...
- 2005: [Noi2010]能量采集
2005: [Noi2010]能量采集 Time Limit: 10 Sec Memory Limit: 552 MBSubmit: 1831 Solved: 1086[Submit][Statu ...
- java入门知识
Java特性 简单.面向对象.支持网络.解释性.健壮性.安全性.高性能.可移植(跨平台) Java特点 开源.免费.跨平台.面向对象 应用平台 JavaSE(standard edition)(c/s ...