grep日志去重】的更多相关文章

grep --text ' ERROR '2017.06.08.log | grep '12345678' | grep -Eo 'telephone=.*{11},p'| sort | uniq | wc -l more -2019-12-11.log | grep -o "18123928678" | wc -l {"phone":"18233166881"} grep -o -E '' /tmp/phone.txt…
ll access.2018-09-*.gz zcat access.2018-09-*.gz |grep --color '1073011900' | head -n  100  匹配字符由于管道head使用不会突出显示 zcat access.2018-09-*.gz |grep -m --color '1073011900' 匹配字符会突出显示 cat access.2018-09-*.log|grep -m 3 --color '2018-09-14' |grep --color 'Ho…
https://my.oschina.net/hmc0316/blog/112004 实例:月份英文简写英文全称一月Jan.January二月Feb.February三月Mar.March四月Apr.April五月May.May六月June.June七月July.July八月Aug.Aguest九月Sept.September十月Oct.October十一月Nov.November十二月Dec.December 日志分析整理 Grep 日志整理 1.分析日志文件下 2012-05-04 访问页面…
今天偶然发现一个问题,在 grep 日志的过程中,搜出来一大坨但是被 grep 的那一段未高亮显示,属实有些难受,高亮显示是 Linux 的高亮本来就是 Linux 的功能,与连接工具(我用的 xshell) 无关,记录一下如何结解决: 1.随便 grep 一下是否高亮显示 发现并没有按我们预期的,将被搜索的内容高亮: 2.查看一下 linux 配置 :cat ~/.bashrc: # cat ~/.bashrc # .bashrc # User specific aliases and fun…
杀僵尸进程 部分程序员,肯定喜欢下面命令: ps -ef | grep java (先查java进程ID) kill -9  PID(生产环境谨慎使用) kill.killall.pkill命令的区别 kill:通过pid来杀死进程 killall (killall [参数] [进程名]):Linux系统中的killall命令用于杀死指定名字的进程(kill processes by name).我们可以使用kill命令杀死指定进程PID的进程,如果要找到我们需要杀死的进程,我们还需要在之前使用…
filebeat收集日志到elsticsearch中 一.需求 二.实现 1.filebeat.yml 配置文件的编写 2.创建自定义的索引模板 3.加密连接到es用户的密码 1.创建keystore 2.添加一个ES_PASSWORD这个key 3.列出keystore中已经有了多少个key 4.删除keystore中的某个key 5.修改filebeat.yml中es的密码 4.使用es的ingest node 的pipeline来处理数据 5.准备测试数据 6.运行filebeat 7.查…
Loki 是什么 Loki 是 Grafana Lab开发的一套日志系统,使用Go语言实现.根据官方的介绍, Loki,高可用性,多租户的日志聚合系统,受到Prometheus的启发.它的设计非常经济高效且易于操作,因为它不会为日志内容编制索引,而是为每个日志流编制一组标签.如果用一句话介绍的话,就是 Like Prometheus, but for logs Loki 能做什么 日志采集.loki-stack中提供promtail,专为loki定制的日志采集组件 日志压缩存储 使用和prome…
背景起因: 记起以前的另一次也是关于内存的调优分享下   有个系统平时运行非常稳定运行(没经历过大并发考验),然而在一次活动后,人数并发一上来后,系统开始卡. 我按经验开始调优,在每个关键步骤的加入如下代码耗时统计进行压测:   long startTime = System.currentTimeMillis();  callRpc();   //这里比如调用RPC伪代码,当然还在插入数据库,中间件地方都加入统计  long costTime = (System.currentTimeMill…
这个附件的幻灯片是我最近给团队分享关于设计 HTTP API 的时候,结合 这篇 和我们团队历史上的一些错误,总结出来一些适合内部的经验. 简介. 这次分享主要关注以下几部分: HTTP + JSON API 的最佳实践 更关注 API 使用和概念上的一致性 这些使用上的经验,并不是最终的.唯一的解决方案 同时也无法处理任意环境中遇到的全部问题 同时还会举出一些 badcase,这些 badcase 一般是我负责的或者开发的服务中遇到的问题. 背景知识. 在 HTTP API 实践中,涉及到了以…
今天看了mongodb的官方文档中的WiredTiger Storage Engine ,说说我对WiredTiger Storage Engine 的理解! 在mongodb3.2版本以后,wiredTiger 存储引擎为默认的储存引擎. Document Level Concurrency WiredTiger 的写操作使用了Document 级别的并发控制,因此多个clients可以同时同一个collection 中的不同的document  进行修改. 为了尽可能多的读和写操作,Wire…