高性能环形队列框架 Disruptor Disruptor 是英国外汇交易公司LMAX开发的一款高吞吐低延迟内存队列框架,其充分考虑了底层CPU等运行模式来进行数据结构设计 (mechanical sympathy) ,能比传统队列方法延迟低三个数量级,吞吐量提高八倍.其中很多设计思想值得借鉴学习,本篇将核心介绍该队列的高性能设计方法,并对核心源码进行解读. Disruptor 性能基准测试 以下是一组官方提供的与ArrayBlockQueue对比的性能基准测试   Nehalem 2.8Ghz

一.doc_values介绍 doc values是一个我们再三重复的重要话题了,你是否意识到一些东西呢? 搜索时,我们需要一个“词”到“文档”列表的映射 排序时,我们需要一个“文档”到“词“列表的映射,换句话说,我们需要一个在倒排索引的基础上建立的“正排索引” 这里的“正排索引”结构通常在其他系统中(如关系型数据库)被称为“列式存储”.本质上,它是在数据字段的一列上存储所有value,这种结构在某些操作上会表现得很高效,比如排序. 在ES里这种“列式存储”就是我们熟悉的“doc values”

doc_values Doc values are the on-disk data structure, built at document index time, which makes this data access pattern possible. They store the same values as the _source but in a column-oriented fashion that is way more efficient for sorting and a

1. Characteristics of Groonga ppt:http://mroonga.org/publication/presentation/groonga-mysqluc2011.pdf 1.1. Groonga overview Groonga is a fast and accurate full text search engine based on inverted index. One of the characteristics of Groonga is that

1. 背景 在构建精准用户画像时,面临着这样一个问题:日志采集不能成功地收集用户的所有ID,且每条业务线有各自定义的UID用来标识用户,从而造成了用户ID的零碎化.因此,为了做用户标签的整合,用户ID之间的强打通(亦称为ID-Mapping)成了迫切的需求.大概三年前,在知乎上有这样一个与之相类似的问题:如何用MR实现并查集以对海量数据pair做聚合:目前为止还无人解答.本文将提供一个可能的解决方案--如何用MR计算框架来实现大数据下的ID强打通. 首先,简要地介绍下Android设备常见的ID

Pycharm 鼠标移动到函数上,CTRL+Q可以快速查看文档,CTR+P可以看基本的参数. apply(),applymap()和map() apply()和applymap()是DataFrame的函数,map()是Series的函数. apply()的操作对象是DataFrame的一行或者一列数据,applymap()是DataFrame的每一个元素.map()也是Series中的每一个元素. apply()对dataframe的内容进行批量处理, 这样要比循环来得快.如df.apply(

一个很好的博客:http://www.cnblogs.com/shanyou/p/3494854.html 官网:https://docs.mongodb.com/manual/reference/operator/aggregation/sum/#grp._S_sum 例1: db.test_table.aggregate({$match:{e_count:{$gt:}}}, {$project:{_id:, e_count:}}, {$group:{_id:null, count:{$sum

Over 窗口函数在Select 子句中,对查询的结果集进行“滑动-聚合”运算:如果使用count,那么基于滑动窗口的聚合语义同 base+1 累加:如果使用sum,那么基于滑动窗口的聚合语义等同于数据累加.Over()子句的运算顺序在Select 子句之后,在Order By子句之前. 滑动窗口计算原理:窗口的大小是由Over 的Partition By子句界定,窗口滑动的顺序是由Over的Order by子句指定.在计算聚合值时,使用<=(Order by Asc)或 >=(Order b

已经不记得最早接触到 Disruptor 是什么时候了,只记得发现它的时候它是以具有闪电般的速度被介绍的.于是在脑子里, Disruptor 和"闪电"一词关联了起来,然而却一直没有时间去探究一下. 最近正在进行一项对性能有很高要求的产品项目的研究,自然想起了闪电般的 Disruptor ,这必有它的用武之地,于是进行了一番探查,将成果和体会记录在案. 一.什么是 Disruptor  从功能上来看,Disruptor 是实现了"队列"的功能,而且是一个有界队列.那

{ "_id" : ObjectId("57301c7e5fd5d6e2afa221d1"), "a" : "张三", "b" : 11, "list": [ { "name" : "aaaa", "age" : 21 } ] }{ "_id" : ObjectId("57301c7e5fd5d6e

Aggregate是MongoDB提供的众多工具中的比较重要的一个,类似于SQL语句中的GROUP BY.聚合工具可以让开发人员直接使用MongoDB原生的命令操作数据库中的数据,并且按照要求进行聚合. MongoDB提供了三种执行聚合的方法:Aggregation Pipleline,map-reduce功能和 Single Purpose Aggregation Operations 其中用来做聚合操作的几个函数是 aggregate(pipeline,options) 指定 group 的

尽量别直接用 DBObject  ,Spring data mongodb 的api 本来就没什么多大用处,如果还直接用 DBObject 那么还需要自己去解析结果,说动做个对象映射,累不累 Spring data mongodb 唯一好处就是,不需要自己decode encode,其他别的几乎也没了 DBObject project = new BasicDBObject("$project", new BasicDBObject("_id", 1) .appen

一.概念 使用聚合框架可以对集合中的文档进行变换和组合.基本上,可以用多个构件创建一个管道(pipeline),用于对一连串的文档进行处理.这些构件包括筛选(filtering).投射(projecting).分组(grouping).排序(sorting).限制(limiting)和跳过(skipping). 二.聚合函数 db.driverLocation.aggregate( {"$match":{"areaCode":"350203"}}

在工作中会经常遇到一些mongodb的聚合操作,特此总结下.mongo存储的可以是复杂类型,比如数组.对象等mysql不善于处理的文档型结构,并且聚合的操作也比mysql复杂很多. 注:本文基于 mongodb v3.6 目录 mongo与mysql聚合类比 aggregate简介 aggregate语法 aggregate常用pipeline stage介绍(本文核心) node操作mongo聚合查询(本文核心) mongo与mysql聚合类比 为了便于理解,先将常见的mongo的聚合操作和m

背景: 由于本人使用的是6.0以上的版本es,在使用发现很多中文博客对于mapping参数的说明已过时.ES6.0以后有很多参数变化. 现我根据官网总结mapping最新的参数,希望能对大家有用处. es6.0与之前版本区别: -新增字段: eager_global_ordinals -删除的字段: include_in_all ※特别提示: 1,建议大家创建索引的时候指定mapping(用到特定分词器,规划字段是否被索引来节省空间等) 2,mapping创建并插入数据后就无法进行更改了!所以要

聚合 为了快速得到统计数据,提供了5个聚合函数 count(*)表示计算总行数,括号中写星与列名,结果是相同的 查询学生总数 select count(*) from students; max(列)表示求此列的最大值 查询女生的编号最大值 select max(id) from students where gender=0; min(列)表示求此列的最小值 查询未删除的学生最小编号 ; sum(列)表示求此列的和 查询男生的编号之后 select sum(id) from students

-- 知道你为什么惧组件很多的一些开源软件? 因为缺乏阅读能力. 最近我接手了druid+kafka+elk一套等日志系统. 但是我对druid很陌生, 周旋了几天, 官网文档快速开始照着做了下. 看了这个文章才大概明白套路. 入库: kafka-->tranquility-->overload-->middleManager 查询: broker-->historical-->deepdrive coordinator是管理segment的(下载删除等) 需要注意的是con

聚合框架中常用的几个操作: $project:修改输入文档的结构.可以用来重命名.增加或删除域,也可以用于创建计算结果以及嵌套文档.(显示的列,相当遇sql 的) $match:用于过滤数据,只输出符合条件的文档.$match使用MongoDB的标准查询操作. (相当sql的 where) $limit:用来限制MongoDB聚合管道返回的文档数. $skip:在聚合管道中跳过指定数量的文档,并返回余下的文档. $unwind:将文档中的某一个数组类型字段拆分成多条,每条包含数组中的一个值. $

在工作中会经常遇到一些mongodb的聚合操作,特此总结下.mongo存储的可以是复杂类型,比如数组.对象等mysql不善于处理的文档型结构,并且聚合的操作也比mysql复杂很多. 注:本文基于 mongodb v3.6 目录 mongo与mysql聚合类比 aggregate简介 aggregate语法 aggregate常用pipeline stage介绍(本文核心) node操作mongo聚合查询(本文核心) mongo与mysql聚合类比 为了便于理解,先将常见的mongo的聚合操作和m

一.基本介绍 ArrayBlcokingQueue,LinkedBlockingQueue是jdk中内置的阻塞队列,网上对它们的分析已经很多,主要有以下几点: 1.底层实现机制不同,ArrayBlcokingQueue是基于数组的,LinkedBlockingQueue是基于链表的: 2.初始化方式不同,ArrayBlcokingQueue是有界的,初始化时必须指定队列的大小:LinkedBlockingQueue可以是无界的,但如果初始化时指定了队列大小,也可以做为有界队列使用: 3.锁机制实

.什么是 Disruptor  从功能上来看,Disruptor 是实现了“队列”的功能,而且是一个有界队列.那么它的应用场景自然就是“生产者-消费者”模型的应用场合了. 可以拿 JDK 的 BlockingQueue 做一个简单对比,以便更好地认识 Disruptor 是什么. 我们知道 BlockingQueue 是一个 FIFO 队列,生产者(Producer)往队列里发布(publish)一项事件(或称之为“消息”也可以)时,消费者(Consumer)能获得通知:如果没有事件时,消费者被