1 前段时间,在网上看到一道面试题: 如何用redis存储统计1亿用户一年的登陆情况,并快速检索任意时间窗口内的活跃用户数量. 觉得很有意思,就仔细想了下 .并做了一系列实验,自己模拟了下 .还是有点收获的,现整理下来.和大家一起分享. Redis是一个内存数据库,采用单线程和事件驱动的机制来处理网络请求.实际生产的QPS和TPS单台都能达到3,4W,读写性能非常棒.用来存储一些对核心业务弱影响的用户状态信息还是非常不错的. 对于这题,有2个重要的点需要考虑: 1.如何用合适的数据类型来存储1亿…

http://ssdb.io/docs/zh_cn/index.html 用户案例 如果你在生产环境中使用 SSDB, 欢迎你给我发邮件(ssdb#udpwork.com), 我很愿意把你加入到下面的用户列表中. 邮件中请包含如下信息: 产品/公司/团队名称 LOGO(作为附件) 网站链接 公司/产品介绍 SSDB的使用简介, 作用描述 懒投资 懒投资 是由源码资本及中国福布斯富豪夏佐全先生联手投资的优质理财平台. 懒投资使用 SSDB 存储会话 Session, 网站定制, 缓存等数据, 并作…

原文:巧用redis位图存储亿级数据与访问 - 简书 业务背景 现有一个业务需求,需要从一批很大的用户活跃数据(2亿+)中判断用户是否是活跃用户.由于此数据是基于用户的各种行为日志清洗才能得到,数据部门不能提供实时接口,只能提供包含用户及是否活跃的指定格式的文本由业务方使用. 存在的挑战 海量数据如何尽可能用小的空间存储 如何能快速获取指定的数据 如何能快速的写入到目标存储 解决思路 由于我的业务中只需要根据某个用户id查询是否是活跃用户,不存在复杂的查询条件,所以用redis很合适. 如此大的…

快手推荐系统及 Redis 升级存储  借傲腾 补上 DRAM 短板 内容简介: 作为短视频领域的领先企业,快手需要不断导入更先进的技术手段来调整和优化其系统架构,以应对用户量和短视频作品数量的爆炸式增长: 这其中,作为短视频系统存储.分发和推荐的核心组件,其存储系统的优化和性能提升,面临着更为艰巨的挑战: 为此,快手引入了英特尔 傲腾 数据中心级持久内存产品应用于其推荐系统和 Redis 服务,并通过一系列的软件调优来构建新的推荐异构存储系统,以及优化 Redis 服务,在具备更优存储能力的基…

轻松筹首创了“大病救助”模式,帮助了众多病患在第一时间解決了医疗资金等问题,为了从源头解决了医疗资金问题.而在轻松筹这样全球5.5亿用户信赖的大病筹款平台的背后,是日益增长的各种数据.面对这样数据量所造成的巨大挑战,阿里云POLARDB是如何帮助轻松筹践行“善DNA”的呢?本文就为大家分享. 关于轻松筹 2014年9月,轻松筹成立.“轻松筹”作为公司旗下的首要产品,“善DNA”可谓贯穿了整个发展历程.轻松筹将目标聚焦在公众健康保障领域,各功能板块都与百姓的健康息息相关.由轻松筹首创的“大病救助”…

Redis混合存储产品是阿里云自主研发的完全兼容Redis协议和特性的混合存储产品. 通过将部分冷数据存储到磁盘,在保证绝大部分访问性能不下降的基础上,大大降低了用户成本并突破了内存对Redis单实例数据量的限制. 其中,对冷热数据的识别和交换是混合存储产品性能的关键因素. 在Redis混合存储中,内存和磁盘的比例是用户可以自由选择的: Redis混合存储实例将所有的Key都认为是热数据,以少量的内存为代价保证所有Key的访问请求的性能是高效且一致的.而对于Value部分,在内存不足的情况下,实…

导语 | 缓存+存储的系统架构是目前常见的系统架构,缓存层负责加速访问,存储层负责存储数据.这样的架构需要业务层或者是中间件去实现缓存和存储的双写.冷热数据的交换,同时还面临着缓存失效.缓存刷脏.数据不一致等问题.本文是对腾讯云数据库高级产品经理邹鹏老师在「云加社区沙龙online」的分享整理,希望与大家一同交流 点击此链接,查看完整直播回放 一.前言 在互联网和移动互联网两波浪潮的推动下,存储技术有了飞速发展.移动互联网用户在过去十年增长了10倍,用户的增长带动了数据量的指数级增长,因为激烈的…

1 Redis 内存存储结构 本文是基于 Redis-v2.2.4 版本进行分析. 1.1 Redis 内存存储总体结构 Redis 是支持多key-value数据库(表)的,并用 RedisDb 来表示一个key-value数据库(表). redisServer 中有一个 redisDb *db; 成员变量, RedisServer 在初始化时,会根据配置文件的 db 数量来创建一个 redisDb 数组. 客户端在连接后,通过 SELECT 指令来选择一个 reidsDb,如果不指定,则缺省…

Redis 混合存储实例是阿里云自主研发的兼容Redis协议和特性的云数据库产品,混合存储实例突破 Redis 数据必须全部存储到内存的限制,使用磁盘存储全量数据,并将热数据缓存到内存,实现访问性能与存储成本的完美平衡. 架构及特性 命令兼容 混合存储兼容绝大多数 Redis 命令,与原生 Redis 相比,如下命令不支持或受限制:不支持的主要原因是考虑到性能,如业务中有使用到,请提交工单. Keys(键) List(链表) Scripting(Lua脚本) RENAME LINSERT SCR…

大数据软件安装之Hadoop(Apache)(数据存储及计算) 一.生产环境准备 1.修改主机名 vim /etc/sysconfig/network 2.修改静态ip vim /etc/udev/rules.d/70-persistent-net.rules vim /etc/sysconfig/network-scripts/ifcfg-eth0 DEVICE=eth0 TYPE=Ethernet ONBOOT=yes BOOTPROTO=static NAME="eth0" IP…