memcached 学习目录: memcached 学习 1—— memcached+spring配置 这几天自己搭建项目环境,解决问题如下: 有关常见的配置这里没有列出,中间遇到的搭建问题比较顺利google出来的也没有写 1.列出本机的 globalApplication.xml 配置文件有关memcached的部分: <!-- ==================================== Memcached缓存客服端 ==============================…
[TOC] 前言 此为学习笔记汇总,如有纰漏之处,还望不吝指出,谢谢. 启动流程 调用settings_init()设定初始化参数 从启动命令中读取参数来设置setting值 设定LIMIT参数 开始网络Socket监听,也支持UDP 检查用户身份,不允许以root运行 如果有socketpath存在,开启UNIX本地连接,是Sock管道 如果以-d方式启动,调用daemon(), 创建守护进程 初始化item,event,状态信息,hash,连接,slab 如设置中managed生效,创建bu…
分布式一致性hash算法简介 当你看到“分布式一致性hash算法”这个词时,第一时间可能会问,什么是分布式,什么是一致性,hash又是什么.在分析分布式一致性hash算法原理之前,我们先来了解一下这几个概念. 分布式 分布式(distributed)是指在多台不同的服务器中部署不同的服务模块,通过远程调用协同工作,对外提供服务. 以一个航班订票系统为例,这个航班订票系统有航班预定.网上值机.旅客信息管理.订单管理.运价计算等服务模块.现在要以集中式(集群,cluster)和分布式的方式进行部署,…
上一篇回顾:<memcached学习笔记——存储命令源码分析上篇>通过分析memcached的存储命令源码的过程,了解了memcached如何解析文本命令和mencached的内存管理机制. 本文是延续上一篇,继续分析存储命令的源码.接上一篇内存分配成功后,本文主要讲解:1.memcached存储方式:2.add和set命令的区别. memcached存储方式 哈希表(HashTable) 哈希表在实践中使用的非常广泛,例如编译器通常会维护的一个符号表来保存标记,很多高级语言中也显式的支持哈希…
原创文章,转载请标明,谢谢. 上一篇分析过memcached的连接模型,了解memcached是如何高效处理客户端连接,这一篇分析memcached源码中的process_update_command函数,探究memcached客户端的set命令,解读memcached是如何解析客户端文本命令,剖析memcached的内存管理,LRU算法是如何工作等等. 解析客户端文本命令 客户端向memcached server发出set操作,memcached server读取客户端的命令,客户端的连接状态…
Memcached 学习笔记(二)——ruby调用 上一节我们讲述了怎样安装memcached及memcached常用命令.这一节我们将通过ruby来调用memcached相关操作. 第一步,安装ruby.此操作非常简单,直接yum  install ruby即可. 第二步,安装rubygems,同样,yum install  rubygems. 第三步,安装程序库memcache-client,运行命令: gem install memcache-client 第四步,运行ruby测试程序:…
Slab Allocation机制:整理内存以便重复使用 最近的memcached默认情况下采用了名为Slab Allocator的机制分配.管理内存. 在该机制出现以前,内存的分配是通过对所有记录简单地进行malloc和free来进行的. 但是,这种方式会导致内存碎片,加重操作系统内存管理器的负担,最坏的情况下, 会导致操作系统比memcached进程本身还慢.Slab Allocator就是为解决该问题而诞生的. 下面来看看Slab Allocator的原理.下面是memcached文档中的…
memcached 是以LiveJournal 旗下Danga Interactive 公司的Brad Fitzpatric 为首开发的一款软件.现在已成为 mixi. hatena. Facebook. Vox.LiveJournal等众多服务中 提高Web应用扩展性的重要因素. 许多Web应用都将数据保存到RDBMS中,应用服务器从中读取数据并在浏览器中显示. 但随着数据量的增大.访问的集中,就会出现RDBMS的负担加重.数据库响应恶化. 网站显示延迟等重大影响. 这时就该memcached…
大纲简介 安装前,先简单介绍一下memcached. memcached是一个免费.开源.高性能的分布式缓存.设计memcached的初衷是为了加快web应用程序,减少DB负载. 安装要求:支持大多数linux和基于BSD的系统,官方没有给出windows版本,但是网上有memcached for windows可以在windows上使用. 数据类型:仅仅支持string类型数据 特点: 简单的key-value的键值对. 基于c/s架构,客户端负责选择要写入的目标服务器以及通过接口进行读写操作…
原理 1 核心组件 Memcached有两个核心组件组成:服务端(ms)和客户端(mc). 首先mc拿到ms列表,并对key做hash转化,根据hash值确定kv对所存的ms位置. 然后在一个memcached的查询中,mc先通过计算key的hash值来确定kv对所处在的ms位置. 当ms确定后,客户端就会发送一个查询请求给对应的ms,让它来查找确切的数据. 因为ms之间并没有护卫备份,也就不需要互相通信,所以效率较高. Memcached Client目前有一下四种: Memcached Cl…
一 简介 1 What is Memcached? Free & open source, high-performance, distributed memory object caching system, generic in nature, but intended for use in speeding up dynamic web applications by alleviating [减轻 缓解] database load. Memcached is an in-memory …
首先说明下memcached存在如下问题 本身没有内置分布式功能,无法实现使用多台Memcache服务器来存储不同的数据,最大程度的使用相同的资源:无法同步数据,容易造成单点故障.(memagent代理实现集群) 在 Memcached中可以保存的item数据量是没有限制的,只要内存足够 . Memcached单进程最大使用内存为2G,要使用更多内存,可以分多个端口开启多个Memcached进程  最大30天的数据过期时间,设置为永久的也会在这个时间过期,常量REALTIME_MAXDELTA …
在上一篇文章,我们讲了,为什么要使用memched做为缓存服务器(没看的同学请点 这里).下面让我们以memcached-1.2.1-win32版本的服务组件(安装后是以一个windows服务做daemon)和 C#API(Enyim.Caching)为基础,做一个"Hello world"级的程序,让我们真正感受到memcached就在我们身边.后一的文章,我们还讲memcached的核心部分(根据key来hash存取 数据,缓存数据在server端的内存存储结构)和一些好的案例.…
首先必须完成必要的软件安装,memcached是php连接memcached服务器的php扩展 以前有个叫memcache也是php连接memcached服务器的扩展 php的memcache和memcached扩展都是作为客户端去连接memcached服务器 但memcached作为客户端比memcache性能更好功能更强大,而且memcache已经停止更新了,因此现在使用扩展的话就用 memcached 接下来安装必要组件:wget  https://launchpad.net/libmem…
文章列表: <Memcached源代码分析 - Memcached源代码分析之基于Libevent的网络模型(1)> <Memcached源代码分析 - Memcached源代码分析之命令解析(2)> <Memcached源代码分析 - Memcached源代码分析之消息回应(3)  > <Memcached源代码分析 - Memcached源代码分析之HashTable(4) > <Memcached源代码分析 - Memcached源代码分析之增删…
memcached提供一系列的命令进行优化的查看,方便我们调整我们的存储策略,查看我们的使用率,内存的使用率以及浪费情况.常用的命令有stats.stats settings.stats items.stats slabs 1.1.1. memcached  stats命令 memcached  stats命令主要是查询服务器的运行状态和其他内部数据,包含如下这些: 1:pid :服务器进程ID 2:uptime :服务器运行时间,单位秒 3:time:服务器当前的UNIX 时间 4:versi…
From : http://www.cnblogs.com/happyday56/p/3461113.html 首先说明下memcached存在如下问题 本身没有内置分布式功能,无法实现使用多台Memcache服务器来存储不同的数据,最大程度的使用相同的资源:无法同步数据,容易造成单点故障.(memagent代理实现集群) 在 Memcached中可以保存的item数据量是没有限制的,只要内存足够 . Memcached单进程最大使用内存为2G,要使用更多内存,可以分多个端口开启多个Memcac…
memcached的分布式 正如第1次中介绍的那样, memcached虽然称为"分布式"缓存服务器,但服务器端并没有"分布式"功能. 服务器端仅包括 第2次. 第3次 前坂介绍的内存存储功能,其实现非常简单. 至于memcached的分布式,则是完全由客户端程序库实现的. 这种分布式是memcached的最大特点. memcached的分布式是什么意思? 这里多次使用了"分布式"这个词,但并未做详细解释. 现在开始简单地介绍一下其原理,各个客户…
1.取余算法 优点:数据分布均匀缺点:当服务器动态的添加.删除节点或者某台server down掉,会导致命中率超大幅度下降,甚至导致服务不可用 2.Consistant Hash算法:一致性哈希算法 表现为一个封闭的圆环,圆环上的点分别代表0~2^32.各个memcached节点根据hash算法,分别占据圆环上的一个点,当某key进行存储操作,会针对key进行hash操作,hash后也是圆环上的一个点,那么这个key将被存储在顺时针方向的第一个节点上. 如上图:分配不均的节点,此时key将会被…
上文<linux环境下编译memcahed>介绍了memcahed在linux环境下的安装以及登录,下面介绍memcahed的基本命令的使用. Add 功能:往内存增加一条新的缓存记录 语法:add key flag expire length 解析: key 给要存的值起一个去一个唯一的名字 flag 标志,要求为一个正整数 时不自动失效 length 缓存的长度(字节为单位) 例如: 可提取 运行add name 0 0 4, enter之后输入要存的value,enter之后提示stor…
来源:微信公众号CodeL 以下是个人学习之路的简单分享,不足之处欢迎大神们批评指正! 在网站开发的初期,我们没有考虑更多的东西,也没有对缓存进行系统的设计,而是直接使用了应用程序缓存对象Cache,但由于系统架构的不断完善,在分布式系统架构中只依靠Cache明显不够,无法实现分布式管理,所以后期我们采用了Memcached高性能分布式内存缓存服务器. 一.应用程序缓存对象Cache 一开始,我们只处理了数据的缓存,缓存和应用程序在一台服务器: 应用程序先去读缓存,若没有数据则去读数据库,然后存…
附:请浅谈memcached的机制 答: ①基于C/S架构,协议比较简单 c/s架构,此时memcached为服务器端,我们可以使用如PHP,c++/c等程序连接memcached服务器. memcached的服务器客户端通信并不使用XML等格式,而使用简单的基于文本行的协议,因此通过telnet也能在memcached上保存.读取数据. ②基于libevent事件来处理的 libevent是一套垮平台的事件处理接口的封装,能够处理兼容包括这些操作系统: windows/Linux/BSD/So…
学习memcached的原理: 用户一 -> 访问浏览器 -> 服务器Apache -> PHP文件(该文件应用了memcached技术) -> [第一次]到数据库DB中查找数据 -> 调用在memcached中 用户二 -> 访问浏览器 -> 服务器Apache -> PHP文件(也是同上面一个文件) -> (如果查询的条件一致)先在mem中找是否存在数据(存在直接调用内存中的数据)  -> (不存在)读取数据库,再将这次结果放入memcach…
mixi在提供服务的初期阶段就使用了memcached. 随着网站访问量的急剧增加,单纯为数据库添加slave已无法满足需要,因此引入了memcached. 此外,我们也从增加可扩展性的方面进行了验证,证明了memcached的速度和稳定性都能满足需要. 现在,memcached已成为mixi服务中非常重要的组成部分. 图1 现在的系统组件 服务器配置和数量 mixi使用了许许多多服务器,如数据库服务器.应用服务器.图片服务器. 反向代理服务器等.单单memcached就有将近200台服务器在运…
分布式一致性hash算法简介 当你看到"分布式一致性hash算法"这个词时,第一时间可能会问,什么是分布式,什么是一致性,hash又是什么.在分析分布式一致性hash算法原理之前,我们先来了解一下这几个概念. 分布式 分布式(distributed)是指在多台不同的服务器中部署不同的服务模块,通过远程调用协同工作,对外提供服务. 现有系统system,有modelA.modelB.modelC等服务模块.现在要以集中式(集群,cluster)和分布式的方式进行部署,下面我们来看看它们部…
上文<linux环境下编译memcahed>介绍了memcahed在linux环境下的安装以及登录,下面介绍memcahed的基本命令的使用. Add 功能:往内存增加一条新的缓存记录 语法:add key flag expire length 解析: key 给要存的值起一个去一个唯一的名字 flag 标志,要求为一个正整数 expire 缓存记录的有效期,单位为秒.设为0时不自动失效 length 缓存的长度(字节为单位) 例如: 可提取 运行add name 0 0 4, enter之后…
适合什么场合 memcached不是万能的,它也不是适用在所有场合. Memcached是“分布式”的内存对象缓存系统,那么就是说,那些不需要“分布”的,不需要共享的,或者干脆规模小到只有一台服务器的应用,memcached不会带来任何好处,相反还会拖慢系统效率,因为网络连接同样需要资源,即使是UNIX本地连接也一样. 在我之前的测试数据中显示,memcached本地读写速度要比直接PHP内存数组慢几十倍,而APC.共享内存方式都和直接数组差不多.可见,如果只是本地级缓存,使用memcached…
Memcached的客户端简介 我们已经知道,memcached是一套分布式的缓存系统,memcached的服务端只是缓存数据的地方,并不能实现分布式,而memcached的客户端才是实现分布式的地方. Memcached现在已被广泛使用,客户端实现也有较多的版本,基本上各个语言的都有.比如:Memcached client for Java.Spymemcached.xMemcached,各自有各自的优缺点.由于Memcached client for Java是Memcached官方发布的客…
几个重要概念 Slab memcached通过slab机制进行内存的分配和回收,slab是一个内存块,它是memcached一次申请内存的最小单位,.在启动memcached的时候一般会使用参数-m指定其可用内存,但是并不是在启动的那一刻所有的内存就全部分配出去了,只有在需要的时候才会去申请,而且每次申请一定是一个slab.Slab的大小固定为1MB(1MB=1024KB=1024×1024B=1048576B,1048576字节),一个slab由若干个大小相等的chunk组成. Slab的分类…
安装依赖工具 [root@localhost upload]# yum  install gcc  make  cmake  autoconf  libtool 下载并上传文件 memcached 依赖于 libevent 库,因此我们需要先安装 libevent.,ibevent和memcached的下载路径 http://sourceforge.net/projects/levent/?source=typ_redirect https://github.com/memcached/memc…