这周少打点dota2,争取把这篇论文读懂并呈现出来,和大家一起分享. 先把论文搞懂,然后再看下和论文搭界的知识,比如hbase,Chubby和Paxos算法. Bigtable: A Distributed Storage System for Structured Data 大表:用于结构化数据的分布式存储系统 怎么样,"大表"这个翻译是不是很屌. Fay Chang, Jeffrey Dean, Sanjay Ghemawat, Wilson C. Hsieh, Deborah A…

Google论文之三----MapReduce MapReduce:大型集群上的简单数据处理 摘要 MapReduce是一个设计模型,也是一个处理和产生海量数据的一个相关实现.用户指定一个用于处理一个键值(key-value)对生成一组key/value对形式的中间结果的map函数,以及一个将中间结果键相同的键值对合并到一起的reduce函数.许多现实世界的任务都能满足这个模型,如这篇文章所示. 使用这个功能形式实现的程序能够在大量的普通机器上并行执行.这个运行程序的系统关心下面的这些细节:输入…

文章来自于:http://www.cnblogs.com/geekma/archive/2013/05/30/3108391.html Bigtable研究 摘要 Bigtable是一个用于管理结构型数据的分布式存储系统,被设计为可扩展到很大规模:通过数以千台的机器存储PB级数据.很多Google的工程都将数据存储在Bigtable中,包括网页索引.Google Earth和Google金融.这些应用在数据量和延迟方面对Bigtable的需求很不相同.尽管这些不尽相同的需求,Bigtable能够…

Google云计算技术奠定其在业界的领先地位,收集经典云计算技术公开文章供大家研究学习: 01)GFS-The Google File System 02) Bigtable - A Distributed Storage System for Structured Data 03) MapReduce - Simplified Data Processing on Large Clusters 05) Pregel - A System for Large-Scale Graph Proces…

从google历年所有论文的汇总来看,TOP5的分别是人工智能和机器学习.算法理论.人机交互与视觉.自然语言处理.机器感知,大家从一个侧面看出goolge research的重点了吧. Google所有论文汇总: http://research.google.com/pubs/papers.html 如下英文长贴是google在2012年发表的优秀论文汇总,Goole一直是IT领域的技术风向标,依托其大规模分布式系统以及搜索/广告等成功的业务,谷歌的论文更是具有相当的实践说服力.如下汇总的优秀论…

思想 map函数:处理一组key/value对进而生成一组key/value对的中间结果 reduce函数:将具有相同Key的中间结果进行归并 实现 环境 普通带宽,上千台机器(失败变得正常),廉价硬盘,调度系统. 执行过程 文件划分 master分派map和reduce任务 执行map函数 中间结果缓存和位置传递 执行reduce函数 生成最终结果文件 结果返回 Master是将中间结果文件从map task传递到reduce task的渠道. 保存:对于每个完成的map task,maste…

Google文件系统是一个面向大规模分布式数据密集型应用的可扩展分布式文件系统. 这里的思维导图作为个人的读书笔记.   参考资料: <google系列论文>- GFS…

跪求各路大侠指正:1.首先是一个列式存储的简单数据模型的数据库,它比键值对模型/文档模型NoSQL数据库复杂点(也就更强一点).2.它的分布式存储性能依靠于GFS也就对单机房网络有硬性指标.3.它同时提供了相对均衡的顺序读写操作,也就更适用于这样的应用.4.保证SSTable不变的结构简化了读写冲突所产生的问题复杂性.同时允许不同的tablet共享一个SSTable.5.memtable的设计减少了大量的读写冲突,双线程+序列允许归并写入,鉴于较小概率的读恢复操作,major compactio…

文章来自于:http://www.cnblogs.com/geekma/p/3139823.html MapReduce:大型集群上的简单数据处理 摘要 MapReduce是一个设计模型,也是一个处理和产生海量数据的一个相关实现.用户指定一个用于处理一个键值(key-value)对生成一组key/value对形式的中间结果的map函数,以及一个将中间结果键相同的键值对合并到一起的reduce函数.许多现实世界的任务都能满足这个模型,如这篇文章所示. 使用这个功能形式实现的程序能够在大量的普通机器…

文章来自于:http://www.cnblogs.com/geekma/archive/2013/06/09/3128372.html 摘要 我们设计并实现了Google文件系统,它是一个可扩展的分布式分局系统,用于大型分布式数据密集型应用.它运行在便宜的普通硬件上,提供了容错处理:并为大量的客户端提供了高性能. 在与之前的分布式文件系统提供相同功能的同时,我们的设计是由对我们应用的工作和技术环境的观察驱动的,无论当前还是未来,都与之前的文件系统有明显的区别.这使我们重新测试了传统的文件系统,并…