有关Hadoop的六大误解
迄今为止,Hadoop和大数据实际上是同义词。然而随着大数据的炒作不断升温,出现了很多对Hadoop如何应用于大数据的误解。
Hadoop是一种用于存储和分析大型数据集开源软件框架,可处理分布在多个现有服务器中的数据。Hadoop适合处理来自手机、电子邮件、社交媒体、传感器网络和其它不同渠道的多样化、大负荷的数据,因此通常被认为是一种大数据操作系统。而这正是第一个误解的来源:
1、Hadoop是一个完整的解决方案。
事实并非如此。无论你把它称为“框架”或“平台”都可以,只是不能认为Hadoop可以解决大数据方面的所有问题。
“市场上没有标准的Hadoop产品,”《太大而无法忽略:大数据的商业案例》一书的作者菲尔·西蒙说:“这不像别的东西,你可以从IBM或SAP那里,得到一个标准的数据库。”
然而西蒙不认为这是一个长期的问题。首先,由于Hadoop是开源项目,许多其他Hadoop相关的项目,如Cassandra和HBase,都可以满足特定的需求。HBase提供的分布式数据库,支持大数据表的结构化数据存储。
此外,正像红帽、IBM和其他厂商将Linux打包成各种用户友好的产品一样,有很多大数据方面的创业公司,正在对Hadoop做同样的事情。所以,虽然Hadoop本身不是一个完整的解决方案,大多数企业实际上还是会在比较完整的大数据解决方案中遇到它。
2、Hadoop是一种数据库。
Hadoop是经常被当作数据库,但事实并非如此。Damballa安保公司的一名软件工程师,MarshallBockrath-
Vandegrift说:“Hadoop核心中没有任何类似于查询或索引的核心平台。”Damballa公司利用Hadoop来分析实时的安全风险。
“我们使用HBase来帮助我们的风险分析师针对被动DNS数据运行实时查询。HBase和其他实时技术不仅与Hadoop是互补的,而且多数依赖Hadoop核心的分布式存储技术(HDFS)来实现高性能的分布式数据集的访问。”他补充说。
BloomReach数据营销分析公司的科学家PrateekGupta也表示:“Hadoop不是为替代数据库系统而生的,但却可以用来建立数据库系统。”
3、企业级Hadoop应用过于冒险。
许多企业担心Hadoop太新,未经考验,不适合企业级应用。没有什么想法比这更错误的了。别忘了,Hadoop是基于谷歌文件系统的分布式存储平台
和运行于该文件系统上的GoogleMapReduce数据分析工具建立的。雅虎在Hadoop上投入了资金和精力,并于2008年推出其第一个大型
Hadoop应用,一种搜索“站点地图”,可对所有已知的网页和相应的元数据进行索引,从而完成对这些页面的搜索。
现在,Hadoop被包括Netflix、Twitter和eBay等公司所采用,包括微软、IBM和甲骨文这样的公司都有Hadoop工具出售。目
前,将Hadoop称为“成熟”的技术还为时尚早,这一点与任何大数据平台的情况类似,然而它确实已经得到了大型企业的采纳和验证。
这不意味着它是一种没有风险的平台,安全问题本身就是一个比较棘手的问题。但企业远不该就因此被Hadoop平台的年轻而吓跑。
4、要使用Hadoop,就得请一堆程序员。
取决于你要做的事情,这个说法或许是对的。如果你计划开发优秀的下一代Hadoop大数据套件,可能需要专业的Java和MapReduce编程人
员。反过来,如果你愿意利用他人的成就,编程就不是一个问题。数据集成供应商Syncsort的建议分析师们利用Hadoop兼容的数据集成工具来运行高
级查询,这样做无需任何编码工作。
大多数数据集成工具都有图形化界面,可以屏蔽MapReduce编程的复杂性,很多还带有预置的模板。此外,包括AlpineDataLabs、Continuuity和Hortonworks在内的创业型公司,还提供可以简化大数据和Hadoop应用的工具。
5、Hadoop不适合中小企业。
许多中小企业担心会被“大数据”的趋势拒之门外。IBM、甲骨文等大型厂商自然倾向于兜售大而昂贵的解决方案。这并不意味着市场上没有适合中小企业的相关工具。
云计算正在迅速推动一些尖端技术的大众化应用。“云计算正将资本支出转化为运营成本,”《大数据》的作者菲尔·西蒙指出。“你可以和Netflix利用相同的云服务。同样的事情也开始发生在大数据领域,一个只有五个员工的企业,照样可以使用Kaggle。”
Kaggle称自己为“在数据问题和数据方案间搭建桥梁的市场。”例如,创业公司Jetpac以5000美元悬赏一种算法,以找出最有吸引力的度假照片。多数度假照并不好,而从中筛选是一个繁琐,耗时的过程。
Jetpac让人手工评选出了30000张照片,并且寻求一种能够与人工方式类似,只是通过分析元数据(照片大小、标题,描述信息)来进行排序的算
法。如果该公司自行开发这一算法,花的钱绝对不止5000美元。而且他们只能得到一种方案,而不是从各种方案中优选。Jetpac的图像处理工具,最终帮
助其获得了240万美元的风投资金。
6、Hadoop比较便宜。
这个误解对任何开放源代码的软件都适用。省下最初的采购成本,并不意味着你一定会省钱。例如,云计算的问题之一就是,要在亚马逊平台上建立一个科研项目非常容易,以致于很多人都在AWS建立了自己的项目,在持续付费的同时,却忘了这些项目本身。
虚拟服务器的盲目扩张,已经使物理服务器的增加相形见绌。虽然Hadoop可以帮助你存储和分析数据,但你又如何将老的数据导入到新的系统中?如何实现数据的可视化?如何分享数据?对于这些会更多被大家分享的数据,你又如何去保护它?
Hadoop实际上一种东拼西凑的解决方案。你可以从Cloudera这样的公司获得完整的企业级解决方案,也可以着手建立自己高度定制化的解决方案。无论你选择的路线如何,都要认真做好预算,因为免费软件从来都不是真正免费的。
核心关注:拓步ERP系统平台是覆盖了众多的业务领域、行业应用,蕴涵了丰富的ERP管理思想,集成了ERP软件业务管理理念,功能涉及供应链、成本、制
造、CRM、HR等众多业务领域的管理,全面涵盖了企业关注ERP管理系统的核心领域,是众多中小企业信息化建设首选的ERP管理软件信赖品牌。
转载请注明出处:拓步ERP资讯网http://www.toberp.com/
有关Hadoop的六大误解的更多相关文章
- Spark的误解-不仅spark是内存计算,hadoop也是内存计算
市面上有一些初学者的误解,他们拿spark和hadoop比较时就会说,Spark是内存计算,内存计算是spark的特性.请问在计算机领域,mysql,redis,ssh框架等等他们不是内存计算吗?依据 ...
- 常见的Hadoop十大应用误解
常见的Hadoop十大应用误解 1. (误解) Hadoop什么都可以做 (正解) 当一个新技术出来时,我们都会去思考它在各个不同产业的应用,而对于平台的新技术来说,我们思考之后常会出现 ...
- Spark入门——什么是Hadoop,为什么是Spark?
#Spark入门#这个系列课程,是综合于我从2017年3月分到今年7月份为止学习并使用Spark的使用心得感悟,暂定于每周更新,以后可能会上传讲课视频和PPT,目前先在博客园把稿子打好.注意:这只是一 ...
- 【从零开始学习Hadoop】--1.Hadoop的安装
第1章 Hadoop的安装1. 操作系统2. Hadoop的版本3. 下载Hadoop4. 安装Java JDK5. 安装hadoop6. 安装rsync和ssh7. 启动hadoop8. 测试had ...
- [译] 企业级 OpenStack 的六大需求(第 3 部分):弹性架构、全球交付
全文包括三部分: 第一部分:API 高可用和管理以及安全模型 第二部分:开放架构和混合云兼容 第三部分:弹性架构和全球交付 需求 5 - 扩展.弹性和性能 企业级的内容很丰富.过去,企业级往往和高可靠 ...
- [译] 企业级 OpenStack 的六大需求(第 2 部分):开放架构和混合云兼容
全文包括三部分: 第一部分:API 高可用和管理以及安全模型 第二部分:开放架构和混合云兼容 第三部分:弹性架构和全球交付 在本系列的第一部分,我介绍了企业级 OpenStack 的六大需求.现在,我 ...
- hadoop中常见元素的解释
secondarynamenode 图: secondarynamenode根据文件的的大小对namenode的编辑日志和镜像日志 进行合并. 光从字面上来理解,很容易让一些初学者先入为主的认为:Se ...
- 中国大数据六大技术变迁记(CSDN)
大会召开前期,特别梳理了历届大会亮点以记录中国大数据技术领域发展历程,并立足当下生态圈现状对即将召开的BDTC 2014进行展望: 追本溯源,悉大数据六大技术变迁 伴随着大数据技术大会的发展,我们亲历 ...
- Hadoop集群(第4期)_SecureCRT使用
1.SecureCRT简介 SecureCRT是一款支持SSH(SSH1和SSH2)的终端仿真程序,同时支持Telnet和rlogin协议.SecureCRT是一款用于连接运行包括Windows.UN ...
随机推荐
- arduino一些内容
arduino 套件使用说明书V1.0.pdf, 步进电机 DHT11 传感器另外一脚要接A0 /* Web client This sketch connects to a website (htt ...
- C#打印日志的小技巧
public static void Log(params System.Object[] message) { string str = ""; if (message == n ...
- class和struct
相同点 实际上可以使用这两个关键字定义任何一个类. 区别 1.struct的默认成员访问说明符为public,class的默认成员访问说明符为private(什么叫默认?就是没有写明public.pr ...
- gj2 python中一切皆对象
2.1 python中一切皆是对象 动态语言和静态语言的区别,Python的面向对象更彻底 同时动态语言,代码的灵活性高 没有编译(检查)的过程,错误只有在运行起来后才会发现 函数和类也是对象,属于p ...
- Netty学习第二节Java IO通信
一.Java IO通信 名词解释: BIO通信: 采用BIO通信模型的服务端,通常由一个独立的Acceptor线程负责监听客户端连接,在接收到客户端请求后,为每一个客户端建立一个新的线程负 ...
- java程序设计基本概念 jvm
JVM (1)对于字符串:其对象的引用都是存储在栈中的,如果是编译期已经创建好(直接用双引号定义的)的就存储在常量池中,如果是运行期(new出来的)才能确定的就存储在堆中.对于equals相等的字符串 ...
- [mysql] mysql如何实现更新一条记录中某个字段值的一部分呢?
场景:在平常我们使用word文档等等office办公软件时,我们常会使用搜索->替换的功能. mysql: 在mysql 中有时候,我们也需要这样子的实现: 实现 SQL 语句: update ...
- JS的__proto__与prototype
一.prototype和__proto__的概念 prototype是函数的一个属性(每个函数都有一个prototype属性),这个属性是一个指针,指向一个对象.它是显示修改对象的原型的属性. __p ...
- Oracle EBS标准错误信息如何追踪 (Debug)
http://www.cnblogs.com/songdavid/articles/2067534.html 调用EBS标准API的时候,可能会返回一些让人看不懂的错误,比如最近我在开发rcv_tra ...
- Android-fragment简介-fragment的简单使用
1.fragment简介 在Android3.0版本之前Google还没有推出fragment,在Android3.0版本之后Google推出了fragment,由于Android3.0版本是过渡期版 ...