我们hadoop2,4集群默认不支持snappy压缩,可是近期有业务方说他们的部分数据是snappy压缩的(这部分数据由另外一个集群提供给他们时就是snappy压缩格式的)想迁移到到我们集群上面来进行计算。可是直接执行时报错:

Failed with exception java.io.IOException:java.lang.RuntimeException:
native snappy library not available: this version of libhadoop was built without snappy support

依据报错信息显示snappy本地库不可用,同一时候似乎在编译libhadoop的时候须要特别指定以支持snappy,这一点不同于hadoop1.0。hadoop1.0仅仅须要将snappy的本地库文件往指定文件夹一拷贝即可,不须要又一次编译libhadoop本地库文件。

因为snappy压缩算法压缩比不是非常高,尽管在解压缩效率上又一点优势,所以我们集群默认没有支持snappy,我们集群的数据要求是RCFile+Gzip,下面是几种压缩格式在hadoop中的优缺点对照:

參考地址:http://www.linuxidc.com/Linux/2014-05/101230.htm

眼下在Hadoop中用得比較多的有lzo,gzip。snappy。bzip2这4种压缩格式。笔者依据实践经验介绍一下这4种压缩格式的优缺点和应用场景,以便大家在实践中依据实际情况选择不同的压缩格式。

1、gzip压缩

长处:压缩率比較高。并且压缩/解压速度也比較快;hadoop本身支持,在应用中处理gzip格式的文件就和直接处理文本一样;有hadoop native库。大部分linux系统都自带gzip命令,使用方便。

缺点:不支持split。

应用场景:当每一个文件压缩之后在130M以内的(1个块大小内),都能够考虑用gzip压缩格式。譬如说一天或者一个小时的日志压缩成一个gzip文件,执行mapreduce程序的时候通过多个gzip文件达到并发。hive程序,streaming程序,和java写的mapreduce程序全然和文本处理一样,压缩之后原来的程序不须要做不论什么改动。

2、lzo压缩

长处:压缩/解压速度也比較快,合理的压缩率;支持split,是hadoop中最流行的压缩格式。支持hadoop native库;能够在linux系统下安装lzop命令。使用方便。

缺点:压缩率比gzip要低一些;hadoop本身不支持。须要安装;在应用中对lzo格式的文件须要做一些特殊处理(为了支持split须要建索引,还须要指定inputformat为lzo格式)。

应用场景:一个非常大的文本文件,压缩之后还大于200M以上的能够考虑,并且单个文件越大,lzo长处越越明显。

3、snappy压缩

长处:快速压缩速度和合理的压缩率;支持hadoop native库。

缺点:不支持split;压缩率比gzip要低;hadoop本身不支持,须要安装。linux系统下没有相应的命令。

应用场景:当mapreduce作业的map输出的数据比較大的时候。作为map到reduce的中间数据的压缩格式;或者作为一个mapreduce作业的输出和另外一个mapreduce作业的输入。

4、bzip2压缩

长处:支持split;具有非常高的压缩率。比gzip压缩率都高;hadoop本身支持,但不支持native;在linux系统下自带bzip2命令,使用方便。

缺点:压缩/解压速度慢。不支持native。

应用场景:适合对速度要求不高,但须要较高的压缩率的时候。能够作为mapreduce作业的输出格式。或者输出之后的数据比較大,处理之后的数据须要压缩存档降低磁盘空间并且以后数据用得比較少的情况;或者对单个非常大的文本文件想压缩降低存储空间,同一时候又须要支持split,并且兼容之前的应用程序(即应用程序不须要改动)的情况。

最后用一个表格比較上述4种压缩格式的特征(优缺点):

4种压缩格式的特征的比較
压缩格式 split native 压缩率 速度 是否hadoop自带 linux命令 换成压缩格式后,原来的应用程序是否要改动
gzip 非常高 比較快 是,直接使用 和文本处理一样。不须要改动
lzo 比較高 非常快 否,须要安装 须要建索引,还须要指定输入格式
snappy 比較高 非常快 否。须要安装 没有 和文本处理一样。不须要改动
bzip2 最高 是。直接使用 和文本处理一样。不须要改动


注意:以上几种压缩算法都是在压缩普通文本的前提下来说的是否支持split,假设是RCFile、Sequence
Files等,本身就支持split,经过压缩之后一样是支持split的。

综上,我们hadoop2.4集群要求RCFile+gzip是有一定道理的,首先RCFile格式的文件支持按列存储。同一时候支持split,而gzip的压缩率比較高,并且压缩/解压速度也比較快,所以RCFile格式的文件经过gzip压缩后既能保证文件能split,还能保证非常高压缩/解压速度和压缩比。

以上说了半天题外话,下面来进入主题来说一下如何在不替换集群本地库文件,不重新启动hadoop进程,也即在hadoop的client就能解决支持snappy压缩的问题的方法:

1、编译snappy本地库,编译之后snappy本地库文件地址:/data0/liangjun/snappy/

參考地址:http://www.tuicool.com/articles/yiiiY3R

2、又一次编译libhadoop.so文件,编译时通过-Dsnappy.prefix指定snappy本地库文件地址编译:

mvn clean package -Pdist -Dtar -Pnative -Dsnappy.prefix=/data0/liangjun/snappy/ -DskipTests

注:我測试了一下,通过-Drequire.snappy编译的libhadoop.so也是可行的:

mvn clean package -Pdist,native -DskipTests -Drequire.snappy

3、运行完上面两步之后,终于仅仅须要拿到libhadoop.so和libsnappy.so.1两个文件(仅仅须要这两个文件。其它得经过我測试都过滤掉了)。下面是MapReduce和hive的使用snappy压缩的样例:

(1)、MapReduce。将编译好的本地库加到DistributedCache中就能够:

在測试环境的clientmapred-site.xml文件加入下面两个配置项以支持map端数据的时候按snappy压缩:

<property>
<name>mapreduce.map.output.compress</name>
<value>true</value>
<final>true</final>
</property>
<property>
<name>mapreduce.map.output.compress.codec</name>
<value>org.apache.hadoop.io.compress.SnappyCodec</value>
<final>true</final>
</property>

上传libhadoop.so和libhadoop.so到指定hdfs文件夹/test/snappy/下。通过-files指定文件:

hadoop jar hadoop-mapreduce-examples-2.4.0.jar wordcount -files hdfs://ns1/test/snappy/libhadoop.so,hdfs://ns1/test/snappy/libsnappy.so.1  /test/missdisk/ /test/wordcount

(2)、hive,通过add file指定文件:

hive >add file libhadoop.so;
hive >add file libsnappy.so.1;
hive >select count(*) from ct_tmp_objrec;

表ct_tmp_objrec的数据是文本文件经过snappy压缩的数据。ct_tmp_objrec存储格式是普通的文本格式。

执行hql之后。发现snappy格式的数据可以正常处理计算了,可是200+M的文件仅仅能由一个map任务处理,既不支持split。

==========================================================

下面部分是就RCFile+snappy的数据是否支持split的測试:

1、创建測试表snappy_test,该表和前面的ct_tmp_objrec列全然同样,仅仅是hive表存储格式换成了RCFile:

CREATE EXTERNAL TABLE `snappy_test`(
`from_id` string,
`to_id` string,
`mention_type` bigint,
`repost_flag` bigint,
`weight` double,
`confidence` double,
`from_uid` string,
`to_object_label` string,
`count` bigint,
`last_modified` string,
`time` string,
`mblog_spam` bigint,
`mblog_simhash` string,
`mblog_dupnum` bigint,
`mblog_attribute` bigint,
`user_quality` bigint,
`user_type` bigint,
`old_weight` double,
`obj_pos` bigint,
`quality` bigint)
ROW FORMAT SERDE
'org.apache.hadoop.hive.serde2.columnar.LazyBinaryColumnarSerDe'
STORED AS INPUTFORMAT
'org.apache.hadoop.hive.ql.io.RCFileInputFormat'
OUTPUTFORMAT
'org.apache.hadoop.hive.ql.io.RCFileOutputFormat'
LOCATION
'hdfs://ns1/user/liangjun/warehouse/tables/snappy_test'

2、将ct_tmp_objrec中plain text+snappy压缩的数据转成snappy_test中RCFile+gzip压缩的数据:

hive >add file libhadoop.so;
hive >add file libsnappy.so.1;
hive >set hive.exec.compress.output=true;
hive >set mapred.output.compression.codec=org.apache.hadoop.io.compress.SnappyCodec;
hive >INSERT OVERWRITE table snappy_test select from_id,to_id,mention_type,repost_flag,weight,confidence,from_uid,to_object_label,count,last_modified,time,mblog_spam,mblog_simhash,mblog_dupnum,mblog_attribute,user_quality,user_type,old_weight,obj_pos,quality from ct_tmp_objrec;

3、查询snappy_test中的RCFile+snappy数据看能否split

hive >add file libhadoop.so;
hive >add file libsnappy.so.1;
hive >select count(*) from snappy_test;

执行hql之后,发现RCFile+snappy的数据可以正常处理计算,同一时候200+M的文件split成两个map任务处理。測试完毕。

參考地址:

http://blog.cloudera.com/blog/2011/09/snappy-and-hadoop/

http://blog.csdn.net/czw698/article/details/38387657

http://www.linuxidc.com/Linux/2014-05/101230.htm

http://book.2cto.com/201305/21922.html

http://blog.csdn.net/czw698/article/details/38387657

http://blog.csdn.net/czw698/article/details/38398399

http://www.tuicool.com/articles/yiiiY3R

hadoop2.4 支持snappy的更多相关文章

  1. hadoop2.7.3编译,支持snappy、bzip2本地压缩

    软件包: apache-ant-1.9.9-bin.tar.gz apache-maven-3.3.9-bin.tar.gz apache-tomcat-6.0.44.tar.gz CentOS-6. ...

  2. Centos7下编译CDH版本hadoop源码支持Snappy压缩

    1 下载snappy包并编译 wget https://github.com/google/snappy/releases/download/1.1.3/snappy-1.1.3.tar.gz tar ...

  3. 关于Hbase开启snappy压缩

    版本:自己编译的hbase-1.2.0-cdh5.14.0 默认情况下,Hbase不开启snappy压缩 , 所以在hbase的lib/native目录下什么也没有(我的前提是执行hadoop che ...

  4. 编译Hadoop 2.7.2支持压缩 转

    hadoop Native Shared Libraries 使得Hadoop可以使用多种压缩编码算法,来提高数据的io处理性能.不同的压缩库需要依赖到很多Linux本地共享库文件,社区提供的二进制安 ...

  5. Hadoop集群安装压缩工具Snappy,用于Hbase

    最近项目中要用到Hadoop和Hbase,为了节省服务器的存储成本,并提高吞吐,安装并开启HBase的数据压缩为Snappy. 主流的HBase压缩方式有GZip | LZO | Snappy,Sna ...

  6. hadoop-cdh with snappy

    hadoop: 2.5.0-cdh5.3.6 snappy: 1.1.3 hadoop 2.*不需要hadoop-snappy.只要机器上安装好snappy, 直接编译就可以 编译命令: mvn cl ...

  7. Hadoop2 和 Hadoop1 区别

    Hadoop2 和 Hadoop1 区别 Namenode NameNode其实是Hadoop的一个目录服务,它包含着整个集群存储的文件的元数据. 早期发行的Hadoop1版本将所有HDFS目录和文件 ...

  8. Hadoop2.0源码包简介

    Hadoop2.0源码包简介 1.解压源码包: 2.目录结构: hadoop-common-project:Hadoop基础库所在目录,如RPC.Metrics.Counter等.包含了其它所有模块可 ...

  9. Kudu:支持快速分析的新型Hadoop存储系统

    Kudu 是 Cloudera 开源的新型列式存储系统,是 Apache Hadoop 生态圈的新成员之一( incubating ),专门为了对快速变化的数据进行快速的分析,填补了以往 Hadoop ...

随机推荐

  1. 将PHP程序中返回的JSON格式数据用gzip压缩输出

    //phpinfo(); 搜索下 zlib 是否开启 //此示例开启压缩 Content-Length:124 Size: 404B //未开启gzip压缩 Content-Length:675 Si ...

  2. MFC does not support WINVER less than 0x0501 解决方案(转)

    原文转自 http://blog.csdn.net/ygzhong000/article/details/41750841 解决方案:在stdafx.h头文件中添加以下行. #define WINVE ...

  3. suse10与suse11连接Xmanager的配置

    原创作品,允许转载,转载时请务必以超链接形式标明文章 原始出处 .作者信息和本声明.否则将追究法律责任.http://feidandelion.blog.51cto.com/1050439/42217 ...

  4. Uva 10158 War

    并查集的应用 直接阔成2倍.后N项为对应的敌人 #include <map> #include <set> #include <list> #include < ...

  5. C# split字符串

    string strSourse = "ab|||cdef"; string[] arr = strSource.Split(new string[]{"|||" ...

  6. (3) python--matplotlib

    (一)1.如何绘制散点图 import numpy as np import matplotlib.pyplot as plt # 如何绘制散点图 # 先随机生成数据 x = np.array(ran ...

  7. Centos7下zabbix部署(五)定义报警媒介-微信

    1.注册微信 注册过程参考地址:https://www.cnblogs.com/hanyifeng/p/5368102.html 主要需要以下一些信息 CorpID :     wwxxxxxxxxx ...

  8. logrotate 学习使用

    logrotate Summary : Rotates, compresses, removes and mails system log files Description : The logrot ...

  9. MVC中AuthorizeAttribute用法并实现授权管理

    1.创建一个类(用来检查用户是否登录和用户权限)代码如下 public class MemberCheckAttribute : AuthorizeAttribute { //AuthorizeAtt ...

  10. 在C#中将金额转换成中文大写金额

    具体代码如下: /// <summary> /// 金额转换成中文大写金额 /// </summary> /// <param name="LowerMoney ...