基本理念:尽可能的参考官方英文文档

Hadoop:  http://wiki.apache.org/hadoop/FrontPage

HBase:  http://hbase.apache.org/book.html

Zookeeper:  https://cwiki.apache.org/confluence/display/ZOOKEEPER/Index

环境介绍

Ubuntu 14.04LTS, 32位

接下来则按照Hadoop,HBase,Zookeeper顺序来进行源码编译,建立文件夹~/code用于存放源码

Hadoop

首先去Apache Hadoop官网下载源码,作者下载的是2.6.0版本,即hadoop-2.6.0-src.tar.gz

然后解压,并改下文件夹名(为了方便。。。)

$ tar -zxvf hadoop-2.6.-src.tar.gz
$ mv hadoop-2.6. hadoop

在进行编译前,有一些软件包是需要必须安装的,查看Hadoop官方文档,必备软件如下:

1、JDK. 推荐orcale JDK 7,或者系统自带的OpenJDK

2、ProtocolBuffer 2.5.0,这个需要用源码安装,命令有./configur, make && make install. 注意使用protoc --version查看版本

3、Apache Maven版本3或以上,使用apt-get install即可

4、为了创建native libraries,还需要LZO headers,zlib headers, gcc, OpenSSL headers, cmake, protobuf dev tools, and libtool, and the GNU autotools (automake, autoconf, etc).

$ apt-get -y install maven build-essential autoconf automake libtool cmake zlib1g-dev pkg-config libssl-dev libfuse-dev

在有了上面的准备之后,便可以编译Hadoop源码并导入eclipse了

首先需要安装hadoop-maven-plugins

$ cd hadoop-maven-plugins
$ mvn install

然后回到hadoop解压后的源码目录,生成eclipse需要的工程文件

$ mvn eclipse:eclipse -DskipTests

最后打开eclipse,[File]->[Import]->[General]->[Existing Projects into Workspace],选择hadoop解压后的根目录,导入

导入时注意由于hadoop下面子工程较多,可以选择自己感兴趣的工程进行导入,如hadoop-common,hadoop-hdfs,hadoop-yarn-common

HBase

同样HBase也得先去官方下载源码,作者下载的是0.94.11,即hbase-0.94.11.tar.gz,解压并更改文件夹名

$ tar -zxvf hbase-0.94..tar.gz
$ mv hbase-0.94. hbase

参考HBase官方文档进行操作,进入hbase目录,首先进行Build,然后生成eclipse所需的工程文件

$ mvn clean install -DskipTests
$ mvn eclipse:eclipse

最后打开eclipse,[File]->[Import]->[General]->[Existing Projects into Workspace],选择hbase解压后的根目录,导入

Zookeeper

作者下载的版本为3.4.6,即zookeeper-3.4.6.tar.gz,解压并更改文件夹名

$ tar -zxvf zookeeper-3.4..tar.gz
$ mv zookeeper-3.4. zookeeper

由于zookeeper需要使用ant进行编译,所以进入zookeeper目录后使用如下命令生成eclipse所需的工程文件

$ ant eclipse

打开eclipse,[File]->[Import]->[General]->[Existing Projects into Workspace],选择zookeeper解压后的根目录,导入

至此,便可以使用eclipse来学习Hadoop,HBase,Zookeeper的源码了

需要说明的是作者下载的均不是各个项目的最新版代码,可使用如下命令获取源码

$ git clone git://git.apache.org/hadoop.git
$ git clone git://git.apache.org/hbase.git
$ git clone git://git.apache.org/zookeeper.git

Hadoop,HBase,Zookeeper源码编译并导入eclipse的更多相关文章

  1. Hadoop2.5.2源码编译及导入Eclipse

    前言:由于官网提供的64位hadoop是没有编译的,所以当我们用到64位的hadoop时,需要在自己的64位linux系统上编译hadoop源码.另外,要想在eclipse里查看hadoop源码,修改 ...

  2. Tomcat8源码编译及导入Eclipse中研究

    最近因为需求需要修改Tomcat中的某些功能,无奈只能研究那部分源码然后稍作修改. 目前Tomcat最新版是8.0,下载了源码包,编译并导入Eclipse中研究比较方便. 1. Tomcat8源码编译 ...

  3. Tomcat9源码编译及导入Eclipse(转)

    1.下载tomcat源码.建议下载最新版本tomcat9. svn地址:http://svn.apache.org/repos/asf/tomcat/tc9.0.x/branches/gsoc-jas ...

  4. Zookeeper源码编译为Eclipse工程(转)

    原文地址:http://blog.csdn.net/jiyiqinlovexx/article/details/41179293 为了深入学习ZooKeeper源码,首先就想到将其导入到Eclispe ...

  5. Zookeeper源码编译为Eclipse工程(win7下Ant编译)

    前言 ZooKeeper是雅虎的.用Ant进行软件构建. 千里之行,始于足下.想看源码的第一步,是下载源码并导入某个IDE工具. Ant http://ant.apache.org/ Windows: ...

  6. 琐碎-将hadoop源码作为工程导入eclipse

    之前写过如何用eclipse看hadoop源码,虽然非官方版的,但是可以达到目的,最重要是简单方便快速 官方版(hadoop2.2.0)的也有: 源码目录为: 和之前的源码目录有很大的不同 编译的时候 ...

  7. spring-framework源码编译及导入

    环境说明: 时间:2017-09-26 OS name: "mac os x", version: "10.12.4", arch: "x86_64& ...

  8. zookeeper 源码编译

    环境:mac 1.github上下载 源码 项目地址:https://github.com/apache/zookeeper 2.安装 ant mac:brew update ->  brew ...

  9. 将Spring源码转换为工程 + 导入Eclipse时缺失jar包

    将源码转换为工程: 比如查看Spring事务部分的源码. 打开cmd窗口,切换到Spring-tx文件夹下,执行命令 “gradle cleanidea eclipse” . 缺失jar包: 第一步: ...

随机推荐

  1. Tornado,展示一下模板渲染

    按网上一步一步走一下. 感觉模板和DJANGO的差不多,但更灵活,不限制PYTHON的使用. 前端和后端,这模板使用的规则在哪里呢? import os.path import tornado.htt ...

  2. H264/AVC视频解码时AVC1和H264的区别

    AVC1与H264的区别 http://blog.csdn.net/qiuchangyong/article/details/6660253 H.264 Video Types The followi ...

  3. java中dao层和service层的区别是什么?

    首先解释面上意思,service是业务层,dao是数据访问层.呵呵,这个问题我曾经也有过,记得以前刚学编程的时候,都是在service里直接调用dao,service里面就new一个dao类对象,调用 ...

  4. DSPLIB for C6455+CCSv3.3

    问题描述: Hello everybody, I was looking for DSPLIB libraries optimized for C6455 processors. I found th ...

  5. unite

    列出某个集合里的项目,比如file,buffer等 :United file——列出文件 :United buffer——列出buffer :United file_rec——递归列出文件 进入Uni ...

  6. Spring个人总结

    编写Spring第一个程序 Spring是一种开源框架,通过使用它可以大大降低企业应用程序的复杂性.Spring是一种非常完善的框架,几乎涉及WEB开发中的每一层,但是在开发中通常使用Spring开发 ...

  7. 中国VR公司的详尽名单

    中国VR公司的详尽名单   <VR圈深度投资报告一:2014年以来所有VR/AR融资事件> 特征一.投资机构观望居多 尽管VR在媒体和二级市场炒得很热,但大多风险投资机构却慎于出手,以观望 ...

  8. mysql 查看表的类型

    MySQL 数据表主要支持六种类型 ,分别是:BDB.HEAP.ISAM.MERGE.MYISAM.InnoBDB. 这六种又分为两类,一类是”事务安全型”(transaction-safe),包括B ...

  9. WEB架构师成长之路-架构师都要懂哪些知识 转

    Web架构师究竟都要学些什么?具备哪些能力呢?先网上查查架构师的大概的定义,参见架构师修炼之道这篇文章,写的还不错,再查查公司招聘Web架构师的要求. 总结起来大概有下面几点技能要求: 一. 架构师有 ...

  10. oracle 有关大数据

    一. oracle大数据量分区后查询效率低下的一些建议: 1 对于当前表tm_bus_realtime_log.查看它的索引,只有一个(索引名:INDEX_BUS_REALTIME 字段名:UPLOA ...