动人的hadoop第二天。构造hadoop该环境还花了两天时间,在这里写自己配置的过程,我希望能帮助!

我将文中用到的全部资源都分享到了  这里,点开就能下载,不须要一个个的找啦!

当中有《Hadoop 技术内幕》这本书。第一章讲述了这个配置过程,可是不具体~

---------------安装jdk-------------------------------

1.

下载jdk1.6.0_45



2.解压到opt目录下,配置/etc/profile。在文件尾部加上

#set java environment

JAVA_HOME=/opt/jdk1.6.0_45

export JRE_HOME=/opt/jdk1.6.0_45/jre

export CLASSPATH=$JAVA_HOME/lib:$JRE_HOME/lib:$CLASSPATH

export PATH=$JAVA_HOME/bin:$JRE_HOME/bin:$PATH



3.然后用source /etc/profile来又一次运行刚改动的初始化文件(profile)



4.配置默认程序

update-alternatives --install /usr/bin/java java /opt/jdk1.6.0_45/bin/java 300

update-alternatives --install /usr/bin/java java /opt/jdk1.6.0_45/bin/javac 300

update-alternatives --install /usr/bin/java java /opt/jdk1.6.0_45/bin/jar 300

update-alternatives --install /usr/bin/java java /opt/jdk1.6.0_45/bin/javah 300

update-alternatives --install /usr/bin/java java /opt/jdk1.6.0_45/bin/javap 300



然后运行下面代码选择我安装到jdk版本号:

update-alternatives --config java

5.之后就能够用java -version来查看java的版本号了



---------------安装eclipse-------------------------------

1.从官网下载java版到eclipse

http://mirror.neu.edu.cn/eclipse/technology/epp/downloads/release/kepler/SR2/eclipse-java-kepler-SR2-linux-gtk.tar.gz

2.解压到/home/simon目录下

3.用vi建立shell脚本命名为eclipse

 vi /usr/local/bin/eclipse

内容例如以下:

/home/simon/eclipse/eclipse

4.为脚本eclipse加入可运行权限: chmod +x /usr/local/bin/eclipse

5.直接输入eclipse来启动它了



---------------安装ant-------------------------------

1.下载ant

http://mirror.esocc.com/apache//ant/binaries/apache-ant-1.9.4-bin.tar.gz

2.解压拷贝到/home/simon 目录下

3.改动/etc/profile 文件

export ANT_HOME=/home/simon/apache-ant-1.9.4

export PATH=$PATH$:$ANT_HOME/bin

4.然后用source /etc/profile来又一次运行刚改动

5.输入ant -version验证成功安装

Apache Ant(TM) version 1.9.4 compiled on April 29 2014

---------------安装hadoop-------------------------------

1.改动机器名称,编辑/etc/hostname 改动为localhost

2.配置ssh无password登录

ssh-keygen -t rsa

cd ~/.ssh

cat id_rsa.pub >> authorized_keys

apt-get install openssh-server

3.假设命令 ssh localhost不成功,则须要启动ssh服务

通过下面命令启动ssh服务

service ssh start

/etc/init.d/ssh start

假设还是启动失败。那就重新启动吧。管用



3.配置hadoop

(1)编辑conf/hadoop-env.sh,改动JAVA_HOME的值:

export JAVA_HOME=/opt/jdk1.6.0_45

(2)编辑conf/mapred-site.xml,加入内容:

<property>

    <name>mapred.job.tracker</name>

        <value>http://localhost:9001</value>

</property>

(3)编辑conf/hdfs-site.xml,加入内容:

<property>

        <name>dfs.name.dir</name>

        <value>/home/simon/name</value>

</property>



<property>

        <name>dfs.data.dir</name>

        <value>/home/simon/data</value>

</property>

<property>

        <name>dfs.permissions</name>

        <value>false</value>

</property>

<property>

        <name>dfs.replication</name>

        <value>1</value>

</property>

(4)编辑conf/core-site.xml。加入内容:

<property>

        <name>fs.default.name</name>

        <value>hdfs://localhost:9000</value>

</property>



<property>

        <name>hadoop.tmp.dir</name>

        <value>/home/hadoop/hadoop-1.0.0/tmp</value>

</property>

(5)

格式化hdfs: bin/hadoop namenode -format

启动hadoop: bin/start-all.sh

假设显示没有权限,可能是文件无权限,或者文件到用户不是当前用户(root)

能够尝试 chmod +x 文件名称

chown root:root bin/*

-------------------配置eclipse插件---------------

1.将hadoop-eclipse-plugin-1.0.0.jar拷贝到eclipse文件夹下到plugins文件夹下

2.打开eclipse

window-showview-other... 对话框中选择MapReduce Tools - Map/Reduce Locations

假设对话框中没有。则:%eclispe_dir%/configration/config.ini文件,发现里面有一项org.eclipse.update.reconcile=false配置,改成true后又一次进入eclipse

3.在Project Explorer中就能够看到DFS Locations了,假设能够向下点开几个目录,说明配置成功



启动eclipse:

env UBUNTU_MENUPROXY= /home/simon/eclipse/eclipse启动eclipse。注意等号和eclipse路径之间有个空格



------------------执行java程序--------------------

1.配置输入输出到路径

在程序中右击--Run As--Run Configurations..--Argument

里填入

hdfs://localhost:9000/test/input hdfs://localhost:9000/test/output

中间用空格间隔,分别为输入输出到路径

2.导入hadoop中到jar包,右击项目--Properties--左边选Java Build Path--右边选Libraries--右边点击Add External JARs...

在hadoop/lib/ 这个路径中选须要到jar包。假设不知道选哪个。那就全选!~(无奈)

3.在程序中右击--Run As--Run on hadoop 执行

版权声明:本文博主原创文章,博客,未经同意不得转载。

ubuntu 14.04 hadoop eclipse 0配置基本环境的更多相关文章

  1. ubuntu 14.04 安装Eclipse与配置环境变量

    1. 安装JDK 1.1 源码包下载 首先到官网下载jdk,http://www.oracle.com/technetwork/java/javase/downloads/index.html,我下载 ...

  2. ubuntu 14.04 nagios4+ndoutils2.0+centreon2.5.4配置

    ubuntu 14.04 nagios4+ndoutils2.0+centreon2.5.4(原创) 开发应用centreon是开源的IT监控软件,由法国人于2003年开发,最初名为Oreon,并于2 ...

  3. NVIDIA DIGITS 学习笔记(NVIDIA DIGITS-2.0 + Ubuntu 14.04 + CUDA 7.0 + cuDNN 7.0 + Caffe 0.13.0)

    转自:http://blog.csdn.net/enjoyyl/article/details/47397505?from=timeline&isappinstalled=0#10006-we ...

  4. Ubuntu 14.04 LTS 安装和配置Bochs

    Ubuntu 14.04 LTS 安装和配置Bochs       系统是:Ubuntu 14.04 LTS 64位 安装的是:bochs-2.6.8 Bochs 需要在 X11 环境下运行,因此你的 ...

  5. 解决ubuntu 14.04 下eclipse 3.7.2 不能启动,报Could not detect registered XULRunner to use 或 org.eclipse.swt.SWTError: XPCOM 等问题的处理

    对于eclipse 3.7.2在ubuntu 14.04下不能启动,需要在 eclipse/configuration 目录下的config.ini文件内增加一行org.eclipse.swt.bro ...

  6. ubuntu 14.04中安装 ruby on rails 环境

    环境:在win7 上Vmware虚拟机环境中安装的ubuntu 14.04 1. bundle install 时,报json错误可以看出是在安装nokogiri时遇到了问题,此时执行 sudo ap ...

  7. ubuntu 14.04中安装 ruby on rails 环境(填坑版) 呕血推荐

    环境:在win7 上Vmware虚拟机环境中安装的ubuntu 14.04 开发相关: ruby 2.2.0 rails 4.2.0 sublime text 3 本文说明:所有的命令均在$ 之后,若 ...

  8. ubuntu - 14.04,安装、配置GO语言开发工具Eclipse!!

    在配置Eclipse之前,我们必须保证下面这些都已经安装,并且正常工作了: 一,Go语言:参考文章 http://blog.csdn.net/sunylat/article/details/49859 ...

  9. ubuntu 14.04安装zabbix3.0以及汉化

    文章出处借鉴于 http://www.cnblogs.com/-10086/p/5317524.html 1.下载deb # wget http://repo.zabbix.com/zabbix/3. ...

随机推荐

  1. rsync 只是测试,请看下一篇

    实现从客户服务器去同步资源服务器 1.解压 # tar -xzpvf rsync-2.5.6.tar.gz   编译安装 # cd rsync-2.5.6/  # ./configure --pref ...

  2. effective c++ prefer const,enum, inline to #defines

    学习心得 对于纯常量,最好以const对象或者enums替换#define #define FIRST 3 //not good enum { first=1, second=2 } ; int nu ...

  3. 02、Unicode 汉子转码小工具

    原文:02.Unicode 汉子转码小工具 在做 Windows app 的时候,与服务器端交互使用的是 json 格式的数据,里面的汉字内容被 编码成 unicode 格式,在调试的时候不太方便,就 ...

  4. android判断是否含有某权限

    boolean has_permission = (PackageManager.PERMISSION_GRANTED == pkm.checkPermission("android.per ...

  5. Java应用中使用ShutdownHook友好地清理现场(转)

    在线上Java程序中经常遇到进程程挂掉,一些状态没有正确的保存下来,这时候就需要在JVM关掉的时候执行一些清理现场的代码.Java中得ShutdownHook提供了比较好的方案. JDK在1.3之后提 ...

  6. Hadoop学习笔记Hadoop伪分布式环境建设

    建立一个伪分布式Hadoop周围环境 1.主办(Windows)顾客(安装在虚拟机Linux)网络连接. a) Host-only 主机和独立客户端联网: 好处:网络隔离: 坏处:虚拟机和其他serv ...

  7. Directx11学习笔记【十六】 光照模型的实现

    本文由zhangbaochong原创,转载请注明出处http://www.cnblogs.com/zhangbaochong/p/5579289.html 在之前的场景绘制中我们都是给每个顶点指定了单 ...

  8. sails不是内部或外部命令的解决方案

    1 安装好node 2 安装sails 打开cmd窗口,用命令 npm -g install sails 安装sails 安装完成后,用命令  sails new testProject 创建项目 会 ...

  9. Redis源代码分析(23)--- CRC循环冗余算法RAND随机数的算法

    他今天就开始学习Redis源代码的一些工具来实现,在任何一种语言工具.算法实现的原理应该是相同的,一些比較经典的算法.比方说我今天看的Crc循环冗余校验算法和rand随机数产生算法. CRC算法全称循 ...

  10. __weak如何实现目标值自己主动设置nil的

    在开始评论__weak机制之前,首先,一些床上用品 ARC 实现 苹果公司的官方介绍说,.ARC这是"内存管理由编译器"的,但事实上,只有编译器不能完全胜任,ARC另外还要看OC执 ...