工作须要。要開始搞hadoop了,又是大数据,自己感觉大数据、云。仅仅是ERP、SOAP风潮之后与智能地球一起诞生的概念炒作。

只是Apache是个奇妙的组织。Java假设没有它也不会如今如火中天。言归正传:

首先须要下载Apache hadoop 2.4.0的tar.gz包,到本地解压缩到某个盘下,注意路径里不要带空格。

否则你配置文件中须要用windows 8.3格式的路径!

第二确保操作系统是64bit。已安装.netframework4.0以上版本号,这个你懂的,微软的天下,没有这个怎么混!

第三确保安装了64 bit 版本号的JDK1.7,笔者使用的就是JDK1.7.

第四请到github下载hadoop-commin-2.2.zip,官方下载的Apache hadoop 2.4.0的压缩包里,缺少windows下执行的链接库(hadoop.dll,winutils.exe。libwinutils.lib等),这个github的是大佬们编译好的64bit版的链接库包。

下载直接解压缩。覆盖掉官方hadoop文件夹下的bin文件夹就可以。

假设你想在windows下编译安装hadoop,则请直接參考官方原版文档:Hadoop2.X Windows安装指南

接下来进行配置(大部分摘抄自官方文档):

我的Hadoop解压缩文件夹是D:\Hadoop_2_4_0,下面简称h_home

首先,改动%h_home%\etc\hadoop的hadoop-env.cmd脚本文件,在文件末尾添加环境变量定义。注意找到文件最初的JAVA_HOME设置,改成你的64位JDK路径,这一点一定要注意!

比方我的:“set  JAVA_HOME=D:\OLD_JDK\jdk1.7.0_51”

  1. set HADOOP_PREFIX=c:\deploy
  2. set HADOOP_CONF_DIR=%HADOOP_PREFIX%\etc\hadoop
  3. set YARN_CONF_DIR=%HADOOP_CONF_DIR%
  4. set PATH=%PATH%;%HADOOP_PREFIX%\bin

之后在该路径下找到或创建core-site.xml文件,改动内容例如以下:

  1. <configuration>
  2. <property>
  3. <name>fs.default.name</name>
  4. <value>hdfs://0.0.0.0:19000</value>
  5. </property>
  6. </configuration>

接下来是 hdfs-site.xml 文件。一样的改动内容例如以下。

配置文件默认使用\tmp文件夹作为hdfs文件的存储位置。比方我解压hadoop在D:\下,则它就会创建D:\tmp来存放HDFS文件系统。

  1. <configuration>
  2. <property>
  3. <name>dfs.replication</name>
  4. <value>1</value>
  5. </property>
  6. </configuration>

基本配置ok。

接下来我们配置一个YARN演示样例:

还是在该配置文件路径下,改动或者创建一个mapred-site.xml文件,路径下有个同名的模板文件,能够直接复制,然后改动当中的内容。

注意替换配置文件里%USERNAME% 为你windows的username。

  1. <configuration>
  2.  
  3. <property>
  4. <name>mapreduce.job.user.name</name>
  5. <value>%USERNAME%</value>
  6. </property>
  7.  
  8. <property>
  9. <name>mapreduce.framework.name</name>
  10. <value>yarn</value>
  11. </property>
  12.  
  13. <property>
  14. <name>yarn.apps.stagingDir</name>
  15. <value>/user/%USERNAME%/staging</value>
  16. </property>
  17.  
  18. <property>
  19. <name>mapreduce.jobtracker.address</name>
  20. <value>local</value>
  21. </property>
  22.  
  23. </configuration>

最后,创建yarn-site.xml文件,变更内容例如以下:

  1. <configuration>
  2. <property>
  3. <name>yarn.server.resourcemanager.address</name>
  4. <value>0.0.0.0:8020</value>
  5. </property>
  6.  
  7. <property>
  8. <name>yarn.server.resourcemanager.application.expiry.interval</name>
  9. <value>60000</value>
  10. </property>
  11.  
  12. <property>
  13. <name>yarn.server.nodemanager.address</name>
  14. <value>0.0.0.0:45454</value>
  15. </property>
  16.  
  17. <property>
  18. <name>yarn.nodemanager.aux-services</name>
  19. <value>mapreduce_shuffle</value>
  20. </property>
  21.  
  22. <property>
  23. <name>yarn.nodemanager.aux-services.mapreduce.shuffle.class</name>
  24. <value>org.apache.hadoop.mapred.ShuffleHandler</value>
  25. </property>
  26.  
  27. <property>
  28. <name>yarn.server.nodemanager.remote-app-log-dir</name>
  29. <value>/app-logs</value>
  30. </property>
  31.  
  32. <property>
  33. <name>yarn.nodemanager.log-dirs</name>
  34. <value>/dep/logs/userlogs</value>
  35. </property>
  36.  
  37. <property>
  38. <name>yarn.server.mapreduce-appmanager.attempt-listener.bindAddress</name>
  39. <value>0.0.0.0</value>
  40. </property>
  41.  
  42. <property>
  43. <name>yarn.server.mapreduce-appmanager.client-service.bindAddress</name>
  44. <value>0.0.0.0</value>
  45. </property>
  46.  
  47. <property>
  48. <name>yarn.log-aggregation-enable</name>
  49. <value>true</value>
  50. </property>
  51.  
  52. <property>
  53. <name>yarn.log-aggregation.retain-seconds</name>
  54. <value>-1</value>
  55. </property>
  56.  
  57. <property>
  58. <name>yarn.application.classpath</name>
  59. <value>%HADOOP_CONF_DIR%,%HADOOP_COMMON_HOME%/share/hadoop/common/*,%HADOOP_COMMON_HOME%/share/hadoop/common/lib/*,%HADOOP_HDFS_HOME%/share/hadoop/hdfs/*,%HADOOP_HDFS_HOME%/share/hadoop/hdfs/lib/*,%HADOOP_MAPRED_HOME%/share/hadoop/mapreduce/*,%HADOOP_MAPRED_HOME%/share/hadoop/mapreduce/lib/*,%HADOOP_YARN_HOME%/share/hadoop/yarn/*,%HADOOP_YARN_HOME%/share/hadoop/yarn/lib/*</value>
  60. </property>
  61. </configuration>

ok。所有配置都改完了。

点击命令提示符(管理员)执行命令提示符,切换到hadoop的安装文件夹。进行下面操作

1、切换到etc/hadoop文件夹,执行hadoop-env.cmd脚本,设置当前命令窗体执行环境变量。

2、格式化HDFS文件系统(建议切换到bin文件夹然后运行命令):

  1. %HADOOP_PREFIX%\bin\hdfs namenode -format
  1. 3、执行HDFS演示样例:
  1. %HADOOP_PREFIX%\sbin\start-dfs.cmd
  1.  

不报错的话。部署就ok了!

apache hadoop 2.4.0 64bit 在windows8.1下直接安装指南(无需虚拟机和cygwin)的更多相关文章

  1. Ubuntu14.04用apt在线/离线安装CDH5.1.2[Apache Hadoop 2.3.0]

    目录 [TOC] 1.CDH介绍 1.1.什么是CDH和CM? CDH一个对Apache Hadoop的集成环境的封装,可以使用Cloudera Manager进行自动化安装. Cloudera-Ma ...

  2. Ubuntu14.04用apt在线/离线安装CDH5.1.2[Apache Hadoop 2.3.0]-old

    用markdown重写,请稳步这里http://www.cnblogs.com/lion.net/p/5477899.html

  3. CentOS 6.4 64位 源码编译hadoop 2.2.0

    搭建环境:Centos 6.4 64bit 1.安装JDK 参考这里2.安装mavenmaven官方下载地址,可以选择源码编码安装,这里就直接下载编译好的wget http://mirror.bit. ...

  4. Hadoop程序运行中的Error(1)-Error: org.apache.hadoop.hdfs.BlockMissingException

    15/03/18 09:59:21 INFO mapreduce.Job: Task Id : attempt_1426641074924_0002_m_000000_2, Status : FAIL ...

  5. CentOS 64位上编译 Hadoop 2.6.0

    Hadoop不提供64位编译好的版本号,仅仅能用源代码自行编译64位版本号. 学习一项技术从安装開始.学习hadoop要从编译開始. 1.操作系统编译环境 yum install cmake lzo- ...

  6. Hadoop 2.6.0分布式部署參考手冊

    Hadoop 2.6.0分布式部署參考手冊 关于本參考手冊的word文档.能够到例如以下地址下载:http://download.csdn.net/detail/u012875880/8291493 ...

  7. linux编译64bitHadoop (eg: ubuntu14.04 and hadoop 2.3.0)

    Hadoop官网提供的编译好的hadoop-2.3.0.tar.gz二进制包是在32位系统上编译的,在64系统上运行会有一些错误,比如: WARN util.NativeCodeLoader: Una ...

  8. at org.apache.hadoop.util.RunJar.main(RunJar.java:153)

    关于手动编译hadoop入门例子WordCount并执行 之前做的例子都是用hadoop中已经编译好jar包来运行示例的但是这次想要手动编译个实例,练下手没想到还是遇到点了小困难 [root@cent ...

  9. Unable to instantiate org.apache.hadoop.hive.ql.metadata.SessionHiveMetaStoreClient

    1.今天在进行hive测试的时候,发现hive一直进不去,并且报了这个错误. Unable to instantiate org.apache.hadoop.hive.ql.metadata.Sess ...

随机推荐

  1. 第四篇:python基础_4

    本篇内容 名称空间与作用域 闭包函数 装饰器 迭代器 生成器 三元表达式 列表解析 生成器表达式 一. 名称空间与作用域 1.名称空间 存放名字的地方,准确的说名称空间是存放名字与变量值绑定关系的地方 ...

  2. How to modify a compiled Android application (.apk file)

    Today I’d like to share with you my findings about how an existing .apk file can be modified. An .ap ...

  3. Markdown语法图解

    Markdown语法图解 文章目录 快捷键 基本语法 对字体设置斜体.粗体.删除线 分级标题 链接 分割线 代码块 引用 列表 表格 常用技巧 换行 缩进字符 如何打出一些特殊符号 字体.字号与颜色 ...

  4. vNS12 MySQL Performance

    vNS12 MySQL Performance vNS12(192.168.195.91): 2vCPU + 2GBMemMySQL1(192.168.185.73): 2vCPU + 1GBMemM ...

  5. So注入工具TsoInject开发文档

    So注入工具TsoInject开发文档 导语: 作为一个软件安全从业者而言,我们需要对某个App的关键函数就行Hook, 对于android而言,Smali层我们使用Xposed Hook框架,So层 ...

  6. PE第n弹

    PE201 -- F[i][j][k] 和为i前j个选了k个方案数.因为值域很小. PE202 -- 那个反射其实挺酷炫的,你考虑把它的镜面反射去掉,把它扩展成一个无限大的正三角网格.. PE410 ...

  7. AVRStudio 6 添加调试功能

    下载这个文件并安装就可以了:http://avr-jungo-usb.software.informer.com/download/ 具体可以看这个贴子:http://electronics.stac ...

  8. mysql 连接远程服务器

    想要在本地连接远程服务器上的mysql, 需要在远程服务器的mysql配置里面,修改一下访问权限 mysql的配置里面,默认只能本地访问,在服务器上,修改/etc/mysql/my.cnf文件找到这一 ...

  9. jenkins下脚本权限问题

    在jenkins环境下,执行需要root权限的脚本,报错. 修改方法: 1. centos环境下,在/etc/sudoers.d/ 目录下,增加一个 jenkins文件,内容如下: Defaults: ...

  10. react-transition-group v2 用法概述

    官方文档地址:https://reactcommunity.org/react-transition-group/ 在react-transition-group v2中,暴露了三个组件: Trans ...