Hadoop学习1--解决启动过程中的问题
方法:http://www.aboutyun.com/thread-12694-1-1.html
http://www.linuxidc.com/topicnews.aspx?tid=13
http://www.cnblogs.com/kinglau/p/3270160.html
http://www.winseliu.com/blog/2014/04/21/hadoop2-windows-startguide/
$ bin/start-all.sh
-bash: bin/start-all.sh: No such file or directory
解决历程:
1、一堆人说是没权限,把当前登陆用户对Hadoop文件夹的权限,设置为完全控制。
结果:不起作用
2、参考这篇文章 http://blog.sciencenet.cn/blog-288615-493280.html
结果:无效
3、看日志,http://www.linuxidc.com/Linux/2012-04/59200.htm有一段
15/07/13 23:07:54 WARN util.NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where applicable
有一篇文章说,库类型和平台不一致,突然想到,安装cygwin时,64位版本安装失败,后来32位的反倒安装成功了。
明天试一下,重新安装个64位版本试试。
结果:无效
4、再次尝试。网上遇到上述问题,日志里都有error,而我这里,肉眼检查了几遍,也没找到。
使用以下命令打印日志详情,
$ export HADOOP_ROOT_LOGGER=DEBUG,console
$ bin/hadoop fs -text /test/data/origz/access.log.gz
依然没有找到error
很费解,于是,把命令窗口的日志复制到文本中,全文搜索error,
见证神奇的时刻来了!
发现了这么一段:
15/07/14 16:58:01 DEBUG util.NativeCodeLoader: Failed to load native-hadoop with error: java.lang.UnsatisfiedLinkError: no hadoop in java.library.path
好高级的错误,这也行!
沿着这条路继续走下去=>
http://blog.csdn.net/bamuta/article/details/13506843
我发现了libhadoop.so的快捷方式,也有libhadoop.so.1.0.0
把后者改名,尝试,涛声依旧。
http://blog.csdn.net/xichenguan/article/details/38797331
查了下,发现前者是后者的一个快捷方式(姑且这么叫,因为我的确不知道在linux中该叫啥)
有的说这个版本问题,就是这东西,下载下来是32位的,如果在64位系统中安装,需要自己编译一个。
一边查怎么编译,一边隐隐的觉得有什么地方不对劲。
姑且不论这也是大公司提供的东西,就冲着这是个开源的东西,总不会这么不智能吧?就不能提供一个成品?
接着查!果然,从Hadoop2.5版本后官方已经提供64位版本了。
顺便还学到了怎么验证当前版本的命令
一路cd到这个文件的目录下:..../lib/Native
file libhadoop.so
就可以看到,果然,我机子上装的就是64位。
---------光明啊,又破灭了,一丝凉风吹来。。。没关系,转向继续
在上面那句报错日志之后,是一串的目录,总觉得是路径配置的不对
D:\tools\Cygwin\home\lenovo\hadoop\lib\native
会不会是这种路径,在这个伪linux系统下,不认识呢,隐约记的前两天看到过一个文章说路径要这样来配置:
Cygwin/d/tools/Cygwin/bin...
于是,找了环境变量里的path,和用户变量:HADOOP_HOME(没有自己加),统统改为Cygwin/d/tools/Cygwin/bin
再来格式化!!!!!
错误消失!!!!!!!!!!!!!!!
好艰难的一步。
到最后一步,执行bin/start-all.sh
一直失败,
-bash: bin/start-all.sh: No such file or directory
几近崩溃啊
最后抱着试试看的心理,给我参照的博客的作者回复了一下,没想到让我柳暗花明了
再次隆重推出这篇文章:http://www.cnblogs.com/kinglau/p/3270160.html
作者说,从2.xx版本后,-all.sh文件就换了目录了!
在sbin
no zuo no die!
总算解决了这个东西了,这就像委将对想引用设置到对象实例一般神级的存在。
感觉这个路上绕的时间有点长了。
前置工作没做好。
开始换个方向:
1、学习下Linux系统,不需要太深入,先了解下基本的操作使用,这样对大部分命令就有个初步的认识了。
2、直接在Linux系统上安装,避开由于环境带来的困扰,毕竟,要不变初心才好,而初心,是学习Hadoop。
从下一篇开始走新路。
Hadoop学习1--解决启动过程中的问题的更多相关文章
- 转:Tomcat启动过程中找不到JAVA_HOME JRE_HOME的解决方法
转自:http://blog.sina.com.cn/s/blog_61c006ea0100l1u6.html 原文: 在XP上明明已经安装了JDK1.5并设置好了JAVA_HOME,可偏偏Tomca ...
- Tomcat启动过程中找不到JAVA_HOME解决方法
在XP上明明已经安装了JDK1.5并设置好了JAVA_HOME,可偏偏Tomcat在启动过程中找不到. 报错信息如下:Neither the JAVA_HOME nor the JRE_HOME en ...
- Tomcat启动过程中找不到JAVA_HOME JRE_HOME的解决方法
转自:http://blog.sina.com.cn/s/blog_61c006ea0100l1u6.html 原文: 在XP上明明已经安装了JDK1.5并设置好了JAVA_HOME,可偏偏Tomca ...
- hive配置以及在启动过程中出现的问题
一.hive配置 1.安装环境 在hadoop-1.2.1集群上安装hive-1.2.1 2.将hive-1.2.1环境变量添加到PATH路径下 使用如下命令打开配置文件 nano /etc/prof ...
- Linux系统在启动过程中mbr主引导程序被破坏的解决方案
首先,mbr主引导程序被破坏是指系统在启动过程中,磁头找不到/boot分区(windows的启动分区在c盘). 1)下面我们模拟主引导分区被破坏的情况:(在启动分区划分446M的存储大小) 2)重启( ...
- CentOS7中Tomcat的安装和配置以及启动配置tomcat。启动过程中的易错点
Tomcat运行需要设置JRE目录,全局变量配置,请参见: Linux下JDK的安装和配置 当然也可以直接修改Tomcat的配置文件,请自行度娘 1.下载并解压 请先去官网找到需要下载的tom ...
- 嵌入式Linux启动过程中的问题积累
嵌入式Linux启动过程中的问题积累 Dongas 07-12-19 1.Bad Magic Number ## Booting image at 33000000 ... Bad Magic Num ...
- Android 儿子Activity在启动过程中的流程组件 && 儿子Activity在一个新的进程组件启动过程
1.儿子Activity在启动过程中的流程组件 在Android Activity启动过程http://blog.csdn.net/jltxgcy/article/details/35984557一文 ...
- Android启动过程中背景图片显示
转自:http://blog.csdn.net/zhangzhikaixinya/article/details/17001321 大部分Android App启动过程中,都会设置一个背景图片,直到A ...
随机推荐
- c#部分---输入班级人数,输入语文数学英语成绩,打印语文前两名,数学后两名,英语平均分
1.开始收集输入项 2.用冒泡排序,统计语文成绩,并附带把语数英三门课全排列 3.数学成绩排序,附带把三门课全排序‘ 4.最后算英语的平均分:
- JavaScript学习记录总结(四)——js函数的特殊性
<script type="text/javascript"> //当局部变量与全局变量 重名的时候 var v="全局变量";//定义全局变 ...
- HDU-5785 Interesting(Manacher算法+区间处理)
题目大意:给一个字符串,求所有相邻两回文子串的外侧下标之积的和 题目分析:另L[i]为所有以 i 为右端点的回文字串的左端点之和,同理,另R[i]表示所有以 i 为左端点的回文子串的右端点之和.显然, ...
- 重学OpenGL(一)----工具篇
最近想开发一个小工具,需要用到3D,果断上OpenGL,借这个过程把OpenGL重学一遍. 工欲善其事,必先利其器,先把工具都搞好. [开发语言] 果断C+OpenGL,不解释. [开发环境] Min ...
- php get set方法深入理解
在类当中,设计通用的set和get方法,可以简化对属性的读写,这种方法不同于针对于独立的属性的普通的get和set方法,后者针对每个属性,都必须提供一对方法,前者针对所有属性,因此,可以看作是批量定义 ...
- lucene 基本原理整理
基本原理:http://www.cnblogs.com/forfuture1978/archive/2009/12/14/1623594.html 所有过程:http://www.cnblogs.co ...
- linux服务之drbd
http://www.drbd.org/docs/about/http://oss.linbit.com/drbd/ 一般我们会在生产环境的MYSQL中用drbd +ha做master 备份,当然这是 ...
- RabbitMQ 集群与高可用配置
集群概述 通过 Erlang 的分布式特性(通过 magic cookie 认证节点)进行 RabbitMQ 集群,各 RabbitMQ 服务为对等节点,即每个节点都提供服务给客户端连接,进行消息发送 ...
- Python命令行中输入pip提示不是内部或外部命令
WIN764位,Python34 输入命令python -m pip
- window.showModalDialog两次加载问题清除缓存方法
问题: window.showModalDialog两次加载问题:你第一次打开窗口后,第二次浏览器没有从服务器端取数据,而直接找到了你已经下载的文件,也就是不再走后台的Action方法(即使数据已经更 ...