Hadoop学习1--解决启动过程中的问题
方法:http://www.aboutyun.com/thread-12694-1-1.html
http://www.linuxidc.com/topicnews.aspx?tid=13
http://www.cnblogs.com/kinglau/p/3270160.html
http://www.winseliu.com/blog/2014/04/21/hadoop2-windows-startguide/
$ bin/start-all.sh
-bash: bin/start-all.sh: No such file or directory
解决历程:
1、一堆人说是没权限,把当前登陆用户对Hadoop文件夹的权限,设置为完全控制。
结果:不起作用
2、参考这篇文章 http://blog.sciencenet.cn/blog-288615-493280.html
结果:无效
3、看日志,http://www.linuxidc.com/Linux/2012-04/59200.htm有一段
15/07/13 23:07:54 WARN util.NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where applicable
有一篇文章说,库类型和平台不一致,突然想到,安装cygwin时,64位版本安装失败,后来32位的反倒安装成功了。
明天试一下,重新安装个64位版本试试。
结果:无效
4、再次尝试。网上遇到上述问题,日志里都有error,而我这里,肉眼检查了几遍,也没找到。
使用以下命令打印日志详情,
$ export HADOOP_ROOT_LOGGER=DEBUG,console
$ bin/hadoop fs -text /test/data/origz/access.log.gz
依然没有找到error
很费解,于是,把命令窗口的日志复制到文本中,全文搜索error,
见证神奇的时刻来了!
发现了这么一段:
15/07/14 16:58:01 DEBUG util.NativeCodeLoader: Failed to load native-hadoop with error: java.lang.UnsatisfiedLinkError: no hadoop in java.library.path
好高级的错误,这也行!
沿着这条路继续走下去=>
http://blog.csdn.net/bamuta/article/details/13506843
我发现了libhadoop.so的快捷方式,也有libhadoop.so.1.0.0
把后者改名,尝试,涛声依旧。
http://blog.csdn.net/xichenguan/article/details/38797331
查了下,发现前者是后者的一个快捷方式(姑且这么叫,因为我的确不知道在linux中该叫啥)
有的说这个版本问题,就是这东西,下载下来是32位的,如果在64位系统中安装,需要自己编译一个。
一边查怎么编译,一边隐隐的觉得有什么地方不对劲。
姑且不论这也是大公司提供的东西,就冲着这是个开源的东西,总不会这么不智能吧?就不能提供一个成品?
接着查!果然,从Hadoop2.5版本后官方已经提供64位版本了。
顺便还学到了怎么验证当前版本的命令
一路cd到这个文件的目录下:..../lib/Native
file libhadoop.so
就可以看到,果然,我机子上装的就是64位。
---------光明啊,又破灭了,一丝凉风吹来。。。没关系,转向继续
在上面那句报错日志之后,是一串的目录,总觉得是路径配置的不对
D:\tools\Cygwin\home\lenovo\hadoop\lib\native
会不会是这种路径,在这个伪linux系统下,不认识呢,隐约记的前两天看到过一个文章说路径要这样来配置:
Cygwin/d/tools/Cygwin/bin...
于是,找了环境变量里的path,和用户变量:HADOOP_HOME(没有自己加),统统改为Cygwin/d/tools/Cygwin/bin
再来格式化!!!!!
错误消失!!!!!!!!!!!!!!!
好艰难的一步。
到最后一步,执行bin/start-all.sh
一直失败,
-bash: bin/start-all.sh: No such file or directory
几近崩溃啊
最后抱着试试看的心理,给我参照的博客的作者回复了一下,没想到让我柳暗花明了
再次隆重推出这篇文章:http://www.cnblogs.com/kinglau/p/3270160.html
作者说,从2.xx版本后,-all.sh文件就换了目录了!
在sbin
no zuo no die!
总算解决了这个东西了,这就像委将对想引用设置到对象实例一般神级的存在。
感觉这个路上绕的时间有点长了。
前置工作没做好。
开始换个方向:
1、学习下Linux系统,不需要太深入,先了解下基本的操作使用,这样对大部分命令就有个初步的认识了。
2、直接在Linux系统上安装,避开由于环境带来的困扰,毕竟,要不变初心才好,而初心,是学习Hadoop。
从下一篇开始走新路。
Hadoop学习1--解决启动过程中的问题的更多相关文章
- 转:Tomcat启动过程中找不到JAVA_HOME JRE_HOME的解决方法
转自:http://blog.sina.com.cn/s/blog_61c006ea0100l1u6.html 原文: 在XP上明明已经安装了JDK1.5并设置好了JAVA_HOME,可偏偏Tomca ...
- Tomcat启动过程中找不到JAVA_HOME解决方法
在XP上明明已经安装了JDK1.5并设置好了JAVA_HOME,可偏偏Tomcat在启动过程中找不到. 报错信息如下:Neither the JAVA_HOME nor the JRE_HOME en ...
- Tomcat启动过程中找不到JAVA_HOME JRE_HOME的解决方法
转自:http://blog.sina.com.cn/s/blog_61c006ea0100l1u6.html 原文: 在XP上明明已经安装了JDK1.5并设置好了JAVA_HOME,可偏偏Tomca ...
- hive配置以及在启动过程中出现的问题
一.hive配置 1.安装环境 在hadoop-1.2.1集群上安装hive-1.2.1 2.将hive-1.2.1环境变量添加到PATH路径下 使用如下命令打开配置文件 nano /etc/prof ...
- Linux系统在启动过程中mbr主引导程序被破坏的解决方案
首先,mbr主引导程序被破坏是指系统在启动过程中,磁头找不到/boot分区(windows的启动分区在c盘). 1)下面我们模拟主引导分区被破坏的情况:(在启动分区划分446M的存储大小) 2)重启( ...
- CentOS7中Tomcat的安装和配置以及启动配置tomcat。启动过程中的易错点
Tomcat运行需要设置JRE目录,全局变量配置,请参见: Linux下JDK的安装和配置 当然也可以直接修改Tomcat的配置文件,请自行度娘 1.下载并解压 请先去官网找到需要下载的tom ...
- 嵌入式Linux启动过程中的问题积累
嵌入式Linux启动过程中的问题积累 Dongas 07-12-19 1.Bad Magic Number ## Booting image at 33000000 ... Bad Magic Num ...
- Android 儿子Activity在启动过程中的流程组件 && 儿子Activity在一个新的进程组件启动过程
1.儿子Activity在启动过程中的流程组件 在Android Activity启动过程http://blog.csdn.net/jltxgcy/article/details/35984557一文 ...
- Android启动过程中背景图片显示
转自:http://blog.csdn.net/zhangzhikaixinya/article/details/17001321 大部分Android App启动过程中,都会设置一个背景图片,直到A ...
随机推荐
- vim 被墙
我只能说,呵呵.还好这货可以进. http://vim.wendal.net/
- c 深度剖析 5
1,指针没有指向一块合法的区域 1指针没有初始化 1 2 3 4 5 6 7 8 9 10 11 12 13 #include <stdio.h> #include <string. ...
- java03实验截图
- leetcode 111 Minimum Depth of Binary Tree ----- java
Given a binary tree, find its minimum depth. The minimum depth is the number of nodes along the shor ...
- 越狱Season 1-Episode 8: The Old Head
Season 1, Episode 8: The Old Head -Michael: 17 days from now they strap my brother to an electric ch ...
- python中字符串连接的三种方式
1.字符串之间连接 'aa' 'bb' 可以中间为空格 或者什么都没有. 那么输出都是两者之间紧密相连. 2.字符串+数字 'aa' +90 这样会报错,因为不同类型不能相加, 可以用 'aa',90 ...
- DRL之:策略梯度方法 (Policy Gradient Methods)
DRL 教材 Chpater 11 --- 策略梯度方法(Policy Gradient Methods) 前面介绍了很多关于 state or state-action pairs 方面的知识,为了 ...
- linux 大并发下 内核优化
To support over 500k users, you *need* - A 64 bits hardware/kernel (AMD64, Opterons) - At least 8GB ...
- oracle_dblink配置
说明:一下是未配置本地服务的dblink. 前提: 授权> grant create public database link,create database link to myAcco ...
- Lucene 对文档打分的规则整理记录
摘引自:http://www.cnblogs.com/forfuture1978/archive/2010/02/08/1666137.html Lucene的搜索结果默认按相关度排序,这个相关度排序 ...