hadoop 日常问题汇总(持续更新)
- 问题描述:
每次执行hadoop的shell命令时均出现如下警告:- [hadoop@MyDB01 ~]$ hadoop fs -ls /
- 16/09/25 07:59:13 WARN util.NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where applicable
- 问题定位:
- 用ldd命令查看依赖库
- [hadoop@MyDB01 native]$ ldd libhadoop.so
- ./libhadoop.so: /lib64/libc.so.6: version `GLIBC_2.14' not found (required by ./libhadoop.so)
- linux-vdso.so.1 => (0x00007ffff3837000)
- libdl.so.2 => /lib64/libdl.so.2 (0x00007fa27ce68000)
- libc.so.6 => /lib64/libc.so.6 (0x00007fa27cad3000)
- /lib64/ld-linux-x86-64.so.2 (0x000000333de00000)
- [hadoop@MyDB01 native]$ ldd libhadoop.so.1.0.0
- ./libhadoop.so.1.0.0: /lib64/libc.so.6: version `GLIBC_2.14' not found (required by ./libhadoop.so.1.0.0)
- linux-vdso.so.1 => (0x00007fff4b9ff000)
- libdl.so.2 => /lib64/libdl.so.2 (0x00007f2a22745000)
- libc.so.6 => /lib64/libc.so.6 (0x00007f2a223b0000)
- /lib64/ld-linux-x86-64.so.2 (0x000000333de00000)
- [hadoop@MyDB01 native]$
- 看到报错,GLIBC_2.14找不到,现在检查系统的glibc库, ldd --version即可检查:
- [hadoop@MyDB01 native]$ ldd --version
- ldd (GNU libc) 2.12
- Copyright (C) 2010 Free Software Foundation, Inc.
- This is free software; see the source for copying conditions. There is NO
- warranty; not even for MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.
- 由 Roland McGrath 和 Ulrich Drepper 编写。
- [hadoop@MyDB01 native]$
- 原来系统预装的glibc库是2.12版本,而hadoop期望是2.14版本,所以打印警告信息。
- 解决方案:
- 第一个办法重新编译glibc重新编译glibc.2.14版本,安装后专门给hadoop使用,这个有点危险。
- 第二个办法直接在log4j日志中去除告警信息。在//usr/local/hadoop/etc/hadoop/log4j.properties文件中添加
- log4j.logger.org.apache.hadoop.util.NativeCodeLoader=ERROR
- 参考:http://blog.csdn.net/l1028386804/article/details/51538611
- 如何查看识别hadoop是32位还是64位:hadoop-2.6.0
- [hadoop@MyDB01 native]$ pwd
- /usr/local/hadoop/lib/native
- [hadoop@MyDB01 native]$ ls
- libhadoop.a libhadoop.so libhadooputils.a libhdfs.so
- libhadooppipes.a libhadoop.so.1.0.0 libhdfs.a libhdfs.so.0.0.0
- [hadoop@MyDB01 native]$ file libhadoop.so.1.0.0
- libhadoop.so.1.0.0: ELF 64-bit LSB shared object, x86-64, version 1 (SYSV), dynamically linked, not stripped
- [hadoop@MyDB01 native]$
hadoop 日常问题汇总(持续更新)的更多相关文章
- redis日常使用汇总--持续更新
redis日常使用汇总--持续更新 工作中有较多用到redis的场景,尤其是触及性能优化的方面,传统的缓存策略在处理持久化和多服务间数据共享的问题总是不尽人意,此时引入redis,但redis是单线程 ...
- 《WCF技术剖析》博文系列汇总[持续更新中]
原文:<WCF技术剖析>博文系列汇总[持续更新中] 近半年以来,一直忙于我的第一本WCF专著<WCF技术剖析(卷1)>的写作,一直无暇管理自己的Blog.在<WCF技术剖 ...
- 中国.NET:各地微软技术俱乐部汇总(持续更新中...)
中国.NET:各地微软技术俱乐部汇总(持续更新中...) 本文是转载文,源地址: https://www.cnblogs.com/panchun/p/JLBList.html by 史记微软. ...
- 跟我学SpringCloud | 终篇:文章汇总(持续更新)
SpringCloud系列教程 | 终篇:文章汇总(持续更新) 我为什么这些文章?一是巩固自己的知识,二是希望有更加开放和与人分享的心态,三是接受各位大神的批评指教,有任何问题可以联系我: inwsy ...
- 优步UBER司机全国各地最新奖励政策汇总(持续更新...)
滴快车单单2.5倍,注册地址:http://www.udache.com/ 如何注册Uber司机(全国版最新最详细注册流程)/月入2万/不用抢单:http://didi-uber.com/archiv ...
- 痞子衡嵌入式:史上最强i.MX RT学习资源汇总(持续更新中...)
大家好,我是痞子衡,是正经搞技术的痞子.今天痞子衡给大家介绍的是i.MX RT学习资源. 类别 资源 简介 官方汇总 i.MXRT产品主页 恩智浦官方i.MXRT产品主页,最权威的资料都在这里,参考手 ...
- IT书籍下载汇总--持续更新
本书单由北北分享,并持续更新,请将该地址加入收藏夹:北北的书单 .badge{float:right;}.list-group-item > .badge + .badge{margin-rig ...
- Type Script在Visual Studio 2013中的问题汇总(持续更新…)
TypeScript在vs2012下的问题 TypeScript对VS2012支持度比较低,建议升级为VS2013版本以上. 在VS2013中无法创建TypeScript项目 VS2013默认不支持T ...
- LeetCode All in One 题目讲解汇总(持续更新中...)
终于将LeetCode的免费题刷完了,真是漫长的第一遍啊,估计很多题都忘的差不多了,这次开个题目汇总贴,并附上每道题目的解题连接,方便之后查阅吧~ 477 Total Hamming Distance ...
随机推荐
- CentOS下 RabbitMQ单机安装配置
CentOS RabbitMQ rpm 安装方法: 系统环境:CentOS6IP地址:10.100.62.41 1.erlang安装: erlang下载地址: http://www.rabbitmq. ...
- Bioperl 解析blast的输出结果
用bioperl 解析blast的默认输出结果, 整理成-m8格式的输出 #!/usr/bin/perl use Bio::SearchIO; my ($blast) = @ARGV; my $sea ...
- CentOS6.5安装wine
全程只有两个命令: $ yum install epel-release $ yum install wine 关于epel-release,说白了就是一个第三方软件源. 企业版 Linux 附加软件 ...
- 关于ARM NEON学习的一些资料
在对基于ARM-v7处理器及以上的程序进行优化时,可以使用neon优化技术来加速程序.不过搞这个的人比较少,所以网上有用的资料很稀少.我翻了半天国内国外的博客,发现还是ARM公司的帮助网站最有用: h ...
- lsof fuser
使用fuser 或 lsof在一个挂载点中查找已打开的文件 fuser -mv /usr 查看有哪些进程在运行/usr中资源 sync fuser -km /media/usbdisk U盘无法卸载
- 2013——M笔试南京——程序
迄今只参加了M南京笔试,可惜自己不是计算机出身,还有好多东西得学啊…… M的最后一题是编程: 输入:单链表L0.L1.L2……Ln-1.Ln,将链表变为:L0.Ln.L1.Ln-1.L2…… 算法: ...
- jmeter jdbc request 如何运行多个sql
database url:jdbc:mysql://127.0.0.1:3306/api?useUnicode=true&allowMultiQueries=true&characte ...
- Nginx服务器之负载均衡策略
http://www.cnblogs.com/1214804270hacker/p/9325150.html
- 用highcharts展现你的数据
摘要: 前面已经分享过图表插件,今天在来将下如何使用highcharts来绘制图表.highcharts支持在线定制,你可以选择你所需要的模块,然后点击build就会生成一个js文件链接,右键保存到本 ...
- Window系统、主函数和窗体函数这三者之间的关系
理解Window系统.主窗体.窗体函数这三者之间的关系,对于编写Windows程序十分重要. 主函数和窗体函数都是由Windows系统来调用的函数.仅仅只是主函数是程序启动之后.系统首先调用的函数: ...