hadoop学习(一)环境的搭建
1、安装几台Linux虚拟机。安装的过程就不赘述了,网上教程很多。win7系统上装了一个VMWare,因为一些原因,VMWare版本不是最新的,是VMWare7.1版本,由于VMWare版本不高,所以也就不能支持太高版本的Linux,装了两台rhel-5、两台fedora14、一台CentOS5.11。
安装系统的时候出现过一个很头疼的问题,开始下载的是CentOS7,装不了,再下载CentOS6还是安装不了,再把版本往下降,降到5.11,这才发现可以安装,所以VMWare的版本和Linux系统的版本匹配是个问题。
2、系统安装好了之后,就是配IP,配置完IP,ping一下宿主机IP,发现居然ping不通,什么问题??几台分配好IP地址的都检查一次,发现都ping不通宿主机,但是几台虚拟机之间是可以ping通的。网关、掩码都和宿主机一致,IP都是局域网中没人用的。怎么回事呢?上网查了下,很多种说法,我一一照做了,还是没有解决问题。网上也介绍了几种联网的方式:桥接、NAT、Host-only,肯定是选择桥接,这种方式是直接连接到物理交换机上,模拟真实环境。这个问题困扰了我两天,一直在上网搜索答案,一次一次的实验,一次一次的失败,最后我点开我的虚拟机,发现我装的几台虚拟机的网络适配器居然全部选择的是NAT,太大意了。。。全部改为桥接,问题解决!!
3、系统安装完后,IP配好之后,再就是Linux的免密码登录的配置。这个也是一个小问题让我纠结了一天,记录下来吧。免密码登录的步骤如下:
(1)、切换到hadoop用户目录下,在该用户目录下创建.ssh目录(初始是没有这个目录的在看炼数成金的视频的时候,说的是在root用户下创建,这里更正一下)。
(2)、进入.ssh目录,用ssh-keygen -t rsa命令生成密钥对,然后目录下会生成一个id_rsa的私钥和一个id_rsa.pub的公钥。
(3)、使用cp id_rsa.pub authorized_keys命令来创建authorized_keys文件。
(4)、对几台Linux系统重复上述操作。
(5)、将每台系统中的authorized_keys文件的内容复制出来,组合成一个文件。然后将这个文件中的内容全部覆盖到几台Linux系统上的authorized_keys文件中。操作完成后,几台系统中的authorized_keys文件中的内容是一致的。炼数成金视频中讲到这里就说可以免密码登录了,扯淡,实践证明是不行的,还缺了下面个重要的步骤!
(6)、设置文件和目录权限
设置.ssh目录权限:chmod 700 -R .ssh
设置authorized_keys权限:chmod 644 authorized_keys
(7)注意:配置免密码登录的用户名要一致!!
这个免密码登录参考了CSDN上的一篇文章:linux远程登录ssh免密码
hadoop学习(一)环境的搭建的更多相关文章
- hadoop集群环境的搭建
hadoop集群环境的搭建 今天终于把hadoop集群环境给搭建起来了,能够运行单词统计的示例程序了. 集群信息如下: 主机名 Hadoop角色 Hadoop jps命令结果 Hadoop用户 Had ...
- hadoop伪分布环境快速搭建
1.首先下载一个完成已经进行简单配置好的镜像文件(hadoop,HBASE,eclipse,jdk环境已经搭建好,tomcat为7.0版本,建议更改为tomcat8.5版本,运行比较稳定). 2安装V ...
- hadoop学习笔记——环境搭建
基础环境准备: 系统:(VirtualBox) ubuntu-12.04.2-desktop-i386.iso hadoop版本:hadoop-0.20.203.0rc1.tar.gz jdk版本:j ...
- hadoop学习day1环境配置笔记(非完整流程)
hdfs的工作机制: 1.客户把一个文件存入hdfs,其实hdfs会把这个文件切块后,分散存储在N台linux机器系统中(负责存储文件块的角色:data node)<准确来说:切块的行为是由客户 ...
- hadoop学习笔记——zookeeper平台搭建
zookeeper是一个自动管理分布式集群的一个工具,以实现集群的高可用. 比如集群中的一个机器挂掉了,没有zookeeper的话就得考虑挂一个机器对剩下集群工作的影响,而有了zookeeper,它就 ...
- hadoop学习笔记--集群搭建
注:大家常说的ssh其实就是一个免密码访问的东西,为了简化操作的,不用每次访问其他节点重新输入密码.但是要想配置如下: .在每台机器上执行 ssh-keygen -t rsa,连敲三次回车键(即设置空 ...
- Mono for Android 学习一 环境的搭建
JAVA SDK和Android SDK下载安装 1.疑问:用mono for android 开发为什么必须要java sdk的支持 答:因为android sdk是java开发的,所以和它相关的 ...
- Hadoop伪分布式环境快速搭建
Hadoop分支 Apache Cloudera Hortonworks 本文是采用Cloudera分支的hadoop. 下载cdh-5.3.6 版本 下载地址:http://archive.clou ...
- Hadoop集群环境搭建步骤说明
Hadoop集群环境搭建是很多学习hadoop学习者或者是使用者都必然要面对的一个问题,网上关于hadoop集群环境搭建的博文教程也蛮多的.对于玩hadoop的高手来说肯定没有什么问题,甚至可以说事“ ...
- Spark集群环境搭建——Hadoop集群环境搭建
Spark其实是Hadoop生态圈的一部分,需要用到Hadoop的HDFS.YARN等组件. 为了方便我们的使用,Spark官方已经为我们将Hadoop与scala组件集成到spark里的安装包,解压 ...
随机推荐
- 进程-信号相关 函数-(转自wblyuyang)
Linux 中的进程: 程序时一个预定义的指令序列,用来完成一个特定的任务. C 编译器可以把每个源文件翻译成一个目标文件,链接器将所有的目标文件与一些必要的库链接在一起,产生一个可执行文件.当程序被 ...
- Module not found: Error: Can't resolve 'less-loader' in ' xxx' (Day_40)
1. 错误代码: 2. 解决方法: 删除项目文件夹下的node_modules文件夹 执行npm install命令
- IDEA2021.1 安装教程
工欲善其事必先利其器. 一.下载 IDEA 官方下载地址: https://www.jetbrains.com/zh-cn/idea/download/ 二.安装 IDEA 注:安装IDEA之前需要我 ...
- libevent中数据缓冲区buffer分析
很多时候为了应对数据IO的"慢"或者其他原因都需要使用数据缓冲区.对于数据缓冲,我们不陌生,但是对于如何实现这个缓冲区,相信很多时候大家都没有考虑过.今天就通过分析libevent ...
- Eclipse修改方法内容不用重启Jetty服务器
我Eclipse以前DEBUG模式时,修改方法里的内容是不用重启的, 现在修改方法里是一行代码都要重启服务器了,很麻烦,速度慢了,找了百度,那些方法对我不合适,可能遇到的问题不一样. 也许会合适遇到和 ...
- Minkowski坐标管理
Minkowski坐标管理 坐标键 classMinkowskiEngine.CoordsKey(D) __init__(D) 初始化self. See help(type(self))有关准确的签名 ...
- Tesla T4视频编码性能分析
Tesla T4视频编码性能分析 从开普勒开始的所有 NVIDIA GPUs 都支持完全加速的硬件视频编码: GPUs 支持完全加速的硬件视频解码.最近发布的图灵硬件提供了张量核心和更好的机器学习性能 ...
- 使用fiddler工具模拟弱网环境
1.使用CTRL+R快捷键调出设置窗口 2.CTRL+F搜索"if (m_SimulateModem)",如下图 3.设置 // 这里修改每KB上传时候的延迟速度,以ms为单位 ...
- 【VBA】读取另一个excel工作簿中的内容
后台打开工作簿读取内容源码: Sub subOpenWorkbook() Dim datebase As String datebase = "... ....xlsx" Appl ...
- JVM 内存溢出 实战 (史上最全)
文章很长,建议收藏起来,慢慢读! 疯狂创客圈为小伙伴奉上以下珍贵的学习资源: 疯狂创客圈 经典图书 : <Netty Zookeeper Redis 高并发实战> 面试必备 + 大厂必备 ...