Hadoop的Windows伪分布式学习
解压hadoop-2.7.2.zip,不是tar.gz,前者是Windows所用的
解压到路径,设置环境变量
HADOOP_HOME=E:\hadoop-2.7.2\
HADOOP_USER_HOME=hadoop
然后path路径添加;%HADOOP_HOME%\bin;



如果你的jdk的路径是有空格的是会有报错的
即修改E:\hadoop-2.7.2\etc\hadoop\hadoop-env.cmd
里的
原来为
set JAVA_HOME=%JAVA_HOME%
路劲里面有C:\progrem file\RedHat\java-1.8.0-openjdk-1.8.0.151-1
更改为C:\PROGRA~1\RedHat\java-1.8.0-openjdk-1.8.0.151-1
即可
然后新建java项目工程(空的也开,把l解压的lib文件(在hadoop文件夹的lib压缩包里,不是hadoop解压后的lib)添加到工程里,右键----add to liberary即可)
如果报信息错误,有可能是包没解压好,重新解压hadoop压缩包,或者是一种code异常,需要网上下载msvcr120.dll放到c盘Windows下面的system32下面
新建java类
输入下面的,包不要倒错
import
java.io.IOException;
import
java.net.URI;
import
java.net.URISyntaxException;
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FSDataOutputStream;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;
import org.junit.Test;
public void getFileSystem() throws Exception{
// 0 创建配置信息对象
Configuration configuration = new Configuration();
// 1 获取文件系统
FileSystem fs = FileSystem.get(new URI("hdfs://master:9000"), configuration, "hadoop");
// 2打印文件系统
System.out.println(fs.toString());
// 3 关闭资源
fs.close();
}
启动后
解决错误网址
编辑日志存储地方hadoop@master:~/hadoop_home/dfs/name/current$
hdfs oiv -p XML -i 镜像文件 -o ~/hadoop_home/fsimg
存放id和版本号等的地址
hadoop@master:~/hadoop_home/tmp/dfs/namesecondary/current
#Wed Feb 27 18:42:51 CST 2019
namespaceID=849291812
clusterID=CID-8134e0f4-63ec-40f0-b09d-c7f28f465089
cTime=0
storageType=NAME_NODE
blockpoolID=BP-1536446401-192.168.0.235-1551154921702
layoutVersion=-63
Hadoop的Windows伪分布式学习的更多相关文章
- Hadoop部署方式-伪分布式(Pseudo-Distributed Mode)
Hadoop部署方式-伪分布式(Pseudo-Distributed Mode) 作者:尹正杰 版权声明:原创作品,谢绝转载!否则将追究法律责任. 一.下载相应的jdk和Hadoop安装包 JDK:h ...
- 云计算课程实验之安装Hadoop及配置伪分布式模式的Hadoop
一.实验目的 1. 掌握Linux虚拟机的安装方法. 2. 掌握Hadoop的伪分布式安装方法. 二.实验内容 (一)Linux基本操作命令 Linux常用基本命令包括: ls,cd,mkdir,rm ...
- Hadoop单机和伪分布式安装
本教程为单机版+伪分布式的Hadoop,安装过程写的有些简单,只作为笔记方便自己研究Hadoop用. 环境 操作系统 Centos 6.5_64bit 本机名称 hadoop001 本机IP ...
- ubantu18.04下Hadoop安装与伪分布式配置
1 下载 下载地址:http://mirror.bit.edu.cn/apache/hadoop/common/stable2/ 2 解压 将文件解压到 /usr/local/hadoop cd ~ ...
- 使用Docker搭建Hadoop集群(伪分布式与完全分布式)
之前用虚拟机搭建Hadoop集群(包括伪分布式和完全分布式:Hadoop之伪分布式安装),但是这样太消耗资源了,自学了Docker也来操练一把,用Docker来构建Hadoop集群,这里搭建的Hado ...
- Hadoop简介与伪分布式搭建—DAY01
一. Hadoop的一些相关概念及思想 1.hadoop的核心组成: (1)hdfs分布式文件系统 (2)mapreduce 分布式批处理运算框架 (3)yarn 分布式资源调度系统 2.hadoo ...
- 【Hadoop 分布式部署 三:基于Hadoop 2.x 伪分布式部署进行修改配置文件】
1.规划好哪些服务运行在那个服务器上 需要配置的配置文件 2. 修改配置文件,设置服务运行机器节点 首先在 hadoop-senior 的这台主机上 进行 解压 hadoop2.5 按照 ...
- Win10环境下Hadoop(单节点伪分布式)的安装与配置--bug(yarn的8088端口打不开+)
一.本文思路 [1].配置java环境–JDK12(Hadoop的底层实现语言是java,hadoop运行需要JDK环境) [2].安装Hadoop 1.解压hadop 2.配置hadoop环境变量 ...
- Hadoop 2.7 伪分布式环境搭建
1.安装环境 ①.一台Linux CentOS6.7 系统 hostname ipaddress subnet mask ...
随机推荐
- zabbix-3.2.1监控nginx-1.11.5
声明参考地址:http://www.ttlsa.com/zabbix/zabbix-monitor-nginx-performance/ 1.zabbix需要监控nginx,则nginx需要配置ngx ...
- JAVA线程分析定位排查
java开发中有的时间经常遇到某个线程消耗CPU高的问题,但是不清楚这个线程在做什么. 于是网上看了一些文章,找到了一个比较靠谱的办法(Linux下,Windows同理) : 首先使用top确认是否消 ...
- Eclipse免reload设置
在使用eclipse开发web项目的时候,有的时候需要通过运行看结果,但是如果项目很大,你改一句代码,也许就要重启一次,或者eclipse自动帮你reload,这样严重的影响开发的效率,这里只要修改一 ...
- C语言学习笔记---好用的函数memcpy与memset
这个主要用于我个人的学习笔记,便于以后查询,顺便分享给大家. 想必在用C的时候难免会与数组,指针,内存这几样东西打交道,先以数组为例,例如有一个数组int a[5] = {1, 2, 3, 4, 5} ...
- android在linux下刷机
只需要下载相应的zip包,不需装什么手机助手. 1.下载相应zip包(ROM) http://download.mokeedev.com/ 比如我在上述网站下的魔趣的对应机型的ROM包. 2.linu ...
- Sping实战之通过JAVA代码装配Bean
尽管在很多场景下通过组件扫描和自动装配实现Spring的自动化配置是更为推荐的方式,但有时候自动化配置的方案行不通,因此需要明确配置Spring.比如说,你想要将第三方库中的组件装配到你的应用中,在这 ...
- Django xadmin的使用 (三)
关于报错: 1.在页面添加好新的用户后登录报错 解决方法: 新建一个app,名叫app D:\myfiles\study\python\django\datas>python manage.py ...
- MySQL group_concat_max_len
MySQL提供的group_concat函数可以拼接某个字段值成字符串,如 select group_concat(user_name) from sys_user,默认的分隔符是 逗号,即" ...
- StringUtils的isNotEmpty和isNotBlank
StringUtils中一共有130多个方法,并且都是static的,所以我们可以这样调用StringUtils.xxx():今天笔者记录下常用的isNotEmpty和isNotBlank:这两个都是 ...
- AngularJS1.6版本中ui-router路由中/#!/的解决方法 - zhuan
本地编译出的文件可以正常运行,但是服务器编译后到了测试那里路由上就莫名的出现了/#!/,这导致了很多问题. 后来查了下是服务器编译器把AngularJS升级到了1.6版本,而我本地的依旧是1.5. 但 ...