1.编写一个统计单词数量的java程序,并命名为wordcount.java,代码如下: import java.io.IOException; import java.util.StringTokenizer; import org.apache.hadoop.conf.Configuration; import org.apache.hadoop.fs.Path; import org.apache.hadoop.io.IntWritable; import org.apache.hadoo…

目的: 不用任何IDE,直接在linux 下输入代码.调试执行 环境: Linux  Ubuntu Hadoop 2.6.4 相关: [b0012] Hadoop 版hello word mapreduce wordcount 运行(二) 最佳: 简单方式: 在当前目录创建类文件,添加后面的内容,但是不包括第一行package 编译: javac WordCount.java 打包 jar -cvf WordCount.jar ./WordCount*.class 执行 hadoop jar W…

目的: 学习Hadoop mapreduce 开发环境eclipse windows下的搭建 环境: Winows 7 64 eclipse 直接连接hadoop运行的环境已经搭建好,结果输出到eclipse Hadoop2.6.4环境 相关: [0004] Hadoop 版hello word mapreduce wordcount 运行 [0011] windows 下 eclipse 开发 hdfs程序样例 (三) [0008] Windows 7 下 hadoop 2.6.4 eclip…

1.在hadoop所在目录“usr/local”下创建一个文件夹input root@ubuntu:/usr/local# mkdir input 2.在文件夹input中创建两个文本文件file1.txt和file2.txt,file1.txt中内容是“hello word”,file2.txt中内容是“hello hadoop”.“hello mapreduce”(分两行). root@ubuntu:/usr/local# cd inputroot@ubuntu:/usr/local/inp…

关于hadoop的用处什么我就不说了,在这里记录下在eclipse上第一次跑hadoop遇到的问题吧~ hadoop的安装我就不说啦,网上教程一大堆~我直接用的公司的Linux上的hadoop. eclipse用的是mars,JDK1.8,win7,hadoop是公司的Linux上的hadoop 1.2.1,关联的JDK是1.7. 首先下载hadoop关联eclipse的插件hadoop-eclipse-plugin-1.2.1.最好下载相同版本的,不然容易出问题(我就是典型).把插件放到ecl…

"error: failure to login"问题 http://www.cnblogs.com/xia520pi/archive/2012/05/20/2510723.html DFS Locations 本人这次的编译环境是linuxmint15 64bit,与上文的编译环境win2003不同了 首先要配置linux的jdk 1.6.0_45.ant 1.9.1以及相关环境变量,这部分内容本文就不再赘述了 然后需要下载eclipse和hadoop的源码包,本人下载的eclips…

hadoop查看自己空间 http://127.0.0.1:50070/dfshealth.jsp import java.io.IOException; import java.util.StringTokenizer; import org.apache.hadoop.conf.Configuration; import org.apache.hadoop.fs.Path; import org.apache.hadoop.io.IntWritable; import org.apache.…

hadoop 自带的WordCount实例可以统计一批文本文件中各单词出现的次数.下面介绍如何执行WordCount实例. 1.启动hadoop [root@hadoop ~]# start-all.sh #启动hadoop 2.在本地新建目录及2个文件 [root@hadoop ~]# mkdir input [root@hadoop ~]# cd input/ [root@hadoop input]# echo "hello world">test1.txt #新建2个测试文…

目的: 前期学习了一些机器学习基本算法,实际企业应用中算法是核心,运行的环境和数据处理的平台是基础. 手段: 搭建简易hadoop集群(由于机器限制在自己的笔记本上通过虚拟机搭建) 一.基础环境介绍 win10 vmware15.0.0 3 ubuntu 虚拟机(1 台作为master ,另外2台作为 slave1.slave2) hadoop2.8.5 jdk1.8 二.搭建步骤 1. 安装vmware ,安装ubuntu 先安装一台,后面配置完成后直接克隆 (此处不作详细介绍,可参考其它文档…

最近做项目需要用到Mask R-CNN,于是花了几天时间配置.简单跑通代码,踩了很多坑,写下来分享给大家. 首先贴上官方Mask R-CNN的Github地址:https://github.com/matterport/Mask_RCNN,源码可以从这里下载,READ ME里也有一些介绍. 0.Mask R-CNN环境 Mask R-CNN是基于Python3,Keras,TensorFlow. Python 3.4+(自行安装,本文为Python 3.6) Jupyter Notebook T…