-cacheFile 分发,文件事先上传至Hdfs上,分发的是一个文件 1.找一篇文章The_Man_of_Property.txt: He was proud of him! He could not but feel that in similar circumstances he himself would have been tempted to enlarge his replies, but his instinct told him that this taciturnity wa…

-cacheArchive也是从hdfs上进分发,但是分发文件是一个压缩包,压缩包内可能会包含多层目录多个文件 1.The_Man_of_Property.txt文件如下(将其上传至hdfs上) hadoop fs -put The_Man_of_Property.txt /mapreduce Preface “The Forsyte Saga” was the title originally destined for that part of it which is called “The…

统计某几个词在文章出现的次数 -file参数分发,是从客户端分发到各个执行mapreduce端的机器上 1.找一篇文章The_Man_of_Property.txt如下: He was proud of him! He could not but feel that in similar circumstances he himself would have been tempted to enlarge his replies, but his instinct told him that t…

利用Python做一个词频统计 GitHub地址:FightingBob [Give me a star , thanks.] 词频统计 对纯英语的文本文件[Eg: 瓦尔登湖(英文版).txt]的英文单词出现的次数进行统计,并记录起来 代码实现 import string from os import path with open('瓦尔登湖(英文版).txt','rb') as text1: words = [word.strip(string.punctuation).lower() for…

最近公司在写一个课程<大数据运维实训课>,分为4个部分,linux实训课.Python开发.hadoop基础知识和项目实战.这门课程主要针对刚从学校毕业的学生去应聘时不会像一个小白菜一样被刷掉.老大让我负责编写Python开发这块,让一个运维同学去写书???心中一万只草泥马奔腾而过,吐槽过后工作还是要继续,想起自己学习Python时候,一整套课程或者是人家的博客学下来,到最后总是会忘掉以前的一些东西,无非是自己没有实操,习题量不够.所谓天道酬勤,用大量的题海战术来巩固知识点,到最后闭着眼睛也能…

1) 博客开头给出自己的基本信息,格式建议如下: 学号2017****7128 姓名:肖文秀 词频统计及其效能分析仓库:https://gitee.com/aichenxi/word_frequency1 2) 程序分析,对程序中的四个函数做简要说明.要求附上每一段代码及对应的说明. process_file作用:打开文件,读取文件到缓冲区,关闭文件 # 读文件到缓冲区 def process_file(file_name): try: # 打开文件 file_read=open(file_na…

需要精通java开发,有一定linux基础. 1.简介 大数据就是对海量数据进行数据挖掘. 已经有了很多框架方便使用,常用的有hadoop,storm,spark,flink等,辅助框架hive,kafka,es,sqoop,flume等. 常见应用推荐系统,用户画像等. 2.hadoop hadoop有三个核心组件: hdfs:分布式文件系统 mapreduce:分布式运算编程框架 yarn:分布式资源调度平台 3.hdfs原理 hdfs存放的就是文件,顶层目录是/,可以对文件进行增删改查移的…

最近开始学习大数据,发现大数据有很多很多组件,我现在负责的是HDFS(Hadoop分布式储存系统)的学习,整理了一下HDFS的版本情况.因为HDFS是Hadoop的重要组成部分,所以有关HDFS的版本信息我也是通过查看Hadoop官网的每一个版本的Hadoop中HDFS的变化情况得到的,我尽可能的翻看了所有的信息,但是也可能有所疏漏,大家如果发现有不恰当的地方,可以在评论区留言,我有空的时候会做出修改. Hadoop的版本是并行发展的,(可以参考JDK的版本发展),比如在2.7.X发布更新时,2…

在之前的文章:大数据系列:一文初识Hdfs , 大数据系列2:Hdfs的读写操作 中Hdfs的组成.读写有简单的介绍. 在里面介绍Secondary NameNode和Hdfs读写的流程. 并且在文章结尾也说了,Secondary NameNode并不是我常说的HA,(High Availability). 本文承接之前的内容,对Hdfs的HA实现做个简单的介绍. NameNode的重要性 先来看看Hdfs读写的流程图: 可以看到无论是读还是写,我们都必须和存储元数据的NameNode进行交互.…

Hadoop模块 提到大数据,Hadoop是一个绕不开的话题,我们来看看Hadoop本身包含哪些模块. Common是基础模块,这个是必须用的.剩下常用的就是HDFS和YARN. MapReduce现在用的比较少了,多数场景下会被Spark取代. Ozone是一个新组件,对象存储,可以看做是HDFS的升级版. HDFS组成 作为Hadoop的分布式文件系统,它的思想远比这个产品本身更重要.它主要包含这么几个组成部分: NameNode,主节点,用来保存元数据信息,包括文件属性.文件切成多少个Bl…