Hadoop伪分布模式配置部署 一.实验介绍 1.1 实验内容 hadoop配置文件介绍及修改 hdfs格式化 启动hadoop进程,验证安装 1.2 实验知识点 hadoop核心配置文件 文件系统的格式化 测试WordCount程序 1.3 实验环境 hadoop2.7.6 CentOS6终端 1.4 适合人群 本课程难度为一般,属于初级级别课程,适合具有hadoop基础的用户. 1.5 相关文件 https://pan.baidu.com/s/1a_Pjl8uJ2d_-r1hbN05fWA…
hadoop2.4.1伪分布模式部署 (承接上一篇hadoop2.4.1-src的编译安装继续配置:http://www.cnblogs.com/wrencai/p/3897438.html) 感谢:http://blog.sina.com.cn/s/blog_5252f6ca0101kb3s.html 感谢:http://blog.csdn.net/coolwzjcool/article/details/32072157 感谢***:http://www.ituring.com.cn/arti…
hadoop2.2.0伪分布模式64位安装用到的软件:jdk-6u45-linux-x64.bin,hadoop-2.2.0.x86_64.tar.gz 修改主机名vim /etc/sysconfig/networkHOSTNAME=h1 修改主机名和ip的映射关系192.168.1.1 h1 关闭防火墙chkconfig --list | grep iptablesservice iptables stopchkconfig iptables offchkconfig --list | gre…
Ubuntu 18.04, 安装方式 目前孤知道的Ubuntu下安装软件方式有3种(命令): 1.make 2.apt/apt-get 3.dpkg 方式1基于软件源码安装,需要经历配置(可选).编译.安装,获取源码可以直接从软件官网下载,或者,使用wget命令下载: 方式2可以安装Ubuntu的软件源(sources)中的软件,在配置文件/etc/apt/sources.list中有定义软件源,可以修改.添加自己的,其中,deb开头的为deb安装包,deb-src开头的为源码,需要注意的是,软…
Ubuntu 下 firebird 数据库的安装和配置 1.简介 本文主要是 Ubuntu 下 firebird 数据库的安装和目录迁移,同样适用于 Debian 系统:Ubuntu 20.0.4 firebird:3.0 注意:文中运行的命令基本上需要管理员权限 2.安装 firebird 以下包可以按照需要安装 安装 firebird 服务器 apt install firebird3.0-server 只安装 firebird 数据库管理工具 gbak 和 isql-fb apt inst…
Ubuntu 下 Apache2 和 PHP 服务器环境配置 1.简介 本文主要是 Ubuntu 下 Apache2 和 PHP 服务器环境配置方法,同样适用于 Debian 系统:Ubuntu 20.0.4 注意:文中运行的命令基本上需要管理员权限 2.安装 Apache2 和 PHP apt install apache2 php php-mysql php-mbstring php-mysql 是 mysql 数据库相关的扩展,php-mbstring 是中文相关的扩展,按照需求安装 3.…
1.修改core-site.xml,配置hdfs <configuration> <property> <name>fs.default.name</name> <value>hdfs://localhost:9000</value> </property> <property> <name>hadoop.tmp.dir</name> <value>/home/jimmy/D…
本作品由Man_华创作,采用知识共享署名-非商业性使用-相同方式共享 4.0 国际许可协议进行许可.基于http://www.cnblogs.com/manhua/上的作品创作. 请先按照上一篇文章Hadoop单机模式配置安装好java和hadoop后再进行伪分布模式的配置. Hadoop伪分布模式:一台机器,每个Hadoop守护进程都是一个独立的JVM进程 安装ssh服务 sudo apt-get install openssh-server (如果没有安装ssh服务,将会出现如下情况: ma…
.实验环境说明 注意:本实验需要按照上一节单机模式部署后继续进行操作 1. 环境登录 无需密码自动登录,系统用户名 shiyanlou,密码 shiyanlou 2. 环境介绍 本实验环境采用带桌面的 Ubuntu Linux 环境,实验中会用到桌面上的程序: XfceTerminal:Linux 命令行终端,打开后会进入 Bash 环境,可以使用 Linux 命令 Firefox:浏览器,可以用在需要前端界面的课程里,只需要打开环境里写的 HTML/JS 页面即可 GVim:非常好用的编辑器,…
1  下载 下载地址:http://mirror.bit.edu.cn/apache/hadoop/common/stable2/ 2 解压 将文件解压到 /usr/local/hadoop cd ~/下载 tar -zxf hadoop-.tar.gz sudo mv ./hadoop-/ /usr/local/hadoop cd /usr/local/hadoop 此时可以查看Hadoop版本信息: ./bin/hadoop version   3 hadoop伪分布式配置 3.1 配置ha…
转载自:http://www.linuxidc.com/Linux/2012-06/62456.htm LaTeX是一个强大的排版软件,但是其最初只是为英文排版而设计的.为了使其能够胜任中文排版的重任,我们还需要进行一些额外的调教.这篇文章中,就谈谈如何在Ubuntu下(使用12.04)进行LaTeX中文环境配置. 第一步,安装基本的LaTeX环境: sudo apt-get install texlive 第二步,安装中文字体包.字体包中包含bsmi,bkai,gkai,gbsn四种中文字体.…
Ubuntu下增加eclipse菜单图标 Ubuntu的菜单图标在/usr/share/applications目录下. 1. 在/usr/share/applications目录下新建eclipse.desktop 在文件如添加如下内容: [Desktop Entry] Name=Eclipse Comment=c project manage software Exec=/opt/java/eclipse/eclipse (注:此为eclipse的解压目录下的运行程序eclipse) Ico…
前面有一篇的博客写的是ubuntu下安装eclipse和java环境的配置.当时是安装网上的攻略进行的 ,当然也是能够成功的. 近期把那台电脑送人了 ,仅仅好在自己的这台电脑上又一次安装一次了 ,唯一欣慰的是eclipse和jdk  以及ubuntu版本号都有所更新,这次也用了其它的方式进行的安装配置 第一步下载 这里要下载eclipse 和jdk 最新版本号的jdk已经到了1.8.0_05 .eclipse也升级到了luna   ubuntu用的是14.4 eclipse  :http://w…
一:安装JDK hadoop 是以java语言写的,因此需要在本地计算机上预先安装JDK,安装JDK的方法这里不再详述. 二:创建hadoop用户 为hadoop创建一个专门的用户,将所有的hadoop的工作放到这个用户下. $sudo adduser hadoop 回车后会提示输入新建用户hadoop的密码,输入密码后会有一些选项确认:             Changing the user information for username            Enter the new…
Ubuntu用的是Ubuntu15.10Beta2版本,正式的版本好像要到这个月的22号才发布.参考的资料主要是http://www.powerxing.com/install-hadoop-cluster/和<Hadoop基础教程>这本书.我的用户名是wuyouwulv,所以在接下来的代码中如果出现wuyouwulv的地方只要更改一下用户名就可以了.搭建hadoop伪分布式环境并不需要为此创建一个新的group和user,所以我这里用的一直都是wuyouwulv这个用户.我所需的文件都放在我…
1.复制hadoop-eclipse-plugin-2.6.0.jar插件到eclipse的plugins目录下(hadoop2.6的插件,在hadoop自带上没有,要上网下载,多试几个 如果是从ubuntu自带的软件中心安装elcipse的话,则安装目录为:/usr/share/eclipse/dropins/sdk/plugins/不是在/usr/share/eclipse/plugins sudo cp hadoop-eclipse-plugin-.jar /usr/share/eclip…
首先先不看理论,搭建起环境之后再看: 搭建伪分布式是为了模拟环境,调试方便. 电脑是win10,用的虚拟机VMware Workstation 12 Pro,跑的Linux系统是centos6.5 ,装的hadoop2.6.0,jdk1.8: 1.准备工作 准备工作:把JDK和Hadoop安装包上传到linux系统(hadoop用户的根目录) 系统环境:IP:192.168.80.99, linux用户: root/123456,hadoop/123456 主机名:node 把防火墙关闭,roo…
系统:ubuntu 12.04 LTS vim版本:7.4 -------------------------------------------------------------------------------------------------------------------------- 先去下载配色方案solarized. 把colors文件夹放到~/.vim目录下. 编辑~/.vimrc,做如下的添加: syntax enable if has('gui_running')…
刚转好的UBUNTU14.04.01 TLS . 试了一下GCC,结果如下不能编译 gcc -o hello hello.cpp gcc: error trying to exec 'cc1plus': execvp: 没有那个文件或目录 Baidu 首先是配置gcc,在ubuntu安装完成已经有gcc了(gcc是由GNU之父Stallman所开发的linux下的编译器,全称为GNU Compiler Collection, 目前可以编译的语言包括:C, C++, Objective-C, Fo…
安装minicom:     $sudo apt-get install minicom 配置minicom:    如果您的系统的默认语言不是英文,请执行下面的命令:     $LANG=EN         这样在接下来的设置中,minicom将以英文界面呈现在我们面前,操作起来比较方便.     在系统终端输入“minicom -s”开始minicom的设置:     $minicom -s     其设置的主窗口的界面如下图:  …
一  .新建用户和用户组 注明:(这个步骤事实上能够不用的.只是单独使用一个不同的用户好一些) 1.新建用户组 sudo addgroup hadoop 2.新建用户 sudo adduser -ingroup hadoop hadoop 3.加入hadoop用户权限 sudo gedit /etc/sudoers 打开sudoer文件后加入hadoop用户 watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQvemhvdXpob3VqaWFucXVhbg==…
Redis 安装 当前redis最新稳定版本是4.0.9 当前ubuntu虚拟机中已经安装好了redis,以下步骤可以跳过 最新稳定版本下载链接:http://download.redis.io/releases/redis-4.0.9.tar.gz step1:下载 wget http://download.redis.io/releases/redis-4.0.9.tar.gz step2:解压 tar xzf redis-4.0.9.tar.gz step3:移动,放到usr/local目…
检查系统是否支持USB转串口: lsmod | grep usbserial 如果有usbserial,说明系统支持USB转串口. 识别串口设备: 插上USB转串口,在终端输入命令: #dmesg | grep ttyUSB0  如果出现连接成功信息,则说明ubuntu系统已经识别该设备了.注意:虚拟机环境下的ubuntu默认情况下是不能自动识别的,需要在虚拟机窗口右下角点击设置: 安装minicom: sudo apt-get install minicom 配置minicom: minico…
linux下的Python安装, 首先我们需要使用都Shell一系列的命令(前面的linux基础可不是白学的哦!) 1.更新软件安装源地址 sudo apt-get update apt-get,是一条linux命令,适用于deb包管理式的操作系统,主要用于自动从互联网的软件仓库中搜索.安装.升级.卸载软件或操作系统.这个命令的执行通常需要权限,所以我们sudo一下 2.安装python,之前说过了python主要流行的两个版本2.X的还有3.x的,这里我们学习最新的 sudo apt-get…
1.mutt+msmtp的安装 默认情况下smokeping发送邮件使用sendmail,但是sendmail配置起来真心不是一般的麻烦,而且也没有必要,完全大材小用了,所以我就想用mutt+msmtp的方案来发送告警邮件. 首先安装mutt和msmtp这两个软件. 如果是在在线安装,那么直接apt-get install就好了,会自动帮助我们安装关联包. 如果是在离线环境下,我们可以先在有线环境下安装.然后再将用到的安装包拷贝的离线环境下安装(这是因为使用apt-get install会将所有…
最近尝试了在虚拟机中安装freebsd并进行尝试性的使用 获取镜像 在freebsd的官网,https://www.freebsd.org,即可看到 "Download Freebsd"的按钮,很醒目. 点击后,进入版本选择的页面.可以看到当前RELEASR版本,旧版本,还有尚未正式发布的beat版本. 每个版本又分为几列 Installer Images Virtual Machine Images SD Card Images Documentation 要在虚拟机使用的话,可以选…
0 引言 最近在VSCode下搞开发,于是将pcl库迁移到这个环境下,用来跑一些依赖pcl的开源的代码以及自己做一些快速开发等. 1 pcl编译 主要参考了这篇博客,链接如下. https://blog.csdn.net/e_small/article/details/79581484 我编译时遇到的主要问题也是在这篇博客的留言下解决的.我安装了Anaconda,结果编译出错,我还一直找不着错哪儿了...解决方式记录如下. $ sudo gedit ~/.bashrc # 打开环境变量文件 将A…
1.hadoop-env.sh 修改 export JAVA_HOME=/Library/Java/Home #增加 JAVA_HOME 2.masters localhost 3.slaves localhost 4.hdfs-site.xml <property> <name>dfs.replication</name> <value>1</value></property> <property> <name&g…
nfs服务器的安装和配置 1.安装nfs 服务器,前提是你的系统能连上网. 2.设置/etc/exports配置文件 (1) 进入/etc/exports配置文件 (2) 在最后一行加入红色那行,/home/wcy/server/nfsserver 为共享的目录,用户可自行设置,但是设置的共享目录必须真实存在,不然会出错. 3.重启服务器,重新加载配置文件 测试服务器,把服务器共享目录/home/wcy/server/nfsserver挂在到/mnt/nfs节点,这个节点务必真实存在,不存在可以…
参考网址:http://jingyan.baidu.com/album/00a07f38b9194082d028dc08.html?picindex=9 sudo service smbd restart 用户名:smbuser…