MongoD 安装 1 .下载地址: wget https://fastdl.mongodb.org/linux/mongodb-linux-x86_64-rhel70-3.6.8.tgz 2 .添加环境变量 [root@baolin ~]# tail -2 /etc/profile export MONGO_HOME=/usr/local/mongodb export PATH=$MONGO_HOME/bin:$PATH 3 .启动参数 --logpath # 指定日志文件名 --logapp…

windows7 spark单机环境搭建 follow this link how to run apache spark on windows7 pycharm 访问本机 spark 安装py4j 配置pycharm 在PYTHON_HOME\lib\site-packages下新建pyspark.pth文件内容为: D:\program\spark-1.5.1-bin-hadoop2.4\python 试运行…

转载自http://blog.csdn.net/yfkiss/article/details/7715476和http://blog.csdn.net/yfkiss/article/details/7721329 下载hadoophadoop下载地址:http://www.apache.org/dyn/closer.cgi/hadoop/core/这里下载的版本是1.0.3$ mkdir hadoop$ wget http://www.fayea.com/apache-mirror/hadoop…

Kafka 0.7.2 单机环境搭建当下载完Kafka后,进行解压,其目录结构如下: bin config contrib core DISCLAIMER examples lib lib_managed LICENSE NOTICE perf project README.md sbt system_test Kafka是用scala编写的,可以运行在JVM上,因此不需要单独搭建scala环境,在后面需要编程的时候我们再进行scala的配置.1.安装Java环境,本机是1.7.0_09 2.解…

最近在搞kettle整合kafka producer插件,于是自己搭建了一套单机的kafka环境,以便用于测试.现整理如下的笔记,发上来和大家分享.后续还会有kafka的研究笔记,依然会与大家分享! 1 kafka环境搭建 1.1 kafka单机环境搭建 (1).解压kafka_2.11-1.1.0.tgz,得到“kafka_2.11-1.1.0”文件夹. (2).kafka需要安装zookee使用,但kafka集成zookeeper,在单机搭建时可直接使用.使用需配置kafka_2.11-1.…

通过一段时间的学习,我在我的centos上安装了单机hadoop,如果这对你有帮助,就进来探讨学习一下 Hadoop伪分布式配置 Hadoop 可以在单节点上以伪分布式的方式运行,Hadoop 进程以分离的 Java 进程来运行,节点既作为 NameNode 也作为 DataNode,同时,读取的是 HDFS 中的文件. 伪分布式需要修改2个配置文件 core-site.xml 和 hdfs-site.xml .Hadoop的配置文件是 xml 格式,每个配置以声明 property 的 nam…

[在此处输入文章标题] Hadoop单机搭建 1. 工具准备 1) Hadoop Linux安装包 2) VMware虚拟机 3) Java Linux安装包 4) Window 电脑一台 2. 开始配置 1) 启动Linux虚拟机,这里使用的是CentOS 6.7版本 2) 首先配置虚拟机网络环境 Ø 配置Windows网络环境 1. 打开VMware,编辑-虚拟网络编辑器 2. 修改子网IP为192.168.100.0 3. 继续修改子网详细配置 4.Windows网络环境配置完成 Ø 配置…

1.JDK安装 在我的部署单节点kafka的博客里有相关的方法.(https://www.cnblogs.com/ToBeExpert/p/9789486.html )zookeeper和kafka的压缩包下载地址也在单节点部署的这篇博客里. 1.zookeeper集群的搭建 将zookeeper.tar.gz解压为三个目录,例如: 以上图中的目录结构为例,进入./zookeeper-1/conf.找到zoo.cfg文件,如果没有就复制一份zoo_sample.cfg并将其改名为zoo.cfg,…

在搭建HBase单机环境之前,首先你要保证你已经搭建好Java环境: $ java -version java version "1.8.0_51" Java(TM) SE Runtime Environment (build 1.8.0_51-b16) Java HotSpot(TM) 64-Bit Server VM (build 25.51-b03, mixed mode) JAVA_HOME路径: $ echo $JAVA_HOME /usr/java/jdk1.8.0_51…

一.安装前置条件说明 1.1 JDK版本说明 HBase 需要依赖JDK环境,同时HBase 2.0+ 以上版本不再支持JDK 1.7 ,需要安装JDK 1.8+ .JDK 安装方式见本仓库: Linux环境下JDK安装 1.2 Standalone模式和伪集群模式的区别 在Standalone模式下,所有守护进程都运行在一个jvm进程/实例中: 在伪分布模式下,HBase仍然在单个主机上运行,但是每个守护进程(HMaster,HRegionServer 和 ZooKeeper)则分别作为一个单…

一.前置条件 Hadoop的运行依赖JDK,需要预先安装,安装步骤见: Linux下JDK的安装 二.配置免密登录 Hadoop组件之间需要基于SSH进行通讯. 2.1 配置映射 配置ip地址和主机名映射: vim /etc/hosts # 文件末尾增加 192.168.43.202 hadoop001 2.2 生成公私钥 执行下面命令行生成公匙和私匙: ssh-keygen -t rsa 3.3 授权 进入~/.ssh目录下,查看生成的公匙和私匙,并将公匙写入到授权文件: [root@@had…

一.工具准备 1. jdk1.8 2. scala 3. anaconda3 4. spark-2.3.1-bin-hadoop2.7 5. hadoop-2.8.3 6. winutils 7. pycharm 二.安装 1. jdk安装 oracle官网下载,安装后配置JAVA_HOME.CLASS_PATH,bin目录追加到PATH,注意:win10环境下PATH最好使用绝对路径!下同! 2. scala安装 官网下载,安装后配置SCALA_HOME,bin目录追加到PATH(上图包含)…

①配置服务器 在大型的集群中,建议配置3台配置服务器,就足够用了.启动配置服务器的方式: 1:先创建几个存放数据的文件夹,比如在前面的dbs下面创建confdb文件夹,然后在confdb下面创建confdb1,confdb2,confdb3文件夹:同理在前面的logs下面创建conflogs文件夹 2:然后分别启动这三个配置服务器,使用--configsvr指明是配置服务器,如下: ./mongod --configsvr --dbpath ../dbs/confdb/confdb1 --log…

①创建副本集 1:先创建几个存放数据的文件夹,比如在前面的dbs下面创建db1,db2,db3: 同理在前面的logs下面创建logs1,logs2,logs3 2:在启动MongoDB服务器的时候,使用--replSet副本集名称选项,如: ./mongod --dbpath ../dbs/db1 --logpath ../logs/logs1 --port 20001 --fork --replSet myrepl 3:然后再启动两个,端口分别为20002和20003,当然要修改相应的数据文…

一:ZooKeeper服务安装包下载 第一步:打开zooKeeper官网…

配置可以参考前面一篇 https://www.cnblogs.com/a-horse-mosaic/p/9284010.html 副本集是一组服务器,其中有一个主服务器(primary),用于处理客户端请求:还有多个备份服务器(secondary),用于保存主服务器的数据副本.如果主服务器崩溃了,备份服务器会自动将其中一个成员升级为新的主服务器. 使用复制功能时,如果有一台服务器宕机了,仍然可以从副本集的其他服务器上访问数据.如果服务器上的数据损坏或者不可访问,可以从副本集的某个成员中创建一份新…

------------------------------1.安装MongoDB...... ------------------------------2.准备好文件夹 --config:配置文件夹mkdir F:\work\MongoDB\mongodb\data\mongodb\config20001mkdir F:\work\MongoDB\mongodb\data\mongodb\config20002mkdir F:\work\MongoDB\mongodb\data\mongod…

jdk安装 tar zxvf jdk mv jdk /usr/lib/jvm/java jdk环境变量配置 vim /etc/profile ``` export JAVA_HOME=/usr/lib/java export JRE_HOME=${JAVA_HOME}/jre export CLASSPATH=.:${JAVA_HOME}/lib:${JRE_HOME}/lib export PATH=${PATH}:${JAVA_HOME}/bin:${JRE_HOME}/bin export…

单机模式所需要的系统资源是最少的,这种安装模式下,Hadoop的core-site.xml.mapred-site.xml.hdfs-site.xml配置文件均为空.默认情况下,官方hadoop-1.2.1.tar.gz文件默认使用的就是单机安装模式.当配置文件为空时,Hadoop完全运行在本地,不与其他节点交互,也不使用Hadoop文件系统,不加载任何守护进程,该模式主要用于开发调试MapReduce应用程序的逻辑,不与任何守护进程交互进而避免复杂性.以hadoop用户远程登录K-Master…

一.定义 官网的定义: Solr是基于Lucene构建的流行,快速,开放源代码的企业搜索平台.它具有高度的可靠性,可伸缩性和容错能力,可提供分布式索引,复制和负载平衡查询,自动故障转移和恢复,集中式配置等. Solr支持许多世界上最大的互联网站点的搜索和导航功能. 简单的理解solr就是一款搜索框架,通常用实现查询功能,比如电商网站的商品检索. 二.环境搭建 本文基于以下开源组件版本搭建,约定下载后组件和解压缩的文件都放置在/opt目录下: solr-8.2.0 apache-tomcat-8.…

规划 环境:redhat6.9 安装包:p13390677_112040_Linux-x86-64_1of7.zip p13390677_112040_Linux-x86-64_2of7.zip 数据库配置 ORACLE_SID=csk; ORACLE_BASE=/home/app/oracle; ORACLE_HOME= $ORACLE_BASE/product/11.2.0/dbhome_1; ORACLE IP = 192.168.17.133 ORACLE 端口= 1521.1158 具…

一.环境说明:     操作系统:Centos6.5 Linux node1 2.6.32-431.el6.x86_64 #1 SMP Fri Nov 22 03:15:09 UTC 2013 x86_64 x86_64 x86_64 GNU/Linux     jdk版本:java version "1.7.0_79"     hadoop版本:Apache hadoop-2.5.2 二.下载软件:     从Apache官方地址http://apache.dataguru.cn/h…

tar zxvf redis-2.8.13.tar.gz cd redis-2.8.13 make 1.安装主库 mkdir /opt/redis/sbin -p mkdir    /opt/redis/bin -p mkdir /data/redis/redis6379/ cp redis.conf /data/redis/redis6379/6379.conf[配置文件下拉到最底部] cd src cp redis-se* /opt/redis/sbin/ cp redis-check-du…

1.   Ubuntu环境安装和基本配置 本例程中在MAC上安装使用的虚拟机Ubuntu系统(64位,desktop): 基本配置 考虑到以后涉及到hadoop的应用便于权限的管理,特别地创建一个hadoop用户,user和group名称均为hadoop.首先创建hadoop用户组: sudo addgroup hadoop 在刚才创建的分组中创建hadoop用户: sudo adduser –ingroup hadoop hadoop 创建用户的时候会提示输入密码,以及全名,房间号码等信息.然…

pyenv 和virtualenv分别是干什么的? pyenv帮助你在一台机上建立多个版本的python环境, 并提供方便的切换方法. virtualenv则就是将一个目录建立为一个虚拟的python环境, 这样的话, 用户可以建立多个虚拟环境, 每个环境里面的python版本可以是不同的, 也可以是相同的, 而且环境之间相互独立. pyenv安装: https://github.com/yyuu/pyenv#choosing-the-python-version pyenv命令: https:…

系统环境:centos 7 安装前准备 安装JDK环境 下载tomcat.solr安装包:solr下载地址:http://archive.apache.org/dist/lucene/solr/ 安装过程 安装路径:/data/apps/solr solr core存放路径:/data/solr/solr_home 解压安装包 cd /data/apps/solr .tar.gz -C ./ .tgz -C ./ 设置tomcat.solr环境 将solr.war放入tomcat中,并修改对应目…

1. 安装环境要求 you need to install Storm's dependencies on Nimbus and the worker machines. These are: Java 7+ (Apache Storm 1.x is tested through travis ci against both java 7 and java 8 JDKs) Python 2.6.6 (Python 3.x should work too, but is not tested as…

为了学习和方便测试,总是要启动一个单机版的.下载 http://rocketmq.apache.org/dowloading/releases/ 1. 要先配置环境变量 ROCKETMQ_HOME E:\rocketmq-all-4.5.1-bin-release 2. 然后进入bin目录启动NameServer 3. 启动Broker 启动 E:\rocketmq-all--bin-release\bin>mqbroker.cmd -n localhost: autoCreateTopicEn…

引言 在大数据学习系列之一 ----- Hadoop环境搭建(单机) 成功的搭建了Hadoop的环境,在大数据学习系列之二 ----- HBase环境搭建(单机)成功搭建了HBase的环境以及相关使用介绍.本文主要讲解如何搭建Hadoop+Hive的环境. 一.环境准备 1,服务器选择 本地虚拟机 操作系统:linux CentOS 7 Cpu:2核 内存:2G 硬盘:40G 说明:因为使用阿里云服务器每次都要重新配置,而且还要考虑网络传输问题,于是自己在本地便搭建了一个虚拟机,方便文件的传输以…

一. zk集群,主从节点,心跳机制(选举模式) 二.Zookeeper集群搭建注意点 1.配置数据文件 myid 1/2/3 对应 server.1/2/3 2.通过./zkCli.sh -server [ip]:[port] 检测集群是否配置成功 三.单机环境搭建集群 1.拷贝另外两个zk 拷贝Zookeeper到zookeeper-3.4.13_2 cp zookeeper-3.4.13 zookeeper-3.4.13_2 -rf 拷贝Zookeeper到zookeeper-3.4.13_…