Hadoop记录-变更
1.安装salt-minion
sed -i 's/^#//g' /etc/yum.repos.d/centos7.4.repo
sed -i 's/enabled=0/enabled=1/g' /etc/yum.repos.d/centos7.4.repo
rm -rf /etc/salt/pki/minion/minion_master.pub
systemctl stop firewalld.service
systemctl disable firewalld
mshn=cnsz17pl2287
msip=10.116.100.149
hn="hadoop_datanode_"$(hostname)
yum install salt-minion -y
sed -i "s/^#master:.*/master: $mshn/g" /etc/salt/minion
sed -i "s/^master:.*/master: $mshn/g" /etc/salt/minion
sed -i "s/^#id:.*/id: $hn/g" /etc/salt/minion
sed -i "s/^id:.*/id: $hn/g" /etc/salt/minion
echo "$msip $mshn" >> /etc/hosts
systemctl restart salt-minion.service
systemctl enable salt-minion
echo "TERM=linux" >> /etc/profile
source /etc/profile
2.salt-master操作
a.接受key
salt-key -L
salt-key -A => Y
b.建分组
vim /etc/salt/master
加入
dn: 'hadoop_datanode_*'
hms: 'L@hadoop_history_webproxy_metastore_cnsz17pl1793,hive_metastore_cnsz17pl1786,
hive_metastore_cnsz17pl1787,hive_metastore_cnsz17pl1789,hive_metastore_cnsz17pl2465'
c.测试
salt -N hms test.ping
salt -N hms cmd.run 'ls -ll /app'
d.更新salt版本
salt -N hms cp.get_file salt://salt/minionsetup.py /tmp/minionsetup.py
salt -N hms cmd.run "python /tmp/minionsetup.py upgrade"
e.重启salt-minion
salt -N hms cmd.run 'systemctl restart salt-minion.service'
f.同步jdk
salt -N newdn state.apply jdk
3.安装py2、py3
salt -N newdn state.apply py2
salt -N newdn state.apply py3
4.同步hosts文件
salt '*hadoop' state.apply hosts
5.同步rack机架信息
salt '*hadoop' state.apply rack
--目标机器检查rack是否更新
6.同步hdfs-site配置
salt -N newdn state.apply hadoop.hdfs-site
7.同步yarn-site配置
salt -N newdn state.apply hadoop.yarn-site
8.同步mapred-site配置
salt -N newdn state.apply hadoop.mapred-site
9.同步yarn jar包
salt -N newdn state.apply hadoop.lib
10.同步system服务
salt -N newdn state.apply hadoop.systemd
11.同步HDATA目录
salt -N newdn state.apply hadoop.dir
12.同步log目录
salt -N newdn state.apply hadoop.logdir
Hadoop记录-变更的更多相关文章
- Hadoop记录-MRv2(Yarn)运行机制
1.MRv2结构—Yarn模式运行机制 Client---客户端提交任务 ResourceManager---资源管理 ---Scheduler调度器-资源分配Containers ----在Yarn ...
- hadoop记录-Hadoop参数汇总
Hadoop参数汇总 linux参数 以下参数最好优化一下: 文件描述符ulimit -n 用户最大进程 nproc (hbase需要 hbse book) 关闭swap分区 设置合理的预读取缓冲区 ...
- hadoop记录-hive常见设置
分区表 set hive.exec.dynamic.partition=true; set hive.exec.dynamic.partition.mode=nonstrict;create tabl ...
- Hadoop记录-日常运维操作
1.Active NameNode hang死,未自动切换 #登录当前hang死 Active namenode主机,停止Namenode,触发自动切换.hadoop-daemon.sh stop n ...
- Hadoop记录-hdfs转载
Hadoop 存档 每个文件均按块存储,每个块的元数据存储在namenode的内存中,因此hadoop存储小文件会非常低效.因为大量的小文件会耗尽namenode中的大部分内存.但注意,存储小文件所需 ...
- Hadoop记录-hadoop2.x常用端口及定义方法
Hadoop集群的各部分一般都会使用到多个端口,有些是daemon之间进行交互之用,有些是用于RPC访问以及HTTP访问.而随着Hadoop周边组件的增多,完全记不住哪个端口对应哪个应用,特收集记录如 ...
- Hadoop记录-Hadoop NameNode 高可用 (High Availability) 实现解析
Hadoop NameNode 高可用 (High Availability) 实现解析 NameNode 高可用整体架构概述 在 Hadoop 1.0 时代,Hadoop 的两大核心组件 HDF ...
- Hadoop记录-hadoop介绍
1.hadoop是什么? Hadoop 是Apache基金会下一个开源的大数据分布式计算平台,它以分布式文件系统HDFS和MapReduce算法为核心,为用户提供了系统底层细节透明的分布式基础架构. ...
- hadoop记录topk
lk@lk-virtual-machine:~$ cd hadoop-1.0.1 lk@lk-virtual-machine:~/hadoop-1.0.1$ ./bin dfs -mkdir inpu ...
随机推荐
- 【XSY2472】string KMP 期望DP
题目大意 给定一个由且仅由字符'H','T'构成的字符串\(S\). 给定一个最初为空的字符串\(T\) ,每次随机地在\(T\)的末尾添加'H'或者'T'. 问当\(S\)为\(T\)的后缀时, ...
- MT【261】左准线
设双曲线$x^2-\dfrac{y^2}{3}=1$的左右焦点为$F_1,F_2$, 直线$l$ 过$F_2$且与双曲线交于$A,B$两点.若$l$的斜率存在,且$(\overrightarrow{F ...
- 平衡树splay学习笔记#2
讲一下另外的所有操作(指的是普通平衡树中的其他操作) 前一篇的学习笔记连接:[传送门],结尾会带上完整的代码. 操作1,pushup操作 之前学习过线段树,都知道子节点的信息需要更新到父亲节点上. 因 ...
- [SCOI2008]奖励关(期望dp)
你正在玩你最喜欢的电子游戏,并且刚刚进入一个奖励关.在这个奖励关里,系统将依次随机抛出k次宝物,每次你都可以选择吃或者不吃(必须在抛出下一个宝物之前做出选择,且现在决定不吃的宝物以后也不能再吃). 宝 ...
- 【php】php实现数组反转
php里面有个函数可以反转数组,工作中也经常用到,非常方便.今天来自己实现这样的功能. $arr = [2,5,6,1,8,16,12]; function reverse($arr){ $left ...
- react案例->新闻移动客户端--(react+redux+es6+webpack+es6的spa应用)
今天分享一个react应用,应在第一篇作品中说要做一个react+redux+xxx的应用.已经做完一部分,拿出来分享.github地址为:点我就可以咯~ 这里实现了一个新闻移动站的spa.本来想写p ...
- Dubbo x Cloud Native 服务架构长文总结(很全)
Dubbo x Cloud Native 服务架构长文总结(很全) mercyblitz SpringForAll社区 3天前 分享简介 Cloud Native 应用架构随着云技术的发展受到业界特别 ...
- QML-关于Qt.rgba()颜色无法正常显示问题
GitHub:八至 作者:狐狸家的鱼 本文链接:关于Qt.rgba()颜色的正确写法 当在正常给color属性写颜色的时候,用十六进制能正常显示,但是用Qt.rgba()时,颜色无法正常显示出来. 按 ...
- Nginx安装,操作简单
命令列表 先把所有的命令给出来了. yum -y install gcc-c++ yum -y install wget yum install -y pcre pcre-devel yum inst ...
- 【CH0103】最短哈密顿路径
题目大意:给定一个 N 个点的无向图,点有点权,求从 0 号点走到 N-1 号点的最短哈密顿路径是多少. 题解:由于哈密顿路径的定义是每个顶点必须经过且仅能经过一次,因此,可用当前是否经过了这些点和当 ...