hadoop(五)scp命令copy文件和配置(完全分布式准备二)|7
机器的克隆参考centos7克隆ip|机器名|映射关系|别名配置(hadoop完全分布式准备一)
那么问题来了,如果我们有30台机器,之间可以互相访问,那我们如何快速安装配置环境如jdk hadoop等?
可通过scp命令将配置、下载好的工具等直接copy到我们新的机器上就可以了。
scp(secure copy)安全copy
Scp定义:
Scp可以实现服务器与服务器之间的数据copy。(from server1 to server2)
基本语法
Scp -r $pair/$fname $user@hadoop&host:$pdir/$fname
命令 递归 要copy的文件路径/名称 目标用户@主机:目标路径名称
操作实例
在hadoop101上,将hadoop101中/opt/module目录下的软件copy到hadoop102上。
scp/opt/module shaozhiqi@hadoop102:/opt
实际操作时发现报错了:
[shaozhiqi@hadoop101 ~]$ scp -r /opt/module shaozhiqi@hadoop102: /opt
^Z
[1]+ Stopped scp -r /opt/module shaozhiqi@hadoop102: /opt/
[shaozhiqi@hadoop101 ~]$ scp -r /opt/module shaozhiqi@hadoop102:/opt/
ssh: Could not resolve hostname hadoop102: Name or service not kno
lost connection
那就去修改hadoop101的/etc/hosts
添加上与102/103/104等机器的映射配置,否则在执行命令时只能使用ip
[shaozhiqi@hadoop101 ~]$ vi /etc/hosts
127.0.0.1 localhost localhost.localdomain localhost4 localhost4.localdomain4
::1 localhost localhost.localdomain localhost6 localhost6.localdomain6
192.168.1.101 hadoop101
192.168.1.102 hadoop102
192.168.1.103 hadoop103
192.168.1.104 hadoop104
192.168.1.105 hadoop105
192.168.1.106 hadoop106
192.168.1.107 hadoop107
192.168.1.108 hadoop108
Reboot后
再次执行scp
[shaozhiqi@hadoop101 ~]$ scp -r /opt/module shaozhiqi@hadoop102: /opt/module
[shaozhiqi@hadoop102 module]$ ll
total 8
drwxr-xr-x. 15 shaozhiqi shaozhiqi 4096 Jun 22 22:04 hadoop-3.1.2
drwxr-xr-x. 7 shaozhiqi shaozhiqi 4096 Jun 22 21:59 jdk1.8.0_211
[shaozhiqi@hadoop102 module]$
在103上将101的数据copy过来 ./表示当前目录
[shaozhiqi@hadoop103 module]$ scp –r shaozhiqi@hadoop101:/opt/module ./
[shaozhiqi@hadoop103 module]$ ll
total 8
drwxr-xr-x. 15 shaozhiqi shaozhiqi 4096 Jun 22 22:41 hadoop-3.1.2
drwxr-xr-x. 7 shaozhiqi shaozhiqi 4096 Jun 22 22:26 jdk1.8.0_211
[shaozhiqi@hadoop103 module]$
在103copy 102module到104,执行命令输入102和104的密码
[shaozhiqi@hadoop103 module]$ scp -r shaozhiqi@hadoop102:/opt/module shaozhiqi@hadoop104:/opt/
如果之前没有module,需要用root用户执行scp
那么执行结束后就需要执行chown进行授权
[shaozhiqi@hadoop103 opt]$ cd module/
[shaozhiqi@hadoop103 module]$ ll
total 8
drwxr-xr-x. 15 root root 4096 Jun 23 00:21 hadoop-3.1.2
drwxr-xr-x. 7 root root 4096 Jun 23 00:19 jdk1.8.0_211
[shaozhiqi@hadoop103 opt]$ sudo chown shaozhiqi:shaozhiqi module/ -R
[shaozhiqi@hadoop103 opt]$ ll
total 0
drwxr-xr-x. 4 shaozhiqi shaozhiqi 44 Jun 23 00:19 module
drwxr-xr-x. 2 shaozhiqi shaozhiqi 6 Jun 18 05:58 software
将101上配置的环境变量copy过来
cat /etc/profile
[shaozhiqi@hadoop101 ~]$ scp /etc/profile root@hadoop102:/etc/profile
root@hadoop102's password:
profile 100% 1985 1.9KB/s 00:00
[shaozhiqi@hadoop101 ~]$ scp /etc/profile root@hadoop103:/etc/profile
root@hadoop103's password:
profile 100% 1985 1.9KB/s 00:00
[shaozhiqi@hadoop101 ~]$ scp /etc/profile root@hadoop104:/etc/profile
root@hadoop104's password:
profile 100% 1985 1.9KB/s 00:00
[shaozhiqi@hadoop101 ~]$
重新加载环境配置
source /etc/profile
java –version
如果是openJKD则可删除
删除方式参考[Hadoop学习(一) centos7 jdk安装,hadoop安装
删除后再次
source /etc/profile
验证
[shaozhiqi@hadoop103 ~]$ java -version
java version "1.8.0_211"
Java(TM) SE Runtime Environment (build 1.8.0_211-b12)
Java HotSpot(TM) 64-Bit Server VM (build 25.211-b12, mixed mode)
[shaozhiqi@hadoop103 ~]$
hadoop(五)scp命令copy文件和配置(完全分布式准备二)|7的更多相关文章
- Linux使用scp命令进行文件远程拷贝详解
前言 scp是 secure copy的缩写, scp是Linux系统下基于ssh登陆进行安全的远程文件拷贝命令.Linux的scp命令可以在Linux服务器之间复制文件和目录. 使用语法: scp ...
- linux 下使用scp命令传输文件
scp -P 1234 /home/wakasann/test.txt wakasann@192.168.1.30:/var/www/html/ 使用 1234端口,将 test.txt文件传输到服务 ...
- Linux sudo命令——sudoers文件的配置
Linux sudo命令与其配置文件/etc/sudoers 对linux有一定了解的人多少也会知道点关于sudo命令.sudo命令核心思想是权限的赋予 ,即某个命令的所属用户不是你自己,而你却有 ...
- 两台centos之间使用scp命令传输文件
1.将本地文件copy到远程 (1)复制文件 scp local_file remote_username@remote_ip:remote_folder 例如:将/usr/local/aa.png文 ...
- 执行SCP命令拷贝文件失败
scp是我最常用的远程文件拷贝工具,今天发现突然不能用了: svan-mac:hive-tools xiean$ scp -Pxx target/urs-hive-tools-jar-with-de ...
- hadoop(五): shell命令
hdfs dfs -cat URI : 查看文件内容 hdfs dfs -cat hdfs dfs -cat hdfs://mycluster/user/root/rcc1 hdfs dfs -cat ...
- Linux使用scp命令实现文件的上传和下载
上传本地/data/project/test.zip 文件至远程服务器192.168.1.2的 /root 目录下,代码如下: scp /home/project/test.zip root@192 ...
- 使用scp命令传输文件
1. 从远端复制文件到本地: sudo scp root@192.168.0.1:remote_path/remote_file . 2. 从本地复制文件到远端: sudo scp local_fil ...
- linux采用scp命令拷贝文件到本地,拷贝本地文件到远程服务器
// 假设远程服务器IP地址为 192.168.1.100 1.从服务器复制文件到本地: scp root@192.168.1.100:/data/test.txt /home/myfile/ roo ...
随机推荐
- 项目部署Django+celery+redis
celery介绍 1.celery应用举例 1.Celery 是一个 基于python开发的分布式异步消息任务队列,通过它可以轻松的实现任务的异步处理, 如果你的业务场景中需要用到异步任务,就可以 ...
- redis 持久化RDB、AOF
1.redis持久化简介 Redis是一种高级key-value数据库.它跟memcached类似,不过数据可以持久化,而且支持的数据类型很丰富.有字符串,链表,集合和有序集合.支持在服务器端计算集合 ...
- ubuntu 远程 window
记录一下ubuntu 远程 window ubuntu先执行安装rdesktop sudo apt-get install rdesktop 终端执行: rdesktop -f 172.16.238 ...
- Vulnhub靶场DC-1 WP
前言 之前提到过最近在做vlunhub的靶场复现工作,今天开始更新writeup吧.(对着walkthrough一顿乱抄嘻嘻嘻) 关于DC-1(官网翻译来的) 描述 DC-1是一个专门构建的易受攻击的 ...
- 关于CORS(跨域资源共享)的几个http请求头小实验
对几种与跨域相关的请求头做一个总结 关于跨域可以看:9 种常见的前端跨域解决方案(详解) 看完后可以配合我的代码做些实验,看看注释掉某个响应头会发生什么,整体代码会在最后贴出 跨域简单请求 需要在服务 ...
- [贪心,dp] 2019中国大学生程序设计竞赛(CCPC) - 网络选拔赛 Fishing Master (Problem - 6709)
题目:http://acm.hdu.edu.cn/showproblem.php?pid=6709 Fishing Master Time Limit: 2000/1000 MS (Java/Othe ...
- 使用SparkSQL编写wordCount的词频统计
# 使用SparkSQL编写wordCount的词频统计 ## word.txt```hello hello scala sparkjava sql html java hellojack jack ...
- js 中的yield
yield是什么 yield是ES6的新关键字,使生成器函数执行暂停,yield关键字后面的表达式的值返回给生成器的调用者.它可以被认为是一个基于生成器的版本的return关键字. yield关键字实 ...
- 武林高手?敏捷开发,唯velocity取胜
去年学习软件工程教材,初识敏捷开发.目前所在的团队,也是使用敏捷开发方式.今天读了这篇文章,对于这段时间的效率有所警醒.其次,个人认同文章中的用户故事,结对编程思想. 文章援引:http://gitb ...
- jdbc连接方法
jdbc(Java Database Connectivity)的5个步骤: 一.加载驱动. 反射中的主动加载,Driver.class右键copy qualified Name 二.创建连接 dat ...