1.停掉外部接入服务: 2 NameNode Metadata备份: 2.1 备份fsimage数据,(该操作适用HA和非HA的NameNode),使用如下命令进行备份: [root@cdh01 dfs]# mkdir nn_metadata_back [root@cdh01 dfs]# hdfs dfsadmin -fetchImage nn_metadata_back/ [root@cdh01 dfs]# ll nn_metadata_back 2.2 备份edits数据(该操作适用非HA的…
文章来自:http://www.cnblogs.com/hark0623/p/4177794.html 转载请注明 其实问题很简单,因为在CDH中hdfs-site.xml配置文件中WEB UI配置的是域名,而域名在Hosts又被解析成内网IP. 你使用netstat -apn | grep 50700看一下监听情况. 你会发现监听的是你的内网IP,而不是外网IP,所以HDFS的WEB UI就无法访问啦. 解决办法:如果你使用的是Apache Hadoop,那么需要去手动修改hdfs-site.…
配置core-site.xml 配置hdfs-site.xml 配置mapred-site.xml 配置yarn-site.xml 纷发至其他节点 修改RM 2 ..N 上面的节点信息 格式化ZK hdfs zkfc -formatZK 初始化journalnode : hdfs namenode -initializeSharedEdits 操作之前需要先启动各journalnode节点的进程, 否则格式化不成功. 从非HA转成HA不需要重新格式化数据.按此操作即可.…
NN与2NN工作机制 思考:NameNode中的元数据是存储在哪里的? 假设存储在NameNode节点的硬盘中,因为经常需要随机访问和响应客户请求,必然效率太低,所以是存储在内存中的 但是,如果存储在内存中,一旦断电,元数据丢失,整个集群便无法工作,因此会在硬盘中产生备份元数据的Fsimage 但是这样又会有新的问题出现,当内存中的元数据更新时,需要同时更新Fsimage,否则会发生一致性的问题: 但要更新的话,又会导致效率过低 因此,又引入了Edits文件,用来记录客户端更新元数据的每一步操作…
原文:第三篇--第二部分--第四文 配置SQL Server镜像--非域环境 本文为非域环境搭建镜像演示,对于域环境搭建,可参照上文:http://blog.csdn.net/dba_huangzj/article/details/28904503 原文出处:http://blog.csdn.net/dba_huangzj/article/details/27652857 前面已经演示了域环境下的镜像搭建,本文将使用非域环境来搭建镜像,同样,先按照不带见证服务器的高安全模式(同步)的方式搭建,然…
五.准备HA环境1.准备yum源a.安装vsftp服务,将光盘镜像copy到本地ftp目录作为yum源.[root@s1 ~]# mount 可以看到cdrom已经挂载了,首先安装vsftp服务[root@s1 ~]# cd /media/RHEL_6.3\ x86_64\ Disc\ 1/Packages/[root@s1 Packages]# rpm -ivh vsftpd-2.2.2-11.el6.x86_64.rpm[root@s1 Packages]# rpm -ivh ftp*b.启…
目前项目中有个需求,需要在WebForm中去构造MVC的URL信息,这里写了一个帮助类可以在ASP.NET非MVC环境中(WebForm中)构造MVC的URL信息,主要就是借助当前Http上下文去构造System.Web.Mvc.UrlHelper类. using System; using System.Configuration; using System.Web; using System.Web.Mvc; using System.Web.Routing; namespace Retai…
八.HA环境下配置多节点的sshVIP(s1):[root@s1 ~]# mkdir /opt/PostgresPlus/9.2AS/.ssh[root@s1 ~]# chown enterprisedb.enterprisedb /opt/PostgresPlus/9.2AS/.ssh/[root@s1 ~]# su enterprisedbbash-4.1$ ssh-keygen -t rsa -C "enterprisedb key" bash-4.1$ scp ~/.ssh/i…
目前项目中有个需求,需要在WebForm中去构造MVC的URL信息,这里写了一个帮助类可以在ASP.NET非MVC环境中(WebForm中)构造MVC的URL信息,主要就是借助当前Http上下文去构造System.Web.Mvc.UrlHelper类. using System; using System.Configuration; using System.Web; using System.Web.Mvc; using System.Web.Routing; namespace Retai…
1. hadoop中HDFS的NameNode原理 1.1. 组成 包括HDFS(分布式文件系统),YARN(分布式资源调度系统),MapReduce(分布式计算系统),等等. 1.2. HDFS架构原理 比如现在要上传一个1T的大文件,提交给HDFS的Active NameNode(用以存放文件目录树,权限设置,副本数设置等),它会在指定目录下创建一个新的文件对象,比如access_20180101.log 至于具体数据,它会将它拆分后进行分布式存储,分散在各个DataNode节点,且默认都会…