MongoDB学习笔记——Replica Set副本集
副本集
可以将MongoDB中的副本集看作一组服务器集群由一个主节点和多个副本节点等组成,相对于之前讲到的主从复制提供了故障自动转移的功能
副本集实现数据同步的方式依赖于local数据库中的oplog数据
- oplog是存在与主节点或副本节点上的local数据库中的一个固定集合,记录了每一次主节点的写操作,或副本节点每一次从主节点复制数据的操作
- 备份节点通过定时从主节点获取oplog数据,并在本机执行这些操作来实现主从复制的功能,同样的每个副本节点也可以作为数据源给其他成员使用
- 备份节点在本机上执行完从主节点获取到的oplog数据后,会在自己的local数据库中记录这些的操作
- 如果某个副本节点由于某些原因宕机了,当重启后会从oplog中最后一个操作开始进行同步,由于复制过程是先进行复制再写入本机oplog的,所以副本节点可能会在已经同步过的数据上再次执行复制操作,不过oplog中的统一操作执行多次与执行一次效果是一样的
oplog字段说明
- ts:执行某个操作的时间戳
- op:操作类型(i-insert;d-delete;u-update)
- ns:操作的集合的名称
- o:document的内容
副本集中的各种角色
- 主节点——有且只有一个,默认处理了所有的客户端请求(读和写)
- 副本节点——可以有多个,保存主节点的副本数据,当主节点出问题时可以通过投票升级为主节点,可以处理客户端的只读请求
- 仲裁节点——不进行数据复制存储,也不为客户端提供服务,唯一的作用是进行故障转移时的投票,选举出新的主节点
仲裁节点一旦被设置则永远不能成为非仲裁节点,反之一样
一个副本集集群中最多只能有一个仲裁节点,如果节点总数为基数时就不需要配置仲裁节点了,因为仲裁节点的作用就是在节点总数为偶数时,如果一半投票给A,一半头片给B这时仲裁节点就持有关键性的一票
如果有可能尽量使用奇数的集群节点,不要使用仲裁节点 - 隐藏节点——不为客户端提供服务,永远不会成为主节点但是会参与投票,进行数据的复制存储,一般用作数据备份
如果要设置一个节点为隐藏设置其hidden属性为true即可
只有优先级priority=0的节点才能被设置为隐藏 - 延迟同步节点——一般会人为设置一个延迟时间(单位秒)来从主节点同步数据,主要就是用于数据的备份,当数据库发生毁灭性灾难时进行数据恢复
延迟同步节点的优先级priority=0并且是隐藏节点,避免读请求被路由到延迟同步节点上
通过属性slaveDelay(单位秒)来设置一个节点的延迟同步时间 - Secondary-Only——通常将性能不高的节点设置为此类型,防止其成为主节点,优先级priority=0
- 个时才会被使用,通过votes=0设置其为Non-Voting节点
部署副本集
创建主从key文件,用于表示集群私钥的完整路径,如果各个实例的密钥不一致则程序不能正常使用
openssl rand -base64 100 > key
创建数据库目录及日志目录并修改其配置文件
//replica set 0
systemLog:
path: D:\mongodb\replicaSet\rs0\logs\mongodb.log
logAppend: true
destination: file
storage:
dbPath: D:\mongodb\replicaSet\rs0\data
net:
port: 27017
bindIp: 127.0.0.1
security:
keyFile: D:\mongodb\replicaSet\rs0\key
replication:
replSetName: replcaSetTest
secondaryIndexPrefetch: all
//relica set 1
systemLog:
path: D:\mongodb\replicaSet\rs1\logs\mongodb.log
logAppend: true
destination: file
storage:
dbPath: D:\mongodb\replicaSet\rs1\data
net:
port: 27018
bindIp: 127.0.0.1
security:
keyFile: D:\mongodb\replicaSet\rs1\key
replication:
replSetName: replcaSetTest
secondaryIndexPrefetch: all
//relica set 2
systemLog:
path: D:\mongodb\replicaSet\rs2\logs\mongodb.log
logAppend: true
destination: file
storage:
dbPath: D:\mongodb\replicaSet\rs2\data
net:
port: 27019
bindIp: 127.0.0.1
security:
keyFile: D:\mongodb\replicaSet\rs2\key
replication:
replSetName: replcaSetTest
secondaryIndexPrefetch: all
启动以上三个实例
mongod -config D:\mongodb\replicaSet\rs0\mongodb.conf
mongod -config D:\mongodb\replicaSet\rs1\mongodb.conf
mongod -config D:\mongodb\replicaSet\rs2\mongodb.conf
配置及初始化副本集
rsConfig = {
_id: "replcaSetTest",
members: [{ _id: 0, host: "127.0.0.1:27017" },
{ _id: 1, host: "127.0.0.1:27018" },
{ _id: 2, host: "127.0.0.1:27019" }
]
};
rs.initiate(rsConfig);
_id就是启动MongoDB实例时设置的副本集名称,一定要保障两处副本集名称一致 members副本集成员数组,一个唯一的数值类型的_id,一个主机名 rs.initiate()函数用来初始化副本集
输入rs.config()查询配置修改是否成功,竟然提示没有权限
rs.config()
2016-11-23T17:18:00.689+0800 E QUERY [thread1] Error: Could not retrieve replica set config: {
"ok" : 0,
"errmsg" : "not authorized on admin to execute command { replSetGetConfig: 1.0 }",
"code" : 13
}
执行以下名称创建创建管理员账户,并授予权限,创建成功后执行db.auth() 命令进行登录授权
db.createUser({
user: 'admin',
pwd: 'mongodb_123',
roles: [{ "role": "clusterAdmin", "db": "admin" },
{ "role": "userAdminAnyDatabase", "db": "admin" },
{ "role": "dbAdminAnyDatabase", "db": "admin" },
{ role: "root", db: "admin" }
]
})
db.auth("admin","mongodb_123")
再次执行rs.config()得到以下信息
rs.config()
{
"_id" : "replcaSetTest",
"version" : 1,
"protocolVersion" : NumberLong(1),
"members" : [
{
"_id" : 0,
"host" : "127.0.0.1:27017",
"arbiterOnly" : false,
"buildIndexes" : true,
"hidden" : false,
"priority" : 1,
"tags" : {
},
"slaveDelay" : NumberLong(0),
"votes" : 1
},
{
"_id" : 1,
"host" : "127.0.0.1:27018",
"arbiterOnly" : false,
"buildIndexes" : true,
"hidden" : false,
"priority" : 1,
"tags" : {
},
"slaveDelay" : NumberLong(0),
"votes" : 1
},
{
"_id" : 2,
"host" : "127.0.0.1:27019",
"arbiterOnly" : false,
"buildIndexes" : true,
"hidden" : false,
"priority" : 1,
"tags" : {
},
"slaveDelay" : NumberLong(0),
"votes" : 1
}
],
"settings" : {
"chainingAllowed" : true,
"heartbeatIntervalMillis" : 2000,
"heartbeatTimeoutSecs" : 10,
"electionTimeoutMillis" : 10000,
"getLastErrorModes" : {
},
"getLastErrorDefaults" : {
"w" : 1,
"wtimeout" : 0
},
"replicaSetId" : ObjectId("5835597e61b9c2f7c562b9b0")
}
}
version 在每次修改副本集配置时都会递增,初始值为1 rs.starus()或rs.isMaster() 指令可以查询当前副本集的状态
local数据库中不仅有oplog日志集合,还有一个用于记录主从配置信息的集——system.replset 通过这个集合可以查看副本集的配置信息当然在每个实例上执行rs.config()或rs.conf()也能达到同样的效果
db.system.replset.find()
在主节点上创建测试数据
use myReplSetTest
for (i = 5000; i < 100000; i++) {
db.users.insert({
"i": i,
"userName": "user" + i,
"age": Math.floor(Math.random() * 120),
"created": new Date(),
total: Math.floor(Math.random() * 100) * i
})
}
db.users.find()
在主节点上执行查询OK,但是当在副本节点进行执行是则报错,提示不是主节点并且slaveOk=false不能执行查询操作
QUERY [thread1] Error: listCollections failed: { "ok" : 0, "errmsg" : "not master and slaveOk=false", "code" : 13435 }
在副本节点中执行名称db.setSlaveOk()让副本节点可以读取数据,分单主库压力达到读写分离的效果,再次执行db.users.find()就正常了
副本集管理
rs.add()可以添加节点
添加节点的方式有两种: 1.通过oplog直接添加,这种方式添加节点过程中不需要过多的人工干预就可以完成,但是如果频繁的插入修改等操作会导致oplog数据较大,在进行复制时会使源节点的压力较大
并且oplog是固定集合,因为他的特性可能会导致复制的数据不一致 2.通过数据库快照(--fastsync)获取某一个副本节点的物理文件来做初始化数据,剩余的部分通过oplog日志进行追加可以解决上述的问题,
来新增节点,方式同创建mongodb副本集(创建对应的数据文件夹,修改配置文件,启动mongodb实例)
systemLog:
path: D:\mongodb\replicaSet\rs3\logs\mongodb.log
logAppend: true
destination: file
storage:
dbPath: D:\mongodb\replicaSet\rs3\data
net:
port: 27020
bindIp: 127.0.0.1
security:
keyFile: D:\mongodb\replicaSet\rs3\key
replication:
replSetName: replcaSetTest
secondaryIndexPrefetch: all
mongod -config D:\mongodb\replicaSet\rs3\mongodb.conf
//主节点中执行
rs.add("127.0.0.1:27020");
使用方式2 进行节点新增 1.复制rs3中文件至文件夹rs4 2.修改配置文件如下: 3.启动新的mongodb实例
systemLog:
path: D:\mongodb\replicaSet\rs4\logs\mongodb.log
logAppend: true
destination: file
storage:
dbPath: D:\mongodb\replicaSet\rs4\data
net:
port: 27021
bindIp: 127.0.0.1
security:
keyFile: D:\mongodb\replicaSet\rs4\key
replication:
replSetName: replcaSetTest
secondaryIndexPrefetch: all
mongod -config D:\mongodb\replicaSet\rs3\mongodb.conf
//主节点中添加测试数据
db.usertest.insert({name:1})
//主节点中执行
rs.add("127.0.0.1:27021");
//新添加的副本节点中执行show collections 发现已经同步
rs.remove()可以进行节点移除
rs.remove("127.0.0.1:27020");
rs.reconfig()可以修改副本集配置,特别是针对复杂的副本集配置,比rs.add()和rs.remove()更有效
config = rs.config();
config.members[1].priority = 20;
rs.reconfig(config);
以上命令修改了 127.0.0.1:27018的优先级,发现修改完成后自动切换为了主节点,通过命令rs.status()可以查看
副本集监控
主节点中执行 db.printReplicationInfo() 命令可以查看oplog信息
- configured oplog size——配置的oplog文件大小
- log length start to end——oplog日志的启用时间段
- oplog first event time——第一个事务日志产生的时间
- oplog last event time——最后一个事务日志产生的时间
- now——当前时间
副本节点中执行db.printSlaveReplicationInfo()命令可以查看同步状态信息
- source——从库的IP及端口
- syncedTo——当前的同步情况,,延迟了多久等信息
MongoDB学习笔记——Replica Set副本集的更多相关文章
- mongodb replica set(副本集)设置步骤
网上已经有一大堆的设置步骤的了,根据我遇到的问题,整理一下,如下: 首先先去下载一个mongodb最新版,目前最新版应该是2.6 cd /usr/local/bin wget http://fastd ...
- MongoDB学习笔记(六)--复制集+sharding分片 && 总结
复制集+sharding分片 背景 主机 IP 服务及端口 Server A ...
- MongoDB学习笔记(五)--复制集 && sharding分片
主从复制 主从节点开启 主节 ...
- mongoDB 学习笔记纯干货(mongoose、增删改查、聚合、索引、连接、备份与恢复、监控等等)
最后更新时间:2017-07-13 11:10:49 原始文章链接:http://www.lovebxm.com/2017/07/13/mongodb_primer/ MongoDB - 简介 官网: ...
- MongoDB学习笔记:快速入门
MongoDB学习笔记:快速入门 一.MongoDB 简介 MongoDB 是由C++语言编写的,是一个基于分布式文件存储的开源数据库系统.在高负载的情况下,添加更多的节点,可以保证服务器性能.M ...
- MongoDB学习笔记系列
回到占占推荐博客索引 该来的总会来的,Ef,Redis,MVC甚至Sqlserver都有了自己的系列,MongoDB没有理由不去整理一下,这个系列都是平时在项目开发时总结出来的,希望可以为各位一些帮助 ...
- MongoDB学习笔记系列~目录
MongoDB学习笔记~环境搭建 (2015-03-30 10:34) MongoDB学习笔记~MongoDBRepository仓储的实现 (2015-04-08 12:00) MongoDB学习笔 ...
- MongoDB学习笔记:MongoDB 数据库的命名、设计规范
MongoDB学习笔记:MongoDB 数据库的命名.设计规范 第一部分,我们先说命名规范. 文档 设计约束 UTF-8 字符 不能包含 \0 字符(空字符),这个字符标识建的结尾 . 和 $ ...
- PHP操作MongoDB学习笔记
<?php/*** PHP操作MongoDB学习笔记*///*************************//** 连接MongoDB数据库 **////*************** ...
随机推荐
- 使用NISI制作.Net程序服务安装包
1.开篇之前先说一说NISI是什么. NSIS(Nullsoft Scriptable Install System)是一个开源的 Windows 系统下安装程序制作程序.它提供了安装.卸载.系统设置 ...
- Scalaz(14)- Monad:函数组合-Kleisli to Reader
Monad Reader就是一种函数的组合.在scalaz里函数(function)本身就是Monad,自然也就是Functor和applicative.我们可以用Monadic方法进行函数组合: i ...
- First day on cnblogs,破壳日~~
突然很想找个地方写一点文章,又想到了这个老账号:没有因长期静默被删号实在是很感动...好吧,就这样纪念一下.第一天. I suddenly wanna write something and reca ...
- 【原创】SQLServer将数据导出为SQL脚本的方法
最近很多同学问到一个问题,如何将MSSQLServer的数据库以及里面的数据导出为SQL脚本,主要问的是MSSQLServer2000和2005,因为2008的管理器已经有了这个功能,2000和200 ...
- Linux学习笔记16--Linux扩展权限
默认权限: 每一个终端都有一个umask属性,用于确定新建文件.新文件夹的默认权限. umask使用数字权限方式表示,如:022 一般来说,普通用户的默认umask是002,root用户的默认um ...
- (原) 1.1 Zookeeper单机安装
本文为原创文章,转载请注明出处,谢谢 zookeeper 单机安装配置 1.安装前准备 linux系统(此文环境为Centos6.5) Zookeeper安装包,官网https://zookeeper ...
- ADO.NET操作数据库(一)
---恢复内容开始--- [1]ADO.Net简介2015-12-07-20:16:05 ADO.Net提供对Microsoft SQL Server数据源以及通过OLE DB和XML公开的数据源的一 ...
- 65行 JavaScript 代码实现 Flappy Bird 游戏
飞扬的小鸟(Flappy Bird)无疑是2014年全世界最受关注的一款游戏.这款游戏是一位来自越南河内的独立游戏开发者阮哈东开发,形式简易但难度极高的休闲游戏,很容易让人上瘾. 这里给大家分享一篇这 ...
- JavaScript 开发者经常忽略或误用的七个基础知识点(转)
JavaScript 本身可以算是一门简单的语言,但我们也不断用智慧和灵活的模式来改进它.昨天我们将这些模式应用到了 JavaScript 框架中,今天这些框架又驱动了我们的 Web 应用程序.很多新 ...
- 操作系统开发系列—12.c.从Loader加载ELF内核,顺便解释下函数调用过程 ●
实际上,我们要做的工作是根据内核的Program header table的信息进行类似下面这个C语言语句的内存复制: memcpy(p_vaddr, BaseOfLoaderPhyAddr+p_of ...