一、分片的概念

1.有了副本集，为什么还需要分片？

副本集资源利用率不高

分片可以提高资源利用率

2.分片的缺点

理想情况下需要机器比较多

配置和运维变得复杂且困难

提前规划好特别重要，一旦建立后在想改变架构变得很困难

二、 分片工作原理

**1.路由服务mongos **

路由服务，提供代理，替用户去向后请求shard分片的数据

2.数据节点shard

负责处理数据的节点，每个shard都是分片集群的一部分

**3.分片配置信息服务器config **

保存数据分配在哪个shard上

保存所有shard的配置信

提供给mongos查询服务

4.片键

数据存放到哪个shard的区分规则

片键就是索引

选择片键的依据：

能够被经常访问到的字段

索引字段基数够大

分类：

区间片键

id  name   host  sex

1	zhang  SH	 boy

2   ya     BJ    boy

3   yaya   SZ    girl

如果以id作为片键：

索引：id

1-100   shard1

100-200 shard2

200-300 shard3

300-+无穷 shard4

如果以host作为片键：

SH  shard1

BJ  shard2

SZ  shard3 

hash片键:

足够平均，足够随机

id  name   host  sex

1	zhang  SH	 boy

2   ya     BJ    boy

3   yaya   SZ    girl

如果以id作为片键：

索引：id

1	hash 之后 shard2

2   hash 之后 shard3

3   hash 之后 shard1

三、IP端口目录规划

1.IP端口规划

1.IP端口规划

db01	10.0.0.51

		Shard1_Master	28100

		Shard2_Slave	28200

		Shard3_Arbiter	28300

		Config Server	40000

		mongos Server	60000

db02	10.0.0.52

		Shard2_Master	28100

		Shard3_Slave	28200

		Shard1_Arbiter	28300

		Config Server	40000

		mongos Server	60000

db03	10.0.0.53

		Shard3_Master	28100

		Shard1_Slave	28200

		Shard2_Arbiter	28300

		Config Server	40000

		mongos Server	60000

2.目录规划

服务目录：

/opt/master/{conf,log,pid}

/opt/slave//{conf,log,pid}

/opt/arbiter/{conf,log,pid}

/data/config/{conf,log,pid}

/data/mongos/{conf,log,pid}

数据目录：

/data/master/

/data/slave/

/data/arbiter/

/data/config/s

四、分片集群搭建副本集步骤

1.安装软件

注意：三台服务器都操作！！！

tar xf mongodb-linux-x86_64-3.6.13.tgz -C /opt/

ln -s /opt/mongodb-linux-x86_64-3.6.13 /opt/mongodb

echo 'export PATH=$PATH:/opt/mongodb/bin' >> /etc/profile

source /etc/profile

2.创建目录

注意：三台服务器都操作！！！

mkdir -p /opt/master/{conf,log,pid}

mkdir -p /opt/slave/{conf,log,pid}

mkdir -p /opt/arbiter/{conf,log,pid}

mkdir -p /data/master/

mkdir -p /data/slave/

mkdir -p /data/arbiter/

3.创建配置文件

db01创建配置文件

#master节点配置文件

cat >/opt/master/conf/mongod.conf  <<EOF

systemLog:

  destination: file

  logAppend: true

  path: /opt/master/log/mongodb.log

storage:

  journal:

    enabled: true

  dbPath: /data/master/

  directoryPerDB: true

  wiredTiger:

    engineConfig:

      cacheSizeGB: 1

      directoryForIndexes: true

    collectionConfig:

      blockCompressor: zlib

    indexConfig:

      prefixCompression: true

processManagement:

  fork: true

  pidFilePath: /opt/master/pid/mongodb.pid

  timeZoneInfo: /usr/share/zoneinfo

net:

  port: 28100

  bindIp: 127.0.0.1,$(ifconfig eth0|awk 'NR==2{print $2}')

replication:

  oplogSizeMB: 1024

  replSetName: shard1

sharding:

  clusterRole: shardsvr

EOF

#slave节点配置文件

cat >/opt/slave/conf/mongod.conf  <<EOF

systemLog:

  destination: file

  logAppend: true

  path: /opt/slave/log/mongodb.log

storage:

  journal:

    enabled: true

  dbPath: /data/slave/

  directoryPerDB: true

  wiredTiger:

    engineConfig:

      cacheSizeGB: 1

      directoryForIndexes: true

    collectionConfig:

      blockCompressor: zlib

    indexConfig:

      prefixCompression: true

processManagement:

  fork: true

  pidFilePath: /opt/slave/pid/mongodb.pid

  timeZoneInfo: /usr/share/zoneinfo

net:

  port: 28200

  bindIp: 127.0.0.1,$(ifconfig eth0|awk 'NR==2{print $2}')

replication:

  oplogSizeMB: 1024

  replSetName: shard2

sharding:

  clusterRole: shardsvr

EOF

#aribiter节点配置文件

cat >/opt/arbiter/conf/mongod.conf<<EOF

systemLog:

  destination: file

  logAppend: true

  path: /opt/arbiter/log/mongodb.log

storage:

  journal:

    enabled: true

  dbPath: /data/arbiter/

  directoryPerDB: true

  wiredTiger:

    engineConfig:

      cacheSizeGB: 1

      directoryForIndexes: true

    collectionConfig:

      blockCompressor: zlib

    indexConfig:

      prefixCompression: true

processManagement:

  fork: true

  pidFilePath: /opt/arbiter/pid/mongodb.pid

  timeZoneInfo: /usr/share/zoneinfo

net:

  port: 28300

  bindIp: 127.0.0.1,$(ifconfig eth0|awk 'NR==2{print $2}')

replication:

  oplogSizeMB: 1024

  replSetName: shard3

sharding:

  clusterRole: shardsvr

EOF

##############################################################################

db02创建配置文件

#master节点配置文件

cat >/opt/master/conf/mongod.conf  <<EOF

systemLog:

  destination: file

  logAppend: true

  path: /opt/master/log/mongodb.log

storage:

  journal:

    enabled: true

  dbPath: /data/master/

  directoryPerDB: true

  wiredTiger:

    engineConfig:

      cacheSizeGB: 1

      directoryForIndexes: true

    collectionConfig:

      blockCompressor: zlib

    indexConfig:

      prefixCompression: true

processManagement:

  fork: true

  pidFilePath: /opt/master/pid/mongodb.pid

  timeZoneInfo: /usr/share/zoneinfo

net:

  port: 28100

  bindIp: 127.0.0.1,$(ifconfig eth0|awk 'NR==2{print $2}')

replication:

  oplogSizeMB: 1024

  replSetName: shard2

sharding:

  clusterRole: shardsvr

EOF

#slave节点配置文件

cat >/opt/slave/conf/mongod.conf  <<EOF

systemLog:

  destination: file

  logAppend: true

  path: /opt/slave/log/mongodb.log

storage:

  journal:

    enabled: true

  dbPath: /data/slave/

  directoryPerDB: true

  wiredTiger:

    engineConfig:

      cacheSizeGB: 1

      directoryForIndexes: true

    collectionConfig:

      blockCompressor: zlib

    indexConfig:

      prefixCompression: true

processManagement:

  fork: true

  pidFilePath: /opt/slave/pid/mongodb.pid

  timeZoneInfo: /usr/share/zoneinfo

net:

  port: 28200

  bindIp: 127.0.0.1,$(ifconfig eth0|awk 'NR==2{print $2}')

replication:

  oplogSizeMB: 1024

  replSetName: shard3

sharding:

  clusterRole: shardsvr

EOF

#aribiter节点配置文件

cat >/opt/arbiter/conf/mongod.conf  <<EOF

systemLog:

  destination: file

  logAppend: true

  path: /opt/arbiter/log/mongodb.log

storage:

  journal:

    enabled: true

  dbPath: /data/arbiter/

  directoryPerDB: true

  wiredTiger:

    engineConfig:

      cacheSizeGB: 1

      directoryForIndexes: true

    collectionConfig:

      blockCompressor: zlib

    indexConfig:

      prefixCompression: true

processManagement:

  fork: true

  pidFilePath: /opt/arbiter/pid/mongodb.pid

  timeZoneInfo: /usr/share/zoneinfo

net:

  port: 28300

  bindIp: 127.0.0.1,$(ifconfig eth0|awk 'NR==2{print $2}')

replication:

  oplogSizeMB: 1024

  replSetName: shard1

sharding:

  clusterRole: shardsvr

EOF

db03创建配置文件

#master节点配置文件

cat >/opt/master/conf/mongod.conf  <<EOF

systemLog:

  destination: file

  logAppend: true

  path: /opt/master/log/mongod.log

storage:

  journal:

    enabled: true

  dbPath: /data/master/

  directoryPerDB: true

  wiredTiger:

    engineConfig:

      cacheSizeGB: 1

      directoryForIndexes: true

    collectionConfig:

      blockCompressor: zlib

    indexConfig:

      prefixCompression: true

processManagement:

  fork: true

  pidFilePath: /opt/master/pid/mongodb.pid

  timeZoneInfo: /usr/share/zoneinfo

net:

  port: 28100

  bindIp: 127.0.0.1,$(ifconfig eth0|awk 'NR==2{print $2}')

replication:

  oplogSizeMB: 1024

  replSetName: shard3

sharding:

  clusterRole: shardsvr

EOF

#slave节点配置文件

cat >/opt/slave/conf/mongod.conf  <<EOF

systemLog:

  destination: file

  logAppend: true

  path: /opt/slave/log/mongodb.log

storage:

  journal:

    enabled: true

  dbPath: /data/slave/

  directoryPerDB: true

  wiredTiger:

    engineConfig:

      cacheSizeGB: 1

      directoryForIndexes: true

    collectionConfig:

      blockCompressor: zlib

    indexConfig:

      prefixCompression: true

processManagement:

  fork: true

  pidFilePath: /opt/slave/pid/mongod.pid

  timeZoneInfo: /usr/share/zoneinfo

net:

  port: 28200

  bindIp: 127.0.0.1,$(ifconfig eth0|awk 'NR==2{print $2}')

replication:

  oplogSizeMB: 1024

  replSetName: shard1

sharding:

  clusterRole: shardsvr

EOF

#aribiter节点配置文件

cat >/opt/arbiter/conf/mongod.conf  <<EOF

systemLog:

  destination: file

  logAppend: true

  path: /opt/arbiter/log/mongodb.log

storage:

  journal:

    enabled: true

  dbPath: /data/arbiter/

  directoryPerDB: true

  wiredTiger:

    engineConfig:

      cacheSizeGB: 1

      directoryForIndexes: true

    collectionConfig:

      blockCompressor: zlib

    indexConfig:

      prefixCompression: true

processManagement:

  fork: true

  pidFilePath: /opt/arbiter/pid/mongod.pid

  timeZoneInfo: /usr/share/zoneinfo

net:

  port: 28300

  bindIp: 127.0.0.1,$(ifconfig eth0|awk 'NR==2{print $2}')

replication:

  oplogSizeMB: 1024

  replSetName: shard2

sharding:

  clusterRole: shardsvr

EOF

4.优化警告

注意！三台服务器都操作！！！

useradd mongod -s /sbin/nologin -M

echo "never"  > /sys/kernel/mm/transparent_hugepage/enabled

echo "never"  > /sys/kernel/mm/transparent_hugepage/defrag

5.启动服务

mongod -f /opt/master/conf/mongod.conf

mongod -f /opt/slave/conf/mongod.conf

mongod -f /opt/arbiter/conf/mongod.conf

netstat -lntup|grep mongod

6.初始化副本集

#db01 master节点初始化shard1的副本

mongo --port 28100

rs.initiate()

rs.add("10.0.0.53:28200")

rs.addArb("10.0.0.52:28300")

#db02 master节点初始化shard2的副本

mongo --port 28100

config = {

	_id:"shard2",

	members:[

		{_id:0,host:"10.0.0.52:28100"},

		{_id:1,host:"10.0.0.51:28200"},

		{_id:2,host:"10.0.0.53:28300",arbiterOnly:true},

	]

}

rs.initiate(config)

#db03 master节点初始化shard3的副本

mongo --port 28100

config = {

	_id:"shard3",

	members:[

		{_id:0,host:"10.0.0.53:28100"},

		{_id:1,host:"10.0.0.52:28200"},

		{_id:2,host:"10.0.0.51:28300",arbiterOnly:true},

	]

}

rs.initiate(config)

7.检查命令

mongo --port 28100

rs.status()

五、分片集群搭建config步骤

1.创建目录

mkdir -p /opt/config/{conf,log,pid}

mkdir -p /data/config/

2.创建配置文件

cat >/opt/config/conf/mongod.conf  <<EOF

systemLog:

  destination: file

  logAppend: true

  path: /opt/config/log/mongodb.log

storage:

  journal:

    enabled: true

  dbPath: /data/config/

  directoryPerDB: true

  wiredTiger:

    engineConfig:

      cacheSizeGB: 1

      directoryForIndexes: true

    collectionConfig:

      blockCompressor: zlib

    indexConfig:

      prefixCompression: true

processManagement:

  fork: true

  pidFilePath: /opt/config/pid/mongod.pid

  timeZoneInfo: /usr/share/zoneinfo

net:

  port: 40000

  bindIp: 127.0.0.1,$(ifconfig eth0|awk 'NR==2{print $2}')

replication:

  replSetName: configset

sharding:

  clusterRole: configsvr

EOF

3.启动

mongod -f /opt/config/conf/mongod.conf

4.初始化副本集

mongo localhost:40000

rs.initiate({

	_id:"configset",

    configsvr: true,

	members:[

		{_id:0,host:"10.0.0.51:40000"},

		{_id:1,host:"10.0.0.52:40000"},

		{_id:2,host:"10.0.0.53:40000"},

	] })

5.检查

rs.status()

六、mongos配置

1.创建目录

mkdir -p /opt/mongos/{conf,log,pid}

2.创建配置文件

cat >/opt/mongos/conf/mongos.conf  <<EOF

systemLog:

  destination: file

  logAppend: true

  path: /opt/mongos/log/mongos.log

processManagement:

  fork: true

  pidFilePath: /opt/mongos/pid/mongos.pid

  timeZoneInfo: /usr/share/zoneinfo

net:

  port: 60000

  bindIp: 127.0.0.1,$(ifconfig eth0|awk 'NR==2{print $2}')

sharding:

  configDB:

    configset/10.0.0.51:40000,10.0.0.52:40000,10.0.0.53:40000

EOF

3.启动

mongos -f /opt/mongos/conf/mongos.conf

4.登录

mongo --port 60000

七、分片配置

#1.区间分片：

数据库开启分片

mongo localhost:60000 .

#先切换到admin库下

use admin

db.runCommand( { enablesharding : "test" } )

#创建索引

mongo localhost:60000

#进到test库

mongos> use test

switched to db test

db.range.ensureIndex( { id: 1 } )

#对集合开启分片，片键是id

use admin

db.runCommand( { shardcollection : "test.range",key : {id: 1} } )

#插入测试数据

use test

for(i=1;i<10000;i++){ db.range.insert({"id":i,"name":"shanghai","age":28,"date":new Date()}); }

db.range.stats()

db.range.count()

#hash分片：

数据库开启分片

mongo --port 60000

use admin

db.runCommand( { enablesharding : "oldboy" } )

#创建索引

use oldboy

db.hash.ensureIndex( { id: "hashed" } )

#集合开启哈希分片

use admin

sh.shardCollection( "oldboy.hash", { id: "hashed" } )

#生成测试数据

use oldboy

for(i=1;i<10000;i++){ db.hash.insert({"id":i,"name":"shenzheng","age":70,"date":new Date()}); }

#分片验证

shard1

mongo db01:28100

use oldboy

db.hash.count()

33755

shard2

mongo db02:28100

use oldboy

db.hash.count()

33142

shard3

mongo db03:28100

use oldboy

db.hash.count()

33102

八、分片集群常用管理命令

1列出分片所有详细信息

db.printShardingStatus()

sh.status()

2列出所有分片成员信息

use admin

db.runCommand({ listshards : 1})

3列出开启分片的数据库

use config

db.databases.find({"partitioned": true })

4查看分片的片键

use config

db.collections.find().pretty()

5查看集合的分片信息

use test

db.getCollection('range').getShardDistribution()

db.getCollection('hash').getShardDistribution()

Mongo--04 Mongo分片集群的更多相关文章

  1. mongo 3.4分片集群系列之八：分片管理

    这个系列大致想跟大家分享以下篇章: 1.mongo 3.4分片集群系列之一:浅谈分片集群 2.mongo 3.4分片集群系列之二:搭建分片集群--哈希分片 3.mongo 3.4分片集群系列之三:搭建 ...

  2. mongo 3.4分片集群系列之七：配置数据库管理

    这个系列大致想跟大家分享以下篇章: 1.mongo 3.4分片集群系列之一:浅谈分片集群 2.mongo 3.4分片集群系列之二:搭建分片集群--哈希分片 3.mongo 3.4分片集群系列之三:搭建 ...

  3. mongo 3.4分片集群系列之六：详解配置数据库

    这个系列大致想跟大家分享以下篇章: 1.mongo 3.4分片集群系列之一:浅谈分片集群 2.mongo 3.4分片集群系列之二:搭建分片集群--哈希分片 3.mongo 3.4分片集群系列之三:搭建 ...

  4. mongo 3.4分片集群系列之五：详解平衡器

    这个系列大致想跟大家分享以下篇章: 1.mongo 3.4分片集群系列之一:浅谈分片集群 2.mongo 3.4分片集群系列之二:搭建分片集群--哈希分片 3.mongo 3.4分片集群系列之三:搭建 ...

  5. mongo 3.4分片集群系列之四：搭建分片集群--哈希分片 + 安全 + 区域

    这个系列大致想跟大家分享以下篇章: 1.mongo 3.4分片集群系列之一:浅谈分片集群 2.mongo 3.4分片集群系列之二:搭建分片集群--哈希分片 3.mongo 3.4分片集群系列之三:搭建 ...

  6. mongo 3.4分片集群系列之三：搭建分片集群--哈希分片 + 安全

    这个系列大致想跟大家分享以下篇章: 1.mongo 3.4分片集群系列之一:浅谈分片集群 2.mongo 3.4分片集群系列之二:搭建分片集群--哈希分片 3.mongo 3.4分片集群系列之三:搭建 ...

  7. mongo 3.4分片集群系列之二：搭建分片集群--哈希分片

    这个系列大致想跟大家分享以下篇章: 1.mongo 3.4分片集群系列之一:浅谈分片集群 2.mongo 3.4分片集群系列之二:搭建分片集群--哈希分片 3.mongo 3.4分片集群系列之三:搭建 ...

  8. mongo 3.4分片集群系列之一：浅谈分片集群

    这篇为理论篇,稍后会有实践篇. 这个系列大致想跟大家分享以下篇章: 1.mongo 3.4分片集群系列之一:浅谈分片集群 2.mongo 3.4分片集群系列之二:搭建分片集群--哈希分片 3.mong ...

  9. Mongo 整体架构介绍(1)-------分片集群

    摘要 在mongo初识文中介绍了mongo与cassandra的主要区别,以及mongo物理部署架构图.本文接着上一篇的mongo 架构图,来继续讲分片集群. 分片介绍 shard key mongo ...

随机推荐

  1. OI常用的常数优化小技巧

    注意:本文所介绍的优化并不是算法上的优化,那个就非常复杂了,不同题目有不同的优化.笔者要说的只是一些实用的常数优化小技巧,很简单,虽然效果可能不那么明显,但在对时间复杂度要求十分苛刻的时候,这些小的优 ...

  2. &&的运算顺序

    先判断“&&”左侧的表达式,左侧的表达式为真时,再运算右侧的表达式.如左侧为假,则不运算右侧.

  3. ACM ICPC 2011-2012 Northeastern European Regional Contest（NEERC）K Kingdom Roadmap

    K: 给你n个点以及n-1的条边, 问你最少要加多少条边,使得每两个点割去一条联通的边,还可以使的这两个点连通. 有个一个结论,最少添加的边数为(叶子节点数+1)/ 2. 我们可以只考虑叶子节点数应该 ...

  4. Nor Flash芯片特性分析

    Nor Flash是Intel在1988年推出的非易失闪存芯片,可随机读取,擦写时间长,可以擦写1~100W次,支持XIP(eXecute In Place). 本文以JS28F512M29EWH为例 ...

  5. value是列表的字典排序

    # -*- coding: utf-8 -*- def dict_test(): #构造Map并对其排序 attr_tul = list(['a','b','c']) one_tul = ,],[,] ...

  6. JS调用服务器端方法

    javascript函数中执行C#代码中的函数:方法一:1.首先建立一个按钮,在后台将调用或处理的内容写入button_click中;        2.在前台写一个js函数,内容为document. ...

  7. 阶段1 语言基础+高级_1-3-Java语言高级_09-基础加强_第3节 注解_18_注解_案例_简单的测试框架

    定义计算器的类 用注解的方式去测试计算器类里面 所有的方法 想验证哪个方法 就在方法的上面加上注解@check 执行TestCheck验证方法 控制台的输出 根目录生成了一个 bug.txt文件 重写 ...

  8. Microsoft.Office.Interop.Excel Find 操作

    public void SearchLoactions(string filepath, int start, int end ,string expectvalue) { if (end >= ...

  9. ActionList及Action使用

    ActionList及Action使用 https://blog.csdn.net/adamrao/article/details/7450889 2012年04月11日 19:09:27 阅读数:1 ...

  10. MAVEN打包时跳过Junit测试

    我们知道,通常情况下使用maven package命令打包时,会自动执行test包下的各个单元测试. 这是因为spring-boot-maven-plugin插件已经集成了maven-surefire ...