linux下构建MysqlCluster集群,NDB搜索引擎
搭建管理节点
Ndb搜索引擎对于服务器的内存要求比较高,因为所有数据节点的数据,以及索引,事务等等都需要加载进内存中。
下载 mysql-cluster-gpl-7.6.8-linux-glibc2.12-x86_64.tar.gz 集群压缩包上传至服务器,解压,这里说明一下文件解压后会比较大,尽量增大服务器的磁盘空间。
取出解压文件中的ndb_mgm文件拷贝到/usr/local/bin目录下 \cp -rf mysql-cluster-gpl-7.6.8-linux-glibc2.12-x86_64/bin/ndb_mgm* /usr/local/bin
赋予ndb_mgm可执行权限
创建 /var/lib/mysql-cluster文件夹
创建 /usr/local/mysql文件夹
创建 config.ini管理节点配置文件
例如:
[ndbd default]
NoOfReplicas=2
DataMemory=6G
IndexMemory=1G
MaxNoOfConcurrentTransactions=10240
MaxNoOfConcurrentOperations=100000
MaxNoOfOrderedIndexes=10000
NoOfFragmentLogFiles=128
TimeBetweenLocalCheckpoints=20
FragmentLogFileSize=256M
RedoBuffer=64M
TransactionDeadlockDetectionTimeout=15000
[MYSQLD DEFAULT]
[NDB_MGMD DEFAULT]
[TCP DEFAULT]
[ndb_mgmd]
NodeId=1
HostName=***.***.***.***
DataDir=/var/lib/mysql-cluster
[ndb_mgmd]
NodeId=2
HostName=***.***.***.***
DataDir=/var/lib/mysql-cluster
[ndbd]
NodeId=10
HostName=***.***.***.***
DataDir=/var/opt/mitec/mysql/data/
[ndbd]
NodeId=11
HostName=***.***.***.***
DataDir=/var/opt/mitec/mysql/data/
[ndbd]
NodeId=12
HostName=***.***.***.***
DataDir=/var/opt/mitec/mysql/data/
[ndbd]
NodeId=13
HostName=***.***.***.***
DataDir=/var/opt/mitec/mysql/data/
[mysqld]
NodeId=30
HostName=***.***.***.***
[mysqld]
NodeId=31
HostName=***.***.***.***
[mysqld]
NodeId=32
HostName=***.***.***.***
[mysqld]
NodeId=33
HostName=***.***.***.***
[mysqld]
[mysqld]
上面的配置是比较好的,对于中小型企业的业务量完全能吃的消百万级数据量完全够用,NoOfReplicas参数最大为4最小为2,这个参数代表数据节点的相互备份数。越大的话对于程序本身也是一种资源消耗。数据节点的数量必须能被NoOfReplicas参数整除,因为这个地方涉及到分区,有兴趣的小伙伴可以进一步了解。
config.ini文件配置完成后,将其拷贝到/var/lib/mysql-cluster文件夹下然后就可以进行管理节点的初始化了
首次初始化执行:ndb_mgmd -f /var/lib/mysql-cluster/config.ini --initial 。下次启动管理节点就不需要加 --initial参数。这里说明以下如果是两个管理节点话:主管理节点执行前面的命令,备管理节点执行:ndb_mgmd -c '主管理节点ip' --ndb-nodeid=2 --configdir=/var/lib/mysql-cluster
mysqlCluster提供监控集群状态的客户端:在sshd客户端执行:ndb_mgm命令, 使用show命令查看集群状态,这里客户端有重启数据节点,管理节点等命令,例如:‘节点id’ restart / '节点id' stop
修改config.ini配置文件可以使用(主)管理节点 ndb_mgmd -f /var/lib/mysql-cluster/config.ini --reload重新加载配置文件。
搭建sql节点
首先校验当前服务器是否有libaio-0.3.107-10.el6.x86_64.rpm,numactl-2.0.9-2.el6.x86_64.rpm包,没有的话yum安装一下,这两个包是支持mysql安装时用的。
创建mysql用户组,执行:groupadd mysql
创建mysql用户,执行:useradd -g mysql -s /bin/false mysql
创建安装目录:/var/opt/mitec/mysql。这个目录是可以自己指定的,这个目录的磁盘空间一定要大,最小15G,不然数据一多就宕机了。
赋予目录可执行权限:chown root:mysql :/var/opt/mitec/mysql
解压mysql-cluster-gpl-7.6.8-linux-glibc2.12-x86_64.tar.gz集群压缩包,解压目录至:/usr/local
创建mysql配置文件:执行 vi /etc/my.cnf 命令
my.cnf 文件 例如:
[mysqld]
ndbcluster
basedir=/var/opt/mitec/mysql
datadir=/var/opt/mitec/mysql/data
ndb-connectstring=‘管理节点ip(多个管理节点以 ,分割)’
default-storage-engine=NDBCLUSTER
query_cache_size=512M
key_buffer_size=384M
max_allowed_packet=128M
sort_buffer_size=6M
read_buffer_size=6M
sql_mode=NO_ENGINE_SUBSTITUTION,STRICT_TRANS_TABLES
[mysql_cluster]
ndb-connectstring=‘管理节点ip(多个管理节点以 ,分割)’
上述配置文件完成后开始初始化mysql服务
/var/opt/mitec/mysql/bin/mysqld --initialize ,这里时mysql5.7初始化,其他版本的自行查找资料,初始化完成后控制台会有产生一个随机密码,登录mysqli修改mysql密码配置远程登录就会用到这个密码。
赋予mysql用户权限 给mysql相关文件增加权限
chown -R root /var/opt/mitec/mysql
chown -R mysql /var/opt/mitec/mysql/data
chgrp -R mysql /var/opt/mitec/mysql
将mysql加入开机自起
cp -rf /var/opt/mitec/mysql/support-files/mysql.server /etc/rc.d/init.d/mysql
#改变mysql启动文件权限
chmod +x /etc/rc.d/init.d/mysql
chkconfig --add mysql
ln -s /var/opt/mitec/mysql/bin/mysql /usr/bin
启动msyql服务即可
搭建数据节点
这里我是将数据节点与mysql节点安装在了同一台服务器上
上述my.cnf配置文件中的
[mysql_cluster]
ndb-connectstring=‘管理节点ip(多个管理节点以 ,分割)’
是配置数据节点与管理节点之间的连接,也就是配置当前数据节点是否为集群的数据节点。
直接执行:/var/opt/mitec/mysql/bin/ndbd --initial 命令。数据节点初始化时需要将 --initial参数带上,初始化后在启动数据节点就不需要加上 --initial参数。
到这里整个集群就相当于搭建完成,登录管理节点客户端查看各各节点状态。
附录:
mysqlcluster集群也提供了数据备份数据恢复等功能,以及滚动添加数据节点,这个可以参考mysqlCluster官网进行操作。
管理节点的config.ini文件内部有很多的参数,参数很重要,参数配置的不正确会导致集群很不友好,会有很多错误产生。
我现在搭建的集群数据库表为内存表,也可以创建磁盘表。这个地方就需要根据需求而定。
集群节点的初始化顺序:管理节点初始化,数据节点初始化,sql节点初始化。
集群节点的关闭顺序:sql节点关闭,数据节点关闭,管理节点关闭。
如要转发请指明出处,谢谢!
linux下构建MysqlCluster集群,NDB搜索引擎的更多相关文章
- Linux下搭建tomcat集群全记录(转)
本文将讲述如何在Linux下搭建tomcat集群,以及搭建过程中可能的遇到的问题和解决方法.为简单起见,本文演示搭建的集群只有两个tomact节点外加一个apache组成,三者将安装在同一机器上:ap ...
- linux下配置tomcat集群的负载均衡
linux下配置tomcat集群的负载均衡 一.首先了解下与集群相关的几个概念集群:集群是一组协同工作的服务实体,用以提供比单一服务实体更具扩展性与可用性的服务平台.在客户端看来,一个集群就象是一个服 ...
- Linux下搭建tomcat集群全记录
(转) Linux下搭建tomcat集群全记录 2011-10-12 10:23 6133人阅读 评论(1) 收藏 举报 tomcatlinuxapacheinterceptorsession集群 1 ...
- 【Oracle 集群】Linux下Oracle RAC集群搭建之基本测试与使用(九)
Oracle 11G RAC数据库安装(九) 概述:写下本文档的初衷和动力,来源于上篇的<oracle基本操作手册>.oracle基本操作手册是作者研一假期对oracle基础知识学习的汇总 ...
- 170711、Linux下搭建MySQL集群
一.MySQL集群简介 1.什么是MySQL集群 MySQL集群是一个无共享的(shared-nothing).分布式节点架构的存储方案,其目的是提供容错性和高性能. 数据更新使用读已提交隔离级别(r ...
- 【转】【Oracle 集群】Linux下Oracle RAC集群搭建之基本测试与使用(九)
原文地址:http://www.cnblogs.com/baiboy/p/orc9.html 阅读目录 目录 检查RAC状态 检查创建的数据库 全部参考文献 相关文章 Oracle 11G RAC ...
- 【Oracle 集群】Linux下Oracle RAC集群搭建之Oracle DataBase安装(八)
Oracle 11G RAC数据库安装(八) 概述:写下本文档的初衷和动力,来源于上篇的<oracle基本操作手册>.oracle基本操作手册是作者研一假期对oracle基础知识学习的汇总 ...
- 【转】【Oracle 集群】Linux下Oracle RAC集群搭建之Oracle DataBase安装(八)
原文地址:http://www.cnblogs.com/baiboy/p/orc8.html 阅读目录 目录 数据库安装 参考文献 相关文章 Oracle 11G RAC数据库安装(八) 概述:写 ...
- Linux下安装zookeeper集群
首先,准备三台Linux虚拟机 三台机器 centos01 :192.168.1.168(lxs001) centos03 :192.168.1.178(lxs003) centos03 :1 ...
随机推荐
- Jetson tk1 刷机教程
前期准备: 1. Jetson TK1开发板. 2. 安装有ubuntu系统的PC(或者ubuntu虚拟机)切记:不管是PC还是虚拟机,务必确保有大于5G的存储空间,之后安装过程会作详细解释. 3 ...
- LOJ 3093: 洛谷 P5323: 「BJOI2019」光线
题目传送门:LOJ #3093. 题意简述: 有 \(n\) 面玻璃,第 \(i\) 面的透光率为 \(a\),反射率为 \(b\). 问把这 \(n\) 面玻璃按顺序叠在一起后,\(n\) 层玻璃的 ...
- Kaggle 泰坦尼克
入门kaggle,开始机器学习应用之旅. 参看一些入门的博客,感觉pandas,sklearn需要熟练掌握,同时也学到了一些很有用的tricks,包括数据分析和机器学习的知识点.下面记录一些有趣的数据 ...
- Hacker学习发展流程图
题记:梅花香自苦寒来.转载请注明版权:http://a1pass.blog.163.com/ A1Pass 今天看一位网友的日志上面有一篇名为“学黑的目标”的日志,里面有一个略显粗 ...
- TCP建立流程 【转】
解决TCP连接数过多的问题 TCP状态迁移,CLOSE_WAIT & FIN_WAIT2 的问题 TCP状态迁移 大家对netstat -a命令很熟悉,但是,你有没有注意到STATE一栏呢,基 ...
- mysql caching_sha2_password异常分析
使用navicat连接mysql报错 解决办法: 通过命令行登录mysql后,输入: alter user 'root'@'localhost' IDENTIFIED WITH mysql_nativ ...
- Mac 安装多个python环境
1.安装Homebrew /usr/bin/ruby -e "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/ ...
- centos6.5报错:checking filesystems failed问题处理
centos系统重启报错:checking filesystems failed checking filesystems /dev/mapper/vg_0-root: 搜了下可能是文件系统损坏 根据 ...
- Linux下常见音频格式之间的转换方法
Linux下常见音频格式之间的转换方法[转] 下面简单介绍下Linux环境常见音频格式之间的转换方法: MP3 相关工具: lameOGG 相关工具: vorbis-toolsAPE 相关工具: ma ...
- 自适应电脑、手机和iPad的网页设计方法
随着3G的普及,越来越多的人使用手机上网. 移动设备正超过桌面设备,成为访问互联网的最常见终端.于是,网页设计师不得不面对一个难题:如何才能在不同大小的设备上呈现同样的网页? 手机的屏幕比较小,宽度通 ...