ceph 001 存储类型 传统存储与分布式存储 分布式文件系统 集群与分布式
ceph
存储类型
块存储:裸磁盘 未被格式化的磁盘
DAS(直连存储,usb,硬盘插到电脑):scsi接口 接口数量有限 传输距离有限
SAN(存储区域网络):ip-san 网络(iscsi) 以太网 fc-san网络 (fc协议) 光纤模块
ceph rbd
scsi重新封装为iscsi,iscsi在ip网络里跑
scsi协议让你在电脑上写数据到硬盘,加了个i可以让你在san的区域网络中传输
使用:格式化 挂载 (存文件 修改 创建 删除) 延迟低(vim保存,不能让我等很久)
文件系统存储:共享目录
集中式
NAS:网络附加存储 通过网络共享目录
nfs:unix nfs
cifs:samba 网上邻居
分布式
cephfs(manila的后端,cl210的实验)
glusterfs:属于红帽,ceph也属于红帽
moosefs
server共享目录,client挂载目录使用
hdfs:hadoop分布式文件系统
使用:挂载 (存文件 修改 创建 删除) 延迟低
对象存储:一般都是分布式存储
ceph
非结构化数据 备份文件
使用:上传和下载文件,无法进行编辑 延迟高(下载是需要等很久的)
url: http://super.com/cl210/iso
下载下来,修改,再上传
分布式,把你的一个文件切块了。编辑延迟高
结构化数据:数据库 (购物,商品价格数量。有规律,一列一列的)
非结构化数据:多媒体(图片 视频 音频)
ceph 包含以上三个类型
传统存储与分布式存储区别
传统存储 DAS NAS SAN RAID 扩容问题不方便 将一堆磁盘,放在一个控制器里
纵向扩展 scale up 扩容cpu 内存 硬盘 (可能更贵)
硬件 给钱
分布式存储 (性能是不如传统存储,比如数据库) 无中心节点 普通服务器存储数据(硬盘,cpu,内存)
横向扩展 scale out 扩服务器,加节点 (节点可以横向扩展,无中心节点,偏向软件)
软件 人才要求
数据文件类型的改变(图片视频),使用传统存储性价比很低,除非对特定性能有需求
ceph 软件定义 统一存储解决方案的开源项目
ceph 分布式 可扩展 高性能 不存在单点故障 支持pb级规模数据
同时支持 块存储 文件系统存储 对象存储(兼容swift s3协议)
SDS 能将存储软件与硬件分隔开的存储架构
openstack 镜像可以使用对象存储(cl210) swift s3 ceph(用别人开发的接口调用 s3与swift)
ceph shell
ceph -v 查看ceph版本
16.0 最早
16.1 测试
16.2 稳定版
区别:
部署方式:ceph-ansible vs cephadm 容器
存储驱动:xfs文件 vs bluestore
增加图像界面
L版 RHCS3
N版 RHCS4
P版 RHCS5 (当前版本 cl260)
关于ceph的安装
可以centos7.8尝试 ceph-admin需要python3 需要docker
分布式文件系统
moosefs
问题:元数据存储检索
需要两个元数据服务器保证可靠性
分布式存储,3副本保证可靠性,如果三个节点,一个节点存一个副本
找元数据时,从找硬盘,变成找内存从而提升效率
(中间上部分为元数据部分)
主备元数据解决方案,通过内存刷新到共享磁盘。主挂了之后
备份从磁盘读取所有元数据。这需要时间
glusterfs
不像moosefs有元数据服务器,glusterfs元数据分散在glusterfs每个节点
客户端工具,配置文件。第一次检索时,则缓存。会用到客户端的内存
ceph
客户端也拥有配置文件
monitor为整个集群的入口
不需要文件系统时,mds可以省略,也不需要文件系统的元数据
单从文件系统来看,ceph不如glusterfs,但是万金油
集群与分布式
集群:所有节点做一件事情
分布式:所有节点协作达成目的
分布式是指 多个系统协同合作完成一个特定任务的系统。
分布式是解决中心化管理的问题,把所有的任务叠加到一个节点处理,太慢了。
所以把一个大的问题拆分为多个小的问题,并分别解决,最终协同合作。分布式的主要工作是分解任务,将职能拆解。
集群主要的使用场景是为了分担请求的压力,也就是在几个服务器上部署相同的应用程序,来分担客户端请求。
三个mon保证两个mon存活
mon >= 1.5 仲裁机制 超过半数以上集群存活
rhcs5: redhat ceph storage 5
8.4的环境基础包,可以兼容所有课程,因为这个环境版本很高,低版本则不行
就是说,下次不用下载环境基础包
ceph 001 存储类型 传统存储与分布式存储 分布式文件系统 集群与分布式的更多相关文章
- 在 Kubernetes 上快速测试 Citus 分布式 PostgreSQL 集群(分布式表,共置,引用表,列存储)
准备工作 这里假设,你已经在 k8s 上部署好了基于 Citus 扩展的分布式 PostgreSQL 集群. 查看 Citus 集群(kubectl get po -n citus),1 个 Coor ...
- Percona 开始尝试基于Ceph做上层感知的分布式 MySQL 集群,使用 Ceph 提供的快照,备份和 HA 功能来解决分布式数据库的底层存储问题
本文由 Ceph 中国社区 -QiYu 翻译 英文出处:Using Ceph with MySQL 欢迎加入CCTG Over the last year, the Ceph world drew m ...
- 传统应用、服务器集群、分布式、SOA各种架构的简单解释
传统架构:无论是SE应用还是WEB应用,传统架构都是表现层---业务层---持久层---数据库 1000并发(tomcat单台500并发,tomcat一般做集群的话,节点数量不能太多,5个左右): ...
- S1_搭建分布式OpenStack集群_10 cinder 存储节点配置
一.安装配置lvm2安装LVM包:# yum install -y lvm2 启动LVM元数据服务,并将其配置为在系统启动时启动:# systemctl enable lvm2-lvmetad.ser ...
- Ceph 存储集群4-高级运维:
一.高级运维 高级集群操作主要包括用 ceph 服务管理脚本启动.停止.重启集群,和集群健康状态检查.监控和操作集群. 操纵集群 运行 Ceph 每次用命令启动.重启.停止Ceph 守护进程(或整个集 ...
- Sqlite3中存储类型和数据类型结合文档解析。
sqlite3是个很小的数据库,运行在手机,机顶盒上....那它就不可能像musql,sqlserver那么规范,有很多的数据类型,之前我也以为它定义了很多数据类型,其实不是他就5个存储类,那么多数据 ...
- 001.Ansible部署RHCS存储集群
一 前期准备 1.1 前置条件 至少有三个不同的主机运行monitor (MON)节点: 至少三个直接存储(非外部SAN硬件)的OSD节点主: 至少两个不同的manager (MGR)节点: 如果使用 ...
- Ceph 存储集群5-数据归置
一.数据归置概览 Ceph 通过 RADOS 集群动态地存储.复制和重新均衡数据对象.很多不同用户因不同目的把对象存储在不同的存储池里,而它们都坐落于无数的 OSD 之上,所以 Ceph 的运营需要些 ...
- Ceph 存储集群2-配置:心跳选项、OSD选项、存储池、归置组和 CRUSH 选项
一.心跳选项 完成基本配置后就可以部署.运行 Ceph 了.执行 ceph health 或 ceph -s 命令时,监视器会报告 Ceph 存储集群的当前状态.监视器通过让各 OSD 自己报告.并接 ...
- Ceph 存储集群1-配置:硬盘和文件系统、配置 Ceph、网络选项、认证选项和监控器选项
所有 Ceph 部署都始于 Ceph 存储集群.基于 RADOS 的 Ceph 对象存储集群包括两类守护进程: 1.对象存储守护进程( OSD )把存储节点上的数据存储为对象: 2.Ceph 监视器( ...
随机推荐
- 容器化tomcat9.0
#启动tomcat容器: docker run -d --name tomcat9.0 -p 8080:8080 registry.cn-hangzhou.aliyuncs.com/chenleile ...
- long数据类型跨平台问题
源代码 #include <iostream> int main() { std::cout << "size of long : " << s ...
- kettle从入门到精通 第二十三课 kettle carte 错误(java.lang.OutOfMemoryError: GC overhead limit exceeded,Could not emit buffer due to lack of requests,java heap space)分析
1.Could not emit buffer due to lack of requests(无法发出缓冲区,因为请求不足.) 原因有两点:1)消费者处理数据能力较弱,如表输出步骤.2)消费者没有处 ...
- 使用 INFINI Console 实现 Elasticsearch 的增量数据迁移
功能介绍 # 在 INFINI Console 1.3.0 版本里,数据迁移功能增加了对增量迁移的支持.这篇文章将会介绍增量迁移的具体使用方法和实现原理. 场景介绍 # 以常见的日志场景为例,假设 A ...
- 雪花算法(SnowFlake)
引言 唯一ID可以标识数据的唯一性,在分布式系统中生成唯一ID的方案有很多,常见的方式大概有以下三种: 依赖数据库,使用如MySQL自增列或Oracle序列等. UUID随机数 snowflake雪花 ...
- springboot3使用validation进行参数验证
前言 今天学习了使用validation整合springboot进行字段的校验,体验下来感觉很不错,有了validation可以省下一大堆控制器里面的数据校验,例如前端发送了一个请求到我们后端,请 ...
- DHorse的配置文件
首先看一下DHorse的配置文件,如下: #============================================================================== ...
- .net入行三年的感想回顾
从21年毕业到现在,还差几天就三年了 工作后才知道,工作年限分为1年以下 .3~5年.5~10年.晋升老板,每段都有每段的故事和总结 回顾下我的前三年工作心路,思考下未来发展之路(emmm,我是觉得我 ...
- Apline部署K3s的Agent
之前我们在Ubuntu上部署了K3s的Server节点(传送门),这次我们加入两台K3s的Agent节点搭建一个K3s的3节点工作环境. 需要准备好网络环境,确保三台VM之间是可以ping通的,设置好 ...
- 一个JVM参数,服务超时率降了四分之三
先说结论:通过优化Xms,改为和Xmx一致,使系统的超时率降了四分之三 1. 背景 一个同事说他负责的服务在一次上线之后超时率增加了一倍 2. 分析 2.1 机器的监控 首先找了一台机器,看了监控 上 ...