ceph 001 存储类型 传统存储与分布式存储 分布式文件系统 集群与分布式
ceph
存储类型
块存储:裸磁盘 未被格式化的磁盘
DAS(直连存储,usb,硬盘插到电脑):scsi接口 接口数量有限 传输距离有限
SAN(存储区域网络):ip-san 网络(iscsi) 以太网 fc-san网络 (fc协议) 光纤模块
ceph rbd
scsi重新封装为iscsi,iscsi在ip网络里跑
scsi协议让你在电脑上写数据到硬盘,加了个i可以让你在san的区域网络中传输
使用:格式化 挂载 (存文件 修改 创建 删除) 延迟低(vim保存,不能让我等很久)
文件系统存储:共享目录
集中式
NAS:网络附加存储 通过网络共享目录
nfs:unix nfs
cifs:samba 网上邻居
分布式
cephfs(manila的后端,cl210的实验)
glusterfs:属于红帽,ceph也属于红帽
moosefs
server共享目录,client挂载目录使用
hdfs:hadoop分布式文件系统
使用:挂载 (存文件 修改 创建 删除) 延迟低
对象存储:一般都是分布式存储
ceph
非结构化数据 备份文件
使用:上传和下载文件,无法进行编辑 延迟高(下载是需要等很久的)
url: http://super.com/cl210/iso
下载下来,修改,再上传
分布式,把你的一个文件切块了。编辑延迟高
结构化数据:数据库 (购物,商品价格数量。有规律,一列一列的)
非结构化数据:多媒体(图片 视频 音频)
ceph 包含以上三个类型
传统存储与分布式存储区别
传统存储 DAS NAS SAN RAID 扩容问题不方便 将一堆磁盘,放在一个控制器里
纵向扩展 scale up 扩容cpu 内存 硬盘 (可能更贵)
硬件 给钱
分布式存储 (性能是不如传统存储,比如数据库) 无中心节点 普通服务器存储数据(硬盘,cpu,内存)
横向扩展 scale out 扩服务器,加节点 (节点可以横向扩展,无中心节点,偏向软件)
软件 人才要求
数据文件类型的改变(图片视频),使用传统存储性价比很低,除非对特定性能有需求
ceph 软件定义 统一存储解决方案的开源项目
ceph 分布式 可扩展 高性能 不存在单点故障 支持pb级规模数据
同时支持 块存储 文件系统存储 对象存储(兼容swift s3协议)
SDS 能将存储软件与硬件分隔开的存储架构
openstack 镜像可以使用对象存储(cl210) swift s3 ceph(用别人开发的接口调用 s3与swift)
ceph shell
ceph -v 查看ceph版本
16.0 最早
16.1 测试
16.2 稳定版
区别:
部署方式:ceph-ansible vs cephadm 容器
存储驱动:xfs文件 vs bluestore
增加图像界面
L版 RHCS3
N版 RHCS4
P版 RHCS5 (当前版本 cl260)
关于ceph的安装
可以centos7.8尝试 ceph-admin需要python3 需要docker
分布式文件系统
moosefs
问题:元数据存储检索
需要两个元数据服务器保证可靠性
分布式存储,3副本保证可靠性,如果三个节点,一个节点存一个副本
找元数据时,从找硬盘,变成找内存从而提升效率
(中间上部分为元数据部分)
主备元数据解决方案,通过内存刷新到共享磁盘。主挂了之后
备份从磁盘读取所有元数据。这需要时间
glusterfs
不像moosefs有元数据服务器,glusterfs元数据分散在glusterfs每个节点
客户端工具,配置文件。第一次检索时,则缓存。会用到客户端的内存
ceph
客户端也拥有配置文件
monitor为整个集群的入口
不需要文件系统时,mds可以省略,也不需要文件系统的元数据
单从文件系统来看,ceph不如glusterfs,但是万金油
集群与分布式
集群:所有节点做一件事情
分布式:所有节点协作达成目的
分布式是指 多个系统协同合作完成一个特定任务的系统。
分布式是解决中心化管理的问题,把所有的任务叠加到一个节点处理,太慢了。
所以把一个大的问题拆分为多个小的问题,并分别解决,最终协同合作。分布式的主要工作是分解任务,将职能拆解。
集群主要的使用场景是为了分担请求的压力,也就是在几个服务器上部署相同的应用程序,来分担客户端请求。
三个mon保证两个mon存活
mon >= 1.5 仲裁机制 超过半数以上集群存活
rhcs5: redhat ceph storage 5
8.4的环境基础包,可以兼容所有课程,因为这个环境版本很高,低版本则不行
就是说,下次不用下载环境基础包
ceph 001 存储类型 传统存储与分布式存储 分布式文件系统 集群与分布式的更多相关文章
- 在 Kubernetes 上快速测试 Citus 分布式 PostgreSQL 集群(分布式表,共置,引用表,列存储)
准备工作 这里假设,你已经在 k8s 上部署好了基于 Citus 扩展的分布式 PostgreSQL 集群. 查看 Citus 集群(kubectl get po -n citus),1 个 Coor ...
- Percona 开始尝试基于Ceph做上层感知的分布式 MySQL 集群,使用 Ceph 提供的快照,备份和 HA 功能来解决分布式数据库的底层存储问题
本文由 Ceph 中国社区 -QiYu 翻译 英文出处:Using Ceph with MySQL 欢迎加入CCTG Over the last year, the Ceph world drew m ...
- 传统应用、服务器集群、分布式、SOA各种架构的简单解释
传统架构:无论是SE应用还是WEB应用,传统架构都是表现层---业务层---持久层---数据库 1000并发(tomcat单台500并发,tomcat一般做集群的话,节点数量不能太多,5个左右): ...
- S1_搭建分布式OpenStack集群_10 cinder 存储节点配置
一.安装配置lvm2安装LVM包:# yum install -y lvm2 启动LVM元数据服务,并将其配置为在系统启动时启动:# systemctl enable lvm2-lvmetad.ser ...
- Ceph 存储集群4-高级运维:
一.高级运维 高级集群操作主要包括用 ceph 服务管理脚本启动.停止.重启集群,和集群健康状态检查.监控和操作集群. 操纵集群 运行 Ceph 每次用命令启动.重启.停止Ceph 守护进程(或整个集 ...
- Sqlite3中存储类型和数据类型结合文档解析。
sqlite3是个很小的数据库,运行在手机,机顶盒上....那它就不可能像musql,sqlserver那么规范,有很多的数据类型,之前我也以为它定义了很多数据类型,其实不是他就5个存储类,那么多数据 ...
- 001.Ansible部署RHCS存储集群
一 前期准备 1.1 前置条件 至少有三个不同的主机运行monitor (MON)节点: 至少三个直接存储(非外部SAN硬件)的OSD节点主: 至少两个不同的manager (MGR)节点: 如果使用 ...
- Ceph 存储集群5-数据归置
一.数据归置概览 Ceph 通过 RADOS 集群动态地存储.复制和重新均衡数据对象.很多不同用户因不同目的把对象存储在不同的存储池里,而它们都坐落于无数的 OSD 之上,所以 Ceph 的运营需要些 ...
- Ceph 存储集群2-配置:心跳选项、OSD选项、存储池、归置组和 CRUSH 选项
一.心跳选项 完成基本配置后就可以部署.运行 Ceph 了.执行 ceph health 或 ceph -s 命令时,监视器会报告 Ceph 存储集群的当前状态.监视器通过让各 OSD 自己报告.并接 ...
- Ceph 存储集群1-配置:硬盘和文件系统、配置 Ceph、网络选项、认证选项和监控器选项
所有 Ceph 部署都始于 Ceph 存储集群.基于 RADOS 的 Ceph 对象存储集群包括两类守护进程: 1.对象存储守护进程( OSD )把存储节点上的数据存储为对象: 2.Ceph 监视器( ...
随机推荐
- Android启动过程-万字长文(Android14)
在计算机启动过程和Linux内核Kernel启动过程介绍了计算机启动和内核加载,本篇文章主要介绍Android系统是如何启动的. 一.Android启动流程 Android系统的启动流程与Linux接 ...
- 不使用循环语句用if和else实现循环
如果不使用循环语句,可以使用递归函数来实现循环的效果.递归函数是指在函数内部调用自身的函数.下面是一个使用递归函数来实现循环的示例: (初学者记得写include,这里是个普通函数,所以我没写) de ...
- tab切换中嵌套swiper轮播
今天在做官网的时候需要用到swiper多图轮播的功能,但是得嵌套在tab切换中,就在我把砖都搬完后,发现了个问题,就是我在进行tab切换后,发现原本设置的swiper的自动轮播竟然失效了,而且样式也是 ...
- Linux进程间通信-FIFO(命名管道)
本系列文章主要是学习记录Linux下进程间通信的方式. 常用的进程间通信方式:管道.FIFO.消息队列.信号量以及共享存储. 参考文档:<UNIX环境高级编程(第三版)> 参考视频:Lin ...
- Web 网页性能及性能优化
Web 网页性能及性能优化 一.Web 性能 Web 性能是 Web 开发的一个重要方面,侧重于网页加载速度以及对用户输入的响应速度 通过优化网站来改善性能,可以在为用户提供更好的体验 网页性能既广泛 ...
- jquery浏览器的上卷高度 节点的创建和写入 节点的删除
// js 的兼容语法 // let scrollT = document.documentElement.scrollTop || document.body.scrollTop; ...
- 使用 OpenTelemetry 构建可观测性 04 - 收集器
在之前的博文中,我们讨论了如何使用 SDK 和链路追踪生产者来导出进程中的遥测数据.尽管有多种类型的导出器可供选择,但其中一个常见的目标是将数据导出到 OpenTelemetry Collector. ...
- C#字符串截取分割方法
字符串操作:分割 Split.连接数组 Join.拼接 Format.截取 Substring.替换 Replace.左填充 PadLeft.右填充 PadRight.删除 Remove 1 //分割 ...
- (六)基于Scrapy爬取网易新闻中的新闻数据
需求:爬取这国内.国际.军事.航空.无人机模块下的新闻信息 1.找到这五个板块对应的url 2.进入每个模块请求新闻信息 我们可以明显发现''加载中'',因此我们判断新闻数据是动态加载出来的. 3. ...
- 何时/如何使用 std::enable_shared_from_this<T>?
要点回顾 继承自 std::enable_shared_from_this<T> 的类能够在其自身实例中通过 std::shared_from_this 方法创建一个指向自己的 std:: ...