ceph 001 存储类型 传统存储与分布式存储 分布式文件系统 集群与分布式
ceph
存储类型
块存储:裸磁盘 未被格式化的磁盘
DAS(直连存储,usb,硬盘插到电脑):scsi接口 接口数量有限 传输距离有限
SAN(存储区域网络):ip-san 网络(iscsi) 以太网 fc-san网络 (fc协议) 光纤模块
ceph rbd
scsi重新封装为iscsi,iscsi在ip网络里跑
scsi协议让你在电脑上写数据到硬盘,加了个i可以让你在san的区域网络中传输
使用:格式化 挂载 (存文件 修改 创建 删除) 延迟低(vim保存,不能让我等很久)
文件系统存储:共享目录
集中式
NAS:网络附加存储 通过网络共享目录
nfs:unix nfs
cifs:samba 网上邻居
分布式
cephfs(manila的后端,cl210的实验)
glusterfs:属于红帽,ceph也属于红帽
moosefs
server共享目录,client挂载目录使用
hdfs:hadoop分布式文件系统
使用:挂载 (存文件 修改 创建 删除) 延迟低
对象存储:一般都是分布式存储
ceph
非结构化数据 备份文件
使用:上传和下载文件,无法进行编辑 延迟高(下载是需要等很久的)
url: http://super.com/cl210/iso
下载下来,修改,再上传
分布式,把你的一个文件切块了。编辑延迟高
结构化数据:数据库 (购物,商品价格数量。有规律,一列一列的)
非结构化数据:多媒体(图片 视频 音频)
ceph 包含以上三个类型
传统存储与分布式存储区别
传统存储 DAS NAS SAN RAID 扩容问题不方便 将一堆磁盘,放在一个控制器里
纵向扩展 scale up 扩容cpu 内存 硬盘 (可能更贵)
硬件 给钱
分布式存储 (性能是不如传统存储,比如数据库) 无中心节点 普通服务器存储数据(硬盘,cpu,内存)
横向扩展 scale out 扩服务器,加节点 (节点可以横向扩展,无中心节点,偏向软件)
软件 人才要求
数据文件类型的改变(图片视频),使用传统存储性价比很低,除非对特定性能有需求
ceph 软件定义 统一存储解决方案的开源项目
ceph 分布式 可扩展 高性能 不存在单点故障 支持pb级规模数据
同时支持 块存储 文件系统存储 对象存储(兼容swift s3协议)
SDS 能将存储软件与硬件分隔开的存储架构
openstack 镜像可以使用对象存储(cl210) swift s3 ceph(用别人开发的接口调用 s3与swift)
ceph shell
ceph -v 查看ceph版本
16.0 最早
16.1 测试
16.2 稳定版
区别:
部署方式:ceph-ansible vs cephadm 容器
存储驱动:xfs文件 vs bluestore
增加图像界面
L版 RHCS3
N版 RHCS4
P版 RHCS5 (当前版本 cl260)
关于ceph的安装
可以centos7.8尝试 ceph-admin需要python3 需要docker
分布式文件系统
moosefs
问题:元数据存储检索
需要两个元数据服务器保证可靠性
分布式存储,3副本保证可靠性,如果三个节点,一个节点存一个副本
找元数据时,从找硬盘,变成找内存从而提升效率
(中间上部分为元数据部分)
主备元数据解决方案,通过内存刷新到共享磁盘。主挂了之后
备份从磁盘读取所有元数据。这需要时间
glusterfs
不像moosefs有元数据服务器,glusterfs元数据分散在glusterfs每个节点
客户端工具,配置文件。第一次检索时,则缓存。会用到客户端的内存
ceph
客户端也拥有配置文件
monitor为整个集群的入口
不需要文件系统时,mds可以省略,也不需要文件系统的元数据
单从文件系统来看,ceph不如glusterfs,但是万金油
集群与分布式
集群:所有节点做一件事情
分布式:所有节点协作达成目的
分布式是指 多个系统协同合作完成一个特定任务的系统。
分布式是解决中心化管理的问题,把所有的任务叠加到一个节点处理,太慢了。
所以把一个大的问题拆分为多个小的问题,并分别解决,最终协同合作。分布式的主要工作是分解任务,将职能拆解。
集群主要的使用场景是为了分担请求的压力,也就是在几个服务器上部署相同的应用程序,来分担客户端请求。
三个mon保证两个mon存活
mon >= 1.5 仲裁机制 超过半数以上集群存活
rhcs5: redhat ceph storage 5
8.4的环境基础包,可以兼容所有课程,因为这个环境版本很高,低版本则不行
就是说,下次不用下载环境基础包
ceph 001 存储类型 传统存储与分布式存储 分布式文件系统 集群与分布式的更多相关文章
- 在 Kubernetes 上快速测试 Citus 分布式 PostgreSQL 集群(分布式表,共置,引用表,列存储)
准备工作 这里假设,你已经在 k8s 上部署好了基于 Citus 扩展的分布式 PostgreSQL 集群. 查看 Citus 集群(kubectl get po -n citus),1 个 Coor ...
- Percona 开始尝试基于Ceph做上层感知的分布式 MySQL 集群,使用 Ceph 提供的快照,备份和 HA 功能来解决分布式数据库的底层存储问题
本文由 Ceph 中国社区 -QiYu 翻译 英文出处:Using Ceph with MySQL 欢迎加入CCTG Over the last year, the Ceph world drew m ...
- 传统应用、服务器集群、分布式、SOA各种架构的简单解释
传统架构:无论是SE应用还是WEB应用,传统架构都是表现层---业务层---持久层---数据库 1000并发(tomcat单台500并发,tomcat一般做集群的话,节点数量不能太多,5个左右): ...
- S1_搭建分布式OpenStack集群_10 cinder 存储节点配置
一.安装配置lvm2安装LVM包:# yum install -y lvm2 启动LVM元数据服务,并将其配置为在系统启动时启动:# systemctl enable lvm2-lvmetad.ser ...
- Ceph 存储集群4-高级运维:
一.高级运维 高级集群操作主要包括用 ceph 服务管理脚本启动.停止.重启集群,和集群健康状态检查.监控和操作集群. 操纵集群 运行 Ceph 每次用命令启动.重启.停止Ceph 守护进程(或整个集 ...
- Sqlite3中存储类型和数据类型结合文档解析。
sqlite3是个很小的数据库,运行在手机,机顶盒上....那它就不可能像musql,sqlserver那么规范,有很多的数据类型,之前我也以为它定义了很多数据类型,其实不是他就5个存储类,那么多数据 ...
- 001.Ansible部署RHCS存储集群
一 前期准备 1.1 前置条件 至少有三个不同的主机运行monitor (MON)节点: 至少三个直接存储(非外部SAN硬件)的OSD节点主: 至少两个不同的manager (MGR)节点: 如果使用 ...
- Ceph 存储集群5-数据归置
一.数据归置概览 Ceph 通过 RADOS 集群动态地存储.复制和重新均衡数据对象.很多不同用户因不同目的把对象存储在不同的存储池里,而它们都坐落于无数的 OSD 之上,所以 Ceph 的运营需要些 ...
- Ceph 存储集群2-配置:心跳选项、OSD选项、存储池、归置组和 CRUSH 选项
一.心跳选项 完成基本配置后就可以部署.运行 Ceph 了.执行 ceph health 或 ceph -s 命令时,监视器会报告 Ceph 存储集群的当前状态.监视器通过让各 OSD 自己报告.并接 ...
- Ceph 存储集群1-配置:硬盘和文件系统、配置 Ceph、网络选项、认证选项和监控器选项
所有 Ceph 部署都始于 Ceph 存储集群.基于 RADOS 的 Ceph 对象存储集群包括两类守护进程: 1.对象存储守护进程( OSD )把存储节点上的数据存储为对象: 2.Ceph 监视器( ...
随机推荐
- Qt-FFmpeg开发-实现录屏功能(10)
音视频/FFmpeg #Qt Qt-FFmpeg开发-实现录屏功能 目录 音视频/FFmpeg #Qt Qt-FFmpeg开发-实现录屏功能 1.概述 2.实现效果 3.FFmpeg录屏代码流程️️ ...
- k8s——deployment
创建deployment [root@master deploy]# kubectl create deploy nginx-deploy --image=nginx:1.7.9 deployment ...
- 获取某一个数的2进制位数以及bitmask
举例说明:比如32对应的2进制为2b'100000,对应的bitmask为2b'11111. 实现代码: #include <stdio.h> typedef unsigned char ...
- Qt-ui的简单使用,常用控件(2)
1 简介 本文主要介绍Qt ui界面的简单使用,介绍一些常用的控件. 参考视频:https://www.bilibili.com/video/BV1XW411x7NU?p=22 2 常用控件 常用 ...
- ts的keyof
keyof 是 TypeScript 中的一种类型操作符,用于获取一个类型的所有键(属性名)作为联合类型.它的语法如下: type KeysOfType = keyof ObjectType; 其中: ...
- react类组件
使用ES6语法的class创建的组件(有状态组件) 类名称必须要大写字母开头 类组件要继承React.Component父类,从而可以使用父类中提供的方法或者属性 类组件必须提供 render 方法, ...
- 使用swiper完成轮播图
swiper:https://www.swiper.com.cn/usage/index.html 安装swiper cnpm i -S swiper 在功能组件中定义Swiper组件并设置好插槽 & ...
- Easysearch压缩模式深度比较:ZSTD+source_reuse的优势分析
引言 在使用 Easysearch 时,如何在存储和查询性能之间找到平衡是一个常见的挑战.Easysearch 具备多种压缩模式,各有千秋.本文将重点探讨一种特别的压缩模式:zstd + source ...
- C++中 符号的优先级
符号 运算顺序 :: 从左至右 a++ a-- type() type{} a() a[] . -> 从左至右 ! ~ ++a --a +a -a (type) sizeof &a *a ...
- docker on windows v19 红色启动不了
遇到: error during connect: Get http://%2F%2F.%2Fpipe%2Fdocker_engine/v1.40/containers/json: open //./ ...