一、背景

随着越来越多的传统业务云化和云端业务发展,数据上云和云端数据处理领域的需求爆发式增长。腾讯云存储网关CSG提供一键部署开箱即用的便捷模式,深度结合COS对象存储生态,为用户提供方便快捷的数据上云通道,有效满足业务数据备份、数据上云和云上数据处理的需求。

腾讯云存储网关CSG提供文件语义到对象存储语义的转换,依托COS对象存储的海量存储能力,使用户通过本地文件协议即可读写云端COS数据,无需对现有业务做任何侵入式开发,即可使业务获得接近无限容量的文件系统使用能力,借助CSG热数据缓存能力,业务数据上云后业务侧还能够高效对COS里的业务数据进行后续加工处理。

二、业务场景

下文将以视频转码分发业务场景为例,带您了解CSG在该场景的应用。

业务侧生产出原始视频流H264文件,通过CSG将H264文件素材同步到COS,同步后再将H264文件作为输入继续转码成TS视频文件,最终将TS文件的COS访问链接发布到客户端侧,供各类客户端访问。

业务架构示意图:

1、依据业务规模部署存储网关CSG,通过腾讯云存储网关控制台一键部署或者通过腾讯云COS控制台一键部署。

CSG控制台一键部署网关

COS控制台一键部署网关

2、业务服务器中挂载CSG文件系统。

使用下列命令实现 NFS v4.0 挂载

sudo mount -t nfs -o vers=4 <挂载点IP>:/share/nfs/<文件系统名称即bucket名称> <待挂载目标目录>

3、业务上传原始h264视频文件到CSG文件系统素材目录。

4、业务通过CSG文件系统,直接对素材目录中的文件执行转码操作,输出新文件到转码输出目录。通过CSG执行转码操作和本地磁盘执行转码操作在默认情况下性能接近,当使用自定义SSD机型的CSG时,将获得比本地普通磁盘更高的IO性能,单台CSG吞吐量可达1GB/s

5、原始素材和转码后的文件均通过CSG同步到COS存储桶,实现素材和输出文件同步到云端COS。

6、通过SCF云函数感知COS存储桶转码目录路径中的对象创建事件,将对象创建事件发布到业务指定CMQ消息队列。

SCF云函数示例

7、业务服务通过业务指定CMQ消息队列进行消费,获取转码文件已成功上传到COS的事件信息,将对应文件的COS加速域名发布到客户端服务,使客户端能够通过COS加速域名下载浏览最终文件。

三、结语

存储网关CSG依托COS对象存储生态,为业务提供接近无限容量文件系统的使用能力。

通过存储网关的热数据缓存能力,业务能够对流程中前一步上传的文件进行高效加工处理,直接在CSG生产出后续业务流程所需的数据,并通过CSG将这些数据自动同步至COS。

整个数据上云和数据处理过程,均通过本地文件系统接口来操作,无需业务做侵入式改造,即可使业务数据上云并对数据进行加工处理,并可直接在云端生产出最终结果数据,结合后续SCF云函数和CMQ消息队列的腾讯云平台能力,可轻松和业务服务联动将云端COS数据链接分发至用户业务客户端。

基于腾讯云存储网关 CSG 实现视频在线转码分发的更多相关文章

  1. 混合云存储打开的正确姿势——腾讯云存储网关 CSG

    近年来,随着云计算的发展,越来越多的企业选择将IT系统基础设施转移到云上,上云有助于推动企业加快信息化.数字化.智能化的转型,但是很多企业对传统的业务系统依赖程度较高,短时间内将业务迁移上云将会面临很 ...

  2. 基于腾讯云存储COS的ClickHouse数据冷热分层方案

    一.ClickHouse简介 ClickHouse是一个用于联机分析(OLAP)的列式数据库管理系统(DBMS),支持PB级数据量的交互式分析,ClickHouse最初是为YandexMetrica ...

  3. 腾讯云VS AWS :云存储网关性能谁更优?

    p { text-indent: 2em }    随着企业规模的扩大及业务的扩展,现有IT基础设施特别是存储设备无法满足爆炸性的数据增长,企业 IT 部门为了解决该问题,往往面临市场上多种存储产品及 ...

  4. 腾讯云存储专家深度解读基于Ceph对象存储的混合云机制

    背景 毫无疑问,乘着云计算发展的东风,Ceph已经是当今最火热的软件定义存储开源项目.如下图所示,它在同一底层平台之上可以对外提供三种存储接口,分别是文件存储.对象存储以及块存储,本文主要关注的是对象 ...

  5. 混合云存储组合拳:基于云存储网关与混合云备份的OSS数据备份方案

    前言 阿里云对象存储(OSS)用户众多.很多用户因为业务或者合规性需求,需要对OSS内的数据做备份,无论是线上备份,还是线下备份.用户可以选择使用OSS的开放API,按照业务需求,做数据的备份,也可以 ...

  6. 基于腾讯云centos简单搭建VSFTP

    基于腾讯云centos7.3搭建VSFTP 环境分析: 基于vsftp服务在于云主机上,所以推荐使用FTP的PASV模式: FTP协议有两种工作方式:PORT方式和PASV方式,中文意思为主动式和被动 ...

  7. WordPress腾讯云存储搭建教程,完美解决

    写在前面的话: 为什么会有今天的话题:WordPress+腾讯云存储? 因为博主不想使用七牛云,也不想使用又拍云,所以才有了今天的话题. 在使用腾讯云存储的过程中是很不顺利的,万幸的是现在终于完美融合 ...

  8. 基于腾讯云搭建squid代理服务器

    本文主要介绍下在腾讯云上搭建squid代理服务器,用于访问国外网站或者为爬虫提供代理ip,以及简单介绍下如何基于腾讯云提供的SDK,批量开启或者销毁代理服务器实例. Squid是一个高性能的代理缓存服 ...

  9. 微信小程序+腾讯云直播的实时音视频实战笔记

    欢迎访问我的GitHub https://github.com/zq2599/blog_demos 内容:所有原创文章分类汇总及配套源码,涉及Java.Docker.Kubernetes.DevOPS ...

随机推荐

  1. 一起看下MySQL的崩溃恢复到底是怎么回事

    目录 回顾 思考一个问题 checkponit机制 Checkpoint的种类及触发条件 LSN 推荐阅读 本文稍微有点晦涩.但是看过之后你就能Get到MySQL的崩溃恢复到底是怎么做的! 文章公号 ...

  2. 图书管理系统(Java实现,十个数据表,含源码、ER图,超详细报告解释,2020.7.11更新)

    图书管理系统数据库设计实验报告 文章目录 更新日志 1.概述 2.需求分析 2.1需要实现的功能 2.2业务流程图 2.2.1学生流程图 2.2.2管理员流程图 2.2.3超级管理员流程图 2.3功能 ...

  3. Jmeter(6)命令行执行

    Jmeter执行方式有2种:GUI和非GUI模式 GUI:在Windows电脑上运行,图形化界面,可直接查看测试结果,但是消耗压力机资源较高 非GUI:通过命令行执行,无图形化界面,不方便查看测试结果 ...

  4. 聊聊Spring的FactoryBean其实没那么难

    前言 谈到Spring的FactoryBean,就会知道Spring中经典的面试题:FactoryBean和BeanFactory的区别.我们这里就简单概括下: . BeanFactory是接口,提供 ...

  5. feign代码自动生成插件

    简介 feign对微服务之间的http调用做了一层封装,如果B项目想调用A项目的一个web服务,只需要编写对应的接口并标注FeignClient注解.但如果接口发生了变更,对应的Feign代码往往会忘 ...

  6. 解决Linux所有命令不能使用的问题

    解决Linux所有命令不能使用的问题 出现这个问题说明你的 /etc/profile 配置出现了问题,一般是因为path配置出现了问题.排除添加内容中的错误,然后重启一个新窗口执行执行 source ...

  7. 官宣 | Apache Flink 1.12.0 正式发布,流批一体真正统一运行!

    官宣 | Apache Flink 1.12.0 正式发布,流批一体真正统一运行! 原创 Apache 博客 [Flink 中文社区](javascript:void(0) 翻译 | 付典 Revie ...

  8. python2与python3共存后,如何使用

    借用py的一个参数 py -2 与py -3调用不同是的python版本 所以运行的时候只要 py -2 文件名可以用python2来运行脚本 py -3 文件名就是用python3 来运行脚本 参考 ...

  9. RabbiMQ重新安装会遇到的错误-SpiritMark

    这里只做安装过程中遇到错误的介绍,不喜勿喷,如果对您有帮助右上角关注一下,是对我最大的肯定 重新安装的注意事项: 先卸载RabbitMQ,后卸载Erlang RabbitMQ卸载,选择uninstal ...

  10. MySQL优化索引

    1.  MySQL如何使用索引 索引用于快速查找具有特定列值的行.如果没有索引,MySQL必须从第一行开始,然后遍历整个表以找到相关的行.表越大,花费越多.如果表中有相关列的索引,MySQL可以快速确 ...