亚太内容分发大会暨 CDN 峰会一直致力于推动 CDN 产业深度融合发展和市场普及,现已成为亚太地区影响力最大的内容分发网络盛会。

十年来,在以腾讯云、阿里云、网宿科技等亚太 CDN 产业联盟成员孜孜不辍的努力下,CDN 产业已经成为基础性设施网络,以坚定的基石之姿,支撑起中国成为世界最大的互联网市场。

随着全球数字化、“一带一路”战略的推进,亚太内容分大会暨 CDN 峰会的影响力正在逐渐向全球延伸,同时也将中国智造 CDN 及产业链推广向全球每一个角落。

近年来,腾讯云深耕对象存储领域,以技术创新屡次将存储领域推上更高台阶,荣膺亚太内容分发大会对象存储领导力奖

在6月10日下午举办的【对象存储论坛】上,腾讯云存储技术总监王淼发表了题为《对象存储内容分发应用:数据处理实践》的精彩演讲。

近年来,数据每年以超过30%-40%的速度爆发式增长,对于企业而言如何低成本高效的利用好数据就成为了挑战。

数据湖作为一个以原始数据格式为存储的系统,为数据分析、数据处理、机器学习等提供了极大的便利,而云的扩展性、高性能、支持地域的广泛性、以及云上所提供的丰富的数据处理和分析能力,都使其成为数据湖理想的载体。

从对象存储数据治理生态全景图中可以看到,除了对象存储标准接口之外,还可以通过消息队列、结构化存储系统、视频流等多种数据源,将数据快速方便地入湖,湖上也提供了丰富的数据处理和分析能力,消除数据孤岛,实现计算存储分离。

由于部署及架构等原因,在业务实践中也遇到了不少挑战:主要体现在 IO 性能、目录操作以及存算分离需要的大带宽上,针对这些问题,腾讯云对象存储作为数据湖的底座,提供了多级数据加速服务,以满足不同场景的需要。

随后,王淼介绍了腾讯云提供的多级加速服务:**GooseFS **作为近计算节点的高速缓存,不仅为计算节点提供数据加速,还能将计算节点产生的数据写入缓存,以供二次计算或加速 CDN 的分发;

数据加速器是部署在各个 AZ 的高速缓存集群,在AZ端为热数据提供加速服务和抗热点数据能力,高速缓存集群采用 SSD 作为数据盘,与计算集群之间通过高带宽网络连接,为数据应用访问 COS 对象存储提供 Tb 级别带宽资源和毫秒级的时延;

元数据加速器主要应对文件系统级元数据操作,解决对象存储模拟文件系统的损耗,加速包括 list、head 的操作以及提供原子性 rename 接口和一些目录操作相关接口。

对象存储和 CDN 结合服务客户的过程中,也会遇到数据处理、内容安全和容灾架构等方面的挑战,如何更高效可靠地为用户提供服务,王淼分享了腾讯云的经验。

数据处理·能力建设

数据处理的底层是各种原子能力,包括图像处理、视频处理、音频处理、内容审核、文档处理等。除了对原子能力做持续的迭代和优化,腾讯云也关注业界前沿技术,保持对前沿技术的敏感性,在合适的时机尽快地应用到云上,服务客户企业。

数据处理·流程建设

之前的工作流系统,主要流转于对象存储和数据处理服务的内部,能解决的问题有限,在实际业务的一些场景中,用户可能需要使用到多个云产品,那么就需要在多个产品间进行繁琐的配置,写很多的接口调用代码,既复杂又容易出错;

腾讯云 COS 通过预置云函数,利用简单的配置,打通多个云产品,实现业务逻辑快速实现。

以视频上传为例,一个视频上传之后可以通过数据处理服务,配置精彩封面、图片瘦身等流程化的操作,可以对视频进行高清、标清转码,同时对视频进行审核,出现违规视频可以进一步进行冻结。

在工作流演进的过程中,对象存储通过对接函数服务,能为客户提供更多可能:比如图片瘦身后,可以通过预热云函数直接将图片预热到 CDN 节点;

审核服务如果发现违规文件,可以通过刷新云函数把 CDN 节点上的违规数据清理掉,防止对业务造成损害。函数服务也提供自定义函数的能力,可以对接业务系统,对接其他云服务平台,真正让用户少操作,少写代码,少“踩坑”。

智能化演进·智能分层

在对接客户的时候经常遇到一种场景:客户希望根据文件的最后访问时间来判断是否沉降,而对象存储提供的数据沉降、生命周期服务都是以数据上传时间为判断标准,无法满足这种场景的需求。

基于这一点 COS 研发了智能分层服务,可以根据用户文件的访问频次、大小、格式,为数据提供冷热分离自动化机制,降低用户的使用成本。

同时,还提供毫秒级的首字节响应能力,在不断变化的访问模式下,首字节响应性能不降低,也不产生费用和其他运营开销。经测算,智能分层服务可以为业务节省20%左右的成本。

智能化演进·平台自适应

COS 与 CDN 深度的结合,可以针对不同平台的特性,分发给适合当前平台最优的数据格式,例如支持 webp 图片的平台,服务端可智能返回 webp 格式图片,例如微信小程序平台,

可智能返回腾讯云自研的 tpg 格式图片,让业务能智能的享受到带宽的节省和加载速度的提升。

场景化能力

除了提供原子的处理能力、流程化的任务系统,腾讯云对象存储最近还推出了两个面向垂直场景的服务:针对视频监控场景的明瞳智控和针对网盘相册场景的智能媒资托管服务,后续对象存储还会面向数据湖推出更多贴合业务场景的轻应用能力。

内容安全能力

在内容安全方面主要面临的挑战有以下几个方面:一是面临场景比较复杂,包括图片、音视频、欺诈类的网站、表情包恶搞、病毒程序。二是方式繁多,如隐晦的淫秽涉黄场景,变种文字广告,拆字、干扰符号的谩骂。

三是技术对抗增多,如变种绕过策略的手段,AI 变脸的对抗。四是产品联动少,用户使用的复杂度高。

内容安全能力建设方面,除了传统的文本、视频、图像、音频的内容审核,腾讯云还在逐步丰富其他场景,比如敏感信息识别,可以识别到文本中是否存在身份证号、用户电话号码等隐私信息;对于一些二进制文件,可以识别是否是病毒或恶意软件。

自动化审核

针对不同的用户、不同的场景,腾讯云不仅可以提供场景化的运营策略,同时也会提供一些自动化的审核流程。

对象存储上的审核,主要分为存量审核和增量审核,对存量数据审核,COS 提供一键审核服务,只需控制台配置后,后台就会自动进行审核,审核完成后可以通过控制台下载审核结果;

增量审核服务,支持对新上传到对象存储的文件进行自动的异步审核服务,同时还支持对违规文件进行人工复审、自动冻结。

一般会推荐客户采取高召回的审核策略,确保违规的文件不会泄露到外网,因高召回产生的误判文件,会通过专业团队进行人工复审,把误判进行纠正,最大程度保证违规文件不泄露,

同时又不误封业务文件、影响业务发展,已经发现的违规文件,有可能在 CDN 环节被缓存过,COS 也支持一键配置,对违规的文件刷新 CDN 节点。

高可用方案

高可用方案1:多 AZ

基于腾讯新一代超大规模云存储引擎 YottaStore,COS 可提供完整的多 AZ 容灾能力。在多 AZ 架构中,每个 AZ 都部署了存储集群、高速缓存集群和数据处理集群,

当遇到不可抗力灾害时,统一调度模块就会根据下游的异常,自动剔除不能服务的节点、AZ,通过其他的 AZ 能够提供稳定可靠的服务。

高可用方案2:跨园区

有一些业务,希望能提供地域级别的保障服务,COS 也支持跨园区高可用方案:上传请求通过高可用域名写入主站,同时会异步的把数据同步到其他地域的备站,读请求通过CDN 节点回源到主站后,

主站会把资源及实时处理后的资源异步写入到异地的备站缓存中,确保主站异常,CDN 去备站访问时,备站的缓存集群有主站的热缓存数据,能够稳定可靠的为业务提供服务。

值得一提的是跨园区方案是全球可用的,所以在跨国场景下也可以使用这个方案,实现国内外园区间的数据同步,同时国内外 CDN 也可以配置不同的源站,就近回源,最大程度上提升用户访问速度和体验。

最后,王淼表示,存储是很多服务的基石,未来围绕着存储可以创造出无限的可能!

腾讯云对象存储 COS 荣获对象存储领导力奖!!!的更多相关文章

  1. 基于腾讯云存储COS的ClickHouse数据冷热分层方案

    一.ClickHouse简介 ClickHouse是一个用于联机分析(OLAP)的列式数据库管理系统(DBMS),支持PB级数据量的交互式分析,ClickHouse最初是为YandexMetrica ...

  2. 微信小程序/网站 上传图片到腾讯云COS

    COS简介: 腾讯云提供的一种对象存储服务,供开发者存储海量文件的分布式存储服务.可以将自己开发的应用的存储部分全部接入COS的存储桶中,有效减少应用服务器的带宽,请求等.个人也可以通过腾讯云账号免费 ...

  3. 混合云存储打开的正确姿势——腾讯云存储网关 CSG

    近年来,随着云计算的发展,越来越多的企业选择将IT系统基础设施转移到云上,上云有助于推动企业加快信息化.数字化.智能化的转型,但是很多企业对传统的业务系统依赖程度较高,短时间内将业务迁移上云将会面临很 ...

  4. 腾讯云技术专家卢萌凯手把手教你Demo一个人脸识别程序!

    欢迎大家前往腾讯云+社区,获取更多腾讯海量技术实践干货哦~ 本文来自腾讯云技术沙龙,本次沙龙主题为Serverless架构开发与SCF部署实践 卢萌凯:毕业于东南大学,曾就职于华为,熟悉云行业解决方案 ...

  5. 腾讯云TDSQL审计原理揭秘

    版权声明:本文由孙勇福原创文章,转载请注明出处: 文章原文链接:https://www.qcloud.com/community/article/244 来源:腾云阁 https://www.qclo ...

  6. 腾讯云容器服务 TKE 拿下新加坡 MTCS 最高级别安全认证

    近日,腾讯云容器服务 TKE 荣获新加坡 MTCS 最高级安全认证,标志着腾讯云 TKE 在为用户提供可靠.易部署.灵活扩展等基础服务上,已经全面满足了新加坡监管机构以及多个行业客户对服务安全的要求. ...

  7. 腾讯云 COS 对象存储使用

    目前使用腾讯云的对象存储cos服务,将本地的文件同步到cos中,看了腾讯云的用户文档,发现使用COS Migration 工具还是挺适合的. 原因 因为服务器已经安装有java环境,而cos的几个用户 ...

  8. 利用腾讯云COS云对象存储定时远程备份网站

    版权声明:本文由张戈 原创文章,转载请注明出处: 文章原文链接:https://www.qcloud.com/community/article/942851001487125915 来源:腾云阁 h ...

  9. 腾讯云的对象存储COS

    什么是对象存储COS Clound Object Storage,COS,专门为企业和开发者们提供能够存储海量的分布式存储服务,用户可以随时通过互联网对大量数据进行批量存储和处理,在任意位置存储和检索 ...

  10. 腾讯云COS对象存储

    一.腾讯云COS 腾讯云对象存储 COS 是一种存储海量数据的分布式存储服务.COS 提供了多种对象的存储类型:标准存储.低频存储.归档存储. 二.为什么要使用TA 便宜: 个人用户有6个月的免费使用 ...

随机推荐

  1. [TK] 盖房子 hzoi-tg#262

    同机房大佬也写了这题的 题解. 通解分析 此类问题我通常喜欢归纳成一类,即阻碍联通的坐标DP. 既然是阻碍联通,那么此类问题的通用思路是这样的: 首先将dp数组图形化. 一般用一个特定图形上的特定点来 ...

  2. HEOI2024 题目转存

    赛时测试数据下载 wind xor wormhole maze timeline sleep 题解参考 [省选联考 2024] 季风 题目背景 生活在二维平面的小 X 准备拜访小 Y,但由于气候的变化 ...

  3. 【赵渝强老师】Flink的Watermark机制(基于Flink 1.11.0实现)

    在使用eventTime的时候如何处理乱序数据?我们知道,流处理从事件产生,到流经source,再到operator,中间是有一个过程和时间的.虽然大部分情况下,流到operator的数据都是按照事件 ...

  4. 浏览器中生成 OSS 令牌 | Web Crypto API

    笔者写文章的时候,都会把图片通过自己搭建的一个简单站点 https://imgbed.sugarat.top/ 把图片上传到各种云的对象存储服务(OSS)上. 然后通过CDN访问,保证图片有可靠的访问 ...

  5. C++的并发编程历史

    多线程环境 并非所有的语言都提供了多线程的环境.即便是C++语言,直到C++11标准之前,也是没有多线程支持的. 在这种情况下,Linux/Unix平台下的开发者通常会使用POSIX Threads, ...

  6. /proc/pids/limits

    cat /proc/39977/limits Limit Soft Limit Hard Limit Units Max cpu time unlimited unlimited seconds Ma ...

  7. 自定义log4j2的PatternLayout参数

    1.添加类 package com.yuanian.micro.config; import org.apache.logging.log4j.core.LogEvent; import org.ap ...

  8. python模拟发送、消费kafka消息

    参考文章: https://zhuanlan.zhihu.com/p/279784873 生产者代码: import traceback from kafka import KafkaProducer ...

  9. 工作中的技术总结_ form表单使用注意事项之form触发后台提交事件 _20220127

    工作中的技术总结_ form表单使用注意事项之form触发后台提交事件 _20220127 如无必要不要使用 form标签 来作为组件的父节点 事件过程: 项目使用的是 spring + jsp 的框 ...

  10. 看图认识Javascript