更多技术交流、求职机会,欢迎关注字节跳动数据平台微信公众号,回复【1】进入官方交流群

随着数仓及研发技术团队维护的数据量大、资源使用量大、成本越高、优化压力越大。如何主动发现无效或低效使用的资源,并且可以周期性高效的进行主动治理变为团队治理目标核心诉求之一。在传统情况下,资源优化多数依靠团队经验和人为意识管控。

目前,火山引擎大数据研发治理套件 DataLeap 提供资源大盘结合健康分监测,针对健康分大盘下钻到有问题的资源进行主动资源优化,明确有问题的资产库,以及资源消耗影响最大的个人或团队,主动进行催办,达到高效利用服务资源目标,有效降低企业资源成本。

对于治理负责人角色,在成本治理环节,目标是根据资产的整体情况降低存储和计算资源,从而降低管理成本。火山引擎 DataLeap 资源优化规则库可灵活丰富根据业务当前治理规划需要,按需选择适合当前整体治理策略;对于治理接口人角色,可以通过火山引擎 DataLeap 圈定自定义规则,如数据生命周期有效时间未设置、数据表长时间未被查询等。以达到提升资产整体健康分、节约存储的目的。

同时,对于长期未做治理和有治理需求的团队,火山引擎 DataLeap 数据治理平台会提供自动定期提醒能力;最终,再通过治理大盘验收资源优化的效果是否符合预期,将优化规则经验通用规则沉淀下来,可为其他团队直接引用。

火山引擎 DataLeap 资源成本治理重点功能:

火山引擎 DataLeap 为企业提供了统一的工具和规范,帮助企业根据业务现状开展相关资源治理

  • 存储治理:支持查看存储资产明细情况,并提供公共规则及治理建议,可快速定位治理主要侧重点

  • 计算治理:可对任务资源使用详情,队列资源合理性,计算健康分进行评估。治理接口人可直接使用平台公共规则如任务连续失败、产出表为空、产出表无热度、资源申请不合理等优化项,同时平台提出参数及推荐优化建议

  • 诊断评率:平台提供的三种诊断频率,可根据实际业务需求进行配置。指定方案规则的诊断频率及结束时间

诊断一次:诊断规则立即执行,将会立即对治理域的资产进行规则扫描,后续不会再运行

每日诊断-最新结果:方案在结束日期前,每日根据规则运行,方案页面展示每日运行的最新结果。历史运行结果可在历史版本中查看,不与历史诊断结果累加。

每日诊断-累计结果:例如 1 月 1 日近 30 天没有访问,扫描出资产表 A。扫描后表 A 被查询了一次,第二日方案按时运行后,表 A 还会展示在列表中,起到常态化监控治理效果。在资源优化同时,极大释放人力成本。

火山引擎 DataLeap 资源成本治理优势:

  • 低门槛自治:全生命周期的成本治理

  • 低门槛优化:测算治理收益 ,存储计算有效期治理,热度监控

  • 自助分析定位优化方向:对成本资源组成进行分析,快速定位优化方向

  • 自主复盘:效果复盘,治理成果自主查看 ,支持最细到表与个人查看治理收益

重视成本优化有助于从全局视角统筹数据资产,不仅提升了治理过程中的协作效率,还能做到团队自驱动自执行,从而舍弃复杂的评估和执行体系。除了上述治理能力,火山引擎 DataLeap 还可以提供数据集成、数据开发、运维、资产等能力,帮助用户提升数据研发效率、降低管理成本,加速推动企业的数据化转型,目前已经应用于泛互联网、制造、新零售、汽车等领域。

点击跳转 大数据研发治理套件DataLeap 了解更多

可视大盘 + 健康分机制,火山引擎 DataLeap 为企业降低资源优化门槛!的更多相关文章

  1. 如何又快又好实现 Catalog 系统搜索能力?火山引擎 DataLeap 这样做

      摘要 DataLeap 是火山引擎数智平台 VeDI 旗下的大数据研发治理套件产品,帮助用户快速完成数据集成.开发.运维.治理.资产.安全等全套数据中台建设,降低工作成本和数据维护成本.挖掘数据价 ...

  2. 火山引擎 DataLeap:3 个关键步骤,复制字节跳动一站式数据治理经验

    更多技术交流.求职机会,欢迎关注字节跳动数据平台微信公众号,并进入官方交流群 DataLeap 是火山引擎数智平台 VeDI 旗下的大数据研发治理套件产品,帮助用户快速完成数据集成.开发.运维.治理. ...

  3. 火山引擎 DataLeap 的 Data Catalog 系统公有云实践

      Data Catalog 通过汇总技术和业务元数据,解决大数据生产者组织梳理数据.数据消费者找数和理解数的业务场景.本篇内容源自于火山引擎大数据研发治理套件 DataLeap 中的 Data Ca ...

  4. 火山引擎 DataLeap:揭秘字节跳动数据血缘架构演进之路

    更多技术交流.求职机会,欢迎关注字节跳动数据平台微信公众号,回复[1]进入官方交流群 DataLeap 是火山引擎数智平台 VeDI 旗下的大数据研发治理套件产品,帮助用户快速完成数据集成.开发.运维 ...

  5. 火山引擎 DataLeap:一家企业,数据体系要怎么搭建?

    更多技术交流.求职机会,欢迎关注字节跳动数据平台微信公众号,回复[1]进入官方交流群 导读:经过十多年的发展,数据治理在传统行业以及新兴互联网公司都已经产生落地实践.字节跳动也在探索一种分布式的数据治 ...

  6. 火山引擎DataLeap数据调度实例的 DAG 优化方案

    更多技术交流.求职机会,欢迎关注字节跳动数据平台微信公众号,并进入官方交流群 实例 DAG 介绍 DataLeap 是火山引擎自研的一站式大数据中台解决方案,集数据集成.开发.运维.治理.资产管理能力 ...

  7. Knative Serving 健康检查机制分析

    作者|  阿里云智能事业群技术专家牛秋霖(冬岛) 导读:从头开发一个Serverless引擎并不是一件容易的事情,今天咱们就从Knative的健康检查说起.通过健康检查这一个点来看看Serverles ...

  8. 火山引擎MARS-APM Plus x 飞书 |降低线上OOM,提高App性能稳定性

    通过使用火山引擎MARS-APM Plus的memory graph功能,飞书研发团队有效分析定位问题线上case多达30例,线上OOM率降低到了0.8‰,降幅达到60%.大幅提升了用户体验,为飞书的 ...

  9. 还原火山引擎 A/B 测试产品——DataTester 私有化部署实践经验

      作为一款面向ToB市场的产品--火山引擎A/B测试(DataTester)为了满足客户对数据安全.合规问题等需求,探索私有化部署是产品无法绕开的一条路.   在面向ToB客户私有化的实际落地中,火 ...

  10. 【kubernetes入门到精通】Kubernetes的健康监测机制以及常见ExitCode问题分析「探索篇」

    kubernetes进行Killed我们服务的问题背景 无论是在微服务体系还是云原生体系的开发迭代过程中,通常都会以Kubernetes进行容器化部署,但是这也往往带来了很多意外的场景和情况.例如,虽 ...

随机推荐

  1. CF1707B [Difference Array]

    Problem 题目简述 设序列 \(a\) ,并且是单调递增的.设 \(a\) 当前长度为 \(l\),你要对 \(a\) 作差分,即令 \(b_i = a_{i+1} - a_i(1\le i & ...

  2. JAVA 类显式加载

    类显式加载 1.Class.forName("classloader.Dog");  方式加载   Example1 1 package classloader; 2 3 publ ...

  3. Gmail如何开启SMTP/POP

    1. 登录Gmail账号,右上角点击设置图标 -> 查看所有设置,如图 2. 点击"转发和POP/IMAP",如图 3. 开启IMAP和POP,选择"对所有邮件启用 ...

  4. JavaScript 语法:数组的定义及其常用属性与方法

    作者:WangMin 格言:努力做好自己喜欢的每一件事 当一个程序需要用到多个数据的时候,这时我们就需要用到数组来将这些数据集合起来,以便后期调用.接下来就开始学习吧!! 数组的定义方法 1 .第一种 ...

  5. ereere

    发现没有main函数 搜索start发现有,不过f5后发现不太像 然后在字符串那里搜索flag,点进去,然后f5但是失败了,最后发现得先定位到对应的函数处才能f5  f5 逐个查看函数,找到sub_4 ...

  6. adb从基础到进阶

    一.adb的工作原理 adb是cs架构,由三部分组成,分别是client,server,daemon,他们的关系见下图 server是整个架构的核心 server负责接收client的指令,然后将指令 ...

  7. H.264中的帧

    导言 高级视频编码 (AVC) 也称为 H.264,是使用最广泛的视频压缩标准.它与所有主要的流式传输协议和容器格式兼容. 当我们使用播放器播放一个视频时,通常会经过:解协议,解封装,音视频解码,音视 ...

  8. js做四则运算时,精度丢失问题及解决方法

    一.前言:这个问题可以说是程序员必踩的坑,因此网上针对该问题的分析有很多也很详细,解决方法也比较统一,写法也是大同小异,本以为预期效果真能如他们所说是完美的,然而效果却是差强人意. 二.问题:首先,先 ...

  9. Echarts 饼图,legend样式美化

    最后样式图: 实现代码: var myChart = echarts.init(document.getElementById('container')); let option = { /*{b}: ...

  10. 【总结】MySQL使用优化

    一.表设计 1.避免使用null  占用额外空间.索引无效.检索麻烦 2.能用int 不用varchaer,能用varchaer 不用text 3.int 最好给默认值 0 .varchar empt ...