更多技术交流、求职机会,欢迎关注字节跳动数据平台微信公众号,回复【1】进入官方交流群

随着数仓及研发技术团队维护的数据量大、资源使用量大、成本越高、优化压力越大。如何主动发现无效或低效使用的资源,并且可以周期性高效的进行主动治理变为团队治理目标核心诉求之一。在传统情况下,资源优化多数依靠团队经验和人为意识管控。

目前,火山引擎大数据研发治理套件 DataLeap 提供资源大盘结合健康分监测,针对健康分大盘下钻到有问题的资源进行主动资源优化,明确有问题的资产库,以及资源消耗影响最大的个人或团队,主动进行催办,达到高效利用服务资源目标,有效降低企业资源成本。

对于治理负责人角色,在成本治理环节,目标是根据资产的整体情况降低存储和计算资源,从而降低管理成本。火山引擎 DataLeap 资源优化规则库可灵活丰富根据业务当前治理规划需要,按需选择适合当前整体治理策略;对于治理接口人角色,可以通过火山引擎 DataLeap 圈定自定义规则,如数据生命周期有效时间未设置、数据表长时间未被查询等。以达到提升资产整体健康分、节约存储的目的。

同时,对于长期未做治理和有治理需求的团队,火山引擎 DataLeap 数据治理平台会提供自动定期提醒能力;最终,再通过治理大盘验收资源优化的效果是否符合预期,将优化规则经验通用规则沉淀下来,可为其他团队直接引用。

火山引擎 DataLeap 资源成本治理重点功能:

火山引擎 DataLeap 为企业提供了统一的工具和规范,帮助企业根据业务现状开展相关资源治理

  • 存储治理:支持查看存储资产明细情况,并提供公共规则及治理建议,可快速定位治理主要侧重点

  • 计算治理:可对任务资源使用详情,队列资源合理性,计算健康分进行评估。治理接口人可直接使用平台公共规则如任务连续失败、产出表为空、产出表无热度、资源申请不合理等优化项,同时平台提出参数及推荐优化建议

  • 诊断评率:平台提供的三种诊断频率,可根据实际业务需求进行配置。指定方案规则的诊断频率及结束时间

诊断一次:诊断规则立即执行,将会立即对治理域的资产进行规则扫描,后续不会再运行

每日诊断-最新结果:方案在结束日期前,每日根据规则运行,方案页面展示每日运行的最新结果。历史运行结果可在历史版本中查看,不与历史诊断结果累加。

每日诊断-累计结果:例如 1 月 1 日近 30 天没有访问,扫描出资产表 A。扫描后表 A 被查询了一次,第二日方案按时运行后,表 A 还会展示在列表中,起到常态化监控治理效果。在资源优化同时,极大释放人力成本。

火山引擎 DataLeap 资源成本治理优势:

  • 低门槛自治:全生命周期的成本治理

  • 低门槛优化:测算治理收益 ,存储计算有效期治理,热度监控

  • 自助分析定位优化方向:对成本资源组成进行分析,快速定位优化方向

  • 自主复盘:效果复盘,治理成果自主查看 ,支持最细到表与个人查看治理收益

重视成本优化有助于从全局视角统筹数据资产,不仅提升了治理过程中的协作效率,还能做到团队自驱动自执行,从而舍弃复杂的评估和执行体系。除了上述治理能力,火山引擎 DataLeap 还可以提供数据集成、数据开发、运维、资产等能力,帮助用户提升数据研发效率、降低管理成本,加速推动企业的数据化转型,目前已经应用于泛互联网、制造、新零售、汽车等领域。

点击跳转 大数据研发治理套件DataLeap 了解更多

可视大盘 + 健康分机制,火山引擎 DataLeap 为企业降低资源优化门槛!的更多相关文章

  1. 如何又快又好实现 Catalog 系统搜索能力?火山引擎 DataLeap 这样做

      摘要 DataLeap 是火山引擎数智平台 VeDI 旗下的大数据研发治理套件产品,帮助用户快速完成数据集成.开发.运维.治理.资产.安全等全套数据中台建设,降低工作成本和数据维护成本.挖掘数据价 ...

  2. 火山引擎 DataLeap:3 个关键步骤,复制字节跳动一站式数据治理经验

    更多技术交流.求职机会,欢迎关注字节跳动数据平台微信公众号,并进入官方交流群 DataLeap 是火山引擎数智平台 VeDI 旗下的大数据研发治理套件产品,帮助用户快速完成数据集成.开发.运维.治理. ...

  3. 火山引擎 DataLeap 的 Data Catalog 系统公有云实践

      Data Catalog 通过汇总技术和业务元数据,解决大数据生产者组织梳理数据.数据消费者找数和理解数的业务场景.本篇内容源自于火山引擎大数据研发治理套件 DataLeap 中的 Data Ca ...

  4. 火山引擎 DataLeap:揭秘字节跳动数据血缘架构演进之路

    更多技术交流.求职机会,欢迎关注字节跳动数据平台微信公众号,回复[1]进入官方交流群 DataLeap 是火山引擎数智平台 VeDI 旗下的大数据研发治理套件产品,帮助用户快速完成数据集成.开发.运维 ...

  5. 火山引擎 DataLeap:一家企业,数据体系要怎么搭建?

    更多技术交流.求职机会,欢迎关注字节跳动数据平台微信公众号,回复[1]进入官方交流群 导读:经过十多年的发展,数据治理在传统行业以及新兴互联网公司都已经产生落地实践.字节跳动也在探索一种分布式的数据治 ...

  6. 火山引擎DataLeap数据调度实例的 DAG 优化方案

    更多技术交流.求职机会,欢迎关注字节跳动数据平台微信公众号,并进入官方交流群 实例 DAG 介绍 DataLeap 是火山引擎自研的一站式大数据中台解决方案,集数据集成.开发.运维.治理.资产管理能力 ...

  7. Knative Serving 健康检查机制分析

    作者|  阿里云智能事业群技术专家牛秋霖(冬岛) 导读:从头开发一个Serverless引擎并不是一件容易的事情,今天咱们就从Knative的健康检查说起.通过健康检查这一个点来看看Serverles ...

  8. 火山引擎MARS-APM Plus x 飞书 |降低线上OOM,提高App性能稳定性

    通过使用火山引擎MARS-APM Plus的memory graph功能,飞书研发团队有效分析定位问题线上case多达30例,线上OOM率降低到了0.8‰,降幅达到60%.大幅提升了用户体验,为飞书的 ...

  9. 还原火山引擎 A/B 测试产品——DataTester 私有化部署实践经验

      作为一款面向ToB市场的产品--火山引擎A/B测试(DataTester)为了满足客户对数据安全.合规问题等需求,探索私有化部署是产品无法绕开的一条路.   在面向ToB客户私有化的实际落地中,火 ...

  10. 【kubernetes入门到精通】Kubernetes的健康监测机制以及常见ExitCode问题分析「探索篇」

    kubernetes进行Killed我们服务的问题背景 无论是在微服务体系还是云原生体系的开发迭代过程中,通常都会以Kubernetes进行容器化部署,但是这也往往带来了很多意外的场景和情况.例如,虽 ...

随机推荐

  1. win10安装WSL2

    什么是WSL2 首先我们理解一下什么是WSL Windows Subsystem for Linux(简称WSL)是一个在Windows 10\11上能够运行原生Linux二进制可执行文件(ELF格式 ...

  2. 面向对象java前三次pta作业

    目录: 1.前言 2.设计与分析 3.踩坑心得 4.主要困难及改进建议 5.总结 1.前言 面向对象程序设计(Object-Oriented Programming,简称OOP)是一种编程范式,它以对 ...

  3. JS文本换行算法-模拟计算文字换行位置-基于DOM元素自发换行行为和字符分割原理-支持实体编码、不支持标签嵌套和富文本

    简介之前在学习HTML的时候一直很想弄清楚HTML内部换行的逻辑,特别是有时候我们想知道一个字符串放入一个DOM元素之后究竟在哪个字符位发生的换行,然后就可以知道在一个固定宽高且隐藏溢出的容器中当前用 ...

  4. WPF应用开发之附件管理

    在我们之前的开发框架中,往往都是为了方便,对附件的管理都会进行一些简单的封装,目的是为了方便快速的使用,并达到统一界面的效果,本篇随笔介绍我们基于SqlSugar开发框架的WPF应用端,对于附件展示和 ...

  5. 在TCP四次挥手中,为什么客户端发送FIN后,还可以发送报文

    在TCP四次挥手中,为什么客户端发送FIN后,还可以发送报文 首先回顾下四次挥手的过程. 第一次挥手:客户端停止发送数据,主动关闭 TCP 连接,处于FIN_WAIT1状态,等待服务端确认. 第二次挥 ...

  6. Element的安装与基本使用

    一.什么是Element? Element是饿了么团队研发的一套为开发者与设计师等准备的基于Vue2.0的桌面端组件库,使开发人员可以快速拼凑出一套页面 组件:组成网页的部件,例如:超链接,按钮,图片 ...

  7. Socket.D 网络应用协议,首版发布!

    有用户说,"Socket.D 之于 Socket,尤如 Vue 之于 Js.Mvc 之于 Http" 主要特性 基于事件,每个消息都可事件路由 所谓语义,通过元信息进行语义描述 流 ...

  8. SpringBoot获取启动类Application所在包路径

    1. @SpringBootApplication 注解中引用了@EnableAutoConfiguration 注解. 2.查看 @EnableAutoConfiguration 注解,发现引用了  ...

  9. C++ Qt开发:SpinBox数值微调框组件

    Qt 是一个跨平台C++图形界面开发库,利用Qt可以快速开发跨平台窗体应用程序,在Qt中我们可以通过拖拽的方式将不同组件放到指定的位置,实现图形化开发极大的方便了开发效率,本章将重点介绍QSpinBo ...

  10. 教你使用Prometheus-Operator进行K8s集群监控

    本文分享自华为云社区<Promethues-operator入门使用指导>,作者:可以交个朋友. 一. 背景 在非operator配置的普罗中我们监控k8s集群都是通过配置configma ...