更多技术交流、求职机会,欢迎关注字节跳动数据平台微信公众号,回复【1】进入官方交流群

随着数仓及研发技术团队维护的数据量大、资源使用量大、成本越高、优化压力越大。如何主动发现无效或低效使用的资源,并且可以周期性高效的进行主动治理变为团队治理目标核心诉求之一。在传统情况下,资源优化多数依靠团队经验和人为意识管控。

目前,火山引擎大数据研发治理套件 DataLeap 提供资源大盘结合健康分监测,针对健康分大盘下钻到有问题的资源进行主动资源优化,明确有问题的资产库,以及资源消耗影响最大的个人或团队,主动进行催办,达到高效利用服务资源目标,有效降低企业资源成本。

对于治理负责人角色,在成本治理环节,目标是根据资产的整体情况降低存储和计算资源,从而降低管理成本。火山引擎 DataLeap 资源优化规则库可灵活丰富根据业务当前治理规划需要,按需选择适合当前整体治理策略;对于治理接口人角色,可以通过火山引擎 DataLeap 圈定自定义规则,如数据生命周期有效时间未设置、数据表长时间未被查询等。以达到提升资产整体健康分、节约存储的目的。

同时,对于长期未做治理和有治理需求的团队,火山引擎 DataLeap 数据治理平台会提供自动定期提醒能力;最终,再通过治理大盘验收资源优化的效果是否符合预期,将优化规则经验通用规则沉淀下来,可为其他团队直接引用。

火山引擎 DataLeap 资源成本治理重点功能:

火山引擎 DataLeap 为企业提供了统一的工具和规范,帮助企业根据业务现状开展相关资源治理

  • 存储治理:支持查看存储资产明细情况,并提供公共规则及治理建议,可快速定位治理主要侧重点

  • 计算治理:可对任务资源使用详情,队列资源合理性,计算健康分进行评估。治理接口人可直接使用平台公共规则如任务连续失败、产出表为空、产出表无热度、资源申请不合理等优化项,同时平台提出参数及推荐优化建议

  • 诊断评率:平台提供的三种诊断频率,可根据实际业务需求进行配置。指定方案规则的诊断频率及结束时间

诊断一次:诊断规则立即执行,将会立即对治理域的资产进行规则扫描,后续不会再运行

每日诊断-最新结果:方案在结束日期前,每日根据规则运行,方案页面展示每日运行的最新结果。历史运行结果可在历史版本中查看,不与历史诊断结果累加。

每日诊断-累计结果:例如 1 月 1 日近 30 天没有访问,扫描出资产表 A。扫描后表 A 被查询了一次,第二日方案按时运行后,表 A 还会展示在列表中,起到常态化监控治理效果。在资源优化同时,极大释放人力成本。

火山引擎 DataLeap 资源成本治理优势:

  • 低门槛自治:全生命周期的成本治理

  • 低门槛优化:测算治理收益 ,存储计算有效期治理,热度监控

  • 自助分析定位优化方向:对成本资源组成进行分析,快速定位优化方向

  • 自主复盘:效果复盘,治理成果自主查看 ,支持最细到表与个人查看治理收益

重视成本优化有助于从全局视角统筹数据资产,不仅提升了治理过程中的协作效率,还能做到团队自驱动自执行,从而舍弃复杂的评估和执行体系。除了上述治理能力,火山引擎 DataLeap 还可以提供数据集成、数据开发、运维、资产等能力,帮助用户提升数据研发效率、降低管理成本,加速推动企业的数据化转型,目前已经应用于泛互联网、制造、新零售、汽车等领域。

点击跳转 大数据研发治理套件DataLeap 了解更多

可视大盘 + 健康分机制,火山引擎 DataLeap 为企业降低资源优化门槛!的更多相关文章

  1. 如何又快又好实现 Catalog 系统搜索能力?火山引擎 DataLeap 这样做

      摘要 DataLeap 是火山引擎数智平台 VeDI 旗下的大数据研发治理套件产品,帮助用户快速完成数据集成.开发.运维.治理.资产.安全等全套数据中台建设,降低工作成本和数据维护成本.挖掘数据价 ...

  2. 火山引擎 DataLeap:3 个关键步骤,复制字节跳动一站式数据治理经验

    更多技术交流.求职机会,欢迎关注字节跳动数据平台微信公众号,并进入官方交流群 DataLeap 是火山引擎数智平台 VeDI 旗下的大数据研发治理套件产品,帮助用户快速完成数据集成.开发.运维.治理. ...

  3. 火山引擎 DataLeap 的 Data Catalog 系统公有云实践

      Data Catalog 通过汇总技术和业务元数据,解决大数据生产者组织梳理数据.数据消费者找数和理解数的业务场景.本篇内容源自于火山引擎大数据研发治理套件 DataLeap 中的 Data Ca ...

  4. 火山引擎 DataLeap:揭秘字节跳动数据血缘架构演进之路

    更多技术交流.求职机会,欢迎关注字节跳动数据平台微信公众号,回复[1]进入官方交流群 DataLeap 是火山引擎数智平台 VeDI 旗下的大数据研发治理套件产品,帮助用户快速完成数据集成.开发.运维 ...

  5. 火山引擎 DataLeap:一家企业,数据体系要怎么搭建?

    更多技术交流.求职机会,欢迎关注字节跳动数据平台微信公众号,回复[1]进入官方交流群 导读:经过十多年的发展,数据治理在传统行业以及新兴互联网公司都已经产生落地实践.字节跳动也在探索一种分布式的数据治 ...

  6. 火山引擎DataLeap数据调度实例的 DAG 优化方案

    更多技术交流.求职机会,欢迎关注字节跳动数据平台微信公众号,并进入官方交流群 实例 DAG 介绍 DataLeap 是火山引擎自研的一站式大数据中台解决方案,集数据集成.开发.运维.治理.资产管理能力 ...

  7. Knative Serving 健康检查机制分析

    作者|  阿里云智能事业群技术专家牛秋霖(冬岛) 导读:从头开发一个Serverless引擎并不是一件容易的事情,今天咱们就从Knative的健康检查说起.通过健康检查这一个点来看看Serverles ...

  8. 火山引擎MARS-APM Plus x 飞书 |降低线上OOM,提高App性能稳定性

    通过使用火山引擎MARS-APM Plus的memory graph功能,飞书研发团队有效分析定位问题线上case多达30例,线上OOM率降低到了0.8‰,降幅达到60%.大幅提升了用户体验,为飞书的 ...

  9. 还原火山引擎 A/B 测试产品——DataTester 私有化部署实践经验

      作为一款面向ToB市场的产品--火山引擎A/B测试(DataTester)为了满足客户对数据安全.合规问题等需求,探索私有化部署是产品无法绕开的一条路.   在面向ToB客户私有化的实际落地中,火 ...

  10. 【kubernetes入门到精通】Kubernetes的健康监测机制以及常见ExitCode问题分析「探索篇」

    kubernetes进行Killed我们服务的问题背景 无论是在微服务体系还是云原生体系的开发迭代过程中,通常都会以Kubernetes进行容器化部署,但是这也往往带来了很多意外的场景和情况.例如,虽 ...

随机推荐

  1. 20.2 OpenSSL 非对称RSA加解密算法

    RSA算法是一种非对称加密算法,由三位数学家Rivest.Shamir和Adleman共同发明,以他们三人的名字首字母命名.RSA算法的安全性基于大数分解问题,即对于一个非常大的合数,将其分解为两个质 ...

  2. 【scipy 基础】--积分和微分方程

    对于手工计算来说,积分计算是非常困难的,对于一些简单的函数,我们可以直接通过已知的积分公式来求解,但在更多的情况下,原函数并没有简单的表达式,因此确定积分的反函数变得非常困难. 另外,相对于微分运算来 ...

  3. 从 SQL 查询优化技巧去看 h2 数据库查询原理

    本文目标是:了解查询的核心原理,对比 SQL 查询优化技巧在 h2database 中的落地实现. 前提:为了贴近实际应用,本文 Code Insight 基于 BTree 存储引擎. 数据查询核心原 ...

  4. Java SPI机制学习之开发实例

    原创/朱季谦 在该文章正式开始前,先对 Java SPI是什么做一个简单的介绍. SPI,是Service Provider Interface的缩写,即服务提供者接口,它允许开发人员定义一组接口,并 ...

  5. 总结---Django部分(二)

    Django中model的SlugField类型字段有什么用途? SlugField字段是将输入的内容中的空格都替换成'-'之后保存,Slug 是一个新闻术语,通常是某些东西的短标签.一个slug只能 ...

  6. JAVA学习week1

    本周: 认识到Java是一门面向对象的编程语言,不仅吸收了C++语言的各种优点,还摒弃了C++里难以理解的多继承.指针等概念,因此Java语言具有功能强大和简单易用两个特征.Java语言作为静态面向对 ...

  7. 【WCH以太网接口系列芯片】基于CH395的组播请求(IGMP)

    在上一篇文章中,我们通过直连电脑测试了CH395在组播环境中进行数据的收发,但在实际的使用场景中更多的是将CH395接入局域网环境中.因此,我们需要使用到一个协议--IGMP(Internet Gro ...

  8. Pattern类和Matcher类的使用

    1.先看好数据源 先将一个String对象确定为程序要对其进行操作的数据源. String b="hello,good morning"; 2.建立Pattern类的对象 Stri ...

  9. 在自动化测试时,Python常用的几个加密算法,你有用到吗

    本文分享自华为云社区<『加密算法』| 自动化测试时基于Python常用的几个加密算法实现,你有用到吗?>,作者:虫无涯 . 写在前边 这几天做自动化测试,遇到一个问题,那就是接口的请求的密 ...

  10. [CF1601C] Optimal Insertion

    Optimal Insertion 题面翻译 题目大意 给定两个序列 \(a,b\),长度分别为 \(n,m(1\leq n,m\leq 10^6)\).接下来将 \(b\) 中的所有元素以任意方式插 ...