更多技术交流、求职机会,欢迎关注字节跳动数据平台微信公众号,回复【1】进入官方交流群

随着数仓及研发技术团队维护的数据量大、资源使用量大、成本越高、优化压力越大。如何主动发现无效或低效使用的资源,并且可以周期性高效的进行主动治理变为团队治理目标核心诉求之一。在传统情况下,资源优化多数依靠团队经验和人为意识管控。

目前,火山引擎大数据研发治理套件 DataLeap 提供资源大盘结合健康分监测,针对健康分大盘下钻到有问题的资源进行主动资源优化,明确有问题的资产库,以及资源消耗影响最大的个人或团队,主动进行催办,达到高效利用服务资源目标,有效降低企业资源成本。

对于治理负责人角色,在成本治理环节,目标是根据资产的整体情况降低存储和计算资源,从而降低管理成本。火山引擎 DataLeap 资源优化规则库可灵活丰富根据业务当前治理规划需要,按需选择适合当前整体治理策略;对于治理接口人角色,可以通过火山引擎 DataLeap 圈定自定义规则,如数据生命周期有效时间未设置、数据表长时间未被查询等。以达到提升资产整体健康分、节约存储的目的。

同时,对于长期未做治理和有治理需求的团队,火山引擎 DataLeap 数据治理平台会提供自动定期提醒能力;最终,再通过治理大盘验收资源优化的效果是否符合预期,将优化规则经验通用规则沉淀下来,可为其他团队直接引用。

火山引擎 DataLeap 资源成本治理重点功能:

火山引擎 DataLeap 为企业提供了统一的工具和规范,帮助企业根据业务现状开展相关资源治理

  • 存储治理:支持查看存储资产明细情况,并提供公共规则及治理建议,可快速定位治理主要侧重点

  • 计算治理:可对任务资源使用详情,队列资源合理性,计算健康分进行评估。治理接口人可直接使用平台公共规则如任务连续失败、产出表为空、产出表无热度、资源申请不合理等优化项,同时平台提出参数及推荐优化建议

  • 诊断评率:平台提供的三种诊断频率,可根据实际业务需求进行配置。指定方案规则的诊断频率及结束时间

诊断一次:诊断规则立即执行,将会立即对治理域的资产进行规则扫描,后续不会再运行

每日诊断-最新结果:方案在结束日期前,每日根据规则运行,方案页面展示每日运行的最新结果。历史运行结果可在历史版本中查看,不与历史诊断结果累加。

每日诊断-累计结果:例如 1 月 1 日近 30 天没有访问,扫描出资产表 A。扫描后表 A 被查询了一次,第二日方案按时运行后,表 A 还会展示在列表中,起到常态化监控治理效果。在资源优化同时,极大释放人力成本。

火山引擎 DataLeap 资源成本治理优势:

  • 低门槛自治:全生命周期的成本治理

  • 低门槛优化:测算治理收益 ,存储计算有效期治理,热度监控

  • 自助分析定位优化方向:对成本资源组成进行分析,快速定位优化方向

  • 自主复盘:效果复盘,治理成果自主查看 ,支持最细到表与个人查看治理收益

重视成本优化有助于从全局视角统筹数据资产,不仅提升了治理过程中的协作效率,还能做到团队自驱动自执行,从而舍弃复杂的评估和执行体系。除了上述治理能力,火山引擎 DataLeap 还可以提供数据集成、数据开发、运维、资产等能力,帮助用户提升数据研发效率、降低管理成本,加速推动企业的数据化转型,目前已经应用于泛互联网、制造、新零售、汽车等领域。

点击跳转 大数据研发治理套件DataLeap 了解更多

可视大盘 + 健康分机制,火山引擎 DataLeap 为企业降低资源优化门槛!的更多相关文章

  1. 如何又快又好实现 Catalog 系统搜索能力?火山引擎 DataLeap 这样做

      摘要 DataLeap 是火山引擎数智平台 VeDI 旗下的大数据研发治理套件产品,帮助用户快速完成数据集成.开发.运维.治理.资产.安全等全套数据中台建设,降低工作成本和数据维护成本.挖掘数据价 ...

  2. 火山引擎 DataLeap:3 个关键步骤,复制字节跳动一站式数据治理经验

    更多技术交流.求职机会,欢迎关注字节跳动数据平台微信公众号,并进入官方交流群 DataLeap 是火山引擎数智平台 VeDI 旗下的大数据研发治理套件产品,帮助用户快速完成数据集成.开发.运维.治理. ...

  3. 火山引擎 DataLeap 的 Data Catalog 系统公有云实践

      Data Catalog 通过汇总技术和业务元数据,解决大数据生产者组织梳理数据.数据消费者找数和理解数的业务场景.本篇内容源自于火山引擎大数据研发治理套件 DataLeap 中的 Data Ca ...

  4. 火山引擎 DataLeap:揭秘字节跳动数据血缘架构演进之路

    更多技术交流.求职机会,欢迎关注字节跳动数据平台微信公众号,回复[1]进入官方交流群 DataLeap 是火山引擎数智平台 VeDI 旗下的大数据研发治理套件产品,帮助用户快速完成数据集成.开发.运维 ...

  5. 火山引擎 DataLeap:一家企业,数据体系要怎么搭建?

    更多技术交流.求职机会,欢迎关注字节跳动数据平台微信公众号,回复[1]进入官方交流群 导读:经过十多年的发展,数据治理在传统行业以及新兴互联网公司都已经产生落地实践.字节跳动也在探索一种分布式的数据治 ...

  6. 火山引擎DataLeap数据调度实例的 DAG 优化方案

    更多技术交流.求职机会,欢迎关注字节跳动数据平台微信公众号,并进入官方交流群 实例 DAG 介绍 DataLeap 是火山引擎自研的一站式大数据中台解决方案,集数据集成.开发.运维.治理.资产管理能力 ...

  7. Knative Serving 健康检查机制分析

    作者|  阿里云智能事业群技术专家牛秋霖(冬岛) 导读:从头开发一个Serverless引擎并不是一件容易的事情,今天咱们就从Knative的健康检查说起.通过健康检查这一个点来看看Serverles ...

  8. 火山引擎MARS-APM Plus x 飞书 |降低线上OOM,提高App性能稳定性

    通过使用火山引擎MARS-APM Plus的memory graph功能,飞书研发团队有效分析定位问题线上case多达30例,线上OOM率降低到了0.8‰,降幅达到60%.大幅提升了用户体验,为飞书的 ...

  9. 还原火山引擎 A/B 测试产品——DataTester 私有化部署实践经验

      作为一款面向ToB市场的产品--火山引擎A/B测试(DataTester)为了满足客户对数据安全.合规问题等需求,探索私有化部署是产品无法绕开的一条路.   在面向ToB客户私有化的实际落地中,火 ...

  10. 【kubernetes入门到精通】Kubernetes的健康监测机制以及常见ExitCode问题分析「探索篇」

    kubernetes进行Killed我们服务的问题背景 无论是在微服务体系还是云原生体系的开发迭代过程中,通常都会以Kubernetes进行容器化部署,但是这也往往带来了很多意外的场景和情况.例如,虽 ...

随机推荐

  1. svn的常规使用

    svn的常规使用 svn的常规使用 1 客户端 2 svn server 3 qt使用svn 4 svn项目迁移 Ubuntu上使用svn 1 安装 2 使用 svn的常规使用 1 客户端 下载地址: ...

  2. MacOS X终端里SSH会话管理

    http://codelife.me/blog/2012/09/01/ssh-session-profile-management-in-terminal-of-macos-x/ 本文介绍如何在终端里 ...

  3. dotnet 探究 SemanticKernel 的 planner 的原理

    在使用 SemanticKernel 时,我着迷于 SemanticKernel 强大的 plan 能力,通过 plan 功能可以让 AI 自动调度拼装多个模块实现复杂的功能.我特别好奇 Semant ...

  4. Spring系列:Spring6简介和基本使用

    一.概述 1.1 特点 Spring 是一款主流的 Java EE 轻量级开源框架 ,Spring 由"Spring 之父"Rod Johnson 提出并创立,其目的是用于简化 J ...

  5. git 添加/删除子模块

    背景 在很多项目中经常会重复使用一些代码块, 例如按键处理, LED提示, modbus等等 在传统开发中, 我们经常是将一些代码写成独立的.c/.h模块. 但随着时间的推移我们经常需要根据一 些项目 ...

  6. DOT 学习笔记

    开始大恶补图论了. 说句闲话,\(\text{ODT}\) 和 \(\text{DOT}\). \(\text{DOT}\),全称「树上启发式合并(\(\text{dsu on tree}\))」,乍 ...

  7. Vue 2.x源码学习:数据响应式改造

    内容乃本人学习Vue2源码的一点笔记,若有错误还望指正. 源码版本: vue: 2.6 vue-loader: 13.x vue-template-compiler: 2.6 相关学习笔记: rend ...

  8. 不懂乐理,也能扒谱,基于openvpi将mp3转换为midi乐谱(Python3.10)

    所谓"扒谱"是指通过听歌或观看演奏视频等方式,逐步分析和还原音乐作品的曲谱或乐谱的过程.它是音乐学习和演奏的一种常见方法,通常由音乐爱好者.乐手或学生使用. 在扒谱的过程中,人们会 ...

  9. OpenAI 董事会宫斗始作俑者?一窥伊尔亚·苏茨克维内心世界

    OpenAI 董事会闹剧应该是暂告一个段落了,Sam Altman和Greg Brockman等一众高管均已加入微软,还有员工写联名信逼宫董事会的戏码,关注度已经降下来了. 但是,这场宫斗闹剧的中心人 ...

  10. 《HelloGitHub》第 92 期

    兴趣是最好的老师,HelloGitHub 让你对编程感兴趣! 简介 HelloGitHub 分享 GitHub 上有趣.入门级的开源项目. https://github.com/521xueweiha ...