DataPipeline丨DataOps的组织架构与挑战

作者:DataPipeline CEO 陈诚
前两周,我们分别探讨了“数据的资产负债表与现状”及“DataOps理念与设计原则”。接下来,本文会在前两篇文章的基础上继续探讨由DataOps设计原则衍生出的具体组织架构。
让数据快速从负债变成资产,绝不仅仅是某种软件或者工具就可以做到的,我们需要构建相应的文化。DAMA的数据治理体系,非常详细地介绍了大量常见的岗位和职责,在此就不一一赘述,只是在此增加一些贯彻DataOps时非常关键的细节。
我们观察到有些企业开始让业务决策流程更多的基于数据而非完全基于等级权力、直觉经验。比如,让薪酬绩效和使用数据创新的程度挂钩,公开表扬那些通过小步快跑使用数据为公司开源节流做出贡献的先进标兵等等。
但如果仔细观察,这些都是数据文化落地的结果,而非原因。我们认为,改变文化最重要的是构建与愿景相符的组织架构和责权利说明。否则再多措施,都将是杯水车薪。Gartner预测,到2021年,CIO将像首席人力资源官那样担负起文化变革的职责,将“文化即障碍”的话题转向“文化即赋能”。

而DataOps所代表的数据驱动文化,并不适合所有组织,只适合那些业务过程中产生的数据价值密度比较高,并相信数据可以提升改变的组织。
在探索组织架构的设计原则中,我们一定要坚持合规、快速、开放三个原则,明确实践DataOps过程中所需的角色和职责。
首席执行官和董事会
数据即战略,CEO和董事会需要深刻理解快速将数据战略落地的意义和风险,并着手构建下述组织架构,鼓励相应的文化和创新。

CEO都是战场上拼杀出来的将领,既要关注生存,也要关注发展,所有创新的主题都需要围绕业务价值,而数据很难做到立竿见影,所以平衡短期收益与长期发展考验的是CEO的智慧。例如,Nike在开展数字化转型的若干年后才开始连续N个季度的两位数增长。CEO既要鼓励创新,又要有耐心培育新的土壤。如果CEO在公布决策时都是引用数据,并对企业内部的数据创新非常熟悉,那么DataOps已经成功了一半,否则其他人的努力有极大概率会付诸东流。
首席数据官(CDO)
由CEO领导,CDO就是用数据创造业务价值的首席运营官,直接负责公司组织内部数据发展策略落地的详细路径和整体节奏,根据业务模式确定合规要求、需求满足的价值、速度、流程、以及自动化、智能化技术路线的选择。
这里一定要注意满足业务需求的速度和质量,由于数据需求的挑战较大,太多CDO无法在一定时间,一定业务范围内快速达成CEO、董事会、业务部门希望看到的效果。没有一个好的起点,首席数据官的工作就会丧失前进的节奏,陷于和业务部门就数据的上收、使用等流程长期讨论和拉锯的泥潭中,造成恶性循环,使这个岗位变成高危职位,很难度过蜜月期。据我们观察,很多企业开始设立CDO的岗位,并尝试通过数据带来业务增长,客观来说,这和其他高管职位一样,是一个机遇与挑战并存的情况。
数据合规与标准委员会
由CEO领导,并由公司的业务线领导、法务领导、首席数据官组成,详细制定出数据使用的边界、自由度和数据质量标准。负责随着业务的发展保持最高频率(一般是一周一次)的讨论更新,同时使用自动化的工具将规则同步至数据系统中。如果业务的变化无法从合规层面保持一致,就会逐步成为限制数据使用的瓶颈。这里的挑战在于不让规则讨论过于大而全,要尽快在一定范围内达成共识,逐步推动部分范围内规则地快速落地,否则会使愿景的落地失去前进节奏。
数据部门
由首席数据官领导,包括数据工程师,分析师和数据科学家。数据工程师负责使用符合时代挑战的自研或者商业的工具,确保业务用户可以自助式地完成数据全生命周期的使用和管理。同时负责企业内外的数据源能自动高效地集成融合,快速满足业务取数、用数需求,另外通过保证元数据、主数据、数据血缘与业务发展时刻保持一致,让业务准确无误地理解数据语义。
他们不仅要确保大数据平台的负载均衡、稳定性,可以随时响应业务对数据模型的计算和查询需求。还要遵循标准委员制定的标准,通过手工制定规则和各种算法确保数据质量并尽可能做到前置预警。通常情况下,为了快速支持业务部门实践数据服务,创新业务模式,数据部门需要对外提供根据业务权限快速构建服务API化内部数据的能力(Gartner定义为Data Hub)。
最后,也是非常重要的一点,在应对业务部门的需求时,需要有一套“定价体系”。因为数据支持业务的发展探索是存在成本的,但目前业务部门对此并无感知,更核算不出ROI,例如云服务、数据服务API的成本,完成需求所需的人力成本(如果是纯自助可灵活考虑)。在成本面前,很容易筛选出真需求,排出优先级,并且在后续服务中理清ROI。这条路举步维艰,但又势在必行,否则数据部门的业务价值困境始终会存在。 这里需要讨论的是,有时数据部门在没有设立首席数据官的情况下也由CIO领导,这时有一个职责划分艺术,每个企业的情况都不同,但CDO的重点职责是在合适的企业内带领数据组用数据快速产生业务价值。CIO的职责范围更广,但专精的领域不在该点上。
业务部门
部门中应当拥有能深入理解业务的分析师和科学家,自助使用数据部门提供的工具,这时使用门槛会不断降低,取数用数的难度和周期也会大幅下降,技能的要求一般是SQL级别。因此业务部门需要更加理解数据,并构思数据可以应用到自身业务发展的角度,再通过管理数据使用的全生命周期,在实践中不断总结。 挑战在于如何能快速用数据高效地带来业务价值,通过解耦来摆脱发展受到数据部门效率制约的现状。
对上述问题感兴趣的伙伴,请持续关注DataPipeline
参考资料:《首席信息官:打破文化壁垒,赋能数字化转型》作者 / GartnerInc
DataPipeline丨DataOps的组织架构与挑战的更多相关文章
- DataPipeline丨DataOps理念与设计原则
作者:DataPipeline CEO 陈诚 上周我们探讨了数据的「资产负债表」与「现状」,期间抛给大家一个问题:如果我们制作一个企业的“数据资产负债表”,到底会有多少数据是企业真正的资产? 数据出现 ...
- ASP.NET MVC5+EF6+EasyUI 后台管理系统(41)-组织架构
系列目录 本节开始我们要实现工作流,此工作流可以和之前的所有章节脱离关系,也可以紧密合并. 我们当初设计的项目解决方案就是可伸缩可以拆离,可共享的项目解决方案.所以我们同时要添加App.Flow文件夹 ...
- Atittit.研发公司的组织架构与部门架构总结
Atittit.研发公司的组织架构与部门架构总结 1. archi组织架构与 部门规划2 1.1. 最高五大组织机构2 1.2. 宗教事务部2 1.3. 制度与重大会议委员会2 1.4. 纠纷处理部: ...
- 使用jOrgChart插件实现组织架构图的展示
项目要做组织架构图,要把它做成自上而下的树形结构. 一.说明 (1)通过后台查询数据库,生成树形数组结构,返回到前台. (2)需要引入的js插件和css文件: ①jquery.jOrgChart.cs ...
- 2,SFDC 管理员篇 - 组织架构
1,组织架构 Setup | Administrator | Manage User| Role 组织层级有三种模式,基于区域划分,基于产品划分,基于公司规模划分层级(目标客户群体划分层级或渠道划分) ...
- Oracle 组织架构(转)
原文地址:Oracle 组织架构 我们先来看一下实际生活中的集团组织架构. 下图是一个典型的投资集团组织架构. 集团在各个国家有独立的法人. 每个法人会负责若干个业务进行,比如石油开采,汽车制造,软件 ...
- 两个和尚抬水有水喝,三个和尚抬水没水喝------IT项目管理之组织架构
说到项目经理岗位,一般的想法是,一个项目只能有一个项目经理,否则责任不明,互相推诿.偏偏IT项目需要有两个甚至三个项目经理.原因何在呢? 典型的IT项目(不包含纯技术或工具类项目)是把用户的需求转化成 ...
- 构建ASP.NET MVC4+EF5+EasyUI+Unity2.x注入的后台管理系统(41)-组织架构
原文:构建ASP.NET MVC4+EF5+EasyUI+Unity2.x注入的后台管理系统(41)-组织架构 本节开始我们要实现工作流,此工作流可以和之前的所有章节脱离关系,也可以紧密合并. 我们当 ...
- PHP Yii框架开发——组织架构网站重构
最近一段时间在维护公司的组织架构网站(Org),旧版网站只是用了xampp简单搭建了一套环境部署在了windows机器上,代码结构相对简单. 整个架构如下: 整个架构没有用到复杂的结构,class里放 ...
随机推荐
- 跟我学SpringCloud | 终篇:文章汇总(持续更新)
SpringCloud系列教程 | 终篇:文章汇总(持续更新) 我为什么这些文章?一是巩固自己的知识,二是希望有更加开放和与人分享的心态,三是接受各位大神的批评指教,有任何问题可以联系我: inwsy ...
- Appium+python自动化(二十)- 猴哥失散多年的混血弟弟还是妹妹- Monkey(猴子)日志(超详解)
简介 日志是非常重要的,用于记录系统.软件操作事件的记录文件或文件集合,可分为事件日志和消息日志.具有处理历史数据.诊断问题的追踪以及理解系统.软件的活动等重要作用,在开发或者测试软系统过程中出现了问 ...
- 关于int和integer
大家可以看一下下面这个java程序的运行结果 int k = 1; int l = 1; System.out.println(k == l); int a = 128; int b = 128; S ...
- vue自定义表单生成器,可根据json参数动态生成表单
介绍 form-create 是一个可以通过 JSON 生成具有动态渲染.数据收集.验证和提交功能的表单生成器.并且支持生成任何 Vue 组件.结合内置17种常用表单组件和自定义组件,再复杂的表单都可 ...
- 内核下载、nfs挂载:个性问题及解决方法~~共勉
开发板下载内核遇到starting waiting问题时: 首先想到是下载地址的问题! 将原本下载地址减去0X40,例如:smart210下载地址0X20008000,修改为0X20007FC0,即可 ...
- 洛谷P1640 [SCOI2010]连续攻击游戏 题解
题目链接: https://www.luogu.org/problemnew/show/P1640 分析: 这道题用二分图来解决即可.应该可以作为网络流中的模板题来食用, 每一个武器有两个属性,但是只 ...
- manjaro配置记录
一.换源 官方镜像源(包括 core, extra, community, multilib ) sudo pacman-mirrors -i -c China -m rank //更新镜像排名 su ...
- 2019牛客暑期多校训练营(第三场)H题目
题意:给你一个N×N的矩阵,求最大的子矩阵 满足子矩阵中最大值和最小值之差小于等于m. 思路:这题是求满足条件的最大子矩阵,毫无疑问要遍历所有矩阵,并判断矩阵是某满足这个条件,那么我们大致只要解决两个 ...
- JSTL和EL简介
EL Expression Language,表达式语言,通过操作存在于PageContext等的数据,实现JSP的编写更加简单,单纯使用EL不用引入jar包,只要容器支持即可. EL的隐含对象 EL ...
- 金蝶K3 V12.2版本,对已发生业务单据的物料启用辅助计量单位
/****************************************************************************** 联达双计量单位 yLD_K3Data_S ...