DataPipeline丨DataOps的组织架构与挑战

作者:DataPipeline CEO 陈诚
前两周,我们分别探讨了“数据的资产负债表与现状”及“DataOps理念与设计原则”。接下来,本文会在前两篇文章的基础上继续探讨由DataOps设计原则衍生出的具体组织架构。
让数据快速从负债变成资产,绝不仅仅是某种软件或者工具就可以做到的,我们需要构建相应的文化。DAMA的数据治理体系,非常详细地介绍了大量常见的岗位和职责,在此就不一一赘述,只是在此增加一些贯彻DataOps时非常关键的细节。
我们观察到有些企业开始让业务决策流程更多的基于数据而非完全基于等级权力、直觉经验。比如,让薪酬绩效和使用数据创新的程度挂钩,公开表扬那些通过小步快跑使用数据为公司开源节流做出贡献的先进标兵等等。
但如果仔细观察,这些都是数据文化落地的结果,而非原因。我们认为,改变文化最重要的是构建与愿景相符的组织架构和责权利说明。否则再多措施,都将是杯水车薪。Gartner预测,到2021年,CIO将像首席人力资源官那样担负起文化变革的职责,将“文化即障碍”的话题转向“文化即赋能”。

而DataOps所代表的数据驱动文化,并不适合所有组织,只适合那些业务过程中产生的数据价值密度比较高,并相信数据可以提升改变的组织。
在探索组织架构的设计原则中,我们一定要坚持合规、快速、开放三个原则,明确实践DataOps过程中所需的角色和职责。
首席执行官和董事会
数据即战略,CEO和董事会需要深刻理解快速将数据战略落地的意义和风险,并着手构建下述组织架构,鼓励相应的文化和创新。

CEO都是战场上拼杀出来的将领,既要关注生存,也要关注发展,所有创新的主题都需要围绕业务价值,而数据很难做到立竿见影,所以平衡短期收益与长期发展考验的是CEO的智慧。例如,Nike在开展数字化转型的若干年后才开始连续N个季度的两位数增长。CEO既要鼓励创新,又要有耐心培育新的土壤。如果CEO在公布决策时都是引用数据,并对企业内部的数据创新非常熟悉,那么DataOps已经成功了一半,否则其他人的努力有极大概率会付诸东流。
首席数据官(CDO)
由CEO领导,CDO就是用数据创造业务价值的首席运营官,直接负责公司组织内部数据发展策略落地的详细路径和整体节奏,根据业务模式确定合规要求、需求满足的价值、速度、流程、以及自动化、智能化技术路线的选择。
这里一定要注意满足业务需求的速度和质量,由于数据需求的挑战较大,太多CDO无法在一定时间,一定业务范围内快速达成CEO、董事会、业务部门希望看到的效果。没有一个好的起点,首席数据官的工作就会丧失前进的节奏,陷于和业务部门就数据的上收、使用等流程长期讨论和拉锯的泥潭中,造成恶性循环,使这个岗位变成高危职位,很难度过蜜月期。据我们观察,很多企业开始设立CDO的岗位,并尝试通过数据带来业务增长,客观来说,这和其他高管职位一样,是一个机遇与挑战并存的情况。
数据合规与标准委员会
由CEO领导,并由公司的业务线领导、法务领导、首席数据官组成,详细制定出数据使用的边界、自由度和数据质量标准。负责随着业务的发展保持最高频率(一般是一周一次)的讨论更新,同时使用自动化的工具将规则同步至数据系统中。如果业务的变化无法从合规层面保持一致,就会逐步成为限制数据使用的瓶颈。这里的挑战在于不让规则讨论过于大而全,要尽快在一定范围内达成共识,逐步推动部分范围内规则地快速落地,否则会使愿景的落地失去前进节奏。
数据部门
由首席数据官领导,包括数据工程师,分析师和数据科学家。数据工程师负责使用符合时代挑战的自研或者商业的工具,确保业务用户可以自助式地完成数据全生命周期的使用和管理。同时负责企业内外的数据源能自动高效地集成融合,快速满足业务取数、用数需求,另外通过保证元数据、主数据、数据血缘与业务发展时刻保持一致,让业务准确无误地理解数据语义。
他们不仅要确保大数据平台的负载均衡、稳定性,可以随时响应业务对数据模型的计算和查询需求。还要遵循标准委员制定的标准,通过手工制定规则和各种算法确保数据质量并尽可能做到前置预警。通常情况下,为了快速支持业务部门实践数据服务,创新业务模式,数据部门需要对外提供根据业务权限快速构建服务API化内部数据的能力(Gartner定义为Data Hub)。
最后,也是非常重要的一点,在应对业务部门的需求时,需要有一套“定价体系”。因为数据支持业务的发展探索是存在成本的,但目前业务部门对此并无感知,更核算不出ROI,例如云服务、数据服务API的成本,完成需求所需的人力成本(如果是纯自助可灵活考虑)。在成本面前,很容易筛选出真需求,排出优先级,并且在后续服务中理清ROI。这条路举步维艰,但又势在必行,否则数据部门的业务价值困境始终会存在。 这里需要讨论的是,有时数据部门在没有设立首席数据官的情况下也由CIO领导,这时有一个职责划分艺术,每个企业的情况都不同,但CDO的重点职责是在合适的企业内带领数据组用数据快速产生业务价值。CIO的职责范围更广,但专精的领域不在该点上。
业务部门
部门中应当拥有能深入理解业务的分析师和科学家,自助使用数据部门提供的工具,这时使用门槛会不断降低,取数用数的难度和周期也会大幅下降,技能的要求一般是SQL级别。因此业务部门需要更加理解数据,并构思数据可以应用到自身业务发展的角度,再通过管理数据使用的全生命周期,在实践中不断总结。 挑战在于如何能快速用数据高效地带来业务价值,通过解耦来摆脱发展受到数据部门效率制约的现状。
对上述问题感兴趣的伙伴,请持续关注DataPipeline
参考资料:《首席信息官:打破文化壁垒,赋能数字化转型》作者 / GartnerInc
DataPipeline丨DataOps的组织架构与挑战的更多相关文章
- DataPipeline丨DataOps理念与设计原则
作者:DataPipeline CEO 陈诚 上周我们探讨了数据的「资产负债表」与「现状」,期间抛给大家一个问题:如果我们制作一个企业的“数据资产负债表”,到底会有多少数据是企业真正的资产? 数据出现 ...
- ASP.NET MVC5+EF6+EasyUI 后台管理系统(41)-组织架构
系列目录 本节开始我们要实现工作流,此工作流可以和之前的所有章节脱离关系,也可以紧密合并. 我们当初设计的项目解决方案就是可伸缩可以拆离,可共享的项目解决方案.所以我们同时要添加App.Flow文件夹 ...
- Atittit.研发公司的组织架构与部门架构总结
Atittit.研发公司的组织架构与部门架构总结 1. archi组织架构与 部门规划2 1.1. 最高五大组织机构2 1.2. 宗教事务部2 1.3. 制度与重大会议委员会2 1.4. 纠纷处理部: ...
- 使用jOrgChart插件实现组织架构图的展示
项目要做组织架构图,要把它做成自上而下的树形结构. 一.说明 (1)通过后台查询数据库,生成树形数组结构,返回到前台. (2)需要引入的js插件和css文件: ①jquery.jOrgChart.cs ...
- 2,SFDC 管理员篇 - 组织架构
1,组织架构 Setup | Administrator | Manage User| Role 组织层级有三种模式,基于区域划分,基于产品划分,基于公司规模划分层级(目标客户群体划分层级或渠道划分) ...
- Oracle 组织架构(转)
原文地址:Oracle 组织架构 我们先来看一下实际生活中的集团组织架构. 下图是一个典型的投资集团组织架构. 集团在各个国家有独立的法人. 每个法人会负责若干个业务进行,比如石油开采,汽车制造,软件 ...
- 两个和尚抬水有水喝,三个和尚抬水没水喝------IT项目管理之组织架构
说到项目经理岗位,一般的想法是,一个项目只能有一个项目经理,否则责任不明,互相推诿.偏偏IT项目需要有两个甚至三个项目经理.原因何在呢? 典型的IT项目(不包含纯技术或工具类项目)是把用户的需求转化成 ...
- 构建ASP.NET MVC4+EF5+EasyUI+Unity2.x注入的后台管理系统(41)-组织架构
原文:构建ASP.NET MVC4+EF5+EasyUI+Unity2.x注入的后台管理系统(41)-组织架构 本节开始我们要实现工作流,此工作流可以和之前的所有章节脱离关系,也可以紧密合并. 我们当 ...
- PHP Yii框架开发——组织架构网站重构
最近一段时间在维护公司的组织架构网站(Org),旧版网站只是用了xampp简单搭建了一套环境部署在了windows机器上,代码结构相对简单. 整个架构如下: 整个架构没有用到复杂的结构,class里放 ...
随机推荐
- C++学习书籍推荐《Exceptional C++》下载
百度云及其他网盘下载地址:点我 编辑推荐 <Exceptional C++:47个C++工程难题.编程问题和解决方案(中文版)>中的每个问题都给出了难度系数,在这些问题中阐释一些微妙的编程 ...
- c++学习书籍推荐《C++语言的设计与演化》下载
百度云及其他网盘下载地址:点我 编辑推荐 <C++语言的设计与演化>由C++语言的设计者Bjarne Stroustrup著就,是一本阐述C++语言的设计及开发过程的无可争辩的内情手册.S ...
- Java学习笔记之---类和对象
Java学习笔记之---类和对象 (一)类 类是一个模板,它描述一类对象的行为和状态 例如:动物类是一个类,动物们都有属性:颜色,动物们都有行为:吃饭 public class Dog { Stri ...
- Asp.Net url参数加密存在特殊符号处理方法
Url出现了有+,空格,/,?,%,#,&,=等特殊符号的时候,服务器端无法获得正确的参数值,解决办法. 使用System.Web.HttpUtility.UrlEncode()方法将这些字符 ...
- python接口自动化(三十二)--Python发送邮件(常见四种邮件内容)番外篇——上(详解)
简介 本篇文章与前边没有多大关联,就是对前边有关发邮件的总结和梳理.在写脚本时,放到后台运行,想知道执行情况,会通过邮件.SMS(短信).飞信.微信等方式通知管理员,用的最多的是邮件.在linux下, ...
- Oracle修改字段类型报错:“ORA-01439:要更改数据类型,则要修改的列必须为空”
在oracle修改user表字段name类型时遇到报错:“ORA-01439:要更改数据类型,则要修改的列必须为空”,是因为要修改字段的新类型和原来的类型不兼容. 如果要修改的字段数据为空时,则不会报 ...
- 星际旅行(欧拉路,欧拉回路)(20190718 NOIP模拟测试5)
瞎搞了一个ans+=du*(du-1)/2 wa20分,好桑心(话外音:居然还有二十分,出题人太周到了) 还是判欧拉路 题解没太仔细想,感觉还是kx的思路明白 具体就是:因为每条边要走两遍,可以把一条 ...
- Excel催化剂开源第45波-按原图大小导出图片
从Excel中导出图片,是一个很常规的需求,也有一些久旧不衰的界面操作法小技巧从OpenXml文件中批量导出,在VBA开发中,也会使用Chart对象的背景图的技巧来导出.总体来说,和真正想要的效果还是 ...
- 个人永久性免费-Excel催化剂功能第61波-快速锁定解锁单元格及显示隐藏公式
Excel的所有功能都是需求导向的,正因为有客户在企业管理的过程中,有这样的需求出现了,然后相应的Excel就出现了相应的功能来辅助管理,学习Excel的功能,其实真的可以学习到先进企业的许多的管理思 ...
- xutils3 上传文件操作——个人小计
上传文件注意: 使用KeyValue对象进行添加文件操作 int uid = 2; //普通字段的存储 requestParams.addBodyParameter("uid", ...