火山引擎 DataTester 应用故事：一个 A/B 测试，将产品 DAU 提升了数十万

 

更多技术交流、求职机会，欢迎关注字节跳动数据平台微信公众号，回复【1】进入官方交流群

疫情让线下的需求大量转移到线上，催生出了远程办公、网络授课、线上健身等新的生态现象。如何更好地为用户服务，提升用户体验，成为了诸多平台的一大课题。

今天的故事来自字节的一款 App，当它的发展进入成熟期后，通过 A/B 测试等精细化数据分析提升用户体验，实现 DAU（日活跃用户数）增长数十万的故事。

在字节有一个专门保障用户使用性能体验的团队，他们在日常的数据观察中发现了一个现象：用户所使用的设备性能好坏，会影响到他们在产品使用中的活跃度。同时，他们在研究中发现，这些基础性能体验的提升，会延长不同细分领域的用户生命周期，最终提升短视频产品的大盘 DAU。

为了进一步精确归因，这个团队使用专门为 A/B 实验打造的数据产品——DataTester，该产品是字节跳动内部应用多年的 A/B 实验平台，在 2020 年已通过火山引擎面向外部企业开放服务。他们通过 DataTester 查看已经获得正向收益的 A/B 实验，并对其中的每个性能指标和业务指标做线性分析，尝试寻找会对业务指标造成影响的性能指标。

数据显示，字节每日有 3 万余个 A/B 实验在同时运行，而每一次微小的产品改动，也都会经过 A/B 实验所得出的数据验证。可以说小到按钮颜色和位置，大到推荐算法策略和规则，在字节都经历过 DataTester 的 A/B 实验效果验证。

因此，该短视频产品也在 DataTester 中积累了大量的实验记录。当性能体验团队将 DataTester 中的历史实验进行归纳整理后，他们发现有几个性能指标和产品的业务指标具有高度的相关性——当用户在刷短视频的过程中，遭遇到较多流畅度、储存占用、网络速度等问题，会直接的降低用户使用短视频产品的活跃度，而这个问题在设备性能较低的用户群体中更为明显和集中。

定位到问题后，性能体验团队开始有针对性地开启了产品策略的优化。他们集中优化了设备性能较低的用户，在打开产品启动速度和视频加载流畅性方面——

• 启动速度：首刷视频加载时间过长；

• 流畅性：UI 动画和视频加载卡顿。

他们设计了优化后的产品形态，核心是将页面展示简洁化，并再次通过 DataTester 投放 A/B 实验，用以验证效果。

配合产品页面展示简洁化，也同时减轻了一些特效、动效、快捷功能、附加组件等加载，综合性大幅提升了该短视频 App 的启动速度和视频播放的流畅度。

从 DataTester 的实验结果上看，优化后的实验组方案在性能指标上有了大幅提升，App 启动速度、播放流畅度明显提升，播放卡顿指标大幅下降。而在业务指标的数据反馈中，用户生命周期、用户访问时长等都有不同程度的正向收益。最终，本次的产品优化在 DataTester 中取得了提升整个短视频 App 数十万日活的收益，超出预期。

从今日头条开始，字节的每款产品，在迭代中都离不开 A/B 测试。也正是因为 DataTester 在字节全业务线的深度普及和应用，帮助业务在每一个微小决策的岔路口上，都做出了那个“更正确一点”的选择。

DataTester 基于先进的底层算法，提供科学分流能力和智能的统计引擎，支持多种复杂的 A/B 实验类型。在应用和分析场景上，DataTester 深度耦合推荐、广告、搜索、UI、产品功能等多种业务场景需求，为业务增长、转化、产品迭代，策略优化，运营提效等各个环节提供科学的决策依据，让业务真正做到数据驱动。

目前，DataTester 已经服务了美的、得到、凯叔讲故事等在内的上百家标杆客户，将成熟的“数据驱动增长”经验赋能给各行业。

点击跳转火山引擎A/B测试DataTester官网了解详情