更多技术交流、求职机会,欢迎重视字节跳动数据平台微信公众号,回复【1】进入官方交流群
日前,在 WOT 全球立异技术大会上,火山引擎 DataTester 技术负责人韩云飞做了关于字节跳动 A/B 测验实践分享。DataTester 是字节跳动内部运用多年的 A/B 实验平台,至今已承载了字节内部 500 余条事务线的 A/B 实验任务,累计开展的实验多达 150 万次。
字节跳动内部有着十分浓厚的数据文明和实验文明。抖音、今日头条的姓名都经由 A/B 测验确定,而 A/B 测验也被作为基础环节,嵌入在了字节内部产品研制的链路中。
通常来说,一个产品新功用的研制流程如下所示:
而字节内部的产品新功用研制流程则会在常规的基础研制流程中,额定嵌入两个环节:埋点规划与 A/B 实验计划规划。
A/B 实验在字节,就像研制敲代码、产品写需求文档一样,是产品从构思、规划到上线全流程中不可或缺的一环。
举个比如,假设抖音团队期望提升产品的用户活跃度,计划通过给产品添加一个“熟人 Tab”的方式进行,那么整个的产品优化改动流程是什么姿态的呢?
首先,从产品司理做 PRD 计划的时分开始,就会供给不止一种产品计划,包括用户路径计划、按钮位置计划等,不同的计划关于用户在抖音上的运用及留存数据,影响一定是不同的。多种计划的数据作用,将通过 A/B 测验进行量化。
下方的页面样式,就是“熟人 Tab”放置的 3 种不同计划示例:
V0 组:不设置“熟人 Tab”,不呈现“熟人重视内容”,不呈现熟人投稿后展现
V1 组:设置“熟人 Tab”,呈现“熟人重视内容”,熟人投稿后展现在“重视 Tab”页
V2 组:设置“熟人 Tab”,不呈现“熟人重视内容”,熟人投稿后展现在“熟人 Tab”页
上述 3 组计划即为在 DataTester 中敞开实验的 A/B 实验组。
因为抖音的用户体量大,如果草率的决定某个产品设置可能会对整个生态有很大的影响,因此会首先敞开小规模、小流量的多重 A/B 实验。A/B 实验的意图,一方面要验证这个功用是否能有效达到初始规划目标,另一方面也要验证新功用是否对抖音大盘核心数据有正向影响,如是否能长时间提升用户活跃度以及投稿的意愿等。
在上述说到的比如中,DataTester 的实验结果显现 V2 组实验目标各项均更为优异,阐明新增“熟人 Tab”比照其他计划而言能对抖音价值有更为明显的提升,那么后续在产品迭代中,会考虑全量上线这个产品优化策略。
DataTester 当今也通过火山引擎对外开放服务,截止现在,已服务了包括美的、得到、凯叔讲故事等在内的上百家外部企业,为事务的提效、增长、产品迭代、运营活动等各个环节供给了科学的决策依据,将老练的“数据驱动增长”经验赋能给各行业。
点击跳转 火山引擎A/B测验DataTester 了解更多