产品实验记录要回答的核心问题是:这次产品改动是否真的给用户带来了价值,以及团队下一步该继续、调整还是停止。本文给出一份“新用户引导改版”的完整实验记录示例,覆盖背景、假设、对象、方案、指标、结果、结论与下一步,并逐项解释填写理由。示例为演示情景,其中的分组比例、观察周期与指标数值均为假设值,用于说明写法,不代表真实客户案例或实测成效。
要点总览(TL;DR)
- 一份可复核的产品实验记录,核心结构是“假设—方案—指标—结论—下一步”,每一环都要能相互对应。
- 假设写成“若……则……”的可证伪陈述,并附带不期望恶化的护栏条件,实验结束后才能直接判断成立与否。
- 指标分主指标、辅助指标和护栏指标三类:主指标判断价值,辅助指标解释变化来源,护栏指标守住体验底线。
- 结论明确写成“支持假设”“不支持假设”“证据不足”三种状态之一,并限定适用人群与观察窗口。
- 示例中的背景、分组和结果均为演示假设值,字段结构可以照搬,结论和数值不能迁移到自己的业务汇报中。
这份实验记录要解决什么问题
实验记录的目标,是把一次产品验证从模糊的想法变成可复核的判断依据。以本文示例为例,团队想确认的是:把新用户引导从“功能罗列式介绍”改为“按任务分步引导”,是否能让更多新用户在首次使用中完成关键动作,并愿意在随后一段时间继续回来使用。这个问题包含两层:改动是否改变了用户行为,以及这种行为变化是否对应真实的使用价值。
记录要支撑的后续动作有三类。第一类是继续,即证据支持假设,团队按方案扩大范围或进入下一轮优化;第二类是调整,即方向可能成立但方案细节有问题,需要修改引导步骤、触发时机或目标人群后重测;第三类是停止,即证据不支持假设,或出现了明显的护栏指标恶化,团队应放弃该方案并记录原因。实验记录的价值在于让这三类决定有据可查,而不是事后凭印象争论。
需要说明的是,本文示例属于演示情景。示例中的产品背景、用户分组、指标数值和结论均为假设性填写,目的是展示一份记录应有的结构与粒度。真实实验记录必须使用自己团队的实际数据、实际观察窗口和实际口径,不能把示例中的数值当作可引用的成效。
完整示例:一次新用户引导改版的实验记录
以下是一份填写完整的实验记录示例,按记录表常见字段逐项给出内容。读者可以对照自己的实验,替换背景、指标与数值。
| 字段 | 填写内容(演示情景) |
|---|---|
| 实验名称 | 新用户引导改版:任务分步引导 vs 功能罗列介绍 |
| 记录人与日期 | 产品经理 A,记录创建于实验启动前,结果于观察期结束后补充 |
| 背景 | 新用户注册后首周留存偏低,访谈反馈“不知道先做什么”。现有引导以功能列表呈现,用户看完即关闭,缺少可执行的第一步。 |
| 待验证假设 | 若将新用户引导改为按任务分步呈现,并引导用户完成第一个关键动作,则新用户在注册后 7 天内的关键动作完成率会提升,且首周留存不下降。 |
| 实验对象 | 注册后首次进入产品的新用户,排除企业邀请加入的成员与内部测试账号。 |
| 分组方式 | 按注册时间随机分流为对照组与实验组,两组比例约为 1:1;分流在注册环节完成,用户不可感知。 |
| 实验方案 | 对照组保留原功能罗列式引导;实验组展示三步任务引导,每步对应一个关键动作,完成后给出进度提示。两组其他产品体验保持一致。 |
| 观察周期 | 实验上线后连续观察 14 天,覆盖注册后 7 天的行为窗口;前 2 天数据作为预热期单独标注,不纳入主结论。 |
| 主指标 | 注册后 7 天内完成首个关键动作的用户比例。 |
| 辅助指标 | 引导流程完成率、完成首个关键动作所需时间、引导页面的退出率。 |
| 护栏指标 | 首周留存率、客服关于“不会用”的咨询量、页面加载失败率。 |
| 结果记录 | 实验组主指标高于对照组,引导流程完成率同步上升;首周留存率两组接近,咨询量未出现明显上升。具体数值以团队实际数据为准,本示例不提供真实数值。 |
| 结论 | 证据支持假设:任务分步引导与首个关键动作完成率提升方向一致,且护栏指标未出现恶化迹象。结论仅适用于本次人群与观察窗口。 |
| 下一步 | 将实验组方案扩展到全部新用户,同时由产品经理 B 在两周内补充第二步任务的文案优化实验;数据侧在扩展后继续观察 4 周留存。 |
| 责任人与时间 | 方案扩展:产品经理 A,扩展上线后一周内完成;后续观察:数据分析师 C,扩展后第 4 周输出复盘。 |
这份记录的关键在于自洽:假设里提到的指标,在方案、主指标和结论中都能找到对应;结论的措辞与结果记录的强度匹配;下一步动作有明确的人和截止时间。缺少任何一环,记录都会退化成一份事后说明。
逐项解释:每个字段为什么这样填
假设写成可证伪的陈述
示例中的假设采用“若……则……”的结构,包含改动内容、作用对象和预期变化三个要素,并附带一个不期望恶化的条件。这样写的好处是,实验结束后可以直接判断假设成立与否。相比之下,“优化引导以提升用户体验”这类表述无法证伪,因为任何结果都能被解释成“体验有所改善”。写假设时,尽量把“提升”落到具体指标和方向,把“不影响”落到护栏指标上。
指标要区分主指标与护栏指标
主指标回答“改动是否带来了预期价值”,示例中选的是首个关键动作完成率,因为它与用户能否顺利开始使用直接相关。辅助指标用于解释主指标的变化来自哪里,例如完成率上升是因为引导更清晰,还是因为退出率下降。护栏指标负责守住底线,防止团队为了主指标牺牲整体体验。三类指标各司其职,记录时不要把它们混在一张清单里,否则结论容易只挑对自己有利的数字。
结果要记录样本与观察窗口
结果部分只写“提升了”是不够的。示例中明确了观察周期、预热期处理和分组方式,目的是让读者知道这个结果在什么范围内成立。样本量、分流比例、观察天数、是否剔除异常账号,这些信息决定了结论的可信程度。即使最终数值不理想,完整记录样本与窗口也能帮助团队判断是方案问题还是观察期太短。
结论要区分三种状态
结论建议明确写成“支持假设”“不支持假设”或“证据不足”三者之一。示例属于支持假设,但措辞限定在本次人群与观察窗口内。当主指标方向正确但护栏指标出现波动时,更适合写“证据不足,需要延长观察或补充分析”;当主指标没有变化而辅助指标有异常时,应写“不支持假设”并说明可能原因。把结论状态写清楚,后续复盘才不会把一次模糊结果当成定论。
下一步要落到具体动作与时间
示例的下一步包含三件事:扩展方案、补充文案优化实验、继续观察留存,每件事都对应责任人和时间点。实验记录如果止步于结论,团队很容易在“要不要推广”上反复讨论。把下一步写成可执行的动作,记录才能直接进入协作流程。对于结论为“停止”的实验,下一步同样要写,例如关闭实验分组、清理配置、把失败原因归档到方案库。
当实验记录需要多人评审时,可以把记录放在团队共用的文档空间,把扩展方案、文案优化等后续动作拆成工作项并指派责任人,让假设、指标和结论与具体任务保持在同一处可查。ONES 的文档与工作项协作方式可以承载这类记录和交接,具体使用范围以团队实际配置为准。
可迁移规律:换一个产品实验怎么套用
示例展示的是引导改版,但记录结构可以迁移到定价、功能上线、渠道投放等不同实验。可复用的核心是“假设—方案—指标—结论”的闭环:先写清楚要验证什么,再写怎么验证,然后写用什么指标判断,最后写判断结果和下一步。换主题时,变化的是对象和指标,不变的是每一环都要能对应上。
| 实验类型 | 假设示例(演示) | 主指标示例 | 护栏指标示例 |
|---|---|---|---|
| 定价调整 | 若将入门套餐价格下调一档,则试用转付费比例上升,且客单价下降幅度可控 | 试用转付费比例 | 客单价、退款率 |
| 功能上线 | 若上线批量导出功能,则高频用户的任务完成效率提升,且页面错误率不上升 | 相关任务完成率 | 页面错误率、客服咨询量 |
| 渠道投放 | 若在某一渠道增加投放,则注册量上升,且注册后首周留存不低于现有渠道水平 | 有效注册量 | 首周留存、获客成本 |
记录粒度与团队协作方式有关。一个人完成的小实验,记录可以精简为假设、方案、指标、结论四段;跨产品、跨职能参与的实验,建议保留完整的对象、分组、观察窗口和责任人字段,方便评审和交接。粒度不是越细越好,而是要让没有参与实验的人也能读懂并复核。
实验记录支持后续复盘与决策的方式,是让每次实验都留下可比较的结构。多次实验使用相同的字段和指标口径,团队才能横向看出哪类改动更容易产生价值。需要区分的是,实验记录服务于价值验证,需求验收关注的是交付物是否按约定完成,研发效能关注的是交付过程的效率与质量。三者可以互相引用,但记录内容和判断标准不同,不宜用一份实验记录替代验收结论或效能评估。
适用边界:哪些结论不能从示例里照搬
最直接的边界是演示情景与真实案例的区别。本文示例中的背景、分组和结果均为假设性填写,用于展示记录写法,不构成任何产品的真实成效。读者可以照搬字段结构,但不能照搬示例中的结论表述,更不能把示例数值写进自己的汇报材料。
样本量与观察周期会直接影响结论可用性。示例设定 14 天观察期并覆盖注册后 7 天窗口,这是为了演示字段填写;真实实验中,如果样本量偏小或观察期过短,主指标的波动可能来自随机因素。此时更稳妥的做法是延长观察、扩大样本,或在记录中明确标注“证据不足”,而不是直接给出支持或不支持的结论。
指标口径变化会破坏可比性。例如首个关键动作的定义从“完成一次核心操作”改为“完成两次核心操作”,前后两次实验的主指标就不能直接比较。记录中应写明指标定义和统计口径,口径调整时在记录里注明变更原因和生效时间。跨实验复用结论前,先确认人群、方案和口径是否一致。
出现以下情况时,建议重新设计实验而不是复用已有结论:目标人群发生明显变化,例如从个人用户扩展到企业成员;产品方案有实质性改动,例如引导步骤从三步变为五步;护栏指标出现持续恶化;或者原实验的观察窗口已经无法覆盖当前的使用节奏。重新设计并不否定之前的记录,之前的记录恰恰是判断“为什么不能直接复用”的依据。
常见问题
实验记录应该在实验开始前写,还是结束后补?
建议在实验启动前就完成假设、对象、方案、指标和观察窗口的填写,结果与结论部分留空,等观察期结束后补充。这样做的好处是,指标口径和判断标准在实验开始前就已固定,避免看到数据后再调整口径来迎合预期。如果团队习惯事后补记录,至少要把假设和主指标的定义时间标注清楚,方便后续复盘时判断记录的可信度。
实验结果不理想,记录还有必要写完整吗?
有必要,而且不理想的实验结果往往更有参考价值。记录完整时,团队可以判断是假设本身不成立、方案执行有问题,还是观察期太短导致证据不足。结论写“不支持假设”并附上可能原因,能避免后续团队重复踩同一个坑。对于结论为停止的实验,下一步同样要写清楚,例如关闭分组、清理配置、把失败原因归档到方案库。
小团队做实验,记录可以精简到什么程度?
如果实验由一两个人完成、不涉及跨职能评审,记录可以精简为假设、方案、指标、结论四段,但主指标定义和观察窗口仍要写清楚。涉及多人协作或需要向其他团队交接时,建议保留对象、分组方式、护栏指标和责任人字段。精简的判断标准是:没有参与实验的人拿到这份记录,能否读懂实验做了什么、结论在什么范围内成立。
同一个产品连续做多次实验,记录怎么组织才方便比较?
关键是保持字段和指标口径一致。多次实验使用相同的记录结构,主指标定义、统计口径和观察窗口的写法保持统一,团队才能横向比较哪类改动更容易产生价值。口径发生调整时,在记录中注明变更原因和生效时间,跨实验引用结论前先确认人群、方案和口径是否一致。记录集中放在团队共用的文档空间,也便于按主题检索历史实验。
实验记录和需求验收记录有什么区别,能合并吗?
两者回答的问题不同。实验记录关注产品改动是否给用户带来价值,判断依据是用户行为和业务指标;需求验收关注交付物是否按约定完成,判断依据是需求范围和验收标准。实验记录可以引用验收结论说明方案已按设计上线,但不宜用实验记录替代验收结论,也不宜用验收通过来证明用户价值已经产生。两类记录可以互相链接,判断标准各自独立。
