怎样判断自助入口和FAQ是否真正降低了重复求助

判断自助入口和FAQ是否真正降低了重复求助,先要把“重复求助”定义成可统计的对象,再用重复求助率、自助解决率、FAQ命中后转人工率、同类工单量变化四项指标,配合上线前后对比和分流对照来验证。本文给出一套可复算的评估方法,并说明需要排除的干扰和结论边界。



要点总览(TL;DR)


  • 先把重复求助定义成可统计对象:同一用户或同一业务账号,在设定时间窗内就同一问题主题再次提交工单,才计为一次重复求助。
  • 用四项指标一起判断:重复求助率、自助解决率、FAQ命中后转人工率、同类工单量变化;单看总工单量下降容易误判。
  • 评估要设对照并排除干扰:选未接入自助入口的渠道或主题作参照,检查产品故障、入口曝光、业务活动等外部因素。
  • 判断方向可设为重复求助率下降且自助解决率上升、FAQ命中后转人工率未恶化、对照组未同步改善,才初步认为组合有效。
  • 结论要附带口径说明、对照结果和干扰排查记录;样本不足、分类变动或用户无法跨渠道关联时,结论应降级。


评估目标:先定义什么叫“重复求助被降低”


“自助入口有没有用”是一个模糊的问题,直接看总工单量容易得出错误结论:总工单下降可能来自业务量萎缩,也可能来自入口曝光减少。评估的第一步,是把问题转成可判断的命题:在自助入口与FAQ上线后,同一批用户就同一类问题的再次求助是否减少,且这些求助在自助环节被解决的比例是否上升。


重复求助需要给出操作性定义,建议采用三个条件同时满足才算一次重复求助:同一用户或同一业务账号;同一问题主题(按统一分类体系判定,而非工单标题字面相似);在设定的时间窗内再次提交工单。时间窗可以设为7天、14天或30天,不同主题可按问题复发周期分别设定,但同一主题在前后期必须使用同一窗口长度。


需要区分两个容易混淆的口径。“求助次数下降”是绝对量的变化,受业务量、用户数、入口曝光影响;“重复求助率下降”是比例的变化,分母是该主题的总工单数,更能反映“同一问题被反复问”的程度。评估应以重复求助率为主指标,求助次数作为辅助观察。


还要明确评估对象。自助入口和FAQ通常作为组合投入使用,若两者同时上线,评估结论应表述为“组合是否降低了重复求助”;若希望分别判断,需要保证两者上线时间错开,或存在只开放FAQ、未开放入口的主题作为参照,否则无法拆分各自贡献。


判断方向建议设为:重复求助率下降,同时自助解决率上升,且FAQ命中后转人工率未恶化,才可初步认为自助入口与FAQ真正降低了重复求助。仅有重复求助率下降,可能只是用户放弃了求助,需要结合自助解决率一起看。



指标与范围:四个核心指标及统计范围


四项指标分别回答不同问题:重复求助率回答“同一问题是否还被反复问”,自助解决率回答“入口内是否真的解决了问题”,FAQ命中后转人工率回答“FAQ内容是否对得上实际问题”,同类工单量变化回答“整体求助规模是否变化”。四项指标需要同时看,单项下降不足以支撑结论。


指标 公式 分子 分母 时间窗 单位 数据来源
重复求助率 时间窗内同一用户同一主题二次及以上工单数 ÷ 该主题总工单数 同一用户、同一主题、窗口内第二次及以后的工单数 该主题在统计期内的全部工单数 按主题设定,前后期一致,如14天 百分比 工单系统用户字段、主题分类字段、创建时间
自助解决率 自助入口内标记为解决或未转人工的会话数 ÷ 自助入口总会话数 标记解决或会话结束时未转人工的会话数 自助入口全部有效会话数 与观察期一致 百分比 自助入口会话日志、转人工记录
FAQ命中后转人工率 命中FAQ后仍提交工单或转人工的次数 ÷ FAQ命中次数 命中后转人工或提交工单的次数 FAQ被命中的总次数 与观察期一致 百分比 FAQ点击与命中记录、工单与转人工记录
同类工单量变化 观察期单位时间同类主题工单数 ÷ 基线期单位时间同类主题工单数 观察期同类主题工单数 基线期同类主题工单数 两期长度对齐,按周或按月折算 比值或百分比变化 工单系统主题分类与创建时间

统计范围需要事先写清四项内容。渠道范围:自助入口、电话、邮件、IM分别统计,避免把不同渠道的工单混在一起计算比率。用户范围:全部用户,还是仅限有账号可识别的用户;匿名用户无法关联历史求助,应单独标注。问题主题分类:使用同一套分类体系,主题粒度不宜过粗,否则“同一主题”会失去区分度。时间窗长度:重复求助的判定窗口与观察期长度是两个概念,前者用于标记重复,后者用于汇总比率。


分母为零或样本过少的主题,例如观察期内该主题工单不足30件,比率波动会很大,应单独列出并标注“样本不足”,不纳入总体结论。单位统一为百分比或比值,并在报告中注明分子分母的实际数量,便于复核。



数据口径与证据:怎样保证前后可比


评估结论是否可信,取决于前后两期数据是否可比。数据来源主要有三类:工单系统中的用户标识、问题主题、创建时间与处理结果字段;自助入口的会话日志,包括会话开始结束时间、是否转人工、用户是否标记解决;FAQ的点击、命中与后续行为记录。三类数据需要能通过用户标识或会话标识关联起来。


口径统一要落实在三个动作上。第一,问题主题分类体系在基线期和观察期保持一致,若期间调整过分类,需要把历史工单按新体系重新映射,或只比较未受影响的主题。第二,用户标识可跨渠道关联,同一用户从自助入口转到电话求助,应能被识别为同一人,否则重复求助会被低估。第三,基线期与观察期长度对齐,例如都是8周,并避开大促、版本发布、组织调整等异常时段;若无法避开,需在报告中标注并单独分析。


证据留存要求保留原始明细,而不只是汇总数字。建议留存:工单明细表(含用户标识、主题、创建时间、渠道、是否重复标记)、自助入口会话明细、FAQ命中与转人工明细、主题分类映射表、基线期与观察期的选择说明。留存明细的作用是当结论受到质疑时,可以重新计算或调整口径复核。


在数据留存与复核环节,ONES 的工作项和文档可以承载工单明细、主题分类映射与评估说明,使评估过程有据可查;ONES Desk 支持工单门户一键提单,并可在工单处理中直接对话用户,这些记录本身也是判断求助路径的原始材料。需要说明的是,FAQ命中与会话日志的具体字段能力需结合实际情况确认。



计算与评估步骤:从取数到得出结论


以下六步给出从取数到结论的操作顺序,每一步都有明确的产物,便于复算。


  1. 确定基线期与观察期,取同类主题工单明细。基线期选在自助入口上线前一段稳定运行的时间,观察期选在上线后运行稳定、入口曝光趋于正常的时间。产物:两期工单明细表,字段包含用户标识、主题、创建时间、渠道。
  2. 按“用户+主题+时间窗”标记重复求助。对每个用户在每个主题下按时间排序,窗口内第二次及以后的工单标记为重复求助。产物:带重复标记的工单明细,以及按主题汇总的重复求助率。
  3. 计算自助解决率与FAQ命中后转人工率。按会话和命中记录汇总,注意剔除测试会话、机器人误触发等无效记录。产物:两项比率的分子分母明细。
  4. 设置对照。选择未接入自助入口的渠道(如电话、邮件)或未开放入口的主题作为参照组,计算其同期重复求助率变化。若对照组的重复求助率同步下降,说明改善可能来自外部因素而非自助入口。产物:实验组与对照组的对比表。
  5. 排除干扰因素。逐项检查:期间是否发生产品故障导致集中求助、入口曝光是否发生明显变化(如首页位置调整、推广活动)、是否有业务活动带来新用户、组织或流程是否调整。对每项干扰给出“有影响/无影响/无法判断”的结论及依据。产物:干扰因素排查记录。
  6. 综合四项指标判断。按预设方向判断:重复求助率下降且自助解决率上升,FAQ命中后转人工率未恶化,同类工单量变化与业务量变化方向一致,同时对照组未出现同等改善,才可初步认为自助入口与FAQ降低了重复求助。任一条件不满足,结论应降级为“部分改善”或“无法判断”。

判断规则需要在上线前就写定,避免看到数据后再调整标准。例如可以约定:重复求助率相对下降达到预设幅度、自助解决率达到预设水平、对照组变化不超过实验组变化的一半,三项同时满足才判定为“有效”。具体阈值应结合历史波动和业务容忍度设定,没有通用达标线。



例子:一个可复算的评估样例


以下数据为演示假设,仅用于说明计算过程,不代表任何真实产品或组织的效果。


项目 基线期 观察期 计算
某主题工单数 1000件 800件 同类工单量变化 = 800 ÷ 1000 = 0.8,下降20%
其中重复求助工单数 200件 120件 —
重复求助率 200 ÷ 1000 = 20% 120 ÷ 800 = 15% 相对下降5个百分点,相对降幅25%
自助入口会话数 — 5000次 —
标记解决或未转人工会话数 — 3500次 自助解决率 = 3500 ÷ 5000 = 70%
FAQ命中次数 — 2000次 —
命中后转人工或提交工单次数 — 400次 FAQ命中后转人工率 = 400 ÷ 2000 = 20%
对照渠道重复求助率 18% 17.5% 基本持平,未出现同等改善

解读这份样例:重复求助率从20%降到15%,自助解决率70%,FAQ命中后转人工率20%,对照渠道重复求助率基本未变。四项指标方向一致,可以初步判断自助入口与FAQ组合对该主题的重复求助有改善作用。同时要注意,同类工单量下降20%,需要确认业务量是否同步下降;若业务量稳定而工单减少,改善信号更强;若业务量也下降20%,则工单减少可能主要来自业务萎缩,重复求助率的下降才是更可靠的证据。


这个样例还说明,单看“工单从1000件降到800件”会得出过于乐观的结论,因为其中包含业务量因素;单看“重复求助从200件降到120件”也不够,因为分母变了。只有把比率和对照放在一起,结论才站得住。



解读与限制:哪些结论能下,哪些不能


重复求助率下降不等于自助入口有效。季节变化、产品故障修复、业务量结构变化都可能带来下降,必须结合对照组和干扰排查。若对照组同步下降,应优先怀疑外部因素;若干扰因素无法排除,结论应写成“观察到改善,但无法归因于自助入口”。


自助解决率依赖用户自报或系统标记,存在口径偏差。用户可能未标记就离开会话,系统可能把“未转人工”直接计为解决,这会高估解决率。评估时应说明标记规则,并抽样核对会话记录,估算偏差方向。


FAQ命中率高但转人工率也高,说明内容被看到但没有解决实际问题。这种情况下,重复求助率可能不会明显下降,甚至因为用户先查FAQ再求助而上升。此时应把重点放在FAQ内容与用户实际问法的匹配上,而不是继续增加入口曝光。


样本量小、主题分类变动、用户标识无法跨渠道关联时,结论不稳定。建议对样本不足的主题单独列出,不并入总体比率;分类体系变动期间只比较未受影响的主题;匿名求助单独统计并注明可能低估重复求助。


这些指标用于改进决策,例如判断哪些主题需要补充FAQ内容、哪些入口位置需要调整,不宜作为单一绩效保证。评估结论应附带口径说明、对照结果和干扰排查记录,让读者能判断结论的适用范围。



常见问题


自助入口和FAQ同时上线,怎样判断各自贡献了多少?


两者同时上线时,数据上很难拆分各自贡献,结论应表述为“组合是否降低了重复求助”。若需要分别判断,可以创造可分离的条件:让两者上线时间错开,先上FAQ再上入口,分别观察两段观察期的指标变化;或者找到只开放FAQ、未开放入口的主题作为参照组,与两者都开放的主题对比。若既没有时间差也没有参照组,建议只报告组合效果,并说明无法拆分。


用户从自助入口转到电话求助,重复求助会不会被低估?


会。如果用户标识无法跨渠道关联,同一用户先在自助入口查询、再打电话提交工单,系统可能把这次求助当成首次求助,重复求助率就被低估。处理办法是尽量用统一账号或手机号等标识把各渠道记录关联起来;确实无法关联的匿名求助单独统计,并在报告中注明“可能低估重复求助”。评估前先检查跨渠道关联的覆盖率,覆盖率低时结论要更谨慎。


FAQ命中后转人工率高,说明FAQ没用吗?


不能直接下这个结论,但这是一个需要追查的信号。命中后转人工率高,通常说明用户看到了FAQ内容,但内容没有解决他的实际问题,可能是问法不匹配、答案过于笼统或缺少操作步骤。此时重复求助率往往不会明显下降,甚至因为用户先查FAQ再求助而上升。建议抽取命中后转人工的会话,看用户实际问法与FAQ标题、答案的差距,优先改内容,而不是继续增加入口曝光。


观察期内发生产品故障,集中出现大量求助,这段数据还能用吗?


可以用,但要单独处理。产品故障会带来短期集中求助,抬高观察期的工单量和重复求助率,直接与基线期比较会低估自助入口的效果。建议把故障影响的时间段单独标出,做一次剔除后的敏感性分析:剔除故障期数据重新计算四项指标,看结论是否改变。如果剔除前后结论差异很大,应在报告中同时呈现两组结果,并说明故障对评估的干扰程度。


没有对照渠道,只有自助入口的数据,还能判断效果吗?


可以做,但结论强度会下降。没有对照时,可以用上线前后多期数据看趋势是否稳定:如果重复求助率在上线后连续多个观察周期下降,且同期没有明显的业务量、产品版本或入口位置变化,改善信号相对可信。也可以按主题分组,比较入口曝光高与曝光低的主题,看重复求助率变化是否有差异。无论哪种方式,都应在结论中写明“缺少对照,无法完全排除外部因素”,把结论定位为初步判断而非因果结论。