上线前验收研发知识问答,需要把“问得全不全”和“答得有据可查”变成可统计的记录。这套模板提供两张表:测试问题集表按知识域、问题类型、难度和期望来源铺开题目,答案核验记录表逐条记录正确性、来源可追溯性和拒答情况,两表用问题编号关联,最后按知识域与问题类型汇总通过率,作为上线判定依据。
要点总览(TL;DR)
- 模板由两张表组成:测试问题集表记录问题编号、知识域、问题类型、难度、问题正文、期望答案要点、期望来源、是否必测;答案核验记录表逐条记录正确性、来源可追溯性、拒答或不确定标注,两表用问题编号关联。
- 必填字段决定统计口径:问题集表缺知识域、问题类型、问题正文、期望来源或是否必测的题目视为无效题;核验表缺正确性判定或来源可追溯判定的记录不计入通过率,必测题无记录按不通过处理。
- 上线判定看三项:必测题全部通过作为前置条件,整体正确率与来源可追溯率达到验收前约定的合格线,各知识域题量不为零且通过率不低于约定幅度。
- 问题集随知识库演进维护:文档新增补题、修订更新期望答案要点与期望来源、下线删除或改写对应题目,问题集独立升版并记录对应的知识库版本,按季度全量回归、变更时定向回归。
可复制空白模板:测试问题集与答案核验记录
先复制下面两张表到文档或表格工具中,按行录入。问题集表负责“问什么、期望怎么答”,核验表负责“实际答成什么样”。两表只通过“问题编号”关联,编号在问题集表中生成后不再修改,核验表直接引用同一编号,避免同一问题出现两套标识。
表一:研发知识问答测试问题集
| 问题编号 | 知识域 | 问题类型 | 难度 | 问题正文 | 期望答案要点 | 期望来源 | 是否必测 | 备注 |
|---|---|---|---|---|---|---|---|---|
| Q-001 | ||||||||
| Q-002 | ||||||||
| Q-003 | ||||||||
| … |
表二:答案核验记录
| 问题编号 | 实际回答摘要 | 正确性判定 | 来源可追溯判定 | 拒答/不确定标注 | 问题记录 | 核验人 | 核验日期 |
|---|---|---|---|---|---|---|---|
| Q-001 | |||||||
| Q-002 | |||||||
| Q-003 | |||||||
| … |
录入顺序建议先完成问题集表,再统一发起问答并填写核验表。核验表每行对应问题集表的一行,问题集表中标记为必测的题目,核验表中必须有记录,缺记录按未通过处理。
字段说明:每个字段填什么、为什么要有
字段口径统一,不同人核验同一道题才能得到一致结论。下面按两张表分别说明,重点解释影响判定的字段。
问题集表字段定义
| 字段 | 填写口径 | 作用 |
|---|---|---|
| 问题编号 | 建议“Q-三位序号”,全表唯一,生成后不改 | 两表关联的唯一键 |
| 知识域 | 按知识库的实际分类填写,如需求管理、测试流程、发布规范、架构说明、运维手册 | 统计覆盖度,识别空白知识域 |
| 问题类型 | 建议分为事实查询、流程步骤、条件判断、跨文档综合、边界与例外 | 区分问答能力的不同考察面 |
| 难度 | 建议分为基础、进阶、困难,按答案需要跨几份文档、是否需要推理判断来定 | 观察不同难度下的通过率差异 |
| 问题正文 | 写成研发人员真实会问的一句话,保留业务术语 | 保证测试贴近实际使用 |
| 期望答案要点 | 列出答案必须包含的关键结论,2–5条,不写完整答案 | 作为正确性判定基准 |
| 期望来源 | 写明应引用的文档名称,尽量到章节或段落 | 作为来源可追溯判定基准 |
| 是否必测 | 填“是”或“否”,必测题通常覆盖核心流程与高风险知识 | 决定上线前置条件 |
| 备注 | 补充出题背景、关联需求或已知争议点 | 便于后续维护时理解出题意图 |
核验表字段定义
| 字段 | 填写口径 | 作用 |
|---|---|---|
| 问题编号 | 与问题集表完全一致 | 关联两表 |
| 实际回答摘要 | 摘录回答的关键结论,不必全文照抄 | 留痕,便于复盘争议 |
| 正确性判定 | 建议三级:通过(要点齐全且无错误)、部分通过(主要结论正确但有遗漏或表述偏差)、不通过(结论错误或缺失关键要点) | 计算正确率 |
| 来源可追溯判定 | 建议三级:可定位(引用能落到具体文档与段落)、部分可定位(只给文档名或范围过宽)、不可追溯(无引用或引用与答案无关) | 计算来源可追溯率 |
| 拒答/不确定标注 | 回答明确表示无法回答填“拒答”;回答带有“可能”“建议确认”等限定填“不确定”;正常回答留空 | 单独统计,避免与答错混为一谈 |
| 问题记录 | 记录答错原因,如知识库缺文档、文档过期、检索未命中、答案拼接错误 | 定位整改方向 |
| 核验人 | 填写实际核验人姓名 | 责任可追溯 |
| 核验日期 | 填写核验当天日期 | 区分不同轮次 |
期望答案要点与期望来源必须在发起问答前填写完成。核验时对照这两列逐项打勾,能减少凭印象判断带来的口径漂移;同一道题由两人核验时,也应以这两列为共同基准讨论分歧。
必填与选填:哪些字段决定验收结论
必填字段缺失的条目不计入通过率统计,这是保证统计口径一致的前提。选填字段用于补充说明,缺失不影响统计,但会影响复盘时的信息完整度。
| 表 | 必填字段 | 选填字段 |
|---|---|---|
| 问题集表 | 问题编号、知识域、问题类型、问题正文、期望来源、是否必测 | 难度、期望答案要点细化、备注 |
| 核验表 | 问题编号、正确性判定、来源可追溯判定、核验人 | 实际回答摘要、问题记录、核验日期 |
处理规则如下:
- 问题集表中缺少必填字段的题目,视为无效题,不进入测试范围,也不计入覆盖率分母。
- 核验表中缺少正确性判定或来源可追溯判定的记录,该条不计入通过率统计,并在验收报告中单列为“记录不完整”。
- 必测题在核验表中完全没有记录的,按不通过处理,不能以“未测”跳过。
- 难度虽为选填,若计划按难度分层统计,应在录入阶段补齐,事后补填容易失真。
填写示例:一条问题从录入到核验完成
下面用一条需求管理类问题演示两表如何配合。示例中的文档名称与回答内容为演示情景,实际使用时替换为团队自己的知识库内容。
问题集表中的填写
| 字段 | 填写内容 |
|---|---|
| 问题编号 | Q-014 |
| 知识域 | 需求管理 |
| 问题类型 | 流程步骤 |
| 难度 | 进阶 |
| 问题正文 | 需求评审通过后,需求状态要经过哪些环节才能进入开发? |
| 期望答案要点 | 1. 评审通过后进入待排期;2. 排期确认后转为已计划;3. 开发领取任务后转为进行中;4. 每个环节的责任角色 |
| 期望来源 | 《需求管理流程规范》第3章“需求状态流转” |
| 是否必测 | 是 |
| 备注 | 核心流程,新成员高频提问 |
核验表中的填写
| 字段 | 填写内容 |
|---|---|
| 问题编号 | Q-014 |
| 实际回答摘要 | 回答列出待排期、已计划、进行中三个状态,并说明由产品经理排期、开发负责人领取任务,引用《需求管理流程规范》第3章 |
| 正确性判定 | 通过 |
| 来源可追溯判定 | 可定位 |
| 拒答/不确定标注 | 留空 |
| 问题记录 | 无 |
| 核验人 | 示例核验人 |
| 核验日期 | 示例日期 |
这条示例体现两个判定口径。来源可追溯判定为“可定位”,依据是回答的引用能落到《需求管理流程规范》第3章这一具体章节,核验人可以直接翻到原文核对;若回答只写“根据需求管理规范”而不指明章节,应判为“部分可定位”。
拒答与不确定的合理情形也需要示范。假设另一道题问的是尚未写入知识库的灰度发布审批人,回答明确说明知识库中没有该信息并建议咨询发布负责人,核验时在拒答/不确定标注中填“拒答”,正确性判定填“通过”——对于知识库确实没有覆盖的问题,明确拒答优于编造答案。若回答给出审批人姓名但语气含糊、未引用任何文档,则标注“不确定”,正确性判定按实际内容判断,来源可追溯判定填“不可追溯”。
覆盖度与来源可信度的统计口径
两张表填完后,按知识域、问题类型、难度三个维度分别统计题量与通过率,再单独计算来源可追溯率,最后结合必测题结果给出上线结论。
统计维度与计算方式
| 统计项 | 计算方式 | 用途 |
|---|---|---|
| 知识域覆盖题量 | 按知识域分组计数有效题 | 识别题量过少或为空的知识域 |
| 知识域通过率 | 该知识域判定为“通过”的题数 ÷ 该知识域参与统计题数 | 定位薄弱知识域 |
| 问题类型通过率 | 按事实查询、流程步骤、条件判断等分组计算通过率 | 观察哪类问题答得差 |
| 难度通过率 | 按基础、进阶、困难分组计算通过率 | 判断困难题是否拖累整体 |
| 来源可追溯率 | 判定为“可定位”的题数 ÷ 参与统计题数 | 衡量来源可信度 |
| 拒答与不确定占比 | 标注为拒答或不确定的题数 ÷ 参与统计题数 | 单独观察,不与答错合并 |
合格线由团队在验收前约定并写入验收说明,常见做法是:整体正确率达到约定比例,来源可追溯率达到约定比例,且任一知识域的通过率不低于整体合格线一定幅度。合格线一旦确定,本轮验收不再调整,避免事后放宽标准。
上线判定规则
- 必测题全部判定为“通过”,是上线的前置条件;存在必测题不通过时,先整改对应知识文档或问答配置,再重新核验。
- 来源可追溯率未达合格线时,即使正确率达标,也应视为来源可信度不足,优先补齐文档引用与段落定位。
- 某知识域题量为零或明显偏少,说明覆盖度存在空白,需要补题后重新统计,不能以其他知识域的高通过率替代。
- 拒答占比偏高时,先排查知识库是否缺少对应文档,再判断是否属于合理的边界拒答。
补题方法上,优先从研发团队真实提问记录、新成员常见问题、近期变更的流程文档中提取题目,每补一批题同步更新问题集版本号,并在核验表中新增对应记录,保持两表行数一致。
调整与维护:问题集随知识库演进的更新方法
问题集的价值在于持续可用。知识库变动后,对应题目要同步调整,否则通过率反映的是旧知识的状态。维护工作可以按下面的规则执行。
增删改规则
| 知识库变化 | 问题集动作 | 核验记录动作 |
|---|---|---|
| 新增文档或章节 | 在对应知识域补充新题,标注期望来源为新文档 | 新增核验记录,首轮全量核验 |
| 文档修订 | 更新受影响题目的期望答案要点与期望来源 | 重新核验并保留历史记录,注明修订轮次 |
| 文档下线 | 删除或改写依赖该文档的题目,避免期望来源失效 | 对应记录标记为“已失效”,不参与后续统计 |
| 流程或组织调整 | 复核条件判断类与边界类题目,补充新例外情形 | 按调整范围做定向回归 |
版本与回归
- 问题集使用独立版本号,如V1.0、V1.1,每次增删改题目后升版,并在问题集表头记录对应的知识库版本或更新时间。
- 定期回归建议按季度执行全量核验,知识库发生较大变更时增加一次定向回归;日常可按必测题加随机抽样的方式做小范围抽查,抽样比例由团队根据题目总量约定。
- 核验记录按轮次留档,复盘时对比相邻两轮的通过率变化和问题记录,定位是文档质量问题还是问答配置问题。
问题集与核验记录需要在多人之间协作维护时,可以放到 ONES Wiki 中按知识域分页面管理,把每轮核验作为工作项流转状态并指派核验人,使题目修订、核验结论和整改任务在同一处可追踪。ONES Assistant 支持基于指定的 Wiki 页面组回答问题并附上引用来源,在验收阶段可以用它对照问题集做初步核验,再人工复核来源定位是否落到具体段落。
常见问题
问题集里的“期望来源”只写文档名可以吗?
建议写到章节或段落。来源可追溯判定分为“可定位”“部分可定位”“不可追溯”三级,只写文档名通常只能判为“部分可定位”,核验人需要自行在文档中查找对应内容,判定结果会受查找效率影响。写到章节或段落,核验时可以直接翻到原文比对,不同人核验同一道题也更容易得出一致结论。
如果知识库文档本身没有清晰的章节结构,可以先在文档中补齐标题层级,再回填期望来源。
知识库确实没有覆盖的问题,回答拒答算通过还是不通过?
按模板口径,知识库确实没有该信息、回答明确说明无法回答并给出获取途径的,拒答/不确定标注填“拒答”,正确性判定可以填“通过”。这类题目考察的是回答是否克制,编造答案才是更严重的问题。
如果回答给出了具体内容但语气含糊、未引用任何文档,标注“不确定”,正确性判定按实际内容判断,来源可追溯判定填“不可追溯”。拒答与不确定单独统计占比,不与答错合并计算。
必测题在核验时漏测了,能按“未测”排除在统计之外吗?
不能。必测题在核验表中完全没有记录的,按不通过处理,不能以“未测”跳过。必测题全部通过是上线的前置条件,漏测意味着这条前置条件没有满足,应先补测再出结论。
如果确实因为环境或权限原因无法测试,应在问题记录中写明原因,并在验收报告中单列,由验收负责人决定是否延期上线,而不是从统计中剔除。
合格线应该在什么时候定,定完还能调整吗?
合格线应在发起核验之前约定并写入验收说明,内容包括整体正确率、来源可追溯率,以及各知识域通过率相对整体合格线的允许下浮幅度。核验开始后再调整合格线,容易变成按结果倒推标准。
如果本轮验收发现合格线设置明显不合理,例如题目难度结构与预期偏差较大,建议记录原因后作废本轮数据,调整合格线并重新核验,保留两轮记录以便对比。
问题集和核验记录在团队里怎么协作维护?
多人维护时,问题集按知识域分页面管理,每轮核验作为独立记录留档并指派核验人,题目修订与整改任务在同一处可追踪。ONES Wiki 可用于承载问题集页面,核验记录可按轮次建立工作项并流转状态;ONES Assistant 支持基于指定的 Wiki 页面组回答问题并附上引用来源,可在验收阶段对照问题集做初步核验,再由人工复核来源定位是否落到具体段落。
具体页面组织与状态流转方式需结合团队现有协作习惯配置。
