AI 与人工协作
AI客服知识更新后,怎样做回归验收?
AI客服的资料更新后,需要确认三件事:新口径是否真的生效、原有关键流程有没有被改坏、需要人工判断的问题是否仍然正确交接。这些不能靠"问一遍看看"来判断,而要事先写清每条样本的预期结果,再按同一套标准核对。
更新生效前,先记录这五项
每次更新前,建议先记录资料来源、旧版本、新版本、生效时间和负责人。产品与品牌方调整会员权益、课程时间或售后口径时,要区分"已经生效"和"未来生效";销售机构调整门店安排时,要区分不同地区和产品。
外呼营销类项目还要多确认一项:新口径是否影响了咨询意向判断和转人工条件。这几个判断一旦跟着资料变化,人工侧接到的咨询质量也会随之改变。
还有一点要提前说明:未经确认的资料,不应因为已上传就被视为正式答案。上传只是动作,确认才是生效条件。
| 记录项 | 需要说明的内容 |
|---|---|
| 资料来源 | 新口径出自哪里,由谁提供 |
| 版本变化 | 旧版本是什么,新版本改了什么 |
| 生效时间 | 已生效还是未来生效,具体从哪天起 |
| 适用范围 | 涉及哪些地区、产品或客户类型 |
| 确认与责任 | 由谁确认生效,上线后由谁观察 |
回归范围由影响面决定
建议先测试本次改动涉及的问答、预约和提醒,再覆盖原有关键流程。范围由影响面决定,不必机械地重复无关样本——改一句课程时间,不需要把全部历史问答都跑一遍,但与之关联的预约和提醒必须重测。
先说清"答对"指什么
判断回答是否正确,至少有四种不同方式,测试表里要写明这一条用的是哪一种,而不是笼统地记"通过"或"不通过"。
这四种方式不要合并成一个"综合分数"——合并之后数字好看,但看不出问题出在表达、事实还是执行上,也就无从改起。
| 判断方式 | 适用于什么 | 需要写清什么 |
|---|---|---|
| 按含义核对 | 事实描述、适用条件说明 | 允许不同表达,意思一致即通过 |
| 按规则匹配 | 编号、日期、金额、结构化值 | 明确的匹配规则,不含糊 |
| 按动作验证 | 预约、下单、发送等业务动作 | 核对业务系统记录与返回状态 |
| 按业务标准 | 企业自定义的口径要求 | 由业务方事先写明判断标准 |
样本怎么准备
每个样本的预期结果应由业务人员先写好,再开始测试——避免事后看着回答反过来调整标准。测试过程中分别保存知识版本、输入内容、实际回复、动作结果和判断依据。
样本由两部分组成:保留原有通过样本,再增加与新资料相关的正常表达、模糊表达和冲突表达。只测标准问法是不够的,用户实际说话往往不标准。
对于需要专业人员判断的问题,正确结果可以是说明限制并转人工,而不是给出一个看似完整却越权的结论。这类样本应单独标注,不并入常规通过率。
| 样本类型 | 举例 | 预期结果怎么写 |
|---|---|---|
| 原有通过样本 | 更新前已验证的常见问题 | 结果应与更新前一致 |
| 新增正常表达 | 用标准问法提问新口径 | 给出新版答案 |
| 模糊表达 | 没说清地区、产品或时间 | 追问澄清或说明适用条件 |
| 冲突表达 | 新旧口径同时相关 | 明确优先级,引用有效版本 |
| 需要人工判断 | 涉及专业人员判断的问题 | 说明边界并转人工 |
结果怎么记
事实核对和动作验证建议分开记录,同时列出总样本数、未执行和无法验证的数量。分母不同的比例不能直接比较——一个用"已核对样本"作分母,一个用"总样本"作分母,放在一起比会得出错误结论。
同一测试集比较不同版本时,要保持测试身份、前提和判断标准一致。如果想观察多次运行的差异,就逐次保留结果,不要只挑最好的一次。
同一测试集比较不同版本时,要保持测试身份、前提和判断标准一致。如果想观察多次运行的差异,就逐次保留结果,不要只挑最好的一次。
| 记录项 | 填写或判断方法 | 验收依据 |
|---|---|---|
| 事实核对 | 通过样本数 / 已完成核对样本数 | 列出总数、未执行与无法验证数量 |
| 动作验证 | 通过样本数 / 已完成验证样本数 | 核对业务系统记录、返回状态与关联编号 |
| 重大异常 | 事实错误、越权回答、关键动作异常 | 单独列出,约定阻断范围与处理责任 |
| 版本与人员 | 知识版本、复核人、测试时间 | 逐次保留,便于追溯哪一版引入问题 |
上线后观察与恢复条件
发布时需要记录批准版本、未覆盖范围、上线观察人和恢复旧版本的条件。上线观察人这一项常被省略,但它是"出问题后谁第一个处理"的答案。
发布后出现的新问题,应加入后续测试集。这里有个常见的坑:只修当前问法,却遗漏了同一规则下的其他表达——问法改了,换个说法问还是会出错。因此修复后建议把同一规则的多种表达一起补测。
是否具备自动测试、版本回退或结果看板,我们会按项目条件与你确认;没有这些能力时,也可以先用人工测试表执行。需要说明的是,自动评分是辅助证据,不能代替对关键事实和执行记录的复核。
常见问题
只改了一个活动日期,也需要完整重测吗?
应先测试这个日期涉及的问答、预约和提醒,再覆盖原有关键流程;范围由影响面决定,不必机械地重复无关样本。
知识范围外的问题回答不上来,算失败吗?
应按样本预期判断。知识范围外或需要专业人员判断的问题,正确说明边界并交接可以是通过结果,不宜套用一味鼓励作答的统一标准。
事实回答和动作执行,能用同一个标准判断吗?
不能。事实和条件可以按含义核对;编号、日期、金额或结构化值则按明确规则匹配,测试前写清判断方式。动作执行还要另外核对业务系统的实际记录。
回复里说"已为您预约成功",就算通过吗?
不能。还要核对业务系统实际记录、返回状态和关联编号;没有执行证据时,应记为无法验证或未通过。
更新后要全部重测一遍吗?
不必机械重复全部内容。建议先测本次改动涉及的问答、预约和提醒,再覆盖原有关键流程,范围由影响面决定。
