AI 与人工协作

AI客服知识更新后,怎样做回归验收?

AI客服的资料更新后,需要确认三件事:新口径是否真的生效、原有关键流程有没有被改坏、需要人工判断的问题是否仍然正确交接。这些不能靠"问一遍看看"来判断,而要事先写清每条样本的预期结果,再按同一套标准核对。

更新生效前,先记录这五项

每次更新前,建议先记录资料来源、旧版本、新版本、生效时间和负责人。产品与品牌方调整会员权益、课程时间或售后口径时,要区分"已经生效"和"未来生效";销售机构调整门店安排时,要区分不同地区和产品。

外呼营销类项目还要多确认一项:新口径是否影响了咨询意向判断和转人工条件。这几个判断一旦跟着资料变化,人工侧接到的咨询质量也会随之改变。

还有一点要提前说明:未经确认的资料,不应因为已上传就被视为正式答案。上传只是动作,确认才是生效条件。

更新生效前,先记录这五项对照表
记录项需要说明的内容
资料来源新口径出自哪里,由谁提供
版本变化旧版本是什么,新版本改了什么
生效时间已生效还是未来生效,具体从哪天起
适用范围涉及哪些地区、产品或客户类型
确认与责任由谁确认生效,上线后由谁观察

回归范围由影响面决定

建议先测试本次改动涉及的问答、预约和提醒,再覆盖原有关键流程。范围由影响面决定,不必机械地重复无关样本——改一句课程时间,不需要把全部历史问答都跑一遍,但与之关联的预约和提醒必须重测。

回归范围由影响面决定对照表

先说清"答对"指什么

判断回答是否正确,至少有四种不同方式,测试表里要写明这一条用的是哪一种,而不是笼统地记"通过"或"不通过"。

这四种方式不要合并成一个"综合分数"——合并之后数字好看,但看不出问题出在表达、事实还是执行上,也就无从改起。

先说清"答对"指什么对照表
判断方式适用于什么需要写清什么
按含义核对事实描述、适用条件说明允许不同表达,意思一致即通过
按规则匹配编号、日期、金额、结构化值明确的匹配规则,不含糊
按动作验证预约、下单、发送等业务动作核对业务系统记录与返回状态
按业务标准企业自定义的口径要求由业务方事先写明判断标准

样本怎么准备

每个样本的预期结果应由业务人员先写好,再开始测试——避免事后看着回答反过来调整标准。测试过程中分别保存知识版本、输入内容、实际回复、动作结果和判断依据。

样本由两部分组成:保留原有通过样本,再增加与新资料相关的正常表达、模糊表达和冲突表达。只测标准问法是不够的,用户实际说话往往不标准。

对于需要专业人员判断的问题,正确结果可以是说明限制并转人工,而不是给出一个看似完整却越权的结论。这类样本应单独标注,不并入常规通过率。

样本怎么准备对照表
样本类型举例预期结果怎么写
原有通过样本更新前已验证的常见问题结果应与更新前一致
新增正常表达用标准问法提问新口径给出新版答案
模糊表达没说清地区、产品或时间追问澄清或说明适用条件
冲突表达新旧口径同时相关明确优先级,引用有效版本
需要人工判断涉及专业人员判断的问题说明边界并转人工

结果怎么记

事实核对和动作验证建议分开记录,同时列出总样本数、未执行和无法验证的数量。分母不同的比例不能直接比较——一个用"已核对样本"作分母,一个用"总样本"作分母,放在一起比会得出错误结论。

同一测试集比较不同版本时,要保持测试身份、前提和判断标准一致。如果想观察多次运行的差异,就逐次保留结果,不要只挑最好的一次。

同一测试集比较不同版本时,要保持测试身份、前提和判断标准一致。如果想观察多次运行的差异,就逐次保留结果,不要只挑最好的一次。

结果怎么记对照表
记录项填写或判断方法验收依据
事实核对通过样本数 / 已完成核对样本数列出总数、未执行与无法验证数量
动作验证通过样本数 / 已完成验证样本数核对业务系统记录、返回状态与关联编号
重大异常事实错误、越权回答、关键动作异常单独列出,约定阻断范围与处理责任
版本与人员知识版本、复核人、测试时间逐次保留,便于追溯哪一版引入问题

上线后观察与恢复条件

发布时需要记录批准版本、未覆盖范围、上线观察人和恢复旧版本的条件。上线观察人这一项常被省略,但它是"出问题后谁第一个处理"的答案。

发布后出现的新问题,应加入后续测试集。这里有个常见的坑:只修当前问法,却遗漏了同一规则下的其他表达——问法改了,换个说法问还是会出错。因此修复后建议把同一规则的多种表达一起补测。

是否具备自动测试、版本回退或结果看板,我们会按项目条件与你确认;没有这些能力时,也可以先用人工测试表执行。需要说明的是,自动评分是辅助证据,不能代替对关键事实和执行记录的复核。

上线后观察与恢复条件对照表

常见问题

只改了一个活动日期,也需要完整重测吗?

应先测试这个日期涉及的问答、预约和提醒,再覆盖原有关键流程;范围由影响面决定,不必机械地重复无关样本。

知识范围外的问题回答不上来,算失败吗?

应按样本预期判断。知识范围外或需要专业人员判断的问题,正确说明边界并交接可以是通过结果,不宜套用一味鼓励作答的统一标准。

事实回答和动作执行,能用同一个标准判断吗?

不能。事实和条件可以按含义核对;编号、日期、金额或结构化值则按明确规则匹配,测试前写清判断方式。动作执行还要另外核对业务系统的实际记录。

回复里说"已为您预约成功",就算通过吗?

不能。还要核对业务系统实际记录、返回状态和关联编号;没有执行证据时,应记为无法验证或未通过。

更新后要全部重测一遍吗?

不必机械重复全部内容。建议先测本次改动涉及的问答、预约和提醒,再覆盖原有关键流程,范围由影响面决定。

相关产品

继续阅读

从场景开始,一起确认

说说您的业务目标。

我们围绕实际流程,交流产品能力与实施范围。

预约演示

微信咨询

售前咨询团队

具体对接时间请与负责人确认

打开二维码大图