评测验证

功能解释
评测验证是一套回归检查流程,用来维护题库、生成参考答案、发起批量评测,并查看结果报告。它不直接改业务,主要作用是帮你确认当前模型、知识、技能、工具和数据配置有没有退化。
使用场景
- 模型、技能、工具或数据源改过后,想看回答有没有退化时。
- 需要用一组固定问题对比新旧配置效果时。
- 想先验证结果,再决定要不要把配置推广到更大范围时。
- 想按题库、答案和评测任务的顺序跑一轮验证时。
这类页面通常由管理员、评测负责人或模型配置负责人维护。普通成员更多是看结果,不是来改评测配置。
使用顺序
1. 先进入题库管理
打开评测验证后,先在题库管理里看当前有没有要测的问题。这里通常会有问题列表、搜索、筛选和新增问题入口。先把题目补齐,再进入后面的答案和任务步骤。
新增问题时,优先把题目描述写清楚,避免同一意思出现多个版本,不然后面的评测结果不好比。
2. 再维护参考答案
题库准备好后,切到答案生成页签。这个步骤的目的,是把每道题的标准答案先定下来,后面的评测任务才知道拿什么做对比。
如果题目是新加的,先补答案再跑评测;如果业务口径改了,先改答案再跑评测。不要跳过这一步直接起任务,不然结果会漂。
3. 发起评测任务
答案准备好后,到评测任务页签创建任务。这里一般会选择数据主题、测试模型和评测范围,然后点击跑评测。任务启动后,先看进度,再看是否全部跑完。
4. 查看报告
任务跑完后,打开查看报告,重点看总分、失败项、差异项和低分题目。报告的价值不在于“有个分数”,而在于能告诉你问题集中在哪一类。
5. 回流修正
如果结果不好,不要直接在评测页里改分数,而是回到真正出问题的页面去修,比如模型管理、知识管理、技能管理、工具管理或数据源集成。修完后再回到这里跑一轮。
页面分区
题库管理
题库管理负责维护要测的问题。这里一般会配合“新增问题”使用,先把问题补进来,再统一走后面的答案和评测流程。题库越稳定,评测结果越容易对比。
答案生成
答案生成页签用来生成或修正参考答案。它适合先把标准答案定下来,再让后面的评测任务按这套答案去比对。题目或口径改动后,这一页通常要先跟着改。
评测任务
评测任务页签用来批量发起评测、看运行进度和查看报告。它是整套流程里真正出结果的地方,也是判断配置有没有退化的核心入口。
操作入口
进入评测验证页面后,按题库、答案和评测任务的顺序操作。它更像一套标准化的使用流程:先准备问题,再准备答案,再用任务验证结果。
使用方法
- 进入评测验证页面,先到题库管理补齐问题。
2. 在答案生成页签里生成或修正参考答案。
3. 到评测任务页签创建并发起批量评测。
4. 任务结束后,打开报告查看失败项、差异项和低分题目。
5. 根据报告回到模型、知识、技能、工具或数据配置里修正。
实际顺序一般是先有题库,再有参考答案,然后跑评测并查看报告。评测结果不理想时,通常不是回到评测页改分数,而是回到真正出问题的配置页去修。
换句话说,这一页更像一条检查流水线。它负责把问题收集起来、跑起来、看结果,真正的修复通常发生在模型、知识、技能、工具或数据源页面。
如何确保结果可用
- 题库要尽量稳定,不要今天一套、明天一套。
- 参考答案要先定清楚,再跑评测,不然结果没有可比性。
- 评测任务的模型、数据主题和筛选范围要和你要验证的配置一致。
- 任务跑完后,优先看失败项和低分题目,而不是只看总分。
- 评测结果只能说明这批题的表现,不等于所有场景都一定一样。
联动价值
它和模型管理、知识管理、工具管理、数据源集成是连着看的。评测发现问题后,通常要回到这些页面继续调;运营统计则能补上“真实有没有被用到”这半边证据。
操作后影响
- 题库和参考答案变化,会直接影响后续评测结果。
- 评测跑完后会留下结果,便于和历史版本对比。
- 低分题目通常能帮你快速定位配置问题。