评估用实验而非直觉来回答”这个技能到底好不好”。一次评估会让技能针对一组测试用例运行,每轮按评分标准(rubric)打分,并汇总结果。
[截图待补: Evaluations list with the trend chart (avg score / pass rate) — /docs-media/en/evaluations.png]
运行一次评估
Section titled “运行一次评估”在 Agent 的技能标签页中打开某个技能 → 评估。你需要定义:
- 测试用例:导入、手写,或自动生成。
- 轮数:每个用例运行的次数(并行度可配置)。
- 评分标准(rubric):输出必须满足的断言。
由一个编排会话来执行实验;每个用例都是一次真实会话,因此分数反映的是实际的 runtime 行为。
- 趋势:平均分和通过率随时间的变化,让你看出对技能的修改是提升还是退步。
- 切片:按 runtime × 模型分组的结果,并附上最新与更早数据的差值。
- 详情:每一轮的完整记录都会保留,便于检查。
评估一直不过的技能,该修就修,不行就淘汰。你写的评分标准就是规格说明。
独立于正式实验之外,Agent 还可以为产出附加主观质量信号(自评置信度、调试备注)。信号永远不会影响调度或模型选择,只是可与结果一同审阅的审计记录。Labs 中的 Evaluation 开关控制 Agent 是否产出信号。