EvalLab · Agent 评测平台

返回项目列表
EvalLab · Agent 评测平台
已发布
Java 21/Spring Boot/MyBatis-Plus/MySQL/Spring AI/Vue 3

离线评测 Agent 的完整闭环:采集 Trace,打分,失败归因,再拿历史基线卡住新版本。

离线评测 Agent 的完整闭环:采集 Trace,打分,失败归因,再拿历史基线卡住新版本。

Trace#

用 trace > span 两层模型记录一次 Agent 执行,span 可以是 LLM 调用、工具调用或检索,靠 parent_span_id 建树,嵌套链完整保留。父节点缺失的 span 提到根层展示,不会整棵子树消失。

评分与归因#

规则评分、工具序列评分、LLM-as-Judge 三路各管一段。工具序列完全一致记 1.0,集合相同只差顺序记 0.8,其余按最长公共子序列的比例算。失败用例按输入理解、规划、工具调用、输出生成、数据环境五层归因,归因器只读 Trace 和评分证据,不读故障注入参数。

门禁#

从历史任务存一条基线,新任务对比通过率、平均分和 P95 耗时,任一越界接口返回 422,命令行退出码 1,CI 直接拦住。Judge 是可选的,不配模型端点就只跑确定性评分器。

Profile Image of the Author
周宇航
Java 后端 / AI 应用
公告
这里记录后端与 AI 应用上的实践。想了解我的项目,可以去主站看看。
分类
标签
最新动态
站点统计
文章
1
分类
1
标签
3
总字数
312
运行时长
0 天
最后活动
0 天前
站点信息
构建平台
Cloudflare Workers
博客版本
Firefly v6.16.8
文章许可
CC BY-NC-SA 4.0
文章目录