CASE 06

Aegis Decision Benchmark — 一个被如实判死的项目

用 60 条真实历史任务建立决策基准(Agent Router + Owner Approval Gate,130 gold,数据集 SHA256 冻结),测本地开源模型。结果:低于最简单基线 9–10 个百分点。结论 NOT_READY_FOR_AEGIS,拒绝上线。

类别
基准评测 / 决策层实验
时间跨度
2026-09-22
技术栈
数据集 60 条 · 40 次确定性复跑
状态
NOT_READY_FOR_AEGIS · 未集成

自动化决策是最诱人也最危险的能力:一旦 Agent 判断错误,损失不是一次任务,而是整个系统的行为边界。所以在做的时候,先建了一个可以用真实数据检验的门槛,再测能力。

做法

结果

Agent Router:33.33%;Owner Approval Gate:37.78%。「永远猜最常见的那个分类」最简单的「永远猜最常见的分类」基线反而有 42.22%。13 个高风险任务里 12 个被误判为可直接执行。

结论的价值

结果被记成 NOT_READY_FOR_AEGIS / NO_AEGIS_INTEGRATION=YES——没有「差不多能用了」这种模糊表述。会做基准、先定标准再测、如实承认失败、拒绝上线:这四个动作一起,才是「可靠性工程」而不只是「新时代尝试」。

← OPS_SAFETY v1.1 — 给「AI 运维 AI」写一份权限规范Node02 真机部署 — 一个根因假设被对照实验推翻 →