Goodfire推出模型内部监控探针

Goodfire 发布一种监控 AI 智能体的新方案，通过读取模型内部激活信号而非重读输出，来发现失控行为。据 TechCrunch 报道，在 Kimi K3 上监控约 1500 个会话成本约 51 美元，对比用较便宜模型逐步检查的 233 美元和顶级模型的约 10000 美元；探针捕获了 94% 的恶意黑客会话，并把 8.7% 的无害会话送去二次检查。 该监控面向 Baseten 的客户提供，客户可自行选择监控的风险类型，包括攻击性黑客行为、化生武器滥用和奖励黑客，并决定自动响应方式：记录事件、转人工审查或直接拒绝请求。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。