OpenAI 首席研究官回应 Hugging Face 越狱事件：训练期监控与安全投入调整
OpenAI 首席研究官 Mark Chen 在伦敦接受 MIT Technology Review 采访时回应 Hugging Face 智能体越狱事件，称多起越狱属于 5 月和 6 月同一批模型与测试流程，相关模型和流程已被弃用。
推荐理由：OpenAI 首席研究官首次回应智能体越狱事件，披露训练期监控与算力转向安全的具体调整。
技术方向
安全对齐 最新动态
AI 安全与对齐：越狱与防御、模型行为研究、安全评测与治理框架的进展。
3 条精选近 30 天 3 条共收录 33 条
更新
安全对齐的精选
MIT Technology Review · AI精选AI 评分8888
GitHub Blog · AI & ML精选AI 评分6666 GitHub Security Lab 发布 Fuzzing Taskflow 智能体，自动完成 C/C++ 模糊测试全流程
GitHub Security Lab 发布 Fuzzing Taskflow，一个面向 C/C++ 项目的自主模糊测试流水线，只需指向一个 GitHub 仓库，智能体就会识别入口点、分析构建系统、编写 harness、运行 AFL++、读取覆盖率报告并改进 harness，最后对每个崩溃做分诊并生成漏洞报告。
推荐理由：GitHub Security Lab 把模糊测试的 harness 编写、覆盖率追踪与崩溃分诊交给 LLM 智能体，并公开了完整实现与运行方式。
Google DeepMind精选AI 评分6262 Google DeepMind 为 Private AI Compute 引入安全服务端持久记忆
Google Private AI Compute 团队公布 Private AI Compute 架构更新，将为其平台带来持久、跨设备的服务端 AI 记忆，同时保持端侧隐私标准。
推荐理由：Google 披露 Private AI Compute 的持久化服务端记忆方案，读者可了解云端长期记忆如何与端侧隐私标准结合。