纳德拉发帖呼吁AI模型设紧急制动

微软 CEO 纳德拉在 X 发长文谈高级 AI 模型的风险，主张不能再把 AI 当作只能接受或拒绝其建议的黑箱，应建立可隔离、可观察并留下防篡改人类可读证据的透明体系。他提出的措施包括及时披露事件、独立审计、可验证数据和隔离，并称必须从一开始就假定模型已被攻陷并加以隔离，就像紧急制动一样，授权人员应能随时暂停或关闭执行任务的模型，更高级的模型需要标准化的更高级隔离技术。

微软 CEO Satya Nadella 在 X 发文呼吁重新审视 AI 的“信任架构”，主张将模型与编排其工作的 harness 分离，并外置控制与防护措施。他要求每个有实质影响的模型动作都留下防篡改、人类可读的证据，并让授权人员能在任务中途暂停或关闭模型，称应假设模型已被攻破并从一开始就加以约束，“就像紧急刹车”。