Sam Altman 称 AI 值得承受一些坏事,并划清与 Anthropic 的监管分歧
OpenAI CEO Sam Altman 在 Politico 的 Decoded 播客中表示,AI 带来的好处足够大,世界应当接受过程中出现的一些坏事,包括黑客攻击、诈骗等,但他未具体说明这些好处。
OpenAI CEO Sam Altman 在 Politico 的 Decoded 播客中表示,AI 带来的好处足够大,世界应当接受过程中出现的一些坏事,包括黑客攻击、诈骗等,但他未具体说明这些好处。
加州民主党参议员 Adam Schiff 在 Decoder 播客中批评特朗普政府让 AI CEO 在白宫签署不具约束力的 AI 安全承诺,认为真正的国家安全风险未被正视。他支持设立新的 AI 监管机构,并提到 Anthropic 因拒绝将 AI 用于国内大规模监控和全自主武器系统而遭打压。
OpenAI CEO Sam Altman 公开反对将 AI 模型与宗教类比,称人们把"宗教力量或对人类判断力的屈服"归于 AI 模型让他"非常不安",并认为这是一个"真实的安全问题"。
前 Google DeepMind 研究员指出,LLM 靠逐 token 预测生成思维链,本质仍是"系统 1"式的快速联想,并非真正推理。他列举三大缺陷:缺乏可检视的持久认知状态、知识与推理在权重中纠缠不清、思维链常是事后编造。他主张借鉴 AlphaGo 的搜索架构,为模型建立显式的认知状态,以支撑医疗、科研等高风险场景。
Simon Willison 引用密码学者 Matthew Green 的观点,指出智能体蠕虫由两部分组成:劫持智能体的载荷,以及把载荷传给下一个智能体的智能体。
MIT Technology Review 的 James O'Donnell 讨论 AI 公司宣称科学发现引发的争议。