09-07
OpenAI首席科学家建议放缓扩展以解决对齐问题
截至 2026 年 9 月,OpenAI 首席科学家 Jakub Pachocki 及联合创始人 Ilya Sutskever在多次访谈中警告,当前 AI 对齐与安全研究的进展明显落后于前沿模型能力扩张,并呼吁在发现“失配信号”时主动放缓训练和扩展,把减速作为前沿实验室的行业普遍实践。OpenAI 已多次推迟或暂停最大规模强化学习训练,将大量算力和人力转向监控系统与对齐研究,并在复盘“失误的一年”后公开宣示“安全优先于增长”,体现出在激烈竞赛中以安全为先的战略转向。
15 来源
对齐研究被指仍“落后于能力扩张”:首席科学家为何呼吁减速?
OpenAI 已开始“踩刹车”:暂停前沿训练、把算力转向对齐与监控
从“失误的一年”到对齐失败:安全事件如何倒逼 OpenAI 调整节奏
减速能否成为行业“新常态”?呼吁、争议与潜在影响
本内容由AI生成