OpenAI CEO详谈放慢AI发展脚步原因：未来或走向两大极端，均可能失控！

过去一周，人工智能安全担忧加剧，起因是Anthropic一名研究员离职后，引发多家前沿实验室员工纷纷公开警告灾难性风险。上周末，人工智能（AI）行业三大“领头羊”更是一致呼吁放慢技术发展脚步。

在周一最新发布的帖子中，OpenAI首席执行官萨姆·奥尔特曼（Sam Altman）详细阐述了人工智能行业希望放慢脚步的方式与原因，并再次警告称“我们可能会失去控制”。

奥尔特曼周一于X平台上发帖指出，“人工智能的发展有两种可能走向极端，我们必须避免。”

首先，我们可能会失去对未来的控制权，拱手让给人工智能。这是不可接受的；我们坚定地站在人类一边，人工智能必须始终服务于人类。为了确保这一点，我们需要采取措施，确保人工智能的协调和安全技术始终领先于模型能力的提升。

其次，我们可能会陷入权力过度集中的世界。如果一个人或一家公司利用极其强大的人工智能将他们的世界观强加于所有人，其后果可能是极其反乌托邦的。

他在X平台上的发文，紧随Anthropic公司首席执行官达里奥·阿莫代伊（Dario Amodei）上周六发表的文章之后。阿莫代伊在文章中敦促人工智能公司放慢其最先进模型的升级速度，并得到了埃隆·马斯克和奥尔特曼的一致支持。

周一，AI概念股齐跌，投资者正在消化相关言论。美国总统特朗普则一再强调，放缓步伐并无必要，且将危及美国在人工智能领域的领先地位。周一，特朗普再次发帖称，“那些说人工智能会毁灭世界，说数据中心对你的社区有害的人，正是不久前还说‘气候变化’会毁灭世界的人。”

“就人工智能而言，在商业史上，何时有人见过哪个行业的领导者呼吁制定监管措施，而这些措施如果得到强力执行，将会使他们走向灭亡和破产？”他补充道。