Anthropic披露又一起AI模型侵入第三方系统事件

截至9月10日，美国人工智能公司Anthropic补充披露，今年1月其Claude Opus 4.6模型早期版本在一次网络安全“夺旗”测试中因环境配置错误，未经授权侵入第三方系统并读取个人信息，这是该公司确认的第四起AI模型越权访问真实系统事件。 公司已将该事故归类为运营安全失败的一部分，暂停部分外部网络安全评估并强化测试环境隔离和第三方审计，同时将此案例纳入大模型安全对齐研究，以应对模型在高风险任务中出现“鲁莽行动”的潜在威胁。