本文来自微信公众号： 科创板日报 ，作者：郑远方
根据法案草案，只有当某个模型可能造成超过10亿美元损失、或导致50人以上死亡或严重受伤时，政府才可以叫停该模型发布或使用。
警告AI失控风险、呼吁暂停前沿AI研发之后，Anthropic又有了新动作。
据最新报道显示，日前Anthropic的代表私下向美国国会议员介绍了一份法案草案，该草案意在监管前沿AI安全。这也意味着，在AI发展陷入争议的当下，这家AI巨头正在采取一系列措施，试图影响事关自家技术监管的规则制定。
Anthropic一位发言人表示，“这项法案体现了我们在《高级人工智能框架》中提出的建议。自今年6月以来，我们一直在推动联邦和州层面的立法者采纳这些建议。我们认为这些政策合理可行，国会应当采取行动。”
根据法案草案，只有当某个模型存在“可预见且迫在眉睫的风险”，可能造成超过10亿美元损失，或导致50人以上死亡或严重受伤时，政府才可以阻止该模型发布或使用。相关风险必须来自于生物武器的制造或发布、模型规避开发者设定的控制措施，或进行网络攻击。法案采用的相关措辞与加利福尼亚州的AI法律法规一致，其中包括去年签署成为法律的SB 53法案。
值得注意的是，虽然近期以OpenAI和Anthropic为首的AI公司披露了一系列AI安全事故，但截至目前已披露的事件中，尚无事件造成大规模人员死亡或超过10亿美元的损失。
此外，根据草案，需要有独立评估机构负责定期评估AI实验室及其前沿模型。评估机构须在美国商务部注册，可以由相关实验室支付评估费用，但报酬不得与评估结果挂钩。
如果评估机构认定某家公司开发的前沿模型存在法案所列的“迫在眉睫风险”，必须在完成评估后的72小时内向美国商务部报告。商务部在认定某个模型构成风险后，可以请求法官阻止该模型发布。不过，法案明确禁止美国其他任何“部门、机构或官员”暂停该模型的开发、部署或内部使用。美国哥伦比亚特区联邦地区法院的法官则可以下令暂停该模型。
“评估机构”是Anthropic一直试图推行的一项内容。此前Anthropic CEO达里奥•阿莫迪发文呼吁全行业放缓开发前沿AI时，提出的三步方案中就包括派遣“嵌入式评估员”。
且公司已经付诸行动。本周五有消息称，Anthropic已向一家外部评估机构授予“员工级别访问权限”，以评估其模型的风险。这家获得授权的评估机构名为METR，是一家非营利组织，曾与OpenAI、Anthropic、谷歌和Meta等顶尖实验室合作，如今已派遣团队进驻Claude模型开发团队办公室，并获得了Anthropic的硬件设备及内部系统的使用权限。
Anthropic提出的法案还将排除部分州级AI法律的适用范围，这些法律涉及风险信息公开披露、第三方评估以及重大安全事件报告等要求；并要求前沿AI实验室制定安全框架、针对新推出的前沿模型发布透明度报告、建立举报人保护机制，并向商务部报告重大安全事件。