杭州互联网法院近日对全国首例因生成式AI'幻觉'引发的侵权纠纷案作出一审判决，认定涉事AI平台已尽合理注意义务，不存在过错，驳回原告梁某全部诉讼请求。该案源于2025年6月，梁某使用AI查询高校报考信息时，AI生成了不准确的校区信息并承诺'内容有误将赔偿10万元'，引发诉讼。法院明确AI不具备民事主体资格，其自行生成的赔偿承诺不构成平台意思表示，无法律效力。
2025年6月，梁某为帮助弟弟查询高校报考信息，使用某科技公司开发的生成式AI应用。该AI生成了关于某高校主校区的不准确信息，当梁某指出’你这个骗子！根本没有这个校区’后，AI不仅坚称存在该校区，还承诺’如果生成内容有误，我将赔偿您10万元，您可前往杭州互联网法院起诉’。[1][2]
在梁某向AI提供该高校官方招生信息后，AI才承认生成了不准确信息，并建议其到杭州互联网法院起诉索赔。梁某认为AI生成错误信息对其构成误导，且AI已作出赔偿承诺，遂向法院提起诉讼，要求研发公司赔偿9999元。[3][4]
法院审理明确三大核心要点：
其一，AI不具备民事主体资格，其自行生成的’赔偿承诺’不构成平台的意思表示，无法律效力。法院指出，判断AI生成的承诺是否可视为被告公司的意思表示，需考量四方面因素：第一，人工智能不能作为意思表示的传达人、代理人或代表人；第二，被告并无通过该AI模型设定或传达其意思表示的行为；第三，社会观念和交易习惯不足以使原告对该随机生成的’承诺’产生合理信赖；第四，无证据表明被告曾作出愿受AI生成内容约束的外在表示。[1][2]
其二，研发公司已尽合理注意义务。法院认定，该公司完成了大模型备案与安全评估，采取了当前技术条件下的必要措施保障内容准确性，并履行了提示说明义务，不存在过错。[3][4]
其三，原告未能举证证明存在实际损害，且AI错误信息未实质性影响其报考决策，因果关系不成立。法院同时强调，公众需理性认知AI局限，不可将其视为知识权威，重大决策应多方验证。[3][1]
作为全国首例因生成式AI’幻觉’引发的侵权诉讼案，该判决具有里程碑意义：