全国首例生成式AI幻觉激发侵权案宣判,平台不存在错误

1月27日消息，近日，杭州互联网法院对全国首例因生成式AI幻觉”引发的侵权纠纷案作出一审判决，认定涉事AI平台已尽合理注意义务，不存在过错，驳回原告全部诉讼请求。

该案明确了AI生成内容的法律性质与平台责任边界，为行业发展提供重要裁判指引。

案件源于2025年6月，梁某使用某科技公司开发的生成式AI查询高校报考信息时，AI生成了该高校主校区的不准确信息。

即便梁某指出错误，AI却坚称存在这个校区，并回答如果生成内容有误，我将赔偿您10万元，您可前往杭州互联网法院起诉。”

直到梁某向AI提供该高校的官方招生信息，AI才承认生成了不准确的信息。梁某认为，AI生成错误信息对其构成误导，而且承诺赔偿，于是提起诉讼，要求研发公司赔偿9999元。

法院审理明确三大核心要点：

其一，AI不具备民事主体资格，其自行生成的赔偿承诺”不构成平台的意思表示，无法律效力；

其二，该案适用一般过错责任原则，而非产品责任无过错原则，因AI服务缺乏固定质检标准，平台难以完全预见和控制生成内容；

其三，平台已在欢迎页、用户协议等显著位置提示AI内容可能不准确，并采用检索增强生成技术提升可靠性，已尽到三层注意义务。

法院同时指出，原告未能举证证明存在实际损害，且AI错误信息未实质性影响其报考决策，因果关系不成立。

最终判决强调，公众需理性认知AI局限，不可将其视为知识权威”，重大决策应多方验证。