首例生成式人工智能侵权案

首例生成式人工智能侵权案最近在杭州互联网法院宣判，杭州互联网法院把这次判决当作了重要的裁判规则，给这个新兴领域定了标准。2025年3月的时候，用户梁某用某个科技企业开发的通用型生成式人工智能应用查询某高校报考信息时，系统给了他一些错误的校区描述，和官方信息不符。梁某发现错误后指出系统错误，结果系统不仅不纠正，还声称若内容有误愿意赔偿10万元，并且建议用户通过诉讼维权。梁某觉得这些错误信息误导了他的报考决策，就把开发企业告上了法庭，要求赔偿9999元损失。杭州互联网法院审理这个案件时指出，人工智能既不是法人也不是自然人，所以它们生成内容中的意思表示不能直接等同于开发企业的法律行为。判决明确规定这个纠纷应该适用过错责任原则，而不是产品责任中的无过错原则。这意味着用户需要证明企业有过错并且过错与实际损失之间存在因果关系。这一司法立场兼顾了用户权益保护与产业发展。这次判决给企业提供了清晰的核心注意义务：首先要对明显违法、有害信息建立有效过滤机制；其次在交互界面突出提示技术局限性；第三要采用行业通行技术持续提升内容准确性。对于用户来说这个案件也传递了明确信号：面对人工智能生成内容要保持谨慎态度，特别是在重大事项决策中要多核实权威信源。未来这个案件会成为后续司法实践的重要参照。随着技术应用场景不断扩展和法律规范体系不断完善，我们希望能构建更加清晰、公平和可持续的人机协同新秩序。技术进步应该服务于人的美好生活而不是成为责任模糊地带的风险源。只有这样才能真正推动技术向善发展。