近期，国内首例因“AI幻觉”引发的侵权纠纷一审宣判。案件源于一名考生家属通过某生成式平台查询高校报考信息，系统生成了并不存在的校区信息；在用户提出质疑后，系统文本又出现“如有错误赔偿10万元”等表述。用户核实信息确有误后提起诉讼，要求研发公司承担赔偿责任。杭州互联网法院一审驳回诉讼请求。判决要旨之一指出：在生成式服务场景下，系统随机输出的“承诺”不等同于平台的真实意思表示；同时认为，仅凭一般社会观念与交易习惯，尚不足以使用户对这类随机生成文本形成合理信赖。
这起具有标志意义的案件，提示生成式技术应用已进入需要更精细化治理的阶段。在人工智能深度融入社会生活的背景下，只有把技术改进、法律规范与用户教育协同起来——才能降低风险、减少误用——让技术进步更稳妥地服务社会。未来仍需在保持技术活力的同时，持续完善责任边界与风险防控机制，推动形成更健康、可持续的人机协作生态。