编者按：AI生成的“赔偿承诺”算不算数？AI生成的“承诺”信息是否可以视为被告的意思表示？用户与AI聊黄，淫秽内容的生产者到底是谁？客车与无人车相撞，致人受伤车辆损坏，无人车需承担无责免赔责任吗？智能时代，AI说谎、产生的内容等引发的纠纷，到底错在何方，该由谁来买单？本期《海都故事绘》的三个案例与AI有关，一起来看看法院是如何判决的。
建隆/漫画
2025年3月，原告梁某注册并开始使用某科技公司开发的一款通用型生成式人工智能应用程序。同年6月29日，他在此应用中输入提示词询问某高校报考的相关信息，没想到AI给出了关于该高校主校区的不准确信息。
发现问题后，梁某立刻在对话中纠正并指责AI。令人意外的是，AI坚持称该校区确实存在，甚至主动给出“解决方案”：若生成内容有误，愿意赔偿10万元，并建议梁某到杭州互联网法院起诉索赔。
法院审理
人工智能不具有民事主体资格
杭州互联网法院经审理认为，在现行法中，享有民事权利，能够作出意思表示的民事主体仅有自然人、法人和非法人组织这三类。人工智能不具有民事主体资格，不能独立、自主作出意思表示。
法院认为，一方面本案情形中，生成式人工智能生成的内容亦不能视为被告某科技公司作出的意思表示。人工智能不具有民事主体资格，其不能作为意思表示的传达人、代理人或代表人，某科技公司也没有通过将人工智能模型作为程序工具，设定或传达其意思表示的行为。另一方面，基于一般社会观念、交易习惯等可能产生合理信赖的角度，原告在本案的具体情境中尚缺乏合理的信赖利益，被告作为该生成式人工智能应用程序服务提供者，也并未作出愿受人工智能生成内容约束的外在表示。当然，在其他足以产生合理信赖的情况下，比如人工智能客服的应用场景中，生成内容确有可能被视为相关服务提供者的意思表示，从而对其产生约束力。
法院认定，AI“幻觉”引发的侵权纠纷应适用一般侵权责任的过错责任原则，而非无过错责任原则。
综合上述因素，法院一审驳回了原告梁某的诉讼请求，原被告双方均未上诉，判决现已生效。
法官说法
AI生成适用过错责任原则
“案涉生成式人工智能属于服务，而非产品，比如手机、食品等产品，有明确的特定用途及合理可行的质检标准，但生成式人工智能服务是动态的，不同用户、不同时间、不同问题都会导致不同的内容输出，生成式人工智能服务提供者缺乏对生成信息内容足够的预见和控制能力。”承办法官肖芄解释，生成式人工智能服务若适用无过错归责原则，可能会不当加重服务提供者的责任，限制人工智能产业的发展。
适用过错责任原则，就意味着要判断某科技公司是否存在过错。本案中，梁某主张的损害缺乏证据支撑。“无损害则无赔偿，原告没能证明自己确实因AI生成的不准确信息遭受了实际损失，而且这些不准确信息实质上也没有影响他的报考决策。” （法治日报）
因为大量用户在APP上与AI智能体“聊黄”，APP的主要开发和运营者被追究了刑责。2025年9月，上海市徐汇区人民法院一审判决，两名被告人犯制作淫秽物品牟利罪，分别获刑四年、一年半。此案成为国内首起AI服务提供者涉黄获刑的案件。
案涉APP Alien Chat（以下简称AC）是一款AI伴侣聊天应用，定位是为年轻群体提供亲密陪伴和情感支持。用户在AC注册会员后，可与AI聊天。其中，高频次、大比例的聊天记录，在案发后被法院认定为淫秽物品。2024年4月，因用户举报，王某某和李某某（两名被告人均为化姓）二人被捕，AC停止服务。
法院审理
二被告构成制作淫秽物品牟利罪
2023年5月，以王某某为法定代表人的某科技公司推出了情感陪伴聊天软件AC，并于当年6月，在各大平台上架运营。
判决书披露，AC APP手机注册用户11.6万人，其中付费用户2.4万人。截至案发，共收取会员充值费363万余元。用户注册会员后，可以自行创建虚拟角色或者使用他人创建并公开的虚拟角色，通过软件与大语言模型进行交互聊天。
在AC某官方社交账号评论区，不少用户评价这款AI产品“聪明”“限制少”，也有用户表示，其他用户和角色聊黄，“教坏”了AI模型，从而影响了自己的聊天体验。
一审法院审理认为，AC产生了“大量具体描绘露骨的内容”，属于淫秽物品。不同于视频、图片、文字等传统淫秽物品的类别，用户与AI的聊天记录是一种新形式，法院将其定义为“具体描绘露骨的诲淫性的电子文章”。
最终，一审法院判决，二被告人的行为构成制作淫秽物品牟利罪，刑期分别为四年、一年半。
一审法院以“制作”淫秽物品牟利罪判决，其中一个主要因素是法院审理查明，被告人“通过编写、修改系统提示词（Prompt）突破大语言模型的道德限制，实现了模型向用户连续输出淫秽内容的可能”。两名被告人均不服一审判决提出上诉。
法官说法
对聊天内容的产生
被告人具有决定性作用
一审法院认为，两名被告人主观上积极追求色情淫秽聊天内容的产生，客观上通过编写、修改系统提示词等方式突破大语言模型的道德限制，将AC软件训练成可持续对外输出色情淫秽内容的工具，对外宣传AC软件具有“聊黄”功能引导用户参与聊天，且在明确知晓会员交互聊天中产生大量淫秽内容的情况下，继续向用户提供AC软件运营和技术支持服务，对涉案色情淫秽聊天内容的产生具有决定性作用。
上述过程也符合制作淫秽物品牟利罪里，“将想法、观念或情感通过构思、取舍、选择、安排、设计或组合在淫秽物品中表现出来”的“制作”特征。（新京报）
建隆/漫画
2024年12月，徐某某驾驶大型普通客车沿山东省广饶县某路由东向西行驶至某村处时，与同方向行驶的无人驾驶电动四轮车发生交通事故，致大型普通客车乘车人许某某受伤，车辆损坏。经交警部门认定，徐某某承担事故全部责任，无人驾驶电动四轮车、许某某无责任。大型普通客车的登记所有人为某公交公司，该车在中国某财产保险公司投保道路客运承运人责任保险，事故发生在保险期间内。徐某某系履行职务行为。中国某财产保险公司辩称，虽事故认定书认定无人驾驶电动四轮车无责任，但其应在交强险范围内承担无责赔偿责任。
法院审理
承担无责交强险赔偿义务
没有事实和法律依据
法院审理认为，现行条件下相关部门未强制要求其所有人和管理人投保交强险，即无人驾驶电动车的所有人和管理人暂时没有投保交强险的法定义务。因此，中国某财产保险公司请求无人驾驶电动车一方承担无责交强险赔偿义务，没有事实和法律依据。
无人配送面临技术快速迭代、法律滞后、责任主体模糊等多重挑战，单一技术手段或法律条文难以应对，必须建立动态响应、多方参与、风险可控的协同治理体系。法律应保障技术创新，同时坚守安全底线，限制无序创新，而技术创新亦可推动监管方式创新，最终实现无人配送行业安全有序发展。
法官说法
无人驾驶车所有人
暂无投保交强险义务
无人驾驶电动车作为数字时代智慧交通新型运输工具，具有不同于一般机动车的特殊性。目前，无人驾驶电动车上路行驶处于试点阶段，其只能在取得行政主管部门的许可后，在规定区域、沿规定路线、以限定速度行驶，相较于普通机动车，对道路公共安全而言危险性较低。因此，在发生道路交通事故后，受害方或者责任保险的保险人请求无人驾驶电动车一方承担无责交强险赔偿义务，没有事实和法律依据。
（东营日报、法治日报）
编辑：李焕泉
文章不错，点个赞吧！
