为人工智能向上向善发展系牢“安全带”——写在《最高人民法院关于依法审理
2026-09-28 08:38:32  网易   [查看原文]

本文为《中国审判》杂志原创稿件文 | 本刊记者 沈洋“你是温峥嵘,那我是谁?”此前,演员温峥嵘怒斥人工智能(AI)仿冒者一事冲上网络热搜,揭开了AI技术被滥用的冰山一角。无独有偶,女星张馨予也曾在社交平台发文,称有商家利用AI技术复制其声音售卖减肥药。几张照片、几十秒声音,就足以制造出以假乱真的“数字替身”,利用人工智能技术的造假、侵权行为,如何依法规制?人工智能技术日新月异,在深刻改变生产生活方式的同时,也带来了一系列亟待回应的法律问题与治理挑战。在这一时代背景下,9月7日,《最高人民法院关于依法审理涉人工智能纠纷案件的意见》(以下简称《意见》)正式发布。《意见》以坚持以人为本、支持创新发展、筑牢安全底线为三项基本原则,聚焦人民群众关切、回应人工智能产业发展的法治需求,为相关纠纷依法审理和行业规范发展指明了方向。最高人民法院副院长陶凯元介绍,《意见》坚持问题导向和价值导向,聚焦社会各界广泛关注的、涉人工智能审判中的突出问题,在日新月异的技术变革中把握司法规律,在划清法律“红线”的同时支持人工智能技术创新发展,让人工智能这匹“千里马”既跑得快又跑得稳。据介绍,《意见》分为5个部分,共有24条,精准聚焦社会各界普遍关注的“AI换脸拟声”“AI幻觉”侵权、“网络开盒”“大数据杀熟”、自动驾驶、AI模型训练等问题,针对性明确涉人工智能纠纷案件实体裁判和诉讼程序规则。“这是我国首部由国家最高审判机构发布的涉AI司法裁判规则文件,明确了在AI换脸、仿冒名人等具体场景下的责任认定规则,有效填补了法律空白,为未来立法积累了司法经验。”中国政法大学副教授、北京市电子商务法治研究会副会长朱巍表示,此前在一些个案中进行了探索,而《意见》的价值在于将这些探索上升为统一裁判规则。在法治轨道上支持创新发展数据显示,2025年我国人工智能核心产业规模已突破1.2万亿元,预计到“十五五”末,相关产业规模将突破10万亿元。在人工智能技术飞速发展的过程中,法律既要能跟上,也要不“绊倒”技术,那么,怎样把握好平衡关系?《意见》在鼓励人工智能技术创新与维护权利人合法权益之间寻求平衡,旗帜鲜明地支持和保障人工智能技术和产业创新发展,既严格保护合法权利,又为技术研发和产业发展留出必要空间,实现激励创新与规范秩序的有机统一。清华大学智能法治研究院院长申卫星表示,《意见》较好统筹了安全和发展之间的关系,不发展是最大的不安全,制定规则相当于为发展系上“安全带”,只有明确规则,产业才能实现快速发展。在支持创新发展方面,《意见》明确,利用人工智能侵害民事权益产生的法律责任,除法律明确规定适用无过错责任或者过错推定责任的,应当适用过错责任原则。此外,《意见》还明确,应当严格依据《中华人民共和国产品质量法》关于“产品”的定义,将人工智能产品限定为以实物为载体的产品,例如,智能机器人、自动驾驶汽车等,将没有实物载体的人工智能服务排除在外。“《意见》一方面强调,对于故意利用人工智能实施的危害国家安全、侵犯公民权益、扰乱社会秩序等犯罪行为,坚决依法严惩;另一方面要求,对于在人工智能研发、应用中的创新性行为,要依法审慎处理,恪守罪刑法定、罪责刑相适应原则。”最高人民法院研究室主任周加海表示。在开源软件相关方的法律责任方面,《意见》以“综合考量、适当豁免”为裁判思路。在认定侵权责任时,结合开源许可协议类型、权利限制、安全合规举措与信息披露程度等因素综合判断,并依法给予适当责任豁免;对以免费开源方式提供代码模块并已公开说明功能和安全风险的,可认定不承担侵权责任,为开源创新提供明确预期。依法规制AI侵权行为当前,“AI换脸拟声”“AI复活逝者”“网络开盒”“人肉搜索”等违法行为时有发生,社会各界高度关切。记者注意到,在此前北京互联网法院发布的一起涉人工智能典型案例中,认定未经权利人许可使用AI合成的名人声音用于“带货”构成侵权,委托推广商家应承担连带责任。案情显示,原告李某某在教育等领域具有一定知名度和影响力。2024年,原告发现被告某文化传媒有限公司在其运营的某网络平台店铺中,通过使用原告的公开演讲、授课视频,并配以与原告声音高度近似的AI合成声音,宣传推介多本家庭教育类图书。法院认为,涉案视频使用了原告肖像及AI合成声音,该声音与原告声音在音色、语调、发音风格上具有高度一致性,结合原告在教育等领域的知名度,涉案视频对家庭教育类书籍进行宣传推介,更易使观看涉案视频的公众将视频中的相关内容与原告之间建立联系,可认定一定范围内的听众能将涉案AI合成声音与原告本人建立一一对应的联系。因此,涉案声音落入原告声音权益保护范围。涉案推介视频大幅使用原告肖像、合成模拟原告的声音,未取得原告授权,故涉案视频的发布行为构成对原告肖像权和声音权益的侵犯。最终,法院判决被告赔礼道歉、赔偿经济损失及原告维权合理支出共计12万元。“只要能使社会公众或相关领域公众根据其音色、语调、发音风格等识别出特定自然人,即具有可识别性,应纳入该自然人声音权益保护范围。”朱巍表示,企业这种“混淆行为”属于不正当竞争;在商业带货场景下,足以让公众误认主体身份,构成人格权侵权。人格权关系每个人的人格尊严,是民事主体最基本、最重要的权利。为回应社会关切、指导审判实践,《意见》对滥用恶用人工智能技术侵害人格权益的行为,区分不同类型作出针对性规定。“实践中,反映最强烈的是AI深度伪造。”最高人民法院研究室副主任司艳丽介绍,近日,新闻媒体起底了某黑产链条,人民群众对此深恶痛绝。鉴于此,《意见》第四条明确规定,未经同意利用人工智能处理自然人的姓名、肖像等,生成可识别该自然人的虚拟数字形象并使用、公开的,构成对姓名权、肖像权等人格权益的侵害;未经同意使用自然人声音作为训练语料,模仿其音色、语调和发音风格生成可识别的合成人声的,构成对声音权益的侵害;操控虚拟形象、合成声音实施不当行为或者发表不实言论、降低他人社会评价的,构成对名誉权的侵害,依法追究行为人的侵权责任。此外,针对社会关注的“AI复活逝者”现象,《意见》也专门作出规定,依法保护死者的人格利益。“网络开盒”“人肉搜索”是网络暴力的突出表现形式,这不仅严重侵害受害人的隐私权,严重侵扰受害人的生活安宁,也会影响社会公众的安全感,污染网络生态。对此,《意见》第五条明确规制利用人工智能刺探或者泄露私密信息,侵扰私人生活安宁等行为。利用人工智能侵害人格权益的行为,具有成本低、传播快、影响广、损害难以逆转等特点,传统的事后提起诉讼的救济模式,不利于及时、有效保护受害人的合法权益,人格权侵害禁令的依法适用就显得尤为重要。为此,《意见》第八条专门明确“依法适用人格权侵害禁令制度”,规定了这一制度在人工智能领域的细化适用,以解决传统事后诉讼难以及时高效维护当事人合法权益的问题。探索完善审理规则和工作机制近两年,利用人工智能实施不正当竞争的纠纷数量日渐增多。经营者利用人工智能生成的图文、视频、虚拟人物形象等,虚构流量和好评,甚至通过利用AI换脸虚构科普视频进行虚假宣传。最高人民法院民三庭庭长李剑表示,这些行为不仅损害了他人合法权益,还严重误导消费者,扰乱市场竞争秩序,应当依法认定为构成仿冒侵权、虚假宣传等。一段时间以来,AI算法引发的“大数据杀熟”屡被曝光,“仿冒名人带货”也备受关注。“我们不能让消费者都长出‘火眼金睛’,法律必须及时亮剑,维护消费者合法权益。”周加海说。为此,《意见》明确,针对同一商品或者服务,经营者利用算法在交易价格等交易条件上实行不合理的差别待遇,侵害他人合法权益造成损害的,人民法院应当依法认定其承担相应的侵权责任;利用人工智能“仿冒名人带货”且构成欺诈,消费者主张惩罚性赔偿的,人民法院依法予以支持。随着自动驾驶和辅助驾驶技术的快速发展,相关事故责任认定成为社会关注焦点。《意见》明确了自动驾驶汽车、具备驾驶辅助功能的汽车致损时的责任承担规则,为受害人依法维权和行业规范发展提供清晰指引。针对当前案件集中在辅助驾驶汽车致损情形,《意见》明确规定:“具备辅助驾驶功能的汽车因车辆缺陷与驾驶人的过错行为结合导致同一损害,当事人依据《中华人民共和国民法典》第一千一百七十二条等规定同时请求驾驶人和车辆生产者或者销售者承担赔偿责任的,人民法院依法予以支持。”实践中,一些生成式人工智能经常出现答非所问、信息不准确等“AI幻觉”现象,不仅给用户带来困扰,也可能侵害他人合法权益。对此,《意见》针对“AI幻觉”侵害人格权等问题作了规定,明确生成式人工智能自动生成的内容侵害人格权益,经权利人通知,人工智能服务提供者未及时采取停止生成侵权内容等必要措施的,应当对造成的损害依法承担侵权责任。同时,网络用户通过输入侵权提示词等方式恶意诱导生成式人工智能生成侵权内容并造成他人损害的,该网络用户依法承担侵权责任,经权利人通知,人工智能服务提供者未及时采取停止生成侵权内容、屏蔽相关生成指令等必要措施,权利人请求该网络用户、人工智能服务提供者承担民事责任的,人民法院依法予以支持。涉人工智能纠纷案件具有技术性、专业性强等特点,事实认定与证据审查的难度显著增加。《意见》紧扣审理程序规则这一关键环节,完善涉人工智能纠纷中证据审查、事实查明等机制,依法惩治利用生成式人工智能妨害司法秩序的行为,并加大审判指导力度,以程序正义守护司法公正。面对人工智能带来的系统性挑战,健全审判指导与工作机制、推动源头治理同样重要。对此,《意见》强调发挥多元解纷机制作用,推动与行业主管部门、调解组织及专家学者协同联动,做实先行调解,并通过庭审公开、以案释法等方式发挥示范引领作用,促进纠纷源头预防和及时化解。同时,《意见》规范适用提级管辖,对涉及重大利益、规则确立意义或者需要统一法律适用标准的案件,由上级法院提级审理,依托人民法院案例库加强指导,推动裁判尺度统一和治理规则完善。《意见》不可能涵盖所有人工智能案件类型,很多问题需要司法实践进一步探索积累。“当前,人工智能技术发展一日千里,新情况新问题不断涌现。下一步,我们将继续密切关注人工智能等新兴领域的知识产权保护问题,在实践中不断认识和把握规律,不断总结审判经验,完善裁判规则,努力推动形成共识。”李剑表示。本期封面及目录>《中国审判》杂志2026年第17期中国审判新闻半月刊·总第399期编辑/孙敏

OCR:IMG:品 CC品AI通R Ai

OCR:IMG:目录CONTENTS 第七次全国行政审判工作会议 2026年8月 国家法官学院 2026年8月 12 CoverStory 封面文章 依法行政政通人和 卷首语 01以严格公正司法奋力推进行政审判工作现代化 宝建 学习贯彻 学习贯物习近平法治思想 习近平法治思想 06深入践行习近平法治思想 以中国特色社会主义司法品牌创建助推法院工作高质量发展 彭海 封面文章 封商文章 14共商行政争议实质化解最优解 永雅 1江西法院以高质量行政审判护航法治政府建设 万进福刘从明 20广东深圳法院以行政审判之力谱写法治先行示范新章 刘峰 22以高质量行政审判推进高水平法治政府建设 王辆 1代表委员履职风采 代表委员职风采 24全国人大代表陈慧以实干践行担当用真情传递心声 沈洋 特别关注 特别关注 26为人工智能向上向善发展系牢“安全带 沈 03

OCR:IMG:CONTENTS Ai P26 量 特别关注 1专题 专题 30北京西城法院把司法服务送到银龄老人身边 花田王萧 学先进践初心 学先进我初心 3周丽婷与二十一载知产守护路 徐印 会议报道 3《中国审判》杂志社司法宣传工作推进会在甘肃教煌召开 刘 1视点 争例“枫桥式人民法庭” 3浙江乐清大荆法庭让“附石”系列品牌守“解”有方 郑连琦 40福建福清宏路法庭广开路巧筑路拓新略 林怡件合地 42湖北武汉青山红钢城法庭司法护家和善治砺初心 王华爽 法院传真 广西高院用心守护区域农特产品产业链条 兰丹行黄 46北京四中院以“四型”之力护青绿满京 刘津宁 黑龙江泰来法院“安泰向丹心”党建品牌赋能审判工作提质增效 峰商 50上海金山法院“屋里厢法庭”促推城乡基层治理 含炸波 52江苏淮安清江浦法院汇聚司法暖流润泽营商沃土 郑云 54四川大总法院以“破”为进向“新”而生 报力为中 1人物 受法官 55高健把公平正义写在纸上、照进人心 关涛王森张成 64

OCR:IMG:中国新 s陈建红“让每一个孩子都能在法治阳光下茁壮成长” 林消 案例 中国市州|实践案间 60污损原著电影作品人物形象的再创作构或著作权侵权的认定规则 黄王晓字 理论 全国审判业务专家论坛 64巧思、凝问与载判 李出 土地闲置时间的计算及扣除规则的认定 吴性敏那天递 优化法治化营商环境 12破解整体经营性财产处置困境的现则完善 朱激马胜务 互联网法治 1涉虚拟财产民事纠纷的现实检视与路径优化探析 营 知产审判 0商标侵权中“容易导致湿淆”的司法认定 和秀张畅婷回练 司法前沿 双层融资租货合同性质及效力的司法认定 专线 88固本强基导向下人民法庭价值定位与功能布局的优化路径 赵龙吴小 院长论坛 多元共治精准施策以司法之力赋能城乡基层治理现代化 朴香子 94党建引领挺纪在前助推城子河审判执行工作“加速度” 商 96党建引领融合赋能扎实推进数楼法院工作高质量发展 徐州 98惠诚展职实干担当全力促推新会法院电判工作再上新台阶 法 司法宣传大家谈 司法宜传大家谈 100构建新闻宣传大格局赋能审判工作高质量发展 吉林省高人民法院新闻业 102从“头”出发,讲好有时代感的上海法院放事 上海市级人民法院政治部法治宜得处(加中心) 法院青年说 法院青年说 104深入落实人民陪审员制度架起司法与民意的连心桥 美君道 106聚陪事之力温润基层法治沃土 让小部 108让司法贴近民心让公正深入人心 刘兴 资讯 110基层新实践 文化 随笔 12于细微处见初心 宋扬 05

OCR:IMG:投稿邮箱zhonggsp@126.com 长按二维码 关注“中国审判”微信公众号 报道中国司法审判活动快捷传播世界法律文化

本栏目中的所有页面均系自动生成,自动分类排列,采用联索网络信息采集、网页信息提取、语义计算等智能搜索技术。内容源于公开的媒体报道,包括但不限于新闻网站、电子报刊、行业门户、客户网站等。使用本栏目前必读