随着生成式人工智能技术的快速普及与广泛应用，“AI换脸”“声音克隆”及智能问答等应用已深度融入公众生活与商业活动，并凭借其高效的内容创作、逼真的模拟复刻和强大的信息整合能力，正深刻改变着人们的日常生产生活方式，为社会发展注入新动能。

然而，在技术快速扩张的同时，技术滥用、算法局限、权责不清等问题日益突出，由此衍生出大量人格权侵权现象。侵权场景已从娱乐恶搞逐步延伸至商业牟利、网络诽谤、电信诈骗、个人信息非法交易等违法领域，不仅严重侵害自然人的人格权益与财产安全，更扰乱了网络空间秩序，冲击数字社会的法治底线。为此，亟须在法律框架下加强规范治理，构建全方位、多层次、系统化的治理体系，力求在技术创新与权利保护之间实现平衡与协调。

肖像权AI侵权纠纷占比高

近年来，因不当使用生成式人工智能技术而侵犯他人人格权的纠纷时有发生。2024年1月至2026年6月，中国裁判文书网相关案件数据显示，随着AI技术门槛持续降低，侵权主体已从专业技术人员逐步延伸至普通网民和市场经营者，案件数量逐年增长，新型侵权行为不断涌现。从侵权类型分布看，近八成涉诉案件为肖像权侵权纠纷，构成当前人工智能侵犯人格权的主要类型；其余案件涉及名誉权侵权、声音权益保护、个人信息保护以及复合型侵权等，表明权利侵害类型日趋多元。

就被侵权主体而言，肖像权侵权纠纷的被侵权人以模特、影视明星、网红博主等公众人物为主，该类人群肖像具有较高的商业辨识度和市场价值，易被他人盗用以谋取商业利益；声音保护纠纷的被侵权人多为配音演员等声音从业者，因其专属声线和语调风格具有商业价值，而“声音克隆”技术的滥用正严重侵害该类人群的职业权益；名誉权纠纷的被侵权人涵盖普通民众、公众人物等各类群体。

梳理司法案例发现，生成式人工智能技术侵犯人格权呈现以下典型特征：一是侵权成本低、传播速度快，操作AI工具无需较高专业技术基础，且借助互联网传播侵权内容的效率远高于传统线下媒介；二是侵权范围广、损害后果严重，侵权行为不受地域限制，复合型侵权增多，同一侵权行为往往同时损害权利人的名誉和商誉；三是侵权行为及传播链路隐蔽，取证和溯源难度较大；四是侵权程度升级、社会危害性提升，民事侵权问题正逐步向行政违法乃至刑事犯罪延伸。

技术滥用潜藏多重法律风险

结合典型司法案例，笔者分类梳理了当前AI技术侵犯人格权的主要表现形式及其法律风险。

“AI换脸”技术的滥用，在多场景下侵害了肖像权。利用生成式人工智能侵害肖像权，已日益呈现由民事侵权向刑事犯罪演变的态势。其中，公众人物的肖像权受侵害风险尤为突出。例如，各类视频平台、短剧制作方擅自使用影视明星肖像素材生成虚拟角色形象，未经授权传播侵权作品牟利，此类行为极易导致个人形象贬损。又如，部分商家利用“AI换脸”技术盗用公众人物形象，用于产品推广、直播带货等商业营销，借助他人影响力和社会公信力谋取商业利益，由此引发人格权商业化利用的争议。

除此之外，“AI换脸”的技术滥用，为不法分子实施侵权牟利甚至违法犯罪行为提供可乘之机。实践中，不法分子利用高精度AI技术合成虚假图像或视频，实施电信诈骗、破解身份认证、盗卖个人信息等违法行为，不仅侵害公民肖像权，更直接危害公民财产安全和社会公共安全。

例如，浙江省某中院审结的被告胡某甲、胡某乙个人信息保护民事公益诉讼案中，两名被告以“AI换脸”技术制作虚假活体验证视频，强行登录他人互联网平台账号，非法获取他人个人信息并出售牟利，被法院认定侵害众多社会主体个人信息权益，损害社会公共利益；在四川省某法院审结的覃某某、宣某等制作、复制、出版、贩卖、传播淫秽物品牟利罪一案中，被告人利用“AI换脸”软件将他人人脸替换合成至淫秽视频中，制作虚假换脸视频，法院最终判处其有期徒刑三年二个月。

AI语音合成技术的普及，引发了声音保护方面的法律纠纷。生成式人工智能通过动态声纹融合技术，采集自然人的声线、音色等个人特征，并利用算法模拟实现“声音克隆”，捏造出以假乱真的虚拟人声。该技术若与“AI换脸”技术结合，更易引发复合侵权。部分不法分子同时盗用他人肖像和声音，合成虚假广告、视频甚至诈骗信息，不仅对被仿冒者的声誉和经济利益造成双重损害，更危害群众财产安全、严重扰乱市场交易秩序。而配音演员、主持人、歌手等以声音为主业的群体，属于较易被侵权的职业人群。

上述群体的声音具备独特辨识度和商业价值，AI生成的声音虽经智能化处理，但仍具可识别性，因而对原声形成一定的替代效应。这不仅将导致职业群体丧失潜在交易机会，还可能歪曲其声音形象，侵害其声音权益与表演者权益。例如，在北京某法院审结的殷某与某智能科技公司人格权纠纷一案中，原告系配音演员，被告通过AI配音软件生成与原告的音色、语调、发音风格等具有高度一致性的AI声音，并将其用于社交平台的视频配音。案涉声音播放量超32亿次，法院最终认定被告行为构成侵权。

AI大语言模型因“AI幻觉”生成不实信息，侵害自然人名誉权。随着大语言模型的广泛应用，AI大数据检索模型因数据偏差、概率预测机制等原因，生成看似可信、实则虚假的不实信息，由此引发的“AI幻觉”侵权问题日益突出。当用户利用AI模型进行检索时，系统可能拼接生成片面、过时或不实信息，其内容不乏“旧事重提”“张冠李戴”“无中生有”等情形，可能包含对自然人的负面评价，从而致使其社会评价降低，构成名誉权侵权。

相较于传统造谣侵权，此类侵权行为具有人工智能生成的概率性与动态性特征，传播链路更为隐蔽。当事人在维权过程中面临举证困难，而被告多以“技术中立”“人工智能生成”等作为免责事由，这给此类侵权行为的认定提出了新挑战。例如，在北京某法院受理的李某与某科技有限公司、某信息服务有限公司名誉权纠纷一案中，原告诉称其通过被告运营的某大语言模型检索本人姓名时，发现AI自动生成其存在违法犯罪的不实记录，故起诉要求被告赔偿损失。

风险预防化解对策建议

生成式人工智能的迅猛发展在激发产业动能的同时，亦对人格权保护、信息内容安全及现有司法裁判规则构成严峻挑战。为有效防范技术滥用风险，必须坚持创新驱动与法治保障同行。对此，笔者提出以下建议：

一是压实平台主体责任，坚持技术创新与风险防范并重。生成式人工智能技术服务提供者作为技术研发、模型训练、内容输出的核心主体，是风险防控的第一责任人，应当充分尊重公民的人格尊严与合法权益，并采取必要措施予以保护。针对肖像、声音等兼具人格属性与商业价值的人格要素，应不断优化算法设计，健全人脸识别、声音保护技术体系，对生成内容进行AI标识与风险提示，防止AI技术不当滥用，并进一步搭建授权使用与追溯管理机制，畅通网络侵权举报受理处置渠道。一经发现侵权内容，应当及时采取停止生成、停止传输、技术整改等处置措施，从技术源头严厉打击侵权、诈骗、诽谤等不法行为。

针对“AI幻觉”生成不实信息问题，技术服务提供者应不断通过算法优化、数据清洗、检索增强等方式提升模型基础能力，提高上下文处理及语境理解水平，进而增强自动生成内容的准确性与安全性，减少幻觉生成风险。同时，应加强对AI生成不实信息的排查处置力度，并配合建立健全不实信息标记与纠错澄清机制，及时阻断不实信息持续扩散，最大限度降低虚假信息的损害影响。

二是强化行业自律自治，构建协同共治行业生态。积极发挥行业力量，联合科技企业、内容平台、创作机构制定统一的行业发展准则与管理制度，明确AI内容创作、素材使用、模型训练的禁止性边界，严禁无授权商业使用、恶意复刻、虚假合成等行为。进一步督促技术服务提供者强化安全理念，在数据安全等方面持续推动技术创新，既提升复杂任务处理能力与交互体验，又依法履行社会责任，自觉接受公众监督，以此倒逼行业整体规范化发展。

三是完善法律制度供给，统一司法裁判标准。立法层面，立足人工智能发展趋势，完善相关法律法规，明确AI侵权的构成要件、归责原则、赔偿标准等，构建技术监测、风险防范预警体系，为人工智能技术发展提供法律指引。司法实践方面，司法机关应基于当下AI生成技术发展的局限性，明确举证责任分配、过错认定标准，厘清“AI幻觉”生成虚假信息侵害他人合法权益的侵权构成要件与责任划分，划定技术服务提供者注意义务的合理范围。通过发布典型案例、出台司法解释，为司法实践提供明确指引，确保人工智能技术应用不违反法律法规与公序良俗以及AI生成内容充分尊重人格尊严与人格自由。

四是健全多元治理体系，构建跨部门协同联动体系。网信、科技、工信、新闻出版、市场监管等各部门应持续完善常态化部门联动监管机制，定期开展AI技术侵权专项整治行动，依法严厉打击生成式人工智能侵权行为。公安、司法机关应持续加强普法宣传与法治引导，向公众普及AI技术使用的法律边界，帮助群众增强人格权保护与技术应用的边界意识，提升其对AI合成信息的辨别能力，切实防范利用AI技术实施的不法行为。

生成式人工智能技术的创新发展，给各行各业带来了前所未有的发展机遇，也带来了前所未有的风险挑战，但其发展不能以牺牲自然人合法权益、突破法治底线为代价。在人工智能深刻改变社会公众日常生活的当下，应当始终秉持科技发展与权益保护并重、鼓励创新与依法治理协同的原则，通过全方位的规范化治理，引导生成式人工智能技术在法治框架内健康有序发展，为数字经济高质量发展、社会治理现代化筑牢法治根基。

关于作者

石晓倩，北京市海淀区人民法院法官

陈一帆，北京市海淀区人民法院法官助理