摘要：生成式人工智能狂潮席卷全球，带来了许多新的现象与变化，也带来了一些法律风险上的思考。生成式人工智能用途繁多，包括了语言、图像、声音的生成，但在使用中却也有许多法律风险。使用生成式AI传播信息时，可能会因传播虚假信息而遭受侵权赔偿、行政处罚甚至可能触及寻衅滋事罪、诽谤罪等刑事处罚。AI“换脸”技术则可能涉及肖像权侵权和诈骗犯罪的可能。AI合成声音则需注意对于他人声音权的侵犯。在法律责任上，生成式AI仍旧没有突破弱人工智能的范畴，法律责任仍应由设计、使用者承担。

一、引言

随着DeepSeek在全球掀起热潮，生成式AI逐渐走入大家的视野。它不仅可以回答人类提出的一般性问题用来聊天解闷，还可以完成撰写邮件、视频脚本、文案、翻译、代码，写论文等任务。而视频类、图片类、声音的生成式AI则可以根据用户的需求生成视频、图片和声音。由此，亦引发出了一个问题：如此强大而多功能的AI，使用中是否存在法律风险？如果违反了法律，那法律责任又该如何分配？

二、什么是生成式AI

生成式AI，就是通过各种机器学习方法，从数据中学习对象的组件，进而生成符合用户要求的内容，如文字、图片、视频等。用户在使用时，针对自己的需求对AI系统进行不断地训练和指导，可以使其产生符合自己要求的内容。

在语言生成领域，最为火热的便是大语言模型AI。其中最为著名的便是ChapGPT、DeepSeek，另有百度公司的文心一言、字节跳动的豆包、阿里巴巴公司的通义千问等。根据百度百科的介绍，大语言模型（LLM）是指使用大量文本数据训练的深度学习模型，可以生成自然语言文本或理解语言文本的含义。大语言模型可以处理多种自然语言任务，如文本分类、问答、对话等，是通向人工智能的一条重要途径。

大语言模型AI是一种基于深度学习的自然语言处理技术，它可以理解和生成人类语言，从而实现智能对话、文本生成、翻译等功能。大语言模型AI通过学习大量文本数据，逐渐掌握了人类语言的复杂性，从而可以生成符合语言规则的文本。大语言模型AI的应用范围广泛，包括智能问答、文本生成、翻译、情感分析、文本摘要、语音识别和合成等领域。

借助生成式AI，人们能够以相对低廉的价格大规模地生成包括文本、图片、视频、3D形象在内的各种素材，大大节省时间、人力和资源消耗。

三、可能涉及的法律风险

（一）使用AI生成、传播虚假消息

1.承担侵权责任

2024年5月24日下午，两篇文章在网络上传播，内容分别为“科大讯飞被曝涉嫌大量采集用户隐私数据”和“科大讯飞被美国列入实体清单” 。甚至包含“科大讯飞可能通过其语音识别服务非法获取用户个人信息”等内容。同日下午，科大讯飞股价出现下跌，较开盘价下跌4.26%。科大讯飞方面则表示上述两篇网传消息为谣言，系某大模型生成。

根据《证券法》第五十六条规定“编造、传播虚假信息或者误导性信息，扰乱证券市场，给投资者造成损失的，应当依法承担赔偿责任”。如果能够证明上述两篇文章的发布对于科大讯飞公司的股价产生了不良影响，对于投资者造成了损失。则文章的发布者可能需要承担侵权责任，赔偿投资者承受的相关损失。

2.遭受行政处罚

根据《中华人民共和国治安管理处罚法》第二十五条第一款规定，散布谣言，谎报险情、疫情、警情或者以其他方法故意扰乱公共秩序的，处五日以上十日以下拘留，可以并处五百元以下罚款；情节较轻的，处五日以下拘留或者五百元以下罚款。

3.涉嫌刑事犯罪

（1）寻衅滋事罪

2024年4月下旬，一篇名为《今晨，甘肃一火车撞上修路工人，致9人死亡》的文章在网络上传播。该文章还产生了多个不同版本，涉及甘肃多地。这一文章发布后，引起大量关注。根据公安机关披露的信息，嫌疑人为了赚取流量，在全网搜索近几年的社会热点新闻，随后使用某AI人工智能软件对所获取素材新闻的时间、地点等内容进行修改编辑后，上传发布到某自媒体平台。公安机关以涉嫌寻衅罪对其立案侦查，并已对其采取刑事强制措置。

根据《关于办理利用信息网络实施诽谤等刑事案件适用法律若干问题的解释》第五条的规定： 2、编造虚假信息，或者明知是编造的虚假信息，在信息网络上散布，或者组织、指使人员在信息网络上散布，起哄闹事，造成公共秩序严重混乱的，依照刑法第二百九十三条第一款第（四）项的规定，以寻衅滋事罪定罪处罚。

（2）诽谤罪

利用生成式AI生成、发布捏造损害他人名誉的事实或将信息网络上涉及他人的原始信息内容篡改为损害他人名誉的事实进行发布，也可能涉嫌诽谤罪。例如杭州取快递女子被造谣出轨案，若是由AI生成、发布，使用者同样可能被判处刑罚。

具体标准在《关于办理利用信息网络实施诽谤等刑事案件适用法律若干问题的解释》第二条、第三条中进行了规定，此处不再展开。

（二）AI“换脸”

1.涉嫌刑事犯罪

早在2024年，“AI诈骗正在全国爆发”这一词条就曾冲上微博热搜。2024年4月，郭先生的好友突然通过微信视频联系他，自己的朋友在外地竞标，需要430万保证金，且需要公对公账户过账，想要借郭先生公司的账户走账。基于对好友的信任，加上已经视频聊天核实了身份，郭先生没有核实钱款是否到账，就分两笔把430万转到了朋友的银行卡上。郭先生拨打好友电话，才知道被骗。骗子通过智能AI换脸和拟声技术，佯装好友对他实施了诈骗。

在上述案件中，行为人利用生成式AI技术模拟了他人的面貌，并通过视频聊天通过了被害人身份核验，取得信任。被害人基于身份信任的错误认识而向行为人交付了财产。AI使用人的行为可能涉嫌诈骗犯罪。

2.侵犯肖像权

如今互联网上存在着许多“换脸”APP，可以让用户将自己的脸替换到APP提供的整体肖像素材上并制成图片甚至视频。若该素材的使用未获得权力人的允许，则“换脸”APP的行为可能被认定为伪造他人肖像。

《民法典》第一千零一十九条规定“任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意，不得制作、使用、公开肖像权人的肖像，但是法律另有规定的除外”。

AI技术的使用人在未获取权利人允许的情况下，利用信息技术手段对权利人的肖像进行篡改、伪造和自动生成等，产生逼真且难以甄别效果。符合这一情形时，可能会侵犯他人肖像权并承担相应责任。

（三）AI合成声音

1.侵犯声音权

 在视频网站哔哩哔哩上，“AI孙燕姿”成了网红，网站上流传了大量“AI孙燕姿”演唱的歌曲。所谓“AI孙燕姿”就是通过模型训练和后期处理，让AI用孙燕姿的声音翻唱其他歌手的歌曲。在视频中，由AI生成的孙燕姿声音翻唱了各种经典或流行歌曲，甚至有发布者创作了包含60首歌曲的“演唱会”，相关视频的点击量甚至能达到百万级。

根据《民法典》第一千零二十三条规定“对自然人声音的保护，参照适用肖像权保护的有关规定”。肖像权的侵权责任有相对较为明确的规定，故而侵犯声音权也可能需要承担相应的侵权责任。

四、法律责任的承担

关于人工智能能否成为法律责任主体，有许多不同的看法。如刘宪权、房慧颖认为，以智能机器人是否具有辨认能力和控制能力，可以将智能机器人划分为弱智能机器人和强智能机器人，弱智能机器人不承担刑事责任，由设计或使用者承担。而强智能机器人则是适格的刑事责任主体。王冠亦表达了相似的观点，只是对于弱人工智能与强人工智能的定义有不同的理解。

但就现实而言，如今的生成式AI还远远没有达成强人工智能的范围。他们均是由设计者、使用者训练而来，训练所用的素材也是由人类提供，训练效果的评定也是由使用者作出。生成式AI只会向着训练者希望的方向努力，不能因为它在运行过程中产生了错误或偏差就将法律责任加在AI身上。

由此，生成式AI所造成结果的法律责任仍旧应由设计者或使用者承担。当然，在认定相关责任时也应当对设计、使用者的主观意图加以认定，对于故意和过失的责任承担也应当有所区分。