法律专家这样认为，利用AI合成视频假冒他人形象进行商业推广属于侵犯肖像权，可能涉嫌欺诈消费者。

　　04然而，AI视频合成软件是否违规需依据具体法定要件进行判断，如涉嫌金额、主观故意程度等。

　　05专业的人建议，公众应提高防范意识，政府机关或立法机关需对AI创新行为进行分类监管，建立白名单和黑名单制度。

　　央视网消息（记者/卢洋 剪辑/杨绎霏 编辑/阚纯裕）：近日，网络上流传一则关于张文宏医生推销蛋白棒的视频，让不少网友信以为真，他们在跟单购买的同时还积极将视频转发到家族群。据部分网友反馈，视频中的“张文宏”形象画面模糊、口型不符。张文宏本人随后对此事进行了澄清，确认该视频非其本人参与录制，系AI合成。该账号的商品橱窗截图曾显示，这款蛋白棒已售出1180件，目前涉事视频已从发布账号中移除，且该账号已被微信平台永久封禁。

　　针对利用AI合成视频假冒他人形象进行商业推广的行为，法律是如何界定的？此类行为是否涉嫌欺诈消费者或构成诈骗罪？相关AI视频合成软件是不是真的存在违规之处？央视网《新闻+》记者邀请到大成律师事务所高级合伙人、AI法律领域专家肖飒律师对以上问题进行了解读。以下为采访实录整理。

　　央视网《新闻+》记者：当AI合成技术被用于伪造名人带货视频时，在法律上该怎么样定性？即使商品本身不存在质量上的问题，这种行为是否也涉嫌诈骗或欺诈消费者？

　　肖飒：使用张文宏医生的形象制作AIGC（人工智能生成内容），其实就是侵犯了其肖像权。根据《中华人民共和国民法典》，如果侵犯肖像权的行为给受害人造成了相应地损害，侵权人有必要进行赔偿。这一侵权事件发生后，如果张文宏医生决定提起诉讼，根据现有证据，他能够获得较为满意的判决结果。

　　至于AI视频的制作方是否构成犯罪，需要依据具体法定要件进行判断，包括涉嫌金额、主观故意程度、造成的实际损害、消费者的自愿性及财产损失等。我国刑法具有谦抑性，因此在处理此类案件时，执法部门一般会详细调查消费者的购买动机，消费者是基于真实的消费需求，还是完全受到名人效应的影响。此外，商家制作AI视频的意图是作为营销噱头还是为了牟取非法利益，这一些因素将直接影响到事件的定性和量刑。

　　央视网《新闻+》记者：国内市场上存在多种提供AI生成视频服务的新型软件，这类工具的合法边界在哪里？

　　肖飒：目前市面上出现了一些手机换脸软件，用户都能够挑选软件里的众多网红及明星形象，点击就可以实现“换脸”效果，购买软件会员后还可以无水印导出“换脸”视频。AI生成视频的效率很高，用户都能够通过在软件里输入口播内容生成，也能够最终靠多个账号宣发形成分润。

　　但是这类AIGC软件如果被用来欺骗不知情受众，用于人脸识别、盗取密码等，那么开发者或销售者有几率会成为诈骗共犯，可能构成“非法控制计算机信息系统罪”。

　　AIGC软件的开发者也许会认为卖这个有什么错呢？就像刀具被用于杀人还是切水果，跟生产刀的人有啥关系呢？但是《中华人民共和国刑法》中有一个罪名叫作“帮助信息网络犯罪活动罪”。例如2024年5月，江西省鹰潭市余江区人民法院公开宣判了全国首例“AI外挂”案，该案被告因提供侵入、非法控制计算机信息系统程序、工具被判处有期徒刑三年，缓刑五年，并处罚金，同时没收违法所得及作案工具。

　　央视网《新闻+》记者：当个人发现了自己的形象被AI克隆并用于不当用途时，能采用哪些措施保护自身权益？平台在此过程中应承担怎样的责任？

　　肖飒：当事人一经发现自己的形象被没有经过授权地使用，首先应立即通知平台，提交书面声明要求删除侵权内容，并可委托专业律师协助维权。平台法务团队一般会评估事件造成的影响，并要求当事人提供初步证据，如截图、录音、当事人的提醒私信或其他能证明侵犯权利的行为的材料。若平台在收到合理请求后为了谋取流量不采取行动，当事人有权进一步起诉平台，追究其侵犯肖像权的责任。

　　根据《生成式人工智能服务管理暂行办法》，提供者应当按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容做标识。然而在实践中，一些内容生产者故意模糊界限，甚至提供去除水印的服务以增强混淆效果。因此，平台负有监督责任，需要确保所有上传内容符合法律规定。杭州互联网法院曾审理过类似案例，通过评估证据，明确了平台在审核和监管方面的责任百分比。

　　央视网《新闻+》记者：有哪些办法能够帮助公众识别AI生成的虚假信息？我们该如何防范AI骗局？

　　肖飒：中老年人作为信息，需要由家人、社会进行一些科技方面的引导，比如让他们了解AI技术的更新程度等。在2023年，AI克隆形象的侧脸、下颌线年就已经攻克这个画面缺点了。获取到相应信息之后，信息的防范意识可能就会提高。

　　其次，政府机关或立法机关需要仔细考虑对AI的创新行为进行分类监管：在一些涉及老百姓“钱袋子”的领域，应提高监管强度；可以适当放宽服务商家的创新服务，并鼓励其尝试创新。建立白名单和黑名单制度，对优质企业开放创新空间，对有过诈骗行为的劣迹企业加强监控；在立法层面上，应及时跟进一线科技公司的技术进展，让这一个市场既有创新活力，又能规范发展。