“AI 换脸拟声”乱象频现，如何治理成为当下亟待解决的问题。专家指出，首先需加强技术监管，制定严格的技术标准和规范，限制 AI 换脸拟声技术的不当应用。其次，要强化法律监管，完善相关法律法规，明确其违法界限，对利用 AI 换脸拟声进行欺诈、侵权等行为予以严厉打击。同时，提高公众的媒介素养，让公众了解 AI 换脸拟声的潜在风险，增强自我保护意识。只有多管齐下，才能有效遏制“AI 换脸拟声”乱象，维护社会的正常秩序和公众的合法权益。

“AI换脸拟声”乱象频现 如何治理？

福州法律专家：为人工智能套上法治缰绳

“雷军回应‘国庆7天被AI雷军骂了8天’”“靳东两会建议AI换脸立法”……今年全国两会期间，“AI换脸拟声”技术的滥用问题引发代表委员关注，相关话题频频登上热搜，也引发福州市民热议。

手机应用商店有许多“AI换脸”App（页面截图）。

代表委员发声：

治理“AI换脸拟声”

近年来，一些不法分子利用“AI换脸拟声”等高科技手段实施诈骗，令一些演艺界人士、专家学者、知名企业家等公众人物饱受困扰。

“一些喜欢我作品的观众，被AI换脸视频骗得很惨。这种犯罪性质非常恶劣，希望能建立更好的规则。”在3月5日的政协小组讨论上，全国政协委员、中国煤矿文工团团长靳东回应了AI换脸引发的诈骗问题。

同样深受其扰的，还有全国人大代表、小米集团创始人雷军。3月4日，雷军公开了今年两会的5条建议，其中“加强‘AI换脸拟声’违法侵权重灾区治理”尤为引人关注。他表示，他本人就是“AI换脸拟声”的受害者。去年国庆长假期间，短视频平台上大量“雷军AI配音”的恶搞视频涌现，言辞犀利甚至爆粗口，不少网友“被AI雷军骂了8天”。

雷军表示，“AI换脸拟声”滥用成了违法侵权行为的重灾区，易引发侵犯肖像权、侵犯公民个人信息罪及诈骗等犯罪行为，甚至造成难以挽回的大规模形象和声誉损害，带来社会治理等风险。AI深度合成技术所需素材获取便利、技术使用门槛低、侵权主体及手段隐蔽性强等特点，给治理带来较大挑战。

如何更好把握人工智能发展机遇、更好应对新技术带来的风险挑战？雷军建议，加快单行法立法进程，提升立法位阶；强化行业自律共治，压实平台企业等各方的责任和义务；加大普法宣传的广度和力度，增强民众的警惕性和鉴别力。

全国人大代表、TCL创始人李东生建议，加快出台人工智能深度合成内容标识管理规章制度，明确惩罚制度。同时，加强国际合作，有效监管人工智能生成、合成内容。

业内人士剖析：

技术便捷滋生乱象

随着AI技术的发展，“AI换脸拟声”操作愈发简单，只需获取照片和声音等个人信息，就能借助技术以假乱真。

11日，记者尝试使用了某款AI换脸软件。在上传一张人物照片并按照提示进行简单操作后，短短几分钟，软件便生成了一段换脸后的视频，人物表情和动作虽有些生硬，但整体已具有较高的相似度。

据了解，利用声音合成功能，同样能快速生成一段模仿目标人物声音的音频。

基于此类技术，不法分子在网络上制造出各种违法乱象。从假冒名人诱导中老年人转账，到伪装单位领导要求汇款，甚至有线上游戏平台利用AI技术，将某明星的肖像、声音及过往视频片段，合成制作为带有赌博性质的代言宣传片。

“GitHub这类知名开源平台上有大量AI换脸、语音合成的开源代码与工具，大大降低了技术使用门槛。例如，热门的开源项目DeepFaceLab，不法分子只需简单下载、调试，即便技术水平有限，也能快速搭建起简易的‘AI换脸拟声’程序。”福州大学计算机与大数据学院博士生肖博怀告诉记者，一些AI开源代码和工具降低了技术使用门槛，让合法的创新探索、创意实践变得更为便捷，但这也使得恶意利用技术变得轻而易举，不法分子能够轻易获取并运用这些资源，实施违法犯罪行为。

一名深耕互联网行业多年的资深从业者表示，在当下网络环境中，用户注册各类网络平台账号时风险意识普遍薄弱。不少用户为图便捷，随意填写真实姓名、身份证号、联系方式等关键个人信息。注册过程中，对平台隐私设置选项视而不见，默认全部公开。这些泄露的信息与“AI换脸拟声”技术相结合，无异于给诈骗分子提供了“作案利器”。

法律专家建言：

为AI套上法治缰绳

近年来，我国《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等法律法规已颁布实施，《人工智能生成合成内容标识办法（征求意见稿）》完成社会意见征集，对人工智能治理进行了有益探索。然而，鉴于技术的迅猛发展，治理的“工具箱”仍需不断扩容。

福建省司法厅行政立法咨询顾问专家库成员、福建三山律师事务所主任洪必景表示，当前对于涉及深度伪造、一键换脸等滥用人工智能侵权乃至诈骗行为的相关治理规则还不完善，这也导致利用人工智能侵权的违法成本极低，受害者的维权成本极高。技术的发展离不开制度保障，通过立法明确伦理规范和治理规则，确保人工智能的发展与应用始终符合人类福祉显得十分迫切和必要。

福建融成律师事务所合伙人齐海绪建议，面对“AI换脸拟声”等新型诈骗的出现，首先应加快制定相关法律法规，明确“AI换脸拟声”等技术的应用边界与违法后果，建立AI生成内容强制标识制度，增强信息透明度。其次，进一步强化互联网平台审核责任，要求互联网企业采用技术手段拦截虚假信息，并建立“先行赔付”机制。再次，应完善法律适用标准，推动建立AI内容追踪溯源体系，结合《中华人民共和国反电信网络诈骗法》等现行法规，形成全链条治理。（记者 肖远强）