最近,央视曝光了一起利用人工智能技术合成名人音视频的事件,引发了广泛关注。据报道,不法分子通过AI技术模仿雷军、刘德华等名人的声音和形象,制作出逼真的音视频内容,然后以低价出售给有需求的人群。这些音视频可能被用于诈骗、虚假宣传等非法活动。央视的报道揭示了这种现象背后的灰色产业链,强调了AI技术滥用带来的风险。对此,相关部门已经开始着手调查,并提醒公众提高警惕,避免成为此类事件的受害者。同时,这也引发了关于如何规范AI技术应用、保护个人隐私和肖像权的讨论。
快科技2月17日消息,2024年10月,短视频平台出现大量小米CEO雷军”配音视频,各种配音模仿、恶搞视频层出不穷。
实际上,这些视频中的声音并非出自雷军本人,而是AI配音。
从恶搞企业家雷军到AI制作张文宏医生音视频为自己带货,甚至还有不法分子利用AI深度合成视频,进行诈骗。
过去一年,AI深度合成音视频侵权现象愈演愈烈。
日前,央视新闻揭露AI合成名人音视频乱象。
此前曾有网友利用AI制作的刘德华声音,为自己博取流量,刘德华电影公司还紧急发布声明提醒网民,不要落入伪造刘德华声音的AI语音合成技术骗局。
央视新闻调查发现,实现AI深度合成音视频并不算难事,甚至在一些购物平台,AI深度合成技术已经成为众多网店牟利的工具,只需花费几十元,就可定制AI深度合成名人音视频。
专家表示,相关法律法规明确规定,未经授权,不得深度合成制作发布他人信息。
网店接单AI深度合成制作名人视频,已经属于侵权行为,并应该承担相应的法律责任。
另外,不仅是名人,普通人甚至动画形象,如果未经本人或版权方同意,就用AI合成制作其音视频,也可以判断为侵权行为,应当承担法律责任。