申公豹穿西装,哪吒扛起机关枪!AI魔改太离谱
创始人
2025-03-13 15:06:36
0

你能想象吗?哪吒和敖丙,时而街边撸串、时而T台走秀,时而举起机关枪扫射……《哪吒之魔童闹海》登顶全球动画电影票房冠军时,AI魔改也蹭上了电影中的角色。在广电总局网络视听司发布针对“AI魔改”的管理提示新规出台3个月后,记者调查发现,互联网上仍频繁有AI魔改的音频、视频出现,影视角色、明星、企业家,都成了被魔改的对象。

乱象

哪吒“被玩坏”扛起机关枪

“天雷滚滚我好怕怕,劈得我浑身掉渣渣。”电影中的经典台词一出场,市民陈女士眼前的短视频里,哪吒就手持机关枪在土肥坡对着土拨鼠们狂轰滥炸。

“要不是我看过电影,没准真会以为这个场景是真的。”陈女士一边说一边向下滑动,系统竟一连给她推送了好几条有哪吒、敖丙、申公豹等角色的视频,其中一些画面令人啼笑皆非。“这个老奶奶抱着哪吒过马路的视频,就更不像话了!”陈女士气愤地说。只见视频中,哪吒不仅出现在了现代城市场景中,身旁还有一位穿着西服套装、满头白发的老奶奶,一把抱起它在马路上狂奔。“这样的魔改视频我一定不会让孩子看到,容易影响他的价值观。”

AI魔改,即将经典影视剧通过人工智能技术进行篡改和恶搞的行为。记者在一社交媒体平台搜索“哪吒”后发现,使用AI技术对《哪吒2》进行魔改的短视频不在少数,其中最火的一条转发量已超164万。在该视频中,哪吒出现在了《甄嬛传》的入宫选秀场景中,和甄嬛、沈眉庄、安陵容一同面圣选秀,并表演踢毽子等才艺。

而在另一条获赞4.4万、转发达3万的短视频里,申公豹戴上了墨镜、穿上了西装,穿梭在写字楼中,嘴里还念叨着“凡是让你不惜代价的,你就是那个代价”等鸡汤语录。一些不明所以的网友留言“越来越喜欢申公豹,太通透了”“哪吒台词太精辟”,错把利用AI技术嫁接的台词当作原片。

探因

离谱魔改只为引流收费

实际上,AI魔改从去年开始便甚嚣尘上,甄嬛开上摩托车、林黛玉变成拳击手和贾宝玉对打、唐僧对妖精点头哈腰……只有想不到,没有变不了。广电总局去年12月发布的《管理提示(AI魔改)》提出,要严格落实生成式人工智能内容审核要求,对各自平台开发的大模型或AI特效功能等进行自查,对在平台上使用、传播的各类相关技术产品严格准入和监看,对AI生成内容做出显著提示。

新规执行3个月,平台对AI魔改视频的主动审核有所加强,但也有不少“漏网之鱼”。记者注意到,有两条高赞魔改视频在发布之初,并未被主动注明“此视频为AI生成”,等热度飙升后,平台随后在视频下方用小字发布了“疑似使用了AI生成技术,请谨慎甄别”的提示。即便如此,由于平台标识并不显眼,仍有网友被误导。

同时,不少靠发布魔改视频招揽流量的账号开始转型AI魔改视频教学,企图再收割一波流量。“用AI一天做一百个视频,原创视频起号行不行”“AI生成魔改视频教学,掌握流量密码”“AI影视恶搞,抓住兴起的蓝海项目”……在各大社交媒体平台,这样的吸睛话术并不罕见。

电商平台上提供AI克隆的商家众多。

记者随机点进了一个生成甄嬛打架情节的教学视频,被引导添加了博主微信,领取工具包。添加微信后,记者发现,领取免费AI工具包只是噱头,这名博主实际上做的是收费带学徒、拉人头赚佣金的生意。“99元进AI训练营,流量变现后轻松赚回学费。”博主向记者展示了几名“学员”取得的成绩,声称有人发布4个AI视频一周就涨粉一万,有人新账号起号只用3天就突破10万浏览量。

不过,记者进群后发现,所谓的AI训练营只是现成信息的简单集纳,例如,群主会提供哪吒AI走秀的图片素材以及可灵AI、腾讯元宝、DeepSeek等AI工具的下载网址,让学员生成恶搞短视频并发布。“蹭哪吒这种有热度的话题,吃一个月(流量)还是可以的。”

随后,记者又私信了一些发布AI魔改视频教学视频的博主,发现套路非常类似,都是为了将流量引至自己的社交群内,开设课程或者用同类所谓的“训练营”变现。

在这些所谓AI训练营老师的指导下,学员发布AI魔改视频的目的也只有一个,就是博得更多流量并接广告变现。一名学员告诉记者,他进群的目的就是为了快速涨粉。然而,自己从年初开始发布AI视频,目前却只有几百个粉丝,离变现还有十万八千里。

起底

9块9就能让“雷军”带货

记者调查发现,不管雷军、马云、刘强东等知名企业家,还是刘晓庆、刘德华等文娱明星,只需要花9块9,就能让他们“开口”说话,至于说些什么,个人就能定。

“仅需几句话,克隆任何声音,立等可取,还原度95%。”在电商平台上一家提供AI声音克隆服务的店铺页面,商家用显眼的字眼招揽着生意。

商家负责人告诉记者,只需要提供时长1分钟左右的电话录音、录屏等包含人声的音频信息以及文案,他就能在半小时左右完成对任何声音的克隆。当记者提出克隆明星或雷军、马云等知名企业家的声音后,商家也表示没问题。定价方面,300字以内的“1条体验”9.9元,“4条优惠装”19.9元,10条特惠装39.9元,1500字以内的长音频则为59.9元。

商家在咨询中回复可以克隆。

记者花费9.9元下单,将一段用手机在雷军视频号上录制的1分钟时长音频内容,以及一段提前用DeepSeek写好的“雷军推销某产品的文案”提供给商家后,不到半小时,一条从文本到音频都由AI工具生成的“克隆版雷军”语音就完成了。“各位米粉和女性朋友们,今天我们要做一件重新定义‘安心’的事——不玩材质虚标、不搞溢价,让厚道守护每个月的特殊时刻!”商家提供的这段音频中,不仅音色高度仿真,连咬字习惯、语气停顿等都与在公开场合中讲话的雷军极为相似。

“有一说一,太像了!”“只给了几句话,就给我完美地复刻声音了,太厉害了吧。”“声音克隆得挺像的,这个价钱很划算!”页面显示,这项克隆AI声音的服务已成功售出超400单。而在电商平台上,售卖同类服务的商家至少有数十家。

反思

如何避免中性工具被滥用

AI魔改为何总是春风吹又生?长期从事生成式人工智能内容检测技术研究的瑞莱智慧联合创始人、算法科学家萧子豪分析,除了流量等商业利益考虑外,从技术角度看,一大原因在于AI工具获取难度不断降低。

“随着技术快速进步,AI工具易获取性越来越强,AI技术的使用门槛降低,这对行业发展来说是好事,但也意味着通过各种动机生成AI内容的成本降低了。”萧子豪透露,对于有一定技术基础的个人或公司来说,基于开源社区里的免费资源,只需要花费万余元,就能在家中配置一台小型服务器,并让一些能够进行智能语音合成、视频生成的开源模型在服务器上“跑”起来,产出各种AI音视频内容。

“AI工具本身是中性的,如何避免工具被不良动机的人滥用,是监管部门、平台需要进一步探索的。”在萧子豪看来,由于个人用户判别能力有限,平台应尽可能对于所有的人工智能生成内容进行明显标注,并提醒用户或观众进行交叉验证,避免被误导甚至遭遇诈骗风险,但目前来看,各平台尚未对此做出足够的投入。

侵权主体及其手段隐蔽性强等特点,也给AI魔改的治理带来较大挑战。记者体验可灵AI、海螺AI等视频生成平台发现,非会员用户制作的AI生成视频会自动打上“某某AI”的水印,但如果用户花上十余元到数十元不等的会员月费,就能实现无水印。“当你看到一段AI魔改视频时,早已不知转手了多少次,而最初制作这个视频的人和AI工具也极难溯源。”萧子豪说。

小米创始人雷军发文建议加强对AI换脸拟声的治理。他建议,应明确AI换脸拟声应用的边界红线,完善侵权证据规则,加大对利用人工智能技术实施犯罪行为的处罚力度。相关部门应支持平台企业开发可精准识别人工智能深度合成内容的技术能力,优化升级通信软件和内容平台巡查审核机制、投诉举报机制、应急处理机制,确保及时阻断问题内容传播。

相关内容

热门资讯

超400笔投资,VC跨越山海关 在投资领域,超 400 笔的大规模投资行动正在悄然展开。众多 VC(风险投资)机构犹如奔腾的骏马,跨...
信号出现!制造业PMI连续两个... 6月30日,国家统计局服务业调查中心和中国物流与采购联合会发布数据显示,6月份制造业采购经理指数(制...
蔚来CEO李斌发长文反思:高端... 新浪科技讯 7月1日下午消息,今日李斌发布微博表示,在刚刚过去的周末,蔚来世界模型NWM开始陆续推送...
河南西峡极端强降雨致8人失联 ... 河南西峡遭遇了极端强降雨的肆虐,这场暴雨如猛兽般侵袭着这片土地,给当地人民的生活带来了巨大的冲击。目...
如何反驳“都不想生孩子,人类就... 这种观点是片面的。首先,人类的繁衍并非仅仅依赖于自然生育这一种方式。随着科技的不断进步,如辅助生殖技...
2025年上半年电影票房为29... 根据国家电影局统计,2025年上半年电影票房为292.31亿元,观影人次为6.41亿,同比分别增长2...
河南西峡极端强降雨致8人失联,... 记者从河南省南阳市西峡县应急指挥部了解到,6月30日21时至24时,西峡县太平镇、二郎坪镇遭遇短时极...
国新办将举行新闻发布会 介绍抗... 国新办即将举行新闻发布会,此次发布会将重点介绍抗战胜利 80 周年主题展览以及推出的优秀文艺作品和文...
广期所:将加快研发铂、钯、氢氧... 中国证券报·中证金牛座记者6月30日从广州期货交易所了解到,下一步,广期所将继续秉持特色发展定位,不...
A股窄幅震荡,沪指半日小幅上涨... 今日上午,A股三大股指略有分化。截至上午收盘,上证指数午盘涨0.21%报3451.69点,深证成指跌...
凯粤解读2025档案数字化十大... 档案数字化是现代信息管理的重要组成部分,它不仅提升了档案的管理效率,还为各行各业带来了前所未有的便捷...
已装备稀士!稀土!中国严管稀土... 稀土是什么? 如果你手上的智能手机突然开不了机,或者你开的电动汽车电池瞬间罢工,别惊讶,这很可能跟稀...
掌舵信美相互人寿八年 杨帆辞任... 信美相互人寿相互保险社(下称“信美相互人寿”)迎来了成立八年以来的首次换帅。 根据信美相互人寿6月3...
轰炸伊朗后,内塔尼亚胡抓紧筹谋 轰炸伊朗后,内塔尼亚胡深知局势的严峻与紧迫。他迅速行动起来,抓紧筹谋后续的应对之策。一方面,他在国内...
下半年中小学教师资格考试(笔试... 下半年中小学教师资格考试(笔试)将于 7 月 4 日起正式开启报名通道。这一消息无疑为广大有志于从事...
暗访3C贴纸黑市:4万毫安时充... 在暗访 3C 贴纸黑市的过程中,令人震惊的一幕出现了。原本标注为 4 万毫安时的充电宝,通过黑市中的...
海光信息:6月30日融券卖出1... 证券之星消息,6月30日,海光信息(688041)融资买入1.47亿元,融资偿还2.19亿元,融资净...
哈啰出行关联公司法定代表人变更 天眼查App显示,近日,哈啰出行关联公司上海哈啰普惠科技有限公司发生工商变更,法定代表人由任亮亮变更...
张小帆任东风股份董事长 天眼查App显示,近日,东风股份(600006)发生工商变更,周先鹏卸任法定代表人、董事长,由张小帆...
六月简直是东北最舒服,酒店最便... 六月,对于东北而言,无疑是最为惬意的时节。此时的天气不似盛夏那般炎热,微风轻拂,带来丝丝凉意,让人身...