新华每日电讯：谨防“邪典视频”携AI重来
转自：北京日报客户端
12月9日,《新华每日电讯》发表题为《谨防“邪典视频”携AI重来》的评论。
奥特曼怀孕、喜羊羊挖眼珠子吃、小猪佩奇打骷髅……记者注意到，近期一些AI创作的“邪典视频”在未成年人群体中广泛传播。有的动画看似是卡通风格，实则充斥残害肢体、高空坠落等血腥暴力内容。这些“邪典视频”如同隐藏在网络深处的毒瘤，对未成年人身心健康构成严重威胁，必须高度警惕。
过去多年来，有关部门通过关停违规账号、下架非法应用程序、处罚传播有害信息的平台等举措，让曾经的“邪典视频”乱象得到有效治理。越来越成熟的AI技术，让视频制作更加便利、精良。然而，在一些不法分子手中，技术进步却一定程度上催生了“邪典视频”回潮。
使用生成式AI，制作者无需掌握太多动画制作技术，就可以生成自己想要的画面。一些不法分子为博取关注、赚取流量，大肆制作无底线内容，将血腥暴力、恶搞低俗等元素融入其中，再打上“识字”“辨别形状”等标签，以欺骗未成年人和家长。在部分社交平台和短视频平台，还有人专门传授如何设置关键词让AI生成“邪典视频”，妄图将其打造成“畸形产业链”。
“邪典视频”是针对未成年人思维与价值观的“投毒”，危害极大。有的视频通过“可爱形象”与“残酷内容”的强烈反差来吸引点击、满足极少数人的不良心理需求，甚至可能带有诱导、教唆等性质，孩童若模仿会造成不可挽回的后果。部分AI生成的“邪典视频”歪曲历史人物言行，对中华优秀传统文化污名化，让未成年人形成扭曲的历史观与文化认知。
面对“邪典视频”卷土重来，各方必须协同发力，共同筑牢防线。监管部门需加大执法力度，严厉打击制作传播“邪典”内容及销售相关商品的行为，斩断利益链条。网络平台应承担起主体责任，优化内容审核机制，及时下架“有毒”内容的制作教程，阻断传播路径。同时，更要将“家校联动”落到实处，强化对孩子的陪伴和帮助、教育和引导，提升孩子们的认知能力。
AI技术应是赋能成长的工具，而非炮制有害内容的帮凶。我们绝不允许“邪典视频”死灰复燃，污染未成年人的成长环境。有关各方必须提升优质内容供给，丰富未成年人的网络空间，为未成年人营造健康、安全、积极的网络环境，让他们在清朗的网络环境中汲取成长力量。
来源：新华社