平台深陷AI滥用争议 马斯克宣布X算法将全面开源|科技观察
创始人
2026-01-12 15:49:22
0

封面新闻记者 边雪

当地时间1月10日,马斯克在X平台发帖称,X将在七天内向公众开放其最新推荐算法代码,涵盖自然搜索结果及广告帖的推荐逻辑,并计划每四周更新一次,同时配套发布详细的开发者说明文档,帮助外界理解算法变动情况。

马斯克X发文截图。

马斯克称:“此举是为了提升平台透明度。”然而,就在这一表态发布之际,X正同时面临来自欧洲、英国、澳大利亚等多地的监管压力升级,以及围绕其人工智能工具Grok被滥用于生成性剥削图像的强烈质疑。

AI工具滥用:女性与儿童成直接受害者

因平台监管严重缺失,马斯克xAI公司旗下的智能聊天机器人“格罗克”(Grok)近期被广泛滥用于网络色情图片生成,部分涉及未成年形象的性化图像引发监管关注,相关内容可能触及各国儿童保护法律的严格界定。

1月初,31岁的音乐人朱莉·由里香在社交媒体上发布了一张身着红色连衣裙的照片。随后,她收到平台提示称,有用户正尝试通过人工智能工具Grok对该照片进行“数字变装处理”。当时,由里香并未过多担忧,认为平台不太可能允许此类请求通过审核。

但不久后,多张经AI处理的图片开始在社交平台X上传播,其中包括将她的形象篡改为身着比基尼、接近裸露状态的画面。相关内容的迅速扩散,给当事人带来了明显困扰。由里香随后在社交媒体上表示,她低估了生成式AI被滥用的风险。

由里香的遭遇并非个案。英国《卫报》10日报道称,Grok用户平均每小时生成超过6700张涉及“脱衣”处理的图像。关注人工智能与社交平台治理问题的专家恩瓦楚库指出,利用Grok进行所谓“数字变装”的行为在去年已初现端倪,并在年底明显激增。

报道称,xAI随后在Grok的视频生成功能中引入了所谓的“火辣模式”。有媒体评论认为,这类功能在客观上降低了生成性暗示内容的门槛,也进一步放大了平台在内容审核和滥用防范方面面临的风险。

多国媒体调查显示,大量用户利用AI图像工具,在未经当事人同意的情况下,将女性和未成年人的照片进行高度性化处理。这些工具最初被用于将穿着完整衣物的照片转化为“比基尼风格”图像,随后逐步演变为更极端的内容生成。

部分被篡改的图像显示,少女和儿童被处理成泳装形象。专家指出,其中一些内容可能已触及“儿童性虐待材料(CSAM)”的法律界定边界。

更令人担忧的是,一些用户开始主动要求生成带有瘀伤、血迹、捆绑、堵嘴甚至枪击场景的女性图像。相关案例已引发多个国家监管机构与儿童保护组织的警觉。

多名人工智能伦理领域专家指出,这类行为暴露出生成式AI在权限控制、内容审核与滥用防范机制上的系统性缺陷,平台若未能及时干预,可能构成对受害者的二次伤害。

加强使用监管 英国、澳大利亚发出强硬信号

据多家媒体报道,欧盟委员会已决定将此前针对X发出的算法和非法内容传播“保留令”延长至2026年底,以便继续调查该平台是否违反《数字服务法》(DSA)。

上个月,欧盟已对X公司处以1.2亿欧元罚款。监管机构指出,X在“蓝V认证”订阅机制、广告库透明度,以及向研究人员开放平台公共数据方面,未能履行法律规定的义务。

此外,2025年7月,巴黎检察官办公室已对X展开刑事调查,调查重点包括算法是否存在系统性偏见,以及是否存在欺诈性数据提取行为。X方面对此回应称,该调查“出于政治动机”,并警告其可能威胁言论自由。

多名长期研究平台治理的欧洲学者指出,算法透明并不等同于合规。即便公开部分代码,平台仍需证明其算法在内容推荐、风险放大和弱势群体保护方面,符合现行法律要求。

对于相关社交软件的使用,多个国家监管态度正在明显趋严。英国技术大臣利兹·肯德尔上周表示,政府正在认真评估是否限制甚至禁止X在英国的访问,原因正是该平台未能有效阻止AI工具被用于制造未经同意的性图像。

仅公开代码是否能缓解公众质疑?

马斯克随后公开指责英国政府试图“压制言论自由”,称相关威胁是对平台表达权的打击。

与此同时,澳大利亚总理阿尔巴尼斯也就此问题作出强烈表态。他在堪培拉发表讲话时表示:“全球公民理应享有更好的待遇。未经他人同意,利用生成式人工智能剥削或性化他人,是令人憎恶的行为。”

澳大利亚近期已讨论立法禁止16岁以下青少年使用社交媒体。阿尔巴尼斯直言,允许通过Grok等工具进行此类图像创作,“再次证明部分社交媒体平台缺乏应有的社会责任感”。

在多重监管调查与公众质疑叠加之下,马斯克此番“算法开源”承诺,被外界视为一次高风险的战略选择。“算法透明是必要但不充分条件。”算法工程师刘岩告诉封面新闻,如果平台未能同步强化内容审核、未成年人保护和受害者救济机制,单纯公开代码,难以缓解监管部门对其系统性风险的担忧。

随着欧盟、英国、澳大利亚持续释放强硬信号,X正站在一个关键节点:是通过制度性整改履新“平台责任”,还是继续“擦边”,答案或将很快由监管结果给出。

相关内容

热门资讯

长征五号B遥一运载火箭顺利通过... 2020年1月19日,长征五号B遥一运载火箭顺利通过了航天科技集团有限公司在北京组织的出厂评审。目前...
9所本科高校获教育部批准 6所... 1月19日,教育部官方网站发布了关于批准设置本科高等学校的函件,9所由省级人民政府申报设置的本科高等...
9所本科高校获教育部批准 6所... 1月19日,教育部官方网站发布了关于批准设置本科高等学校的函件,9所由省级人民政府申报设置的本科高等...
湖北省黄冈市人大常委会原党组成... 据湖北省纪委监委消息:经湖北省纪委监委审查调查,黄冈市人大常委会原党组成员、副主任吴美景丧失理想信念...
《大江大河2》剧组暂停拍摄工作... 搜狐娱乐讯 今天下午,《大江大河2》剧组发布公告,称当前防控疫情是重中之重的任务,为了避免剧组工作人...