封面新闻记者 边雪
当地时间1月10日,马斯克在X平台发帖称,X将在七天内向公众开放其最新推荐算法代码,涵盖自然搜索结果及广告帖的推荐逻辑,并计划每四周更新一次,同时配套发布详细的开发者说明文档,帮助外界理解算法变动情况。
马斯克X发文截图。马斯克称:“此举是为了提升平台透明度。”然而,就在这一表态发布之际,X正同时面临来自欧洲、英国、澳大利亚等多地的监管压力升级,以及围绕其人工智能工具Grok被滥用于生成性剥削图像的强烈质疑。
AI工具滥用:女性与儿童成直接受害者
因平台监管严重缺失,马斯克xAI公司旗下的智能聊天机器人“格罗克”(Grok)近期被广泛滥用于网络色情图片生成,部分涉及未成年形象的性化图像引发监管关注,相关内容可能触及各国儿童保护法律的严格界定。
1月初,31岁的音乐人朱莉·由里香在社交媒体上发布了一张身着红色连衣裙的照片。随后,她收到平台提示称,有用户正尝试通过人工智能工具Grok对该照片进行“数字变装处理”。当时,由里香并未过多担忧,认为平台不太可能允许此类请求通过审核。
但不久后,多张经AI处理的图片开始在社交平台X上传播,其中包括将她的形象篡改为身着比基尼、接近裸露状态的画面。相关内容的迅速扩散,给当事人带来了明显困扰。由里香随后在社交媒体上表示,她低估了生成式AI被滥用的风险。
由里香的遭遇并非个案。英国《卫报》10日报道称,Grok用户平均每小时生成超过6700张涉及“脱衣”处理的图像。关注人工智能与社交平台治理问题的专家恩瓦楚库指出,利用Grok进行所谓“数字变装”的行为在去年已初现端倪,并在年底明显激增。
报道称,xAI随后在Grok的视频生成功能中引入了所谓的“火辣模式”。有媒体评论认为,这类功能在客观上降低了生成性暗示内容的门槛,也进一步放大了平台在内容审核和滥用防范方面面临的风险。
多国媒体调查显示,大量用户利用AI图像工具,在未经当事人同意的情况下,将女性和未成年人的照片进行高度性化处理。这些工具最初被用于将穿着完整衣物的照片转化为“比基尼风格”图像,随后逐步演变为更极端的内容生成。
部分被篡改的图像显示,少女和儿童被处理成泳装形象。专家指出,其中一些内容可能已触及“儿童性虐待材料(CSAM)”的法律界定边界。
更令人担忧的是,一些用户开始主动要求生成带有瘀伤、血迹、捆绑、堵嘴甚至枪击场景的女性图像。相关案例已引发多个国家监管机构与儿童保护组织的警觉。
多名人工智能伦理领域专家指出,这类行为暴露出生成式AI在权限控制、内容审核与滥用防范机制上的系统性缺陷,平台若未能及时干预,可能构成对受害者的二次伤害。
加强使用监管 英国、澳大利亚发出强硬信号
据多家媒体报道,欧盟委员会已决定将此前针对X发出的算法和非法内容传播“保留令”延长至2026年底,以便继续调查该平台是否违反《数字服务法》(DSA)。
上个月,欧盟已对X公司处以1.2亿欧元罚款。监管机构指出,X在“蓝V认证”订阅机制、广告库透明度,以及向研究人员开放平台公共数据方面,未能履行法律规定的义务。
此外,2025年7月,巴黎检察官办公室已对X展开刑事调查,调查重点包括算法是否存在系统性偏见,以及是否存在欺诈性数据提取行为。X方面对此回应称,该调查“出于政治动机”,并警告其可能威胁言论自由。
多名长期研究平台治理的欧洲学者指出,算法透明并不等同于合规。即便公开部分代码,平台仍需证明其算法在内容推荐、风险放大和弱势群体保护方面,符合现行法律要求。
对于相关社交软件的使用,多个国家监管态度正在明显趋严。英国技术大臣利兹·肯德尔上周表示,政府正在认真评估是否限制甚至禁止X在英国的访问,原因正是该平台未能有效阻止AI工具被用于制造未经同意的性图像。
仅公开代码是否能缓解公众质疑?
马斯克随后公开指责英国政府试图“压制言论自由”,称相关威胁是对平台表达权的打击。
与此同时,澳大利亚总理阿尔巴尼斯也就此问题作出强烈表态。他在堪培拉发表讲话时表示:“全球公民理应享有更好的待遇。未经他人同意,利用生成式人工智能剥削或性化他人,是令人憎恶的行为。”
澳大利亚近期已讨论立法禁止16岁以下青少年使用社交媒体。阿尔巴尼斯直言,允许通过Grok等工具进行此类图像创作,“再次证明部分社交媒体平台缺乏应有的社会责任感”。
在多重监管调查与公众质疑叠加之下,马斯克此番“算法开源”承诺,被外界视为一次高风险的战略选择。“算法透明是必要但不充分条件。”算法工程师刘岩告诉封面新闻,如果平台未能同步强化内容审核、未成年人保护和受害者救济机制,单纯公开代码,难以缓解监管部门对其系统性风险的担忧。
随着欧盟、英国、澳大利亚持续释放强硬信号,X正站在一个关键节点:是通过制度性整改履新“平台责任”,还是继续“擦边”,答案或将很快由监管结果给出。