当地时间1月10日，印度尼西亚通信和数字事务部长表示，由于担心人工智能会生成色情内容，该国暂时封禁了美国企业家埃隆·马斯克旗下聊天机器人Grok，并要求马斯克旗下的社交媒体X平台就Grok所引发的负面影响尽快作出说明。

印尼通信与数字部长穆蒂亚·哈菲德在一份声明中表示：“政府认为未经同意的非自愿性深度伪造行为严重侵犯了人权、公民尊严以及数字空间中的公民安全。”

紧随其后，马来西亚通讯及多媒体委员会1月11日发布声明，暂时禁止该国用户访问Grok。该委员会在声明中指出，鉴于Grok工具被多次用于生成“淫秽露骨、不雅低俗、极具冒犯性的内容，以及经篡改的非自愿图像，其中包括涉及女性和未成年人的相关素材”，委员会已下令“暂时限制马来西亚用户访问Grok”。

Grok由马斯克旗下的人工智能公司xAI开发，并内置于社交媒体X平台，X用户可直接调用该聊天机器人。近期，X平台出现部分用户利用Grok编辑图片和视频的现象，一些用户借此生成真实人物的虚假性暴露内容，并在X平台上散播，受害者包括数百名成年女性和未成年人。

这场风波的导火索源自去年8月xAI推出的AI图像生成工具Grok Imagine，它包含一个所谓的“热辣”(spicy)模式，可生成成人内容。此后，随着Grok大量响应用户修改他人发布图像的请求，去年底起乱象扩大。X平台不少用户利用新功能对图像中人物执行“脱衣服”、“给她穿上比基尼”等指令。

研究数据显示，Grok的用户群体平均每小时生成6700多张“脱衣”图像。图像人工智能篡改检测公司Copyleaks表示，去年12月下旬，在Grok公开可访问的图片流中，平均每分钟出现一张未经同意的性暗示图片。

目前已有多个国家对此予以谴责。法国政府1月早些时候对媒体表示，将对Grok生成的露骨色情深度伪造内容展开调查；英国数据监管机构则称，已要求X平台解释在遵守数据保护法律方面所采取的措施；印度政府近日在一封致X公司的信中表示，Grok正被“用户滥用”，以“贬损或粗俗的方式生成女性图像或视频，从而对她们进行猥亵诋毁”。

此外，美国三名民主党参议员于1月9日要求苹果和谷歌下架X和Grok应用，认为在马斯克未能阻止平台传播未经同意的色情内容及儿童性虐待图像前，两款应用不应继续留在应用商店。他们强调，这些行为不仅令人不安，而且很可能违法。如果继续放任X的问题行为，将使苹果和谷歌长期宣称的内容审核与安全承诺失去公信力，并削弱其在公共舆论和司法程序中关于应用商店安全性的立场。

为应对批评，xAI已宣布将Grok在社交媒体平台X上的图像生成功能限制为“仅向付费订阅用户开放”。不过，独立运行的Grok应用程序仍允许用户在无需订阅的情况下生成图像。

马斯克本人在社交媒体上表示，“任何利用Grok生成非法内容的人，都将面临与上传非法内容同等的后果。”

值得一提的是，1月7日，xAI公司宣布完成E轮融资，融资额超过了此前设定的150亿美元目标，最终达到200亿美元。马斯克随后转发了融资公告并对投资者的信任表示了感谢。

本轮融资吸引了包括Valor股权投资公司、富达基金、卡塔尔投资局以及阿布扎比基金MGX在内的全球顶级资本参与。此外，英伟达和思科作为战略投资者也参与了本轮融资。公告中并未提及估值，但有消息称，这一轮融资将使xAI的估值达到2300亿美元，较2025年3月时披露的1130亿美元估值翻了一番。整理编辑/陈佳靖