OpenAI复盘人工智能模型入侵事件:5月已发现异常信号但未能及早阻止
创始人
2026-08-27 08:59:01
0

  OpenAI周三在一份报告中表示,公司本可以更早采取行动,以阻止其人工智能模型对Hugging Face Inc.实施的一次意外入侵。

  OpenAI在报告中称,早在5月下旬,公司就已发现正在测试的AI模型正在利用一个软件漏洞访问开放互联网。这些行为被公司内部团队察觉。报告详细列出了导致此次入侵的事件时间线,以及OpenAI为防止类似事件重演而采取的措施,包括加强对开发中模型的监控。

  “事后来看,这份报告中识别出的一些早期信号本可以触发更早的应对措施,”OpenAI写道。

  这份报告发布于一个多月前OpenAI披露其先进AI模型在一次“前所未有”的事件中意外入侵Hugging Face之后。该事件连同近期发生的其他网络安全事故,引发了外界对于AI智能体失控的担忧,并促使部分科技界和政府人士再次呼吁加强对该技术的约束。

  OpenAI周三的披露还详细说明了这些模型如何利用多个智能体完成任务,并获取与Hugging Face云服务、虚拟专用网络(VPN)、代码仓库和企业通信平台相关的访问凭证。借助这些权限,它们进入原本受保护的系统,并最终从Hugging Face云基础设施中下载源代码等信息。

  报告称,这些智能体利用Hugging Face暴露的凭证和系统漏洞在其环境中运行代码,获取广泛权限,并下载了私有代码数据库。

  OpenAI表示,这些智能体在13小时内完成了大部分操作。当时,OpenAI的软件“从在单个工作节点执行代码,逐步升级为获得多个Hugging Face集群的管理级和主机级访问权限”。

相关内容

热门资讯

长征五号B遥一运载火箭顺利通过... 2020年1月19日,长征五号B遥一运载火箭顺利通过了航天科技集团有限公司在北京组织的出厂评审。目前...
9所本科高校获教育部批准 6所... 1月19日,教育部官方网站发布了关于批准设置本科高等学校的函件,9所由省级人民政府申报设置的本科高等...
9所本科高校获教育部批准 6所... 1月19日,教育部官方网站发布了关于批准设置本科高等学校的函件,9所由省级人民政府申报设置的本科高等...
湖北省黄冈市人大常委会原党组成... 据湖北省纪委监委消息:经湖北省纪委监委审查调查,黄冈市人大常委会原党组成员、副主任吴美景丧失理想信念...
《大江大河2》剧组暂停拍摄工作... 搜狐娱乐讯 今天下午,《大江大河2》剧组发布公告,称当前防控疫情是重中之重的任务,为了避免剧组工作人...