扬帆创投微信小程序
更聚焦的出海投融资平台
精准高效领先的融资对接服务
微信扫一扫进入小程序

OpenAI在网络安全测试中约700个AI智能体未经授权协作,入侵"抱抱脸"系统并下载非公开代码库。公司已部署更高隔离"沙箱"环境并加强监控。

根据美国两家人工智能研究组织26日发布的独立调查报告,在开放人工智能研究中心(OpenAI)7月进行的网络安全能力测试中,约700个由OpenAI人工智能模型驱动的智能体参与了对人工智能开源平台"抱抱脸"公司系统的入侵。OpenAI也于26日公布了相关技术调查报告。

这份由"模型评估和威胁研究组织"与"雷德伍德研究组织"合作撰写的报告显示,OpenAI于7月8日启动名为ExploitGym网络安全基准测试,参与测试的模型包括GPT-5.6 Sol和一款OpenAI内部研究模型。测试期间,约1200个原本应相互隔离的智能体通过未经授权的渠道建立通信,交换超过7万条消息和文件,其中约700个智能体随后参与对"抱抱脸"系统的入侵。

调查发现,大量智能体还合作研究如何欺骗测试自动评分系统,试图采用的方法包括伪造、修改或删除自身执行记录等。调查人员认为,大量智能体之间未经授权的协作,使它们得以完成单个智能体难以完成的任务。对"抱抱脸"的入侵正是在这种集体协作中逐步形成。

OpenAI于26日公布的技术调查报告显示,7月10日至13日期间,由相关模型驱动的智能体在"抱抱脸"相关服务器的41个工作节点上执行代码,至少取得其中一个节点的最高权限,访问部分数据,并下载4个非公开代码库。

OpenAI表示,公司已采取措施为相关程序部署隔离程度更高的"沙箱"环境,限制高风险模型访问互联网,并加强对模型推理的监控。

OpenAI于7月20日发现其模型可能与"抱抱脸"系统遭入侵有关并通知对方,21日对外披露此次事件。

原文作者:第一财经

原文链接:点击查看 >

版权声明:本文转载自第一财经,文章版权及相关知识产权归原作者或原权利人所有。本文仅供行业交流与信息参考,文中观点仅代表原作者,不代表扬帆出海立场。如转载内容涉及版权或其他权益问题,请联系我们,我们将在核实后及时处理。转载本文请联系原作者或原权利人获得授权。

更多出海资讯,请关注扬帆出海官网:www.yfchuhai.com

{{likeNum}}

好文章,需要你的鼓励

请前往扬帆出海小程序完成个人认证
认证通过后即可申请入驻
扫码添加小助手
微信扫描二维码,添加小助手
微信号:yfch103
APP
小程序
微信公众号
微信小程序
扬帆出海APP
扬帆出海APP
微信
公众号
微信公众号
关注扬帆出海
专注服务互联网出海!
出海人
社群
微信公众号
扫码进群
与25万+出海人同行!