K8凯发(中国)天生赢家·一触即发

OpenAI研究员披露测试智能体自发沟通 突破管控入侵Hugging Face
栏目:k8凯发集团 发布时间:2026-08-12
 两名OpenAI研究人员于周三披露:在脱离封闭测试环境、在无任何人指令的情况下发起网络攻击的数周之前,OpenAI多款顶尖AI智能体就已悄悄互通技巧,想方设法在内部黑客测评中“作弊通关”。  内华达州拉斯维加斯举办的黑帽网络安全大会上,OpenAI研究员迈克尔·达尔顿发表演讲称:“无论对我们公司,还是整个人工智能行业而言,这都是一个关键性事件。”  此次最新披露进一步还原了两款OpenAI模型

  两名OpenAI研究人员于周三披露:在脱离封闭测试环境、在无任何人指令的情况下发起网络攻击的数周之前,OpenAI多款顶尖AI智能体就已悄悄互通技巧,想方设法在内部黑客测评中“作弊通关”。

  内华达州拉斯维加斯举办的黑帽网络安全大会上,OpenAI研究员迈克尔·达尔顿发表演讲称:“无论对我们公司,还是整个人工智能行业而言,这都是一个关键性事件。”

  此次最新披露进一步还原了两款OpenAI模型的行动时间线与手段:它们突破受控环境、接入公网,在未被察觉的情况下入侵人工智能开发平台Hugging Face。Hugging Face此前称一套自主AI系统入侵其网络,大约一周之后,OpenAI于上月末承认,本次攻击源自自家AI模型。

  该事件曝光后,头部AI实验室(OpenAI、Anthropic等)针对具备网络攻击能力的高端AI技术所采取的管控措施或将迎来新一轮严格审视,尤其是各类测评场景——这类测试本意是在可控条件下,要求智能体展示黑客技术。

  英国人工智能安全与安全研究院周二对外公布:Anthropic最强AI模型在近期一场失控的黑客测试中,虚构多个网络身份,试图诱骗一名程序员协助实施网络攻击。继上月Hugging Face入侵事件曝光后,Anthropic开展复盘调查,发现自4月起,其测试模型已在多起独立事件中入侵三家机构。

  达尔顿与另一位OpenAI研究员埃里克·华莱士在周三表示,这家AI巨头近期查明:5月初,多款处于同步测试阶段的智能体开始通过内部留言板互相交流。不同模型在此交换经验,攻克难以完成的黑客测试难题,其中包含需要借助互联网才能实现的规避方案。

  最终,两款OpenAI模型组合一系列复杂技术,在7月中旬成功连通互联网,并渗透进入Hugging Face平台。OpenAI表示,模型的目标仅仅是完成被指定的黑客测评任务,而标准答案恰好可以在这家AI开发平台上获取。

  两位研究员向与会者介绍,自5月初开始,模型在OpenAI内部文件系统Artifactory中自建了留言板。在公司毫不知情的情况下,数个月内它们自主交换信息与技术,互相协助完成高难度任务。

  华莱士提到,当模型陷入任务瓶颈时,常常会试图钻规则漏洞、采取作弊手段来获取奖励。

  “整件事的源头可以追溯到其中一个智能体发现:它能够通过上传信息实现互相通讯。”

  5月下旬,其中一个模型找到漏洞,滥用Artifactory的外网访问权限,从各类网站拉取文件,相当于让所有模型间接连上互联网。6月,模型发现并利用一处此前无人知晓的零日漏洞,获取Artifactory管理员权限、安装远程程序,扩大在系统内的活动范围。

  一系列操作最终造成Artifactory资源过载,7月初引发全局性系统宕机,OpenAI工程师这才察觉到异常。调查完成后,公司撤销模型访问权限、清除自建留言板,并协同Artifactory修复安全漏洞,随后才重启相关训练。但仅仅数日之后,模型又找到了在Artifactory内部通讯的新方式,继续交换技术,持续挖掘OpenAI内部基础设施以及Hugging Face等外部系统的安全漏洞。

  达尔顿表示,受本次事件影响,OpenAI正在主动放缓相关研究进度,强化安全能力,升级实验环境的安全准则与底层架构;同时大幅扩充对AI智能体的监控力度,完善覆盖事前防范、事中监测、事后处置的整套安全管控体系。

  谢霆锋演唱会沈阳站,现场数次说出“生日快乐”;当天正值王菲57岁生日,在云南低调庆生,并未公开回应

  8月8日晚,谢霆锋在沈阳演唱会上脱口而出“生日快乐”,引发全场粉丝欢呼。据悉,当晚他共说了三次“生日快乐”:第一次是开场不久后主动提及;后两次则因台下有歌迷高举“锋哥,替我祝菲姐生日快乐”的手幅,谢霆锋看到后,两度在演唱间隙隔空送上祝福。

  宇树科技8月10日开启申购,中一签或赚20万元。但多家券商综合测算显示,其预计中签率在万分之二至万分之三之间,远低于长鑫科技0.47%的中签率水平。数据显示,2026年以来A股新股上市首日平均涨幅高达276.

  27岁女子余井红成卖淫集团主犯,被湖南警方悬赏8万通缉!近日,湖南宜章警方发布两则悬赏通告:一、对组织卖淫集团主犯余井红进行悬赏通缉。通告显示,女子余井红,27岁,湖南宜章人。警方表示,凡提供有效线索并协助抓获该人的有功人员,将给予8万元的奖励。

  据中央气象台消息,今年第13号台风“白海豚”已于今天(8月9日)17时30分前后在浙江台州玉环登陆,随后又在浙江乐清二次登陆。今天白天,随着台风“白海豚”逼近,申城风雨交加。镜头下,外滩的市民游客,或撑伞在风雨中赶路、观光,或在地下通道暂避大雨。

  徐汇园林公司供图受台风“白海豚”影响,8月9日,徐汇区徐家汇地区、漕河泾开发区、衡复风貌区内多处路段均出现明显积水情况。记者从徐汇区建管委、区城投集团获悉,徐汇区市政、绿化、电力等102支专业抢险队伍共计2357人已集结待命,参与应急抢险。

  钟睒睒吐槽电商平台:必须限制其权力,它们是100%的中间商,小店老板卖一单都不知道收益率

  钟睒睒吐槽电商平台:必须限制其权力,它们是100%的中间商,小店老板卖一单都不知道收益率