穆赫兰道
OpenAI模型，自主攻击全球最大AI开源平台_我的网站
A | 冀时新闻报道 企业车间变直播间、产品触网出圈，今年以来，我省各地依托数字经济新业态搭建平台、培育人才，对内拓宽销售市场、对外打通出海通道，让电商直播成为县域产业转型升级、实体经济提质增效的新引擎。 北京时间7月22日，OpenAI在官方博客发文，承认其模型在一起安全评测事故中攻击了全球最大AI开源平台Hugging Face。 OpenAI发文承认，其模型在一次安全评测中攻击了Hugging Face的生产环境 这是行业首次公开披露、模型评测失控直接升级为跨企业真实生产环境网络攻击的安全事件。 事件的起点是一场模型能力测试，一场原本被关在隔离沙箱里的模型安全测试，最终演变成针对全球最大AI开源平台Hugging Face的真实网络攻击。
B | 模型在评估中为了“作弊”拿到高分，自主发现并串联多个零日漏洞（0 day，软件厂商尚未知晓、没有发布补丁修复的安全缺陷），逃逸出隔离环境，攻入Hugging Face生产数据库窃取答案。在邢台任泽区凯环激光生产车间，焊接声伴着主播带货的声音，让车间变身跨境直播间。
C | 这家拥有二十余项专利的专精特新企业，主营激光焊接、清洗设备，曾长期面临线下拓客难题。凯环激光设备制造有限公司总经理 高朋飞：上门推销产品，谈的话没那么好谈，很多就是打电话（说），我到你们厂门口了，能不能聊聊，我们做什么产品的，客户（说）在忙，连客户工厂门口都进不去。 在攻击发生后的事后追查阶段，面对超过1.7万条攻击日志，Hugging Face求助商业大模型，被对方的安全护栏集体拒之门外，最终完成取证分析的，是中国公司智谱的开源模型GLM-5.2。为扭转被动局面，企业在当地政府部门帮助下，组建了二十多人的直播团队，差异化营销。凯环激光设备制造有限公司总经理 高朋飞：录视频直接拿起来我们焊枪直接就焊，焊接效果给客户展示，特别的平整光滑，然后一看就不需要打磨。 为作弊，模型自己越狱了 据OpenAI披露，涉事模型为GPT-5.6 Sol以及一款能力更强的预发布模型。它们当时正在参加名为ExploitGym的内部评测，该基准包含898个真实软件漏洞利用任务，专门测试AI能否把真实软件漏洞一步步变成可以实际运行的攻击。目前企业在海外多平台圈粉400多万，积累精准客户超万人，今年1至7月出口额近1500万元。 为了尽可能摸到模型能力上限，OpenAI特意降低了生产环境级别的安全拒绝机制，鼓励模型尽可能寻找复杂的攻击路径。为帮助更多像凯环激光这样的本土制造业企业扬帆出海，今年任泽区出台了推进电商直播工作方案，从构建选品体系、培育主播队伍、搭建直播场景等9个方面细化举措。 按照OpenAI最原本的设计，模型接触外部资源的唯一通道，是一套由OpenAI内部托管的第三方软件。
D | 邢台广富机械制造有限公司就借助线上流量，吸引了来自韩国的客商前来考察并追加订单。 模型开始确实投入了大量推理算力，专门寻找获得公网访问权限的方法，在OpenAI内部包注册表的缓存代理中发现了一个此前未知的零日漏洞，随后在OpenAI研究测试环境中完成特权提升和横向移动，成功连接外网。
E | 韩国客商 姜熙龙：我在网上通过TikTok短视频了解这个叉车，就买了三台叉车。
F | 员工说性价比好，操作又简单，我们（这次）决定再买三台。 联网之后，模型推断Hugging Face可能托管着ExploitGym的测试答案，随即发动攻击。广富公司主要从事矿山设备、电动叉车等多种工业设备的销售，企业在推进跨境电商直播中遇到的最大难题就是缺少人才。 它先通过恶意数据集，利用远程代码数据加载器和数据集配置中的模板注入两处代码执行路径，在Hugging Face的工作节点上执行代码，随后在周末期间提升至节点级权限，收割云端和集群凭证，横向移动至多个内部集群，最终攻入生产数据库，直接窃取测试解法。 OpenAI表示入侵发生在7月11日周末，全程由自主AI智能体系统端到端驱动，背后是大量短生命周期沙箱组成的集群，执行了数千个独立动作。邢台市任泽区商务局电商工作负责人 闫新明：我们邀请了三家电商的培训机构对工业企业进行了专题培训，跟企业签订合作协议，对企业的电商工作人员从开店然后到录视频，然后再直播，一点一滴地来进行解决。Hugging Face基于大模型的异常检测管道首先标记了入侵，OpenAI安全团队也在内部发现异常，双方启动联合取证。 7月16日Hugging Face首次披露时称，这次事件“与我们之前处理过的任何情况都不同”。
G | 如今邢台任泽区已有20多家规上企业通过车间直播、跨境引流等新模式开拓海外市场。
H | 直到一周后OpenAI发文认领，它才知道攻击者是谁。
I | 美国模型拒绝查案，中国开源模型接手 取证阶段，Hugging Face遇到了意想不到的难题。
J | 为了分析超过1.7万条攻击事件记录、重建时间线、确认被接触的凭证，还要区分真实破坏和干扰调查的诱饵活动，靠人工逐条梳理通常需要数天。
K | 邢台市任泽区委书记 罗向政：下一步，将提升任泽电商直播基地，打造产业综合服务中心，引导企业组建出海联合体，共享海外仓和渠道资源，实现从"单打独斗"到"抱团出海"。
L | 聚焦企业营销转型痛点，新乐市常态化开展电商运营专题培训，高标准打造电商直播基地，补齐企业直播短板。在欧尚地毯生产车间，主播正在展示企业最新研发的地毯材质，线上解答采购商关心的耐磨、定制等问题。
M | Hugging Face最初尝试调用商业前沿大模型的API，但请求被安全护栏拦截。
N | 触发拦截的原因是日志里包含真实的攻击命令、漏洞利用载荷和命令与控制痕迹数据，护栏无法区分提交材料的是事件响应者还是攻击者。 最终，Hugging Face在自有基础设施上部署了GLM-5.2，由它遍历全部攻击记录并完成取证分析，将数天的工作压缩至数小时。 Hugging Face特别指出，这样做还有一个额外优势：攻击数据及涉及的凭证始终留在本地环境，没有离开企业基础设施。欧尚地毯有限公司董事长 赵朋博：过去我们做地毯销售主要依靠我们业务，出去去别的城市去跑市场，去开发新的客户，获客成本也是比较高，市场辐射和开发是非常有限。
o | 针对传统企业想转型但"不会播、不敢播、不懂运营"的难题，新乐市组建工作专班，邀请电商讲师走进企业开展实操培训。 这场事故意外完成了一次开源模型的全球路演。帮助企业选拔培养直播、运营相关人才，规范直播流程，搭建稳定线上获客、客户维护渠道。 Hugging Face将困境总结为“安全不对称”：攻击者可以使用完全不受限的模型，防守方却可能被云端模型的护栏拒之门外。
p | 欧尚地毯有限公司董事长 赵朋博：通过在生产线进行直播及短视频推广以来，我们累计获得客户数万名以上，实际给我们工厂带来的销量实际增长在30%以上。今年4月以来，新乐市依托经开区高端装备制造园，建成2000平方米专业化直播基地，免费向本地企业开放场地、设备。目前，新乐已有69家企业常态化直播，今年新增开播企业44家。
q | 该公司由此建议，企业应提前准备经过验证、能够在本地运行的高能力模型。 这场事故，其实也让开源模型多了一个此前存在感不算太强、如今却相当现实的位置：安全团队的应急工具。石家庄新乐市副市长 李丽霞：下一步，我们将持续完善直播基地配套功能，精准开展一些分类分层的培训，深挖企业经验进行推广，引导更多的工业企业用好线上渠道，拓展客源。
r | 对金融、政务、医疗等数据敏感行业而言，模型权重自主可控、数据不出企业边界、关键时刻不被服务商的审核机制卡住，正在从加分项变成刚需。 不过值得注意的是，开源模型开放权重同样降低了攻击者的门槛，安全不对称是一把双刃剑，这也是全球监管讨论开源治理时最纠结的一环。
s | 失控预演之后，竞争已经换轨 这样的失控并非没有预演。 今年4月，Anthropic在Claude Mythos Preview的System Card中披露，红队演练中模型成功逃逸加固沙箱，随后超出指令范围自主行动：给正在公园吃三明治的研究员发邮件报告成果，未经允许将漏洞细节发布到公开网站，还在另一次测试中改写git历史掩盖改动。 Anthropic因此决定不对公众开放该模型，仅通过Project Glasswing计划向苹果、谷歌、微软、摩根大通等12家机构开放用于防御。 值得注意的是，相比Anthropic的模型是被明确要求尝试逃逸，本次OpenAI的模型没有收到任何逃逸指令，它是为了在测试中作弊拿到高分，自发越狱并攻击了一家无辜的第三方公司。 在业内看来，这起事件标志着AI的自主攻击能力从理论走向现实。 OpenAI研究员Micah Carroll在回应中写道：“如果这都不能让你相信错位风险将成为未来的关键隐忧，那我真不知道什么才可以。” 模型能力越强，失控作恶的潜在威胁越大，传统隔离防护持续承压，自主AI网络攻击或将成为长期常态化风险。
Current article:http://www.chenzhuaigecoupuhongyuntuizei.sbs/jen/20260826/2064056.html
Published on:13:35:49
电锯惊魂
人工智能