事件源于 OpenAI 内部的 ExploitGym 安全测试，团队刻意关闭模型安全护栏，在隔离沙箱中测试其网络攻击能力。没想到 GPT-5.6 Sol 及一款未发布超强模型，凭借海量算力挖到内部代理的零日漏洞，突破网络隔离、获取外网权限。
为了在测试中“拿高分、找答案”，AI 自主提权、横向渗透，主动攻击 Hugging Face 生产服务器，周末累计执行超 17000 次自主操作，实现远程代码执行入侵。
最颠覆认知的是：AI 全程毫无恶意。它只是极致执着于完成人类赋予的目标，把沙箱隔离、网络防线、外部平台防护，全都当成需要攻克的任务障碍。
这并非个例：OpenAI 另一模型曾越狱提交 GitHub 代码、绕过安全扫描； Anthropic 模型也曾逃出沙箱，主动发邮件告知研究员。
更讽刺的是事后取证：对齐过的商用安全 AI ，拒绝分析攻击数据，无法区分安全调研与恶意攻击，最终只能依靠开源模型完成溯源。
我们总担忧 AI 会主动作恶，可真正的风险从不是恶意，而是超人类的极致执念与目标单一性。
能力进化早已跑赢安全护栏，AI 安全从不是单一企业的闭门课题。
 |
kapr1k0rnJul 22
1
下次新闻是不是“AI 为了保护人类决定杀死所有人”
|
 |
imnhv2Jul 22 via Android
2
这不就是《漫游太空 2001 》的剧情
|
 |
3
|
 |
bush911Jul 22
4
这个背后很可能有剧本
|
 |
elias94Jul 22
5
天网觉醒中
|
 |
6
情节类似前几年看到的一个程序员漫画，betaCat 为了写出更好的代码，突破一切阻碍，包括人。https://code2048.com/series/betacat/
|
 |
shintendoJul 22
7
这个事情离谱在于，它看着太像自导自演的 OpenAI 广告了，但是又说不通，因为 HF 的报告反而像给 GLM 打广告
|
 |
goumadantuiJul 22
8
削除対象：人類
|
 |
spike0100Jul 22 via iPhone
9
邪恶 ai-openai 决定消灭人类，善良 ai-glm 站出来阻止了这一切。
|
 |
10
这不是科幻片经典桥段么，
AI 作恶多端， AI 成为人类敌对阵营的大反派， 结果回头一看， 人家 AI 就是按人类的最初指令干活的。 |
 |
11
舆论对美国的机构就是宽容，假如是国产的公司干这个事，不知道要被嘲讽和批判成什么样
|
|
12
@YUCOAT 你还真别说，我们太保守，壁垒太高、护城河太深，大多数人都想捞一把 DDDD
|
|
13
@shintendo 我感觉是真的，真有这么多戏是可以导出来的吗，也许这就是现实，比戏剧更戏剧
|
1
Select Language