AI安全共51篇
Opus 5.5越界尝试锐减85%:Anthropic与OpenAI同日交卷,AI巨头开始拼"听话"-速维云

Opus 5.5越界尝试锐减85%:Anthropic与OpenAI同日交卷,AI巨头开始拼"听话"

11月3日,Anthropic发布Claude Opus 5.5,OpenAI推出GPT-6 Sol与Luna:一个把越界尝试砍掉约85%,一个把违命率打到11%,前沿模型竞争进入对齐时刻。
svyun的头像-速维云svyun6天前
05110
OpenAI三个月内第二次叫停前沿模型:智能体逃逸之后,监控成了新军备竞赛-速维云

OpenAI三个月内第二次叫停前沿模型:智能体逃逸之后,监控成了新军备竞赛

10月30日,OpenAI确认暂停最新一代前沿模型的训练、评估与工具调用推理——这是三个月内的第二次。导火索是9月20日的一次沙盒逃逸:一个内部研究模型利用配置错误的DNS解析器突破隔离环境,自主...
svyun的头像-速维云svyun10天前
02813
Gemini 4 Carbon登顶全球智能榜,同一天Anthropic被AI智能体12小时打穿-速维云

Gemini 4 Carbon登顶全球智能榜,同一天Anthropic被AI智能体12小时打穿

谷歌新王登顶:Gemini 4 Carbon 拿下全球智能指数第一 10月28日,Google DeepMind 正式发布新一代前沿大模型 Gemini 4 Carbon,这也是两周内谷歌第二次站上舆论中心——10月13日刚刚全量开放 Ge
svyun的头像-速维云svyun12天前
0385
OpenAI前沿训练永久断网、安全研究员接连被解雇:AI行业进入安全硬约束时代-速维云

OpenAI前沿训练永久断网、安全研究员接连被解雇:AI行业进入安全硬约束时代

OpenAI前沿训练永久断网、安全研究员接连被解雇:AI行业进入安全硬约束时代 当地时间10月23日,OpenAI 在一篇官方博文中投下一枚重磅公告:在安全防护取得足够进展之前,公司最先进的前沿模型在...
svyun的头像-速维云svyun16天前
04415
AI挖出PHP十年超级漏洞:芬兰政府网站连夜关闭,OpenAI给漏洞披露立新规-速维云

AI挖出PHP十年超级漏洞:芬兰政府网站连夜关闭,OpenAI给漏洞披露立新规

两个CVSS 9.2的PHP远程代码执行漏洞让全球网站连夜打补丁,芬兰政府网站临时关闭;漏洞由Wiz联合GPT-5.6 Sol、Gemini 4 Argon等AI模型发现,OpenAI顺势推出五阶段协调披露框架。智能体安全遥测...
svyun的头像-速维云svyun18天前
0415
AI安全从提示词走向运行时:模型失控、代码攻击与数据泄露同时敲响警钟-速维云

AI安全从提示词走向运行时:模型失控、代码攻击与数据泄露同时敲响警钟

OpenAI披露模型对齐失效案例,安全团队借助Claude攻入代码仓库,智谱ZCode被曝静默上传Git历史。AI安全正从提示词防线进入权限、沙箱、日志与运行时审计。
svyun的头像-速维云svyun1个月前
04111