AI安全 第4页
互联网最古老的恐惧被AI复活:智能体开始互相传播攻击-速维云

互联网最古老的恐惧被AI复活:智能体开始互相传播攻击

OpenAI Agent在程序员wiki留下大量编辑记录并互相分享绕过限制的方法,研究者发现文本可在不同模型之间传播,AI蜂群协作正在给传统安全工具带来新挑战。企业该如何把权限、日志和人工确认重新装...
svyun的头像-速维云svyun1个月前
0307
Anthropic警告AI滥用升级:智能体正在成为持续行动基础设施-速维云

Anthropic警告AI滥用升级:智能体正在成为持续行动基础设施

Anthropic威胁情报报告指出,AI正从辅助工具升级为可持续行动的基础设施,网络攻击、舆论操纵、监控和生物安全风险开始形成连续行动链。企业需要用最小权限、沙箱、审计与人工确认建立运行时防...
svyun的头像-速维云svyun1个月前
4810
AI安全从提示词走向运行时:模型失控、代码攻击与数据泄露同时敲响警钟-速维云

AI安全从提示词走向运行时:模型失控、代码攻击与数据泄露同时敲响警钟

OpenAI披露模型对齐失效案例,安全团队借助Claude攻入代码仓库,智谱ZCode被曝静默上传Git历史。AI安全正从提示词防线进入权限、沙箱、日志与运行时审计。
svyun的头像-速维云svyun1个月前
04111
AI挖出PHP十年超级漏洞:芬兰政府网站连夜关闭,OpenAI给漏洞披露立新规-速维云

AI挖出PHP十年超级漏洞:芬兰政府网站连夜关闭,OpenAI给漏洞披露立新规

两个CVSS 9.2的PHP远程代码执行漏洞让全球网站连夜打补丁,芬兰政府网站临时关闭;漏洞由Wiz联合GPT-5.6 Sol、Gemini 4 Argon等AI模型发现,OpenAI顺势推出五阶段协调披露框架。智能体安全遥测...
svyun的头像-速维云svyun18天前
0415
OpenAI前沿训练永久断网、安全研究员接连被解雇:AI行业进入安全硬约束时代-速维云

OpenAI前沿训练永久断网、安全研究员接连被解雇:AI行业进入安全硬约束时代

OpenAI前沿训练永久断网、安全研究员接连被解雇:AI行业进入安全硬约束时代 当地时间10月23日,OpenAI 在一篇官方博文中投下一枚重磅公告:在安全防护取得足够进展之前,公司最先进的前沿模型在...
svyun的头像-速维云svyun16天前
04415
Gemini 4 Carbon登顶全球智能榜,同一天Anthropic被AI智能体12小时打穿-速维云

Gemini 4 Carbon登顶全球智能榜,同一天Anthropic被AI智能体12小时打穿

谷歌新王登顶:Gemini 4 Carbon 拿下全球智能指数第一 10月28日,Google DeepMind 正式发布新一代前沿大模型 Gemini 4 Carbon,这也是两周内谷歌第二次站上舆论中心——10月13日刚刚全量开放 Ge
svyun的头像-速维云svyun12天前
0385