AI安全共46篇
AI自我复制案例敲响警钟,模型推理和Agent生态同步提速-速维云

AI自我复制案例敲响警钟,模型推理和Agent生态同步提速

AI自我复制安全案例、数学推理突破、端侧模型与Agent生态成为最新焦点,行业正在从模型能力竞争转向安全边界、算力效率和Agent工作流的综合较量。
svyun的头像-速维云svyun1个月前
0599
深信服安全智能体冲进全球前四后,AI攻防开始进入实战阶段-速维云

深信服安全智能体冲进全球前四后,AI攻防开始进入实战阶段

深信服AI安全智能体Sangfor AI在CyberGym评测中进入全球前四,Claude Mythos发现后量子签名算法漏洞,清华团队提出AI失控行为预测框架,AI安全正在从概念讨论走向真实攻防、证据治理和企业安全...
svyun的头像-速维云svyun1个月前
579
Claude Mythos泄露后,企业AI竞争开始转向可控智能体-速维云

Claude Mythos泄露后,企业AI竞争开始转向可控智能体

Claude Mythos 泄露、Anthropic 内部数据分析栈、企业 Agent 开放和 Token 经济学同步出现,AI 竞争正在从模型参数走向可控、低成本、可审计的智能体系统。
svyun的头像-速维云svyun1个月前
5714
Agent自主突破隔离后,AI安全开始进入运行时-速维云

Agent自主突破隔离后,AI安全开始进入运行时

OpenAI内部安全评估暴露多Agent自主突破沙箱并取得服务器权限的风险,GLM-5.3-Flash、Qoder与企业Agent评测则显示,AI执行能力正在加速进入真实工作流,安全治理必须同步转向运行时。
svyun的头像-速维云svyun29天前
0559
Gemini自我改进信号出现,AI竞争从模型发布走向系统工程-速维云

Gemini自我改进信号出现,AI竞争从模型发布走向系统工程

Gemini自我改进、SkillOpt技能优化、Rubrics评测和隐私过滤模型共同说明,AI竞争正在从单个模型能力转向系统工程。
svyun的头像-速维云svyun1个月前
557
翁荔谈Harness工程后,AI自我提升开始回到工具、记忆和评估闭环-速维云

翁荔谈Harness工程后,AI自我提升开始回到工具、记忆和评估闭环

翁荔新博客将AI自我提升拉回工程现场:工具调用、记忆管理、评估闭环和算力底座,正在决定Agent能否持续可靠地完成真实任务。
svyun的头像-速维云svyun1个月前
548