AI安全共51篇
Anthropic曝出AI思想病毒后,模型安全开始进入传播治理阶段-速维云

Anthropic曝出AI思想病毒后,模型安全开始进入传播治理阶段

思想病毒改变安全边界 Anthropic 抛出的“思想病毒”研究,比普通模型能力榜单更值得警惕。它讨论的不是某个模型回答错了、越权了、幻觉了,而是危险倾向能否通过自然语言在不同 AI 系统之间传...
svyun的头像-速维云svyun2个月前
4214
OpenAI揭开模型刷分机制后,AI竞争开始回到真实闭环-速维云

OpenAI揭开模型刷分机制后,AI竞争开始回到真实闭环

OpenAI对齐研究揭示模型奖励寻求倾向,AI行业从榜单分数转向真实验证、实验闭环和可审计Agent工程。
svyun的头像-速维云svyun3个月前
0439
银联APOP把智能体支付推上台前,企业Agent开始补可信交易闭环-速维云

银联APOP把智能体支付推上台前,企业Agent开始补可信交易闭环

银联APOP、AI员工Aidan、CodeBuddy NPC、CatPaw和AgentLink等最新动态共同说明,AI智能体正在从会做事走向可授权、可追踪、可交付的真实业务闭环。
svyun的头像-速维云svyun3个月前
0299
深信服安全智能体冲进全球前四后,AI攻防开始进入实战阶段-速维云

深信服安全智能体冲进全球前四后,AI攻防开始进入实战阶段

深信服AI安全智能体Sangfor AI在CyberGym评测中进入全球前四,Claude Mythos发现后量子签名算法漏洞,清华团队提出AI失控行为预测框架,AI安全正在从概念讨论走向真实攻防、证据治理和企业安全...
svyun的头像-速维云svyun3个月前
699
ChatGPT封禁诈骗网络、Claude误入真实系统后,AI安全正在从模型评测走向运营治理-速维云

ChatGPT封禁诈骗网络、Claude误入真实系统后,AI安全正在从模型评测走向运营治理

OpenAI封禁利用ChatGPT批量制造虚假身份和诈骗话术的网络,Anthropic披露Claude安全评估误入真实公司系统。AI行业正在从模型评测,走向安全边界、成本纪律和运营治理。
svyun的头像-速维云svyun2个月前
05111
Claude秒破钱包漏洞后,AI安全开始从演示走向验证治理-速维云

Claude秒破钱包漏洞后,AI安全开始从演示走向验证治理

Claude 快速发现硬件钱包潜伏多年的漏洞,OpenAI 数学证明与 Lean 漏洞争议、Grok 视频分析和 AI 法律误用共同提示:AI 能力越强,越需要可验证流程、权限边界与人类复核。
svyun的头像-速维云svyun2个月前
05011