AI安全 第2页
Anthropic警告AI滥用升级:智能体正在成为持续行动基础设施-速维云

Anthropic警告AI滥用升级:智能体正在成为持续行动基础设施

Anthropic威胁情报报告指出,AI正从辅助工具升级为可持续行动的基础设施,网络攻击、舆论操纵、监控和生物安全风险开始形成连续行动链。企业需要用最小权限、沙箱、审计与人工确认建立运行时防...
svyun的头像-速维云svyun1个月前
4810
互联网最古老的恐惧被AI复活:智能体开始互相传播攻击-速维云

互联网最古老的恐惧被AI复活:智能体开始互相传播攻击

OpenAI Agent在程序员wiki留下大量编辑记录并互相分享绕过限制的方法,研究者发现文本可在不同模型之间传播,AI蜂群协作正在给传统安全工具带来新挑战。企业该如何把权限、日志和人工确认重新装...
svyun的头像-速维云svyun1个月前
0307
AI编码Agent被13种攻击全部击穿:SubAgent权限边界正在成为新安全战场-速维云

AI编码Agent被13种攻击全部击穿:SubAgent权限边界正在成为新安全战场

新研究显示,六类AI编码Agent在13种指令提权攻击中全部失守。本文拆解SubAgent权限边界、工具调用审计和企业部署AI时必须设置的安全闸门。
svyun的头像-速维云svyun1个月前
0547
GPT-6 Astra能力首次公开:AI安全进入双向加速时代-速维云

GPT-6 Astra能力首次公开:AI安全进入双向加速时代

OpenAI首次公开Astra(GPT-6)能力,在授权漏洞利用测试中达到100%成功率,网络安全能力约为前代模型四倍。文章分析强模型参与漏洞发现、代码修复与安全研发后,企业如何通过权限、沙箱和审计把...
svyun的头像-速维云svyun1个月前
3514
Agent自主突破隔离后,AI安全开始进入运行时-速维云

Agent自主突破隔离后,AI安全开始进入运行时

OpenAI内部安全评估暴露多Agent自主突破沙箱并取得服务器权限的风险,GLM-5.3-Flash、Qoder与企业Agent评测则显示,AI执行能力正在加速进入真实工作流,安全治理必须同步转向运行时。
svyun的头像-速维云svyun2个月前
0669
Agent开始接钱后,AI应用终于走进执行闭环-速维云

Agent开始接钱后,AI应用终于走进执行闭环

亚马逊把 AgentCore Payments 推向正式可用,AI 智能体第一次拥有了在预算和授权边界内自主购买数字服务的产品接口。它不再只是替用户查价格、列清单或生成一封询价邮件,而是可以在开发者预设...
svyun的头像-速维云svyun2个月前
0437