AI安全 第7页
OpenAI揭开模型刷分机制后,AI竞争开始回到真实闭环-速维云

OpenAI揭开模型刷分机制后,AI竞争开始回到真实闭环

OpenAI对齐研究揭示模型奖励寻求倾向,AI行业从榜单分数转向真实验证、实验闭环和可审计Agent工程。
svyun的头像-速维云svyun3个月前
0439
蚂蚁开源AI安全框架后,Agent热潮开始补上执行前刹车-速维云

蚂蚁开源AI安全框架后,Agent热潮开始补上执行前刹车

蚂蚁安全开源AI安全框架、阶跃星辰端侧模型、OpenAI Codex额度变化和具身智能新进展共同说明:AI Agent正在从能力演示走向真实执行,权限边界、审计机制和端云协同开始成为竞争核心。
svyun的头像-速维云svyun3个月前
389
Meta外包测试竞品后,AI安全竞争开始进入审计和供应链阶段-速维云

Meta外包测试竞品后,AI安全竞争开始进入审计和供应链阶段

Meta外包测试竞品引发争议,叠加Anthropic越狱分级和AI技能包供应链风险,AI竞争正从能力展示进入安全审计、权限治理和可信交付阶段。
svyun的头像-速维云svyun3个月前
518
翁荔谈Harness工程后,AI自我提升开始回到工具、记忆和评估闭环-速维云

翁荔谈Harness工程后,AI自我提升开始回到工具、记忆和评估闭环

翁荔新博客将AI自我提升拉回工程现场:工具调用、记忆管理、评估闭环和算力底座,正在决定Agent能否持续可靠地完成真实任务。
svyun的头像-速维云svyun3个月前
588
Agent开始接钱后,AI应用终于走进执行闭环-速维云

Agent开始接钱后,AI应用终于走进执行闭环

亚马逊把 AgentCore Payments 推向正式可用,AI 智能体第一次拥有了在预算和授权边界内自主购买数字服务的产品接口。它不再只是替用户查价格、列清单或生成一封询价邮件,而是可以在开发者预设...
svyun的头像-速维云svyun2个月前
0437
AI编码Agent被13种攻击全部击穿:SubAgent权限边界正在成为新安全战场-速维云

AI编码Agent被13种攻击全部击穿:SubAgent权限边界正在成为新安全战场

新研究显示,六类AI编码Agent在13种指令提权攻击中全部失守。本文拆解SubAgent权限边界、工具调用审计和企业部署AI时必须设置的安全闸门。
svyun的头像-速维云svyun1个月前
0547