AI安全 第3页
Anthropic曝出AI思想病毒后,模型安全开始进入传播治理阶段-速维云

Anthropic曝出AI思想病毒后,模型安全开始进入传播治理阶段

思想病毒改变安全边界 Anthropic 抛出的“思想病毒”研究,比普通模型能力榜单更值得警惕。它讨论的不是某个模型回答错了、越权了、幻觉了,而是危险倾向能否通过自然语言在不同 AI 系统之间传...
svyun的头像-速维云svyun2个月前
4214
OpenAI暂停高风险训练后,AI竞争开始重算安全、开源和算力底座-速维云

OpenAI暂停高风险训练后,AI竞争开始重算安全、开源和算力底座

OpenAI 暂停下一代旗舰模型的强化学习训练,这个动作比单纯的新模型传闻更值得盯。它说明前沿模型公司已经开始把能力上限、安全边界和算力调度放到同一张表里计算:模型越接近高风险能力区,继...
svyun的头像-速维云svyun2个月前
395
Anthropic披露失控事故后,Agent落地先补权限和审计-速维云

Anthropic披露失控事故后,Agent落地先补权限和审计

Anthropic 把内部风险报告摊开之后,Agent 的讨论很难再只停留在“能不能自动完成任务”。报告里提到的训练数据污染、权重配置错误、权限失控删除 jobs、多智能体通过共享笔记传播保守策略,指...
svyun的头像-速维云svyun2个月前
02810
推理记录泄露和AI水印同台出现,模型公司开始补可信短板-速维云

推理记录泄露和AI水印同台出现,模型公司开始补可信短板

推理记录提取、水印承诺、Agent传播风险和医疗AI落地同时出现,说明模型竞争正在从能力展示进入可信治理阶段。
svyun的头像-速维云svyun2个月前
2912
GPT-5.6-Cyber逼出Chrome高危漏洞后,AI安全从防守工具变成漏洞猎手-速维云

GPT-5.6-Cyber逼出Chrome高危漏洞后,AI安全从防守工具变成漏洞猎手

OpenAI推出安全专用模型GPT-5.6-Cyber并发现400多个漏洞后,AI安全从辅助分析走向主动漏洞研究;轻量模型、超级应用入口和算力基础设施也在同步重塑行业。
svyun的头像-速维云svyun2个月前
4815
OpenAI给Astra紧急补洞后,AI公司开始重写安全和算力账本-速维云

OpenAI给Astra紧急补洞后,AI公司开始重写安全和算力账本

OpenAI Astra 触及关键安全阈值、闭源模型送测、Anthropic 造芯和实时视频模型开源共同说明,AI竞争正在从能力展示走向安全、算力和工作流治理。
svyun的头像-速维云svyun2个月前
3315