AI基础设施 第8页
Gemma 4推测解码提速三倍:AI推理竞争开始转向工程效率-速维云

Gemma 4推测解码提速三倍:AI推理竞争开始转向工程效率

谷歌为Gemma 4开放Multi-Token Prediction推测解码,在不改变模型和输出质量的情况下最高提速三倍。推理优化正在重新计算本地部署、企业应用与AI基础设施的成本。
svyun的头像-速维云svyun1个月前
0446
模型开始优化自己的运行系统:国产算力迎来RSI实战-速维云

模型开始优化自己的运行系统:国产算力迎来RSI实战

智谱让模型以Infra Agent身份参与优化推理系统,在10万颗国产AI加速器集群上将KV开销从超过30%降至1%以下。RSI开始从概念走向可测试、可回滚的工程流程,模型效率、安全边界与企业部署方式正在...
svyun的头像-速维云svyun1个月前
0447
Token调用暴增之后,AI基础设施竞争开始重算推理成本-速维云

Token调用暴增之后,AI基础设施竞争开始重算推理成本

Agentic Infra、Token 调用增长、异构算力调度和 Agent 工程共同说明,AI 竞争正从模型参数转向推理成本、系统效率和可交付能力。
svyun的头像-速维云svyun3个月前
0446
OpenAI重启大预训练后,AI竞争又回到基础模型和执行层-速维云

OpenAI重启大预训练后,AI竞争又回到基础模型和执行层

OpenAI Doug 大型预训练、GPT-5.6 与 Fable 解题、MiniMax Code 2.0 重构执行层同台出现,说明 AI 竞争正在回到底座模型、Agent 工程和成本治理。
svyun的头像-速维云svyun2个月前
4211
英伟达押注SSI、GPU调度公司成独角兽后,AI竞争开始重算算力效率-速维云

英伟达押注SSI、GPU调度公司成独角兽后,AI竞争开始重算算力效率

英伟达押注SSI、Spectro Cloud融资、Kimi K3开源与SearchOS发布同时出现,AI竞争正在从模型能力转向算力供给、资源调度、开放模型和系统效率。
svyun的头像-速维云svyun3个月前
04111
OpenAI企业部署与Claude算力长约同场升温,AI落地战转向基础设施和工作流-速维云

OpenAI企业部署与Claude算力长约同场升温,AI落地战转向基础设施和工作流

OpenAI加码企业部署,Claude锁定长期云算力,长上下文、端侧提速、主动助手和多模态应用同步推进,AI竞争正从模型发布转向基础设施、工作流和真实交付。
svyun的头像-速维云svyun3个月前
0408