AI基础设施 第10页
缓存命中率刷屏后,Agent竞争开始拼执行底座和治理能力-速维云

缓存命中率刷屏后,Agent竞争开始拼执行底座和治理能力

开源编程 Agent「Pi」把 DeepSeek 的输入 Token 缓存命中率打到 99.93%,这条消息真正刺到行业神经的地方,不是 GitHub Star 数有多高,而是它把 Agent 产品一直绕不开的成本问题摊开了:当一个...
svyun的头像-速维云svyun43天前
487
模型开始优化自己的运行系统:国产算力迎来RSI实战-速维云

模型开始优化自己的运行系统:国产算力迎来RSI实战

智谱让模型以Infra Agent身份参与优化推理系统,在10万颗国产AI加速器集群上将KV开销从超过30%降至1%以下。RSI开始从概念走向可测试、可回滚的工程流程,模型效率、安全边界与企业部署方式正在...
svyun的头像-速维云svyun5天前
0317
Gemma 4推测解码提速三倍:AI推理竞争开始转向工程效率-速维云

Gemma 4推测解码提速三倍:AI推理竞争开始转向工程效率

谷歌为Gemma 4开放Multi-Token Prediction推测解码,在不改变模型和输出质量的情况下最高提速三倍。推理优化正在重新计算本地部署、企业应用与AI基础设施的成本。
svyun的头像-速维云svyun前天
0416
美光市值破万亿美元,AI基础设施战从模型入口烧到存储芯片-速维云

美光市值破万亿美元,AI基础设施战从模型入口烧到存储芯片

OpenRouter 刚拿到 1.13 亿美元融资之后,AI 模型入口的热度还没退下去,另一条更靠近基础硬件的消息又把市场情绪推高了:美光股价单日大涨,市值首次突破 1 万亿美元。它不是一家新冒出来的模...
svyun的头像-速维云svyun1个月前
0496
DeepSeek融资谈判生变,AI竞争从模型走向算力与企业入口-速维云

DeepSeek融资谈判生变,AI竞争从模型走向算力与企业入口

DeepSeek与阿里巴巴融资谈判破裂,把国内大模型公司的融资逻辑再次推到台前。一个坚持独立性、一个看重产业协同,表面是估值和条款之争,背后其实是大模型公司在资本、算力、云生态和商业化入口...
svyun的头像-速维云svyun1个月前
0556
英伟达财报背后,AI基础设施竞争从芯片烧到推理账单-速维云

英伟达财报背后,AI基础设施竞争从芯片烧到推理账单

英伟达数据中心业务、字节AI基建投入、Baseten融资和TELOS成本优化共同说明,AI竞争正在从模型能力转向算力供给、推理成本和系统化交付。
svyun的头像-速维云svyun1个月前
0336