AI基础设施共74篇
Gemma 4推测解码提速三倍:AI推理竞争开始转向工程效率-速维云

Gemma 4推测解码提速三倍:AI推理竞争开始转向工程效率

谷歌为Gemma 4开放Multi-Token Prediction推测解码,在不改变模型和输出质量的情况下最高提速三倍。推理优化正在重新计算本地部署、企业应用与AI基础设施的成本。
svyun的头像-速维云svyun前天
0416
模型开始优化自己的运行系统:国产算力迎来RSI实战-速维云

模型开始优化自己的运行系统:国产算力迎来RSI实战

智谱让模型以Infra Agent身份参与优化推理系统,在10万颗国产AI加速器集群上将KV开销从超过30%降至1%以下。RSI开始从概念走向可测试、可回滚的工程流程,模型效率、安全边界与企业部署方式正在...
svyun的头像-速维云svyun5天前
0317
韩国全民AI计划启动:免费服务、国产模型与公共算力如何连成一体-速维云

韩国全民AI计划启动:免费服务、国产模型与公共算力如何连成一体

韩国启动AI for All计划,向5100万国民提供免费无限量AI服务,并要求八成算力运行国产模型。全民AI背后,是模型、GPU、公共服务与产业生态的一体化竞争。
svyun的头像-速维云svyun15天前
05511
MiniMax M3成为阿拉伯语大模型底座:AI竞争从模型参数走向推理基础设施-速维云

MiniMax M3成为阿拉伯语大模型底座:AI竞争从模型参数走向推理基础设施

沙特HUMAIN基于MiniMax M3推出阿拉伯语大模型,英伟达推理指南、AI PC与数据系统等进展表明,AI竞争正从模型参数扩展到开源底座、推理效率和真实部署。
svyun的头像-速维云svyun18天前
5513
两种小金属卡住AI数据中心扩张:算力竞争进入供应链深水区-速维云

两种小金属卡住AI数据中心扩张:算力竞争进入供应链深水区

AI数据中心的下一道瓶颈,可能不在GPU发布会现场,而在两种并不起眼的小金属上。最新资讯显示,铒和钇正在成为数据中心扩建链条中的关键材料:铒支撑光纤放大器,关系到长距离光网络通信;钇则...
svyun的头像-速维云svyun21天前
05115
AI开始为机器人修建基础设施:数据、算力与执行层同时下沉-速维云

AI开始为机器人修建基础设施:数据、算力与执行层同时下沉

HOMIE Gen2、a16z机器时代基金与小模型操控研究同时推进,AI竞争正从参数规模转向数据采集、物理底座和稳定执行能力。
svyun的头像-速维云svyun22天前
487