此芯科技把一台能够运行70B到150B大模型的桌面级超算摆到展台上时,AI算力的想象空间就不再只属于云端机房。AGX Station搭载自研P1芯片,标称160到320 TOPS算力,并强调能耗降低50%以上,这类产品真正值得关注的地方,不是把参数写得多漂亮,而是它把“本地跑大模型”从发烧友话题推进到企业工作台、研发桌面和边缘场景。
同一条线索下,国产GPU、开源软件栈、端侧硬件和智能体应用正在形成新的竞争关系。模型越来越大,Agent越来越需要低延迟执行,机器人和AI眼镜又把算力需求推向真实设备,算力产业正在从“谁有更强云集群”扩展成“谁能把模型稳定、低成本地放到更多地方运行”。
桌面超算的信号
AGX Station最直观的卖点,是把70B到150B大模型本地推理带到桌面级设备。过去很多企业讨论私有化部署,常常卡在两头:要么云上调用方便但数据、成本和延迟不可控;要么自建集群门槛太高,中小团队很难承担完整的GPU、运维、电力和散热成本。桌面级超算的出现,等于在云端集群和普通PC之间补了一层更贴近业务现场的算力形态。
这类设备如果能稳定运行,对企业研发和行业应用的意义很直接。代码助手、文档检索、设计辅助、客服质检、内网知识库问答,都不一定需要把每一次请求送到远端模型。尤其是涉及源代码、合同、研发文档、客户数据的场景,本地推理的吸引力会越来越强。它未必取代云端大模型,但会让企业在“高性能云API”和“本地可控推理”之间多一个选项。
国产算力不只拼单芯片
同样值得注意的是,沐曦在WAIC展示曦景S600超节点、曦索X300科学智能GPU,并把展台核心位置留给龙蜥、vLLM等开源社区。它披露的MXMACA软件栈已适配1752款开源软件,92%的项目无需改代码即可运行;与vLLM签署合作,也说明国产算力竞争已经从单颗芯片参数,转向软件生态、推理框架和开发者迁移成本。
这才是AI基础设施最难也最关键的一层。芯片算力强不强重要,但模型能不能顺利部署、工具链能不能接上、开发者愿不愿意迁移、推理服务能不能稳定跑起来,决定了算力最终能不能变成可销售、可交付的产品。国产AI芯片如果只讲硬件指标,很难撬动生态;如果能把vLLM、主流模型、运维工具和行业应用一起打通,才有机会在真实项目里扩大占比。

边缘和端侧正在接住应用
算力形态变化的背后,是应用正在变得更“现场化”。李未可科技发布的X-AI记忆眼镜,定价799元,基于WakeeMemory OS做全天无感记录,能识别会议、面谈、灵感等场景并整理待办事项;此芯的端边云全域算力底座,则把大模型推理从云端一路延伸到桌面和边缘。这些产品共同指向一个趋势:AI不再只是网页里的对话框,而是要进入会议室、办公桌、工厂、家庭和个人设备。
端侧AI的难点并不轻松。它要求低功耗、低延迟、隐私保护、持续唤醒和稳定体验,还要面对模型压缩、缓存管理、多模态输入等工程问题。用户不会关心背后是多大的模型,只会在意眼镜能不能准确记住会议重点,桌面设备能不能稳定跑完任务,机器人能不能连续执行而不是演示三分钟就停机。因此端侧竞争最终拼的不是一句“本地AI”,而是硬件、模型、系统和交互的完整闭环。
物理AI把算力需求推向真实世界
机器人方向也在拉高本地和边缘算力的重要性。京东开源JoyAI系列模型及EgoLive数据集,计划两年内采集1000万小时真实数据,并让JoyInside接入更多设备;普渡推出PuduFM和PuduAgent,希望让不同形态的服务机器人共享同一套智能能力;极佳视界展示通用世界模型产品矩阵,覆盖自动驾驶、具身智能、家庭场景和智能制造。它们共同说明,AI应用正在从屏幕内的生成和问答,走向物理世界中的感知、决策和行动。
物理AI对算力的要求更复杂。机器人要处理视觉、语音、动作规划、环境变化和安全边界,很多决策不能完全依赖远端云服务,否则延迟、断网和成本都会成为问题。云端适合训练大模型、沉淀数据和做复杂规划,本地设备则更适合承担实时推理与安全控制。未来能跑起来的方案,很可能是云、边、端协同:云上训练和更新,边缘节点做任务编排,设备端完成低延迟执行。
企业部署会重新算账
对企业来说,AI算力的账本正在变厚。以前采购AI能力,重点看模型效果和API价格;现在还要看数据是否能出域、推理是否稳定、峰值成本是否可控、硬件能否复用、模型能否迁移、开源生态是否成熟。AGX Station这类桌面级超算、国产GPU超节点、Token优化工厂和端侧AI设备,本质上都在回答同一个问题:企业能不能用更可控的方式,把AI能力放进自己的业务流程。
这也会改变云服务和本地部署的分工。高并发、弹性扩缩容、复杂多模型调度仍然适合云;研发内网、敏感数据、固定工作流、实时交互和边缘设备,则可能更愿意选择本地或混合方案。对AI厂商而言,单卖模型API的时代正在变窄,客户开始要求芯片、模型、工具链、Agent框架和售后交付一起回答问题。
价格战之外的新战场
模型价格战仍会继续,但算力侧的竞争正在变得更立体。DeepSeek等模型厂商把推理价格压低,会倒逼整个行业提升效率;Kimi K3这类超大参数开源模型又会推动开发者探索更灵活的部署方式;国产芯片和桌面级超算则尝试把推理能力带到更多物理位置。价格下降是结果,真正的变化是AI能力正在从少数云端入口,扩散到企业、设备和产业链的更多节点。
接下来更值得观察的,不是某一台桌面超算能否立刻替代云GPU,而是这类设备能否持续接住真实任务:模型更新是否方便,长上下文和Agent任务是否稳定,能耗和噪音是否适合办公环境,开发者生态是否足够友好,企业采购后能不能减少外部调用成本。若这些问题逐步被解决,AI算力的主战场就会从“谁拥有最大机房”扩展到“谁能把模型放到最合适的位置”。






