行云集成电路发布首款一体机产品:褐蚁系列,开启顶级模型的平民部署时代
在大模型及AGI快速走向商业化的今天,2025也被认为是AI Agent以及具身机器人的元年。行云认识到,在云端和端侧都有提供最高质量的大模型流畅使用的低成本方案需求。云端可以通过更大的集群等方式降低单并发成本,但是门槛很高,因此我们打造了10万价位可以流畅运行最好模型的褐蚁一体机系列。
顶级大模型如满血671B的Deepseek R1/V3拥有开源模型最佳的智能和广泛的应用场景,然而,一些技术限制使得行业被动将模型质量按价格划分为三六九等:十几万价位只能用32B的模型,40多万可以开始70B,满血671Gb的模型则需要付出上百万才能体验到最好的模型质量和流畅对话。——而这恰恰是行云希望打破的。
凭借行云自研的推理引擎框架和对硬件的精准选型,我们让Deepseek 671B原版fp8的R1/V3模型能够在CPU DDR5内存为主的低成本硬件上以超过官网速度的体验运行,将“最强AI大脑”的门槛大幅降低至10万元价位,从今天开始每一个人都可以开始构建属于自己智能体。
创建时间:2025-06-18 17:53