产品详情
-
首页
-
产品
-
新闻
-
公司简介
-
人才招聘
-
首页
-
产品
-
新闻
-
公司简介
-
人才招聘
“褐蚁-蚁群”并发解决方案
针对高计算密度型任务,我们推出“蚁群”解决方案,以服务器x86系列CPU+消费级GPU为基础,使用 32台机器进行超线性扩容,实现671B FP8 参数的DeepSeek(同等参数规模均可)做到500-1000个有效并发(20tps流畅体验)的技术方案,且能实现单并发成本接近官方开源的集群效果,满足大规模并发需求。
更多产品敬请期待
未来计划推出自研白盒化的消费级大模型解决方案。
A1
象限位置
B1
A2
B2
模型精度
Q4/小激活 MoE
FP8 满血无损
Q4/小激活 MoE
FP8 满血无损
算力架构
1 x EPYC 9005 +1 x GPU
2 x EPYC 9005 +1~4 x 5090
4 x RTX 6000 Pro
8 x RTX 6000 Pro /H20/H200
并发能力
30+路
少并发(精度优先)
30 路稳定
60+路
价格区间
/
/
企业级
旗舰级
HY50 轻量高效
HY400 企业并发
HY90/100 原生无损
HY800 满血旗舰
核心关键词
性价比 · 入门
精度 · 无损
稳定 · 协同
吞吐 · 极限
保修期
1年
1年
1年
1年
关于我们
北京行云集成电路有限公司致力于打造软件亲和、高显存规格的大模型推理芯片,旨在用异构、白盒的硬件形态重塑大模型计算系统,推动大模型走向更高质量和更低成本,解决大模型产业的算力成本和供应问题。未来,行云将持续通过芯片产品重塑计算机形态以加速大模型产业的商业化。