更多产品敬请期待

 

未来计划推出自研白盒化的消费级大模型解决方案。

端侧部署:将使用最高质量大模型的成本降到5万元人民币以内。

云端并发:起点为上千并发的集群成本下降到100万元人民币量级。

流畅体验

单机671B R1 FP8速率超20TPS,支持各类长度上下文流畅回答, 可支持超1000B参数的FP8模型运行。

安全可靠

资源本地存储,模型本地运行,全程离线处理,确保数据隐私安全。1年整机保修期且支持终身软件升级,省心无忧。

高性价比

相较于GPU方案,成本显著降低90%以上。十万价位最高性价比之选,一次付费,终身使用。

可选择671B R1 fp8/671B V3 fp8/671B R1 int4 等大模型

参数精度

可选择671B R1 fp8/671B V3 fp8/671B R1 int4 等大模型

Epyc9355 双路 CPU

24 条 48G 6400 频率内存

两张 5090D 计算卡

主要配置

Epyc9355 双路 CPU

24 条 48G 6400 频率内存

5090D 计算卡

Fp8: 22tps

Int4: 26tps

吞吐

Fp8: 22tps

Int4: 26tps

20 个工作日内

交货期

20 个工作日内

1年

保修期

1年

褐蚁 HY100

褐蚁 HY90

褐蚁HY90

褐蚁HY70