首页 > 快讯 > 快讯详情

摩尔线程携手硅基流动实现DeepSeek-V3大模型高性能推理

格隆汇1月21日|据蓝鲸新闻,摩尔线程与硅基流动联合宣布,双方在MTT S5000上,利用FP8低精度推理技术,完成了对DeepSeek V3 671B 满血版大模型的深度适配与性能测试。实测单卡Prefill(预填充)吞吐超4000 tokens/s,Decode(解码)吞吐超1000 tokens/s,单卡速度逼近国际顶尖产品。