炒股加杠杆吗 联想单机部署DeepSeek推理性能实现新突破
发布日期：2025-03-19 21:47 点击次数：85
中证报中证网讯（记者孟培嘉）3月17日，联想宣布旗下首款AMD AI大模型训练服务器联想问天WA7785a G3在单机部署671B（满血版）DeepSeek大模型时，可实现极限吞吐量6708token/s，将单台服务器运行大模型的性能推向新高。
据悉，依托联想万全异构智算平台，联想通过访存优化、显存优化、PCIe 5.0全互联架构创新以及精选SGLang框架中性能最优算子等诸多创新方式，对大模型从预训练、后训练到推理的全流程进行持续优化，在模拟问题对话场景时，最高可支持并发数158，TPOT 93毫秒，TTFT 2.01秒；而在模拟代码生成时，并发数可达140，TPOT 100毫秒，TTFT 5.53秒。
这一成绩意味着，单台联想问天WA7785a G3可以支撑1500人规模企业的正常使用，是继联想问天WA7780 G3服务器单机部署满血版DeepSeek大模型总吞吐量突破2500 token/s后炒股加杠杆吗，单机部署该大模型推理性能的又一次突破。