NVIDIA 官方博客· Vishal Ganeriwala·· 14 天前AI 评分22
从兆瓦到 Token:NVIDIA 如何最大化 AI 工厂产出
From Megawatts to Tokens: How NVIDIA Maximizes AI Factory Production
AI 导读
英伟达在 AI Infra Summit 上披露,云服务商 Lambda 首次在部署环境中验证 DSX MaxLPS:在五机架、19 节点集群上以 16 节点满功耗的同一电力预算运行 19 节点,集群级 token 吞吐量提升 24%,从约每秒 400 万 token 增至 500 万,每瓦性能提升 23%。
来源:NVIDIA 官方博客 · blogs.nvidia.com