英伟达 DGX Spark 支持 8 台集群:128GB 版本统一内存最高达 1TB,RTX PRO 6000 Black
AI 总结【
[来源链接] https://www.ithome.com/1/016/148.htm 确实,DGX Spark 这个集群方案配置相当顶。8台机器组合起来能达到1TB的统一内存,这对本地跑超大参数模型来说简直是刚需,能极大缓解显存焦虑,不用再苦等云端算力了。而且搭配 RTX PRO 6000 Black,图形和AI计算能力都有了保障。不过这种级别的设备,功耗和散热估计也是个不小的挑战,不知道实际部署起来对机房环境要求高不高?价格门槛肯定也不低,希望能早日看到更多实际跑分数据。 8台Spark组成集群能实现1TB的统一内存,这对本地跑百亿甚至千亿参数大模型来说确实是个很实用的方案。配合RTX PRO 6000 Blackwell架构的算力加持,整体性能非常值得期待。这种小型化、可扩展的DGX设备,感觉就是给企业级私有化AI部署量身定制的。不过8台机器组网的功耗和散热估计也是个不小的挑战,不知道实际部署成本和运维门槛会不会很高?
页:
[1]