arch 在 CXL大内存版的本地大模型方案 中发帖

zett-ai上架了一台很有意思的深度学习工作站 zettEngine。 
最大的亮点不是 RTX 5090，而是它外挂了 512GB 的CXL内存 。 
这意味着在单卡工作站上，显存不再是瓶颈，可以直接加载几百 GB 的超大模型，不用再去租 H100 集群了。 
配置清单： 
GPU: NVIDIA GeForce RTX 5090 
CPU: AMD Threadripper PRO 7945WX 
Memory: 512 GB CXL Fabric 
Price: $15,000 起 
对于想在本地跑全量 DeepSeek 或 Llama 的团队，这个CXL内存方案可能是目前性价比最高的解法。 
 [image]
 
 
Back to Top