原贴链接

我正在构建一个超低成本、能支持700亿参数模型的设备。目前我在X99主板上只运行一个3080显卡。我希望能够运行至少5个显卡，理想情况下我会将3080换成16GB显存的显卡，并添加4个CMP 100 - 210s。我知道有人说挖矿用的GPU不理想，但从我看到的数据来看，它们的运行速度几乎和V100一样快，而且至少比P100快，同时价格要便宜得多（100 - 210s能以150英镑提供16GB的HBM2显存，这似乎很难被超越）。问题是我的主板只支持区区2个显卡，我看到的大多数其他主板有3个，偶尔有4个完整的PCIE插槽。我找到了华硕Z10pw - 16 ws，但它要400英镑，还有一个超微的类似主板，价格也差不多，而且似乎没有完整的机箱就无法运行。那么，在一个设备上运行4个以上GPU的最便宜的方法是什么呢？编辑：我想我找到解决方案了，有一个旧的富士通LGA2011双CPU服务器主板，有6个16x和2个8x插槽，价格约为65英镑。

讨论总结

原帖作者想构建一个能支持5个以上GPU的超低价配置，正在寻找合适的主板。评论者们纷纷根据自己的经验和知识给出各种建议，包括主板型号推荐、硬件搭配、不同硬件的性能和价格比较，还有一些使用过程中的注意事项，如功耗、固件创建等，大家都在积极帮助原帖作者解决问题。

主要观点

  1. 👍 针对PCI 4.0，推荐AMD EPYC Rome，预估相关成本为800英镑
    • 支持理由：可以满足运行多块GPU的需求。
    • 反对声音：无。
  2. 🔥 推荐华擎AM4/5主板利用其拆分功能扩展接口
    • 正方观点：可以解决主板接口不足的问题，以实现支持更多GPU。
    • 反方观点：无。
  3. 💡 存在一款约120美元可支持6个GPU的主板，但有人对其能否正常工作表示怀疑
    • 有人推荐了这款主板并给出链接。
    • 也有人怀疑这么便宜的主板难以实现功能。
  4. 💡 原主板可能支持5个以上GPU，可使用挖矿分流器
    • 原帖提到的GPU受限PCIe接口，但原主板可能支持更多GPU。
    • 无反对意见。
  5. 💡 提醒检查主板对AMX的支持
    • 评论者从自身经验出发，认为这是构建多GPU设备时容易被忽视的点。
    • 无反对意见。

金句与有趣评论

  1. “😂 I m no expert, but for pci 4.0 you should aim at amd epyc rome, may be 800 for mobo, cpu, ram”
    • 亮点：虽然不是专家，但给出比较具体的建议。
  2. “🤔 Well 4x 4.0 is like 16x 2.0 ;) You will get 5 4x gen4 on B5x0. And if you only do interference, it only impact model load time into memory.”
    • 亮点：详细解释了不同接口设置下的性能情况。
  3. “👀 Cannot belive this shit works”
    • 亮点：直接表达对推荐主板的怀疑态度。
  4. “😎 我正在使用Asus X99 - E WS/USB3.1。我在上面插了3个P40，在70B下Q4能达到9tok/sec。”
    • 亮点：分享自己的实际使用情况和运行效果。
  5. “🤨 检查主板是否支持AMX。”
    • 亮点：简洁地给出一个重要的提醒。

情感分析

总体情感倾向是积极的，大家都在积极为原帖作者出谋划策。主要分歧点在于部分推荐的硬件设备是否可行，如对120美元可支持6个GPU的主板存在怀疑态度。可能的原因是硬件设备的性能和可靠性需要实际验证，而不同人基于自己的经验和知识对这些未经验证的设备有不同看法。

趋势与预测

  • 新兴话题：可能会有更多关于特定GPU和主板组合实际运行效果的讨论，以及如何进一步优化这种超低成本多GPU设备的性能。
  • 潜在影响：对于那些想构建低成本、多GPU设备的用户来说，这些讨论提供了很多实用的信息和思路，可能会促使更多人尝试类似的硬件组合，在一定程度上影响硬件市场中相关产品的需求。

详细内容：

标题：寻找支持 5 张以上 GPU 的廉价主板

在 Reddit 上，有用户发起了一个关于寻找能够支持 5 张以上 GPU 的廉价主板的讨论，该帖子获得了众多关注，评论数众多。

原帖中，用户表示正在构建一个超级预算的具备 70B 能力的设备，目前仅在 x99 主板上运行一张 3080 显卡，希望能运行至少 5 张显卡，打算将 3080 换成 16GB 的显卡，并添加 4 张 CMP 100-210s，还提到了挖矿 GPU 虽不被看好但价格优势明显。但面临主板仅支持 2 张显卡，多数常见主板仅有 3 或 4 个完整 PCIE 插槽的困境，询问最廉价的实现方案。

讨论焦点与观点分析：

有人指出，对于 PCI 4.0 可考虑 AMD EPYC Rome，不过成本可能 800 左右，包括主板、CPU 和内存。对于 PCI 3.0 能找到更便宜的旧至强处理器，但要留意这些旧服务器的功耗。

有用户分享了自己的经历，称找到一个每月 210 英镑无限电、水和燃气的公司，所以功耗对自己不是问题，还发现了一个约 60 英镑的解决方案。

有人提出有趣的想法，如无限的资源会让人很快运行一个完整的数据中心。

还有人建议检查一些华擎 AM4/5 主板，通过分叉可以利用便宜的 SAS 转接卡实现更多插槽。

有人提到 CMP 100-210 只有 PCIe 1×1 接口，使用 4×可能会明显减慢速度，但也有人认为对于推理，仅影响模型加载到内存的时间。

有人推荐了不同的主板选项，如华硕 X99-E WS/USB3.1，还分享了在 FB 市场上以 200 加元买到带有至强 CPU 的类似主板的经历。

有用户提到可以使用挖矿分流器，将一个×1 插槽分成 4 个×1 插槽，对推理速度影响不大。

有人建议考虑 MI25 等其他显卡，具有价格和性能上的优势。

用户在讨论中交流了各种主板的特点和使用经验，有人提到要注意主板是否支持 AMX，还有人分享了使用特定主板和配置的情况。

讨论中的共识是在追求廉价方案的同时，要考虑主板的性能和兼容性。

特别有见地的观点如利用特殊的转接卡和分流器来实现更多显卡的支持，为解决问题提供了新颖的思路。

总之，这次关于廉价多 GPU 主板的讨论为有类似需求的用户提供了丰富的参考和解决方案。