原贴链接

还记得我发布过关于一个能运行llama - 3 400B的梦想GPU装备的主板（https://www.reddit.com/r/LocalLLaMA/comments/1e5g65f/i_found_a_nice_motherboard_for_an_imaginary_gpu/）吗？看起来Tiny公司在他们的Tinybox Pro中使用了完全相同的主板（[GENOA2D24G - 2L+](https://www.asrockrack.com/general/productdetail.pl.asp?Model=GENOA2D24G - 2L%2B#Specifications)）：https://llminfo.image.fangd123.cn/images/5rxkhs8h64xd1.jpg!/format/webp，https://preview.redd.it/ydawguti64xd1.jpg?width = 2765&format = pjpg&auto = webp&s = 0f7727271b0c8ba99bd4fe7c8e37ae9bf29c2494。基于这些照片，我认为他们甚至使用了我在帖子中提到的相同的[C - Payne MCIO PCIe gen5 Device Adapters](https://c - payne.com/products/mcio - pcie - gen5 - device - adapter - x8 - x16)。我很高兴有人将免费验证我的想法。现在就等着基准测试结果了！

讨论总结

这篇帖子主要展示了Tinybox Pro内部情况，可能使用的主板以及一些设备组件等相关信息。评论者们围绕计算机硬件展开了多方面的讨论，包括硬件成本比较、GPU堆叠的经济考量、自建设备的成本效益、不同硬件的性能测试等，整体氛围积极且充满技术探讨氛围。

主要观点

  1. 👍 等待基准测试结果并期待可能的回报（版税）
    • 支持理由：原帖提到有人免费验证自己的想法，评论者在等待结果的同时幽默表示希望有回报。
    • 反对声音：无
  2. 🔥 不同硬件配置在堆叠GPU时的成本比较以及各自的特点
    • 正方观点：不同硬件在插槽数量、价格、内存需求、电缆和适配器成本及功耗等方面存在差异，比较这些有助于选择更经济的配置。
    • 反方观点：无
  3. 💡 自建设备成本相对较低但需投入大量时间进行研究和故障排除
    • 解释：评论者以自己用8个4090构建类似设备为例，说明自建设备虽省钱但耗时。
  4. 💡 Tinybox Pro是带有优质组件的标准PC，维修保养比英伟达定制的DGX硬件更容易
    • 解释：从可维护性角度阐述Tinybox Pro的优势。
  5. 💡 一些型号可依据架构进行GPU间的分片操作来解决英伟达驱动对多消费级显卡使用的限制问题
    • 解释：针对质疑英伟达驱动限制多消费级显卡使用的疑问给出的解决办法。

金句与有趣评论

  1. “😂 Now waiting for benchmark results! and royalties ;-)”
    • 亮点：以诙谐幽默的方式表达对基准测试结果的期待以及想要回报的心情。
  2. “🤔 Looks like this actually might be more economical than a Threadripper setup for anyone looking to stack GPUs.”
    • 亮点：对不同硬件配置在GPU堆叠方面的成本进行比较得出的结论。
  3. “👀 Building it yourself like this costs around half as much as they charge, but you will need to invest many hours in research and troubleshooting!”
    • 亮点：直观地对比了自建设备的成本和所需投入的时间成本。
  4. “😎 i’ve got a bunch of the ROMED8 - 2T boards in my rack, maybe i should upgrade…”
    • 亮点：看到帖子中的硬件设备后考虑对自己的设备进行升级。
  5. “🤨 I was looking at the ROME2D32GM - 2T this morning as a way to change my 10x3090 rig into a more pleasing physical organization. I can’t justify the cost for it to look better though…”
    • 亮点：表达对设备布局改进的想法但受制于成本。

情感分析

总体情感倾向是积极的。主要分歧点较少，大部分评论者都在分享自己对计算机硬件相关的知识、经验或者提出建设性的问题。可能的原因是这是一个比较小众的计算机硬件话题，参与讨论的人大多是对该领域感兴趣或者有相关经验的，大家更倾向于交流和分享。

趋势与预测

  • 新兴话题：MCIO电缆和适配器对实际PCIe 5.0 GPU（如H100）的测试情况。
  • 潜在影响：对于计算机硬件爱好者和相关从业者来说，这些讨论可能会影响他们在硬件选择、构建设备以及成本控制等方面的决策。

详细内容：

标题：Reddit 热议 Tinybox Pro 及相关硬件配置

近日，Reddit 上一则关于“Tinybox Pro（8×RTX 4090）”的讨论引起了众多网友的关注。该帖子获得了大量的点赞和评论，大家围绕其硬件配置展开了热烈讨论。

原帖作者提到自己曾发布过关于梦想 GPU 装备的主板的帖子，并认为 tiny corp 在 tinybox pro 中使用了相同的主板，还指出可能使用了相同的 C-Payne MCIO PCIe gen5 设备适配器，并期待基准测试结果。

讨论焦点与观点分析：

  • 有人称赞这种堆叠 4090 的方式是天才之举。
  • 有人认为对于想要堆叠 GPU 的人来说，这可能比 Threadripper 更经济。
  • 对于预算有限的构建，有人提到了[ROME2D32GM - 2T]，但也指出其连接器数量相对较少。
  • 有人分享了自己的经历，如已经订购了主板并在二手市场收集其他部件。
  • 有人提醒不要购买特定型号的 Epyc CPU 和注意内存模块的选择。
  • 有人指出这种配置的价格与 Epyc 9000 主板相近，但在内存方面能节省成本。
  • 有人表示这种主板可以将 PCIE 插槽拆分，提供更多连接。
  • 有人认为其易于服务和维修。
  • 有人分享了自己构建类似配置的情况，包括成本、噪音、性能等方面，还提到了一些 BIOS 设置和基准测试结果。
  • 有人询问是否能在开放框架上运行该主板，以及散热和机箱选择等问题。

讨论中的共识在于大家都对这种高性能的硬件配置表现出浓厚兴趣，不同观点则体现在对于成本、性能、配置选择等方面的权衡和考量。

总之，这次关于 Tinybox Pro 及相关硬件配置的讨论，充分展示了网友们对于高性能计算机硬件的热情和深入见解。