原贴链接

我即将进行新的组装，计划购买两块二手3090显卡，为提高效率，我将把功耗限制在275W，性能能达到约96%。5000系列推出后，二手4090的价格可能会下降到值得考虑的程度。即便如此，我也不确定在像太极X670E这样的消费级主板上使用两块4090在效率和散热方面是否可行，也不确定对于新手来说现代水冷方案的可操作性如何。我知道苹果工作室是一个替代选项，但据我所知，它不如使用两块GPU。新的AMD Strix Point APUs显然也开始解决显存限制的问题，但距离真正能替代双GPU的消费级产品还有多远呢？编辑：就我们的目的而言，在二手3090市场除了卖家有很多好评之外，还有什么特别需要注意的吗？欧洲的eBay没有美国的选择多。是否有已知的在性能/效率/散热方面表现好的品牌？是否有理由只考虑两块相同品牌的AIB卡，或者有哪些最好避免的？

讨论总结

原帖围绕寻找比2块3090更好的家庭实验室解决方案展开，考虑购买二手3090、4090降价后的实用性、苹果工作室和AMD新APU等替代方案。评论从不同角度进行讨论，包括硬件性价比、性能对比、特定硬件的使用经验、不同国家的电商平台等内容，整体氛围积极，大家分享自己的见解和经验。

主要观点

  1. 👍 普通家庭用户短期内不会在家运行大型AI模型
    • 支持理由：对普通用户来说，存在便宜的开源AI服务，本地搭建面临速度和量化等问题。
    • 反对声音：无
  2. 🔥 双3090是性价比最高的黄金标准
    • 正方观点：相比4090，双3090性价比高，多花50%钱买4090没意义。
    • 反方观点：无
  3. 💡 在非苹果市场，能替代双GPU的CPU出现至少还需5 - 10年
    • 解释：从市场发展情况和硬件性能提升速度等因素考虑。
  4. 🤔 Mac在某些模型和视频生成方面没有竞争力
    • 解释：多数机器学习研究实验需要Nvidia GPU运行演示。
  5. 🌟 AMD可能推出低价48GB卡
    • 解释：根据AMD的发展趋势和市场需求推测。

金句与有趣评论

  1. “😂说实话，我不认为“普通家庭用户在家运行大型AI模型”在短期内会成为一件事。”
    • 亮点：表达了对家庭用户运行大型AI模型的现实性看法。
  2. “🤔双3090是性价比最高的黄金标准。”
    • 亮点：直接表明双3090在性价比方面的优势地位。
  3. “👀5 - 10年至少在非苹果市场。”
    • 亮点：对替代双GPU的CPU出现时间给出明确预估。
  4. “😎对于推理为家庭使用，当你有单一并发用户，4090并不比3090有太多收益，因为它们有几乎相同的带宽并且你总是受限于内存带宽。”
    • 亮点：详细解释4090在特定家庭使用场景下相对3090的增益情况。
  5. “💥我认为从2个二手3090升级的最好方式，在未来更容易得到的是4个二手3090。”
    • 亮点：提出关于3090升级的独特见解。

情感分析

总体情感倾向为积极探讨。主要分歧点在于不同硬件选择的优劣，如苹果设备与其他GPU的性能比较，3090与4090性价比的争议等。可能的原因是大家基于自己的使用经验、对硬件市场的了解以及不同的需求来发表观点。

趋势与预测

  • 新兴话题：AMD在硬件发展方面可能推出的产品（如低价48GB卡），Tenstorrent接近达成优于双3090的解决方案等可能引发后续讨论。
  • 潜在影响：对家庭实验室构建的硬件选择产生影响，影响消费者对不同品牌（如英伟达、AMD、苹果）硬件的购买决策，也可能影响开源AI服务与本地搭建设备之间的用户选择倾向。

详细内容：

《探讨家庭实验室GPU解决方案：距离超越双 3090 还有多远？》

在 Reddit 上，一篇题为“How close are we to home lab solution better than 2 x 3090s?”的帖子引起了广泛关注。该帖作者表示即将构建新的电脑配置，计划购买两块二手 3090 显卡，并对其进行功率限制以提高效率，同时还探讨了 4090 显卡的价格走势以及在消费级主板上使用双显卡的效率和散热问题，还提及了苹果和 AMD 等产品的相关情况。此帖获得了大量的点赞和评论，引发了关于家庭实验室显卡配置的热烈讨论。

讨论的焦点和观点主要有以下几个方面： 有人认为对于普通家庭用户和游戏玩家，3090 已经性能过剩，且双 3090 对于运行大型 AI 模型仍存在不足。例如，有人说：“Even a 3090 is overkill for most home users and gamers right now and the way thing are is even 2x 3090 is not enough for running a 70B model at 32k context at 4 bit.” 还有人提到，英伟达不太可能提供更多显存，即便有，价格也会极其昂贵，因为会被黄牛抢购转售给中国的 AI 开发者。 Intel 被认为需要推出高显存且价格合理的显卡来占据市场。例如：“Intel needs to seriously stop trying to compete in the gamer space and just roll out a card with 48gb of ram for $300 - $400 and dominate this market space.” 对于双 3090 配置的看法不一。有人认为 2x3090 足以应对需求，有人则认为存在散热和性能瓶颈。比如：“2x3090 is easily capable of this. Only part of your post I really disagree with. Cache quantization of Q6 makes it possible. You might even get away with a 4.65bpw quant.” 关于苹果产品，有人认为苹果的 Mac 在 AI 推理方面如果能持续提速，可能会吸引更多本地用户转向，但也有人认为其价格昂贵且在某些方面存在局限性。比如：“But Macs are very expensive as well. I was going to get a Mac Ultra in a few months but I’ve changed my mind when I discovered that there are very cheap opensource AI services with fixed cost and unlimited token usage. ” 在讨论中也存在一些共识，比如大家普遍认为构建高性能的本地 AI 设备对于普通用户而言可能并非明智之举，而对于有特定数据隐私政策需求的公司来说则是必要的。

总之，关于家庭实验室的最佳 GPU 解决方案，Reddit 上的讨论呈现出观点的多样性和复杂性，不同的用户基于自身的需求和经验给出了各自的看法。未来，随着技术的发展和市场的变化，这一话题或许还将继续引发更多的思考和讨论。