原贴链接

我一直在用32GB的MacBook Pro运行本地模型并想更进一步。这与我工作（交易/金融领域）需要新的PC工作站相契合。我希望花3000 - 5000美元左右买台新的、价格合理的电脑，以便我能在本地大型语言模型（LLM）实验上发展和拓展，甚至可能针对我的特定专业领域和我做的一些交易工作的用例对模型进行微调。我有点迫不及待了，正打算花4100美元从CustomLuxPCs定制一台PC，配置如下：CPU为英特尔i9 - 14900K；GPU为2个RTX 3090 24GB（总共48GB显存）；内存为128GB DDR5 6000MHz；主板为Z790 DDR5带Wi - Fi主板；存储为2TB NVme Gen4 SSD；机箱为带9个RGB风扇的黑色联力PC - O11 Dynamic机箱；电源为1500W 80+金牌电源且有15年质保；散热器为360mm一体式水冷散热器。这些配置对我的日常使用来说大多是性能过剩的，但我认为这让我有一定能力运行中等规模的模型并做一些低级别的微调。它并非完全面向未来，但能在2 - 3年内让我在运行最新内容时不至于落后太多，而且不用花费1万多美元。但我有点疑惑，距离1月的CES（国际消费类电子产品展览会）不到一个月就进行这么大笔的购买是否愚蠢，因为英伟达可能会发布5000系列等产品。我怀疑这对3090或4090的价格影响不大，但我不是专家，我仍然是个有一定经验的初学者。所以，我是应该尽快购买这台电脑以便开始构建、实验和学习呢？还是等等看CES之后有什么产品、价格如何？或者有其他建议，比如多花点钱买个A6000之类的？我90%的使用场景是低级别的操作，但如果我花10%的时间在大型语言模型（LLM）上能有好的结果，我希望能相对轻松地在这方面继续努力。感谢您能提供的任何帮助或反馈！

讨论总结

原帖主想购买一台3 - 5千美元的新电脑用于本地LLM实验且兼顾工作，目前倾向于购买一台定制的双3090机器，但纠结是现在购买还是等CES之后英伟达发布新品再购买。评论者们围绕这个问题展开讨论，从硬件配置（如主板、GPU、CPU、内存等）的合理性、价格走向、不同硬件的性价比、实际使用需求等方面给出了各种建议，也分享了一些自己的使用经验。

主要观点

  1. 👍 主板Z790对内存扩展能力有限制
    • 支持理由：Z790在超越一定内存量（48GB或64GB）时扩展能力受限，除非不打算使用超过两块显卡，否则可考虑其他主板。
    • 反对声音：无
  2. 🔥 3090价格变动取决于4090用户是否抛售换卡
    • 正方观点：4090用户为新显卡抛售4090才会影响3090价格。
    • 反方观点：无
  3. 💡 购买机器取决于要微调的模型大小
    • 解释：先租用GPU测试工作流程确定所需的GPU显存和速度，再围绕其构建机器。
  4. 🤔 英伟达新发布产品用于LLM任务价格难有吸引力
    • 解释：英伟达不会让新产品在价格上与现有的以人工智能为核心的产品竞争。
  5. 😎 如果要构建电脑就现在下单
    • 解释：关税情况不明，关税若发生二手显卡价格可能上升，现在下单能早使用设备。

金句与有趣评论

  1. “😂 Z790 will seriously hamper your ability to go beyond 48 GB (or 64 GB if you run out and replace the 3090s with 5090s).”
    • 亮点：直接指出原帖配置中主板Z790在内存扩展方面的问题。
  2. “🤔 I’m not going to speculate as to whether the 5090 will be a good buy, but it feels like the relative scarcity of 4090s at the moment has made used 3090 prices tick upwards as well. I would expect this trend to reverse and prices of both 3090s and 4090s to dip once the 5090 comes out, but I certainly cannot guarantee that.”
    • 亮点：对3090、4090和5090价格走向进行了有依据的推测。
  3. “👀 3090s的价格变动将发生在4090的用户决定为了最新最炫的产品而抛售他们的4090的时候。”
    • 亮点：点明了3090价格变动的关键因素。
  4. “😏 I recommend you grab the two 3090s used now because if it turns out some magical 5060 32gb or something comes out you can sell the 3090s for more or less what you paid.”
    • 亮点：为原帖主提供了关于3090购买的具体建议并考虑到后续转手问题。
  5. “🤯 It really depends on what size models you are looking to FT - I would rent a GPU on runpod to test your workflow before buying a machine.”
    • 亮点：强调在购买机器前先测试工作流程的重要性。

情感分析

总体情感倾向为中性。主要分歧点在于是否现在购买双3090机器，原因是不同评论者考虑的因素不同，有的关注价格走向（如显卡价格受新品影响），有的关注硬件性能（如主板对内存扩展的限制），有的关注使用需求（如是否需要现在就有本地设备用于LLM）等。

趋势与预测

  • 新兴话题：云服务用于LLM的可行性以及本地构建的局限性可能会引发后续更多讨论。
  • 潜在影响：对于电脑硬件的销售商来说，如果更多人考虑到性价比和实际需求，可能会影响高端硬件的销售情况；对于LLM的使用者来说，这些讨论有助于他们在硬件选择上做出更合理的决策。

详细内容：

标题：买新电脑的纠结：现在入手还是等 CES 后？

在 Reddit 上，有一则热门讨论引起了众多网友的关注。一位用户表示自己一直尝试运行本地模型，现因工作（交易/金融领域）需要一台新的 PC 工作站，预算在 3000 - 5000 美元之间，希望能用于本地 LLM 实验和模型微调。该用户纠结是否现在就花费约 4100 美元从 CustomLuxPCs 定制一台配置如下的电脑：

  • CPU：Intel i9 - 14900K
  • GPU：2x RTX 3090 24 GB（共 48 VRAM）
  • RAM：128 GB DDR5 6000 Mhz
  • 主板：Z790 DDR5 Wifi 主板
  • 存储：2 TB NVme Gen 4 SSD
  • 机箱：黑色 Lian Li PC - O11 Dynamic 配 9 个 RGB 风扇
  • 电源：1500W 80 + 金牌 PSU 并提供 15 年质保
  • 散热器：360mm AIO 液冷

然而，距离 CES 仅不到一个月，英伟达可能会发布 5000 系列产品，这让用户陷入了纠结，不知道是现在购买还是等待 CES 之后再做决定。此帖获得了大量的关注和众多的评论。

讨论的焦点与观点分析如下： 有人认为 Z790 可能会限制扩展能力，3090 和 4090 的价格在 5090 发布后可能会下降，但也有人觉得价格不会有太大变动，甚至可能会上涨。还有人建议等到 5000 系列发布，因为距离发布时间不到一个月。 有人提到如果 4090 所有者为了追求最新产品而出售，可能会影响 3090 的价格，但价格下降需要时间。也有人担忧 5090 的供应问题。 有观点认为在购买前应先租 GPU 测试工作流程，确定所需的 GPU VRAM 及速度。 有人分享自己购买和出售 3090 的经历。 还有人认为 90 系列显卡在发布时性价比不高，建议考虑二手 3090 或选择其他更具性价比的配置。

总之，关于现在购买还是等待 CES 之后再购买，大家众说纷纭，各有各的理由和考量。您觉得这位用户该如何选择呢？