原贴链接

由于50xx系列即将推出，安培架构GPU的价格可能会受到冲击。所以我快速对比了显存大于24GB的安培架构GPU，供想要从3090/4090升级的人参考。从纸面数据来看，对于大型语言模型（LLM）而言，性价比最高的是40GB的A100，如果你需要64GB的话，A16是不错的选择。有没有人使用A16的，可以分享一下经验？然后列出了A16、A100、A6000、A40等型号的显存、GB/s、FP16_TFLOPS、功率、eBay新货价格等数据。

讨论总结

原帖对显存大于24GB的安培架构GPU进行比较，为想从3090/4090升级的用户提供参考。评论中有人分析A16的结构和性能是否适合推理，有人分享A6000和A40的使用体验，还有人质疑新卡推出对安培GPU价格冲击的观点。

主要观点

  1. 👍 A16在结构上类似4个独立GPU相连
    • 支持理由：评论者的知识储备及对A16的了解
    • 反对声音：无
  2. 🔥 单个A16的GPU内存和带宽不适合推理
    • 正方观点：从内存和带宽数据判断
    • 反方观点：无
  3. 💡 A6000 Ampere和A40 Ada使用体验佳
    • 解释：评论者自身使用后的感受
  4. 💡 如果清楚使用场景，不同GPU能更好发挥优势
    • 解释：根据自身使用经验总结
  5. 💡 质疑能否在两年内得到5090
    • 解释：以调侃方式对原帖观点表示怀疑

金句与有趣评论

  1. “😂 如果我没记错的话，A16就像是在一块板上由PCIE交换芯片连接的4个独立GPU。”
    • 亮点：直观地描述A16的结构
  2. “🤔 单个GPU只有16GB的内存，带宽为232GB / s，所以用它来进行推理似乎不是个好主意。”
    • 亮点：从数据角度分析A16推理性能
  3. “👀 我用过A6000 Ampere和A40 Ada，它们都很棒，如果你知道每种产品应该优先用于哪些使用场景就很好。”
    • 亮点：分享使用体验并强调使用场景的重要性
  4. “😏 Lol. You think you can get your hands on a 5090 for the next 2 years?”
    • 亮点：以调侃的方式表达对原帖的质疑
  5. “🧐 Ampere仍然不错，但如果你关注价格，你可能也会看到Ada的价格下降。”
    • 亮点：对Ampere和Ada价格走势的观点

情感分析

总体情感倾向为中性。主要分歧点在于新卡推出对安培GPU价格的影响，以及A16是否适合推理。可能的原因是大家掌握的信息不同，且从不同的使用需求和角度看待这些GPU。

趋势与预测

  • 新兴话题：Blackwell卡的相关情况可能引发后续讨论。
  • 潜在影响：对打算升级GPU的用户在选择上有一定的参考价值，也可能影响相关GPU的市场价格走向。

详细内容：

《关于安培架构 GPU 大于 24GB 显存的热门讨论》

近日，Reddit 上一则关于“Comparison of Ampere GPUs that have >24GB VRAM”的帖子引发了众多网友的关注和热烈讨论。该帖主要对具有超过 24GB 显存的安培架构 GPU 进行了快速对比，考虑到 50xx 系列即将推出，认为安培架构 GPU 的价格可能会受到影响，并为想要从 3090/4090 升级的用户提供了参考。此帖获得了大量的点赞和评论。

帖子引发的讨论主要集中在不同型号 GPU 的性能、价格和应用场景等方面。其中的核心问题在于：A16 是否值得选择，以及新系列推出对安培架构 GPU 价格的实际影响。

有人指出，A16 就像在单个板上通过 PCIE 交换芯片连接的 4 个独立 GPU，单个 GPU 只有 16GB 内存和 232GB/s 的内存带宽，用于推理似乎不是好主意，或许在 4 路张量并行方面有优势，但有没有人这样尝试过呢？也有人表示之前不知道 A16，在单个 PCIe 插槽中有 4 个 16GB GPU 还是有使用场景的。有人认为如果 A16 有更大的带宽就好了，不太愿意冒险花 3000 美元。还有人期待有人尝试并分享经验。

有用户分享道：“我用过 A6000 安培和 A40 艾达，它们都很棒，如果你知道每个的使用场景应该优先考虑哪个，那就很好。安培仍然不错，但如果你关注价格，可能也会看到一些艾达的价格下降。”

对于价格是否会受影响，网友们各抒己见。有人认为未来两年都不一定能买到 5090，对于实际用途而言，应该关注其他安培架构的 GPU。也有人觉得价格不会受影响，反而可能会上涨，因为新卡稀缺。还有人认为帖子中提到的一些专业安培卡，可能会有人想升级到新的布莱克韦尔卡，从而影响价格。

讨论中的共识是大家都在关注新系列 GPU 对现有安培架构 GPU 市场的冲击。特别有见地的观点是，需要根据具体的使用场景和需求来选择合适的 GPU，而不能仅仅看价格和参数。

总之，这场关于安培架构 GPU 的讨论充分展现了大家对于硬件市场变化的关注和思考，也为广大用户在选择和升级 GPU 时提供了更多的参考和思路。