原贴链接

同样好奇,Compute 6.1 对我们来说还能用多久?我们现在应该瞄准 7.0 及以上的版本吗?

AMD 或 Intel 有相关产品吗?

讨论总结

本次讨论主要围绕P40显卡价格上涨后,用户寻找性价比高的替代加速器展开。讨论内容涉及不同显卡的性能对比、能效比、市场价格变动、技术更新以及社区维护等多个方面。用户们分享了各自的使用经验,提出了多种替代方案,并对未来技术发展表示期待。总体上,讨论氛围较为活跃,用户们积极分享见解和建议。

主要观点

  1. 👍 P100和其他16GB显卡是目前性价比较高的选择
    • 支持理由:这些显卡在性能和价格上具有优势,适合进行推理任务。
    • 反对声音:使用这些显卡可能会导致较高的电费。
  2. 🔥 12Gb 3060s可能是一个性价比较高的选择
    • 正方观点:在某些地区,3060s的价格与P100相当,但性能和能效更优。
    • 反方观点:内存较少可能限制其在某些任务中的表现。
  3. 💡 Radeon VII在某些任务中表现优于RTX 3070
    • 解释:对于大型语言模型(LLM),Radeon VII具有最佳的显存/价格比。
  4. 🌟 Intel的Arc A770显卡在某些情况下可以以较低的价格获得
    • 解释:评论者对Intel如果推出32GB内存的显卡可能带来的市场变化表示好奇。
  5. 🚀 3090显卡在性能上具有明显优势
    • 解释:3090显卡在大型模型如Mistral Large 2 123B的运行效率上表现出色。

金句与有趣评论

  1. “😂 Save money on your next GPU by giving it to your utilities provider instead!”
    • 亮点:幽默地指出了使用高性能显卡可能带来的高电费问题。
  2. “🤔 If Intel came out with a card with the speed of even a 3060 and 32GB of memory, a bunch of us would have one or two.”
    • 亮点:反映了用户对大内存显卡的期待和需求。
  3. “👀 3090 100%”
    • 亮点:简洁有力地表达了3090显卡在性能上的优势。

情感分析

讨论的总体情感倾向较为积极,用户们对寻找性价比高的替代加速器表现出浓厚兴趣。主要分歧点在于不同显卡的性能和能效比,以及市场价格变动对选择的影响。可能的原因包括技术更新速度快、市场需求变化以及供应链问题等。

趋势与预测

  • 新兴话题:随着AI技术的普及,对大内存和高性能显卡的需求将持续增长。
  • 潜在影响:市场价格波动和技术更新将影响用户的选择,社区维护和开源技术的发展将促进更多性价比高的替代方案出现。

详细内容:

标题:探讨当前性价比最优的加速器,P40 不再是唯一选择

在 Reddit 上,一则题为“So… P40’s are no longer cheap. What is the best “bang for buck” accelerator available to us peasants now?”的帖子引发了众多讨论。该帖获得了大量关注,评论数众多。

帖子主要探讨了在 P40 价格上涨后,还有哪些高性价比的加速器可供选择,同时也提及了计算能力版本的适用性等问题。讨论的焦点主要集中在各种显卡型号的性能、价格、显存容量以及功耗等方面。

有人提到 P100s 等 16GB 显卡,有人调侃买新 GPU 不如把钱给公用事业提供商。还有人认为买得越多越省钱,比如英伟达的产品。有人想了解新 exllamav2 张量并行模式在 3xP100 上的 70b 数据,也有人指出 P100 存在诸如缺少 nanosleep 功能等问题。

有用户表示 P102-100 是能买到的最便宜的可用卡,但 BIOS 破解后显存被限制在 10GB。有人拥有 3 张这种卡的配置且运行良好,但存在一些问题,如 Windows 系统识别问题、噪音较大等。

有人认为在线租用 GPU 可能比自己搭建配备 5 张 10GB P102-100s 的设备更划算,因为涉及到电力消耗和成本问题。但也有人指出在推理时只有一张卡处于活跃状态,并且可以降低功耗。

有人推荐 12Gb 3060s,也有人认为 Radeon VII 在某些任务中表现出色,是目前显存/价格关系最好的选择,但存在官方支持已停止的问题。

还有用户提到 3090 性能卓越,至今无人能及,而有人认为是英伟达变得更贪婪。有人认为 P100 存在诸多劣势,如发布时间早、性能较差、架构老旧等。也有人提到 A770 等其他显卡型号。

讨论中存在一些共识,比如了解不同显卡的优缺点对于做出投资决策很重要。一些独特的观点如通过网络连接使用普通 RAM 的想法,虽然被认为性能糟糕,但也丰富了讨论。

总的来说,这次讨论让大家对各种显卡的性价比有了更全面的认识,也为寻找适合自己的加速器提供了更多参考。但到底哪种选择才是最优解,还需根据个人的具体需求和预算来决定。