如果要搭建一台足够强大的机器来为多个用户提供120 + B模型服务,你会推荐什么?4个3090、4个4080super、2个A6000。虽然A6000的配置贵一倍。我在网上能找到1600 - 2000欧元的3090,1200欧元的4080。提前感谢。
讨论总结
原帖寻求为多个用户服务120 + B模型的设备选择建议,提供了3090、4080super、A6000三种选择(A6000较贵)。评论者从不同角度给出了建议,包括性能、显存、成本效益、商业用途等方面,整体讨论比较分散,热度较低。
主要观点
- 👍 二手3090是最佳选择。
- 支持理由:原帖提到的3090网上价格过高,而二手3090价格仅为600欧元。
- 反对声音:无。
- 🔥 3090和4090的显存为24GB,4080显存为16GB,96GB显存(4个3090)比64GB显存(4个4080)能加载更大更好的123b。
- 正方观点:显存大小直接影响能加载模型的大小,显存越大越好。
- 反方观点:无。
- 💡 商业用途推荐使用A6000。
- 解释:A6000在扩展方面更加容易,与3090存在宽度差异,安装4个3090可能存在问题,除非定制化。
- 💡 不推荐选择4080。
- 解释:4080显存比3090少,价格却比二手3090更贵,且是同显存的全新4060Ti价格的两倍多。
- 💡 推荐查看土耳其的显卡价格。
- 解释:评论者在土耳其以1800欧元购买到4090显卡,土耳其的4080新卡起价为1100欧元。
金句与有趣评论
- “😂 Second hand 3090s are your best bet.”
- 亮点:直接点明了性价比最高的选择。
- “🤔 4080s only have 16 vram. 3090s and 4090s have 24 vram. So, you’re asking what’s better, 64 vram or 96 vram. Obviously, go with the 96!”
- 亮点:通过显存对比,简单清晰地给出建议。
- “👀 对于商业用途,我会认真考虑使用A6000。”
- 亮点:从商业用途角度给出了特定的推荐。
- “😂 I wouldn’t go with the 4080.”
- 亮点:简洁地表达不推荐的态度。
- “🤔 my_dude:3090 is the most cost effective option rn”
- 亮点:强调3090的成本效益。
情感分析
总体情感倾向比较中立客观,主要分歧点在于推荐哪种显卡,原因是不同显卡有不同的性能、价格、显存等特性,评论者根据自己的侧重点给出不同的推荐。
趋势与预测
- 新兴话题:5090显卡预计明年初发布,如果愿意等待的话可能是个不错选择,以及等待会使二手市场显卡降价。
- 潜在影响:如果5090发布,可能会影响整个显卡市场的价格体系,也会影响人们对硬件设备的选择,特别是对于有高性能需求的用户和商业用途场景。
详细内容:
标题:显卡选择大讨论:3090、4080 与 A6000 谁更强?
在 Reddit 上,有一则关于显卡选择的热门讨论引起了众多用户的关注。帖子提出“对于一台要为多个用户服务、能够处理 120+B 模型的机器,是选择 4 块 3090 显卡、4 块 4080super 显卡、还是 2 块 A6000 显卡?虽然 A6000 的配置要贵两倍,3090 能在网上以 16000 - 2000 欧找到,4080 为 1200 欧。”这一话题获得了大量的点赞和众多评论。
讨论的焦点主要集中在不同显卡的性能、价格和能耗等方面。有人认为二手 3090 是最佳选择,因为 1600+欧的价格太贵,能以 600 欧左右买到质量不错的二手货。也有人指出 4080 只有 16 VRAM,而 3090 和 4090 有 24 VRAM,所以在选择时需要考虑 VRAM 的大小。还有用户提到,如果能以更少的 GPU 实现 VRAM 目标,那是更好的选择。
有人分享道:“作为一名长期关注显卡的用户,参考了https://timdettmers.com/2023/01/30/which-gpu-for-deep-learning/这个仍然有效的指南,认为根据对性能的重视程度,二手 4090 或 3090 可能是更好的选择。”
有用户表示:“传闻 5090 显卡明年初就会发布。如果愿意等,可能是个不错的选择。即便最终选择了其他显卡,等待也可能会让二手市场价格降低。”
还有用户以自己在土耳其的购买经历分享道:“我在土耳其,新买的 4090 只要 1800 欧。刚查看了 gaming gen tr,4080 起价 43000 里拉(约 1100 欧),不过不知道运费如何。”
在这场讨论中,对于选择哪种显卡,大家各抒己见。有人觉得 3090 最具性价比,有人认为 A6000 更适合商业用途,也有人不推荐 4080。但目前还没有形成绝对的共识。究竟哪种显卡才是最优解,还需要根据具体需求和预算来综合考量。
感谢您的耐心阅读!来选个表情,或者留个评论吧!