原贴链接

从几个月前的帖子来看,并没有明确的答案,我想这总是要视情况而定的。但就我的特定用途而言,我是用来学习和体验大型语言模型(LLM)的,我不是用它来工作,我只是想涉足这个领域并且能够在本地运行大型语言模型,比如用于Copilot之类的。这台电脑也会用于1440分辨率的游戏,在可能的情况下开启光线追踪(RTX),所以这使得NVIDIA的显卡更可取一点,即使它在其他方面性能较弱。所以基本上16GB内存对于简单的个人使用来说够吗?或者24GB会好很多,以至于值得放弃NVIDIA显卡所有的优势?我希望这块显卡至少能用2年,在那之后如果有需要我会换一块新的,但最好它能满足3到5年的使用需求。

讨论总结

原帖提出在AMD RX7900XTX 24GB和NVIDIA 4070Ti Super 16GB之间选择用于个人用途(学习LLMs和1440p游戏)的难题。评论中部分人认为24GB显存对于学习LLMs更好,但也指出Nvidia显卡在项目支持、排障资源方面有优势,AMD显卡存在与部分AI工作流不兼容等问题,还有人推荐3090显卡,同时也涉及到二手显卡的性价比等内容,大家从不同角度对显卡的选择进行了讨论,整体讨论比较理性。

主要观点

  1. 👍 24GB显存用于学习和体验LLMs更好。
    • 支持理由:16GB无法运行32B q4,24GB能运行更多内容。
    • 反对声音:无。
  2. 🔥 AMD显卡存在与AI工作流不兼容的问题。
    • 正方观点:如7800 xt在接触相关工作流后很快被替换为4090,因为AMD显卡不兼容带来很多麻烦。
    • 反方观点:无。
  3. 💡 Nvidia显卡在项目支持方面具有先发优势。
    • 解释:Nearly every project will start with Nvidia support first,遇到问题时可获取更多在线排障资源。
  4. 💡 选择显卡用于特定用途是艰难的选择。
    • 解释:因为要考虑多方面因素,如性能、价格、兼容性等。
  5. 💡 如果在欧盟地区,可以考虑直接购买二手3090。
    • 解释:翻新卡的操作自己可进行,二手3090性价比高。

金句与有趣评论

  1. “😂 Emotional - Metal4879:16GB can’t run 32B q4, then I would say 24GB is better.”
    • 亮点:直接点明16GB显存对于运行32B q4的不足,为24GB显存更好提供依据。
  2. “🤔 ThisWillPass:Night and day”
    • 亮点:简洁形容32B q4与其他模型的差异很大。
  3. “👀 koalfied - coder:Hmmm AMD is not great. Have you considered a 3090? It’s my go to recommend if not a a5000”
    • 亮点:直接表明对AMD的态度并推荐3090显卡。
  4. “😂 elsa002:Even a renewed 3090 costs more, so sadly that out of budget, and unless I found the wrong a5000, than it is a completely different price range (like 3 times as much)”
    • 亮点:指出3090存在预算超支的问题。
  5. “🤔 AutomataManifold:I personally stick with NVIDIA cards, but 24 GB is a significant step up.”
    • 亮点:表明个人倾向Nvidia卡的同时也承认24GB显存是很大优势。

情感分析

总体情感倾向较为理性客观。主要分歧点在于AMD和Nvidia显卡哪个更适合原帖中的个人使用场景。可能的原因是不同显卡在性能、价格、与软件的兼容性、项目支持等多方面各有优劣,用户根据自己的需求和经验有不同的侧重点。

趋势与预测

  • 新兴话题:不同Linux发行版对显卡使用的影响。
  • 潜在影响:影响用户在选择显卡时对操作系统的考量,可能促使显卡厂商针对不同Linux发行版优化显卡驱动和性能。

详细内容:

标题:在 AMD 现有进展下,个人使用 RX7900XTX 24GB 还是 NVIDIA 4070Ti Super 16GB 更好?

这篇在 Reddit 上引发热烈讨论的帖子,询问了在个人使用情境下,尤其是用于学习和体验大语言模型(LLMs)以及 1440 分辨率的游戏时,RX7900XTX 24GB 是否比 NVIDIA 4070Ti Super 16GB 更合适。该帖子获得了众多关注,评论数众多。主要的讨论方向集中在显卡性能、显存容量、价格、功耗以及对不同项目和软件的支持等方面。

讨论焦点与观点分析:

有人认为 16GB 无法运行 32B q4,所以 24GB 更好。也有人觉得两者差异巨大。有人指出 AMD 表现不佳,建议考虑 3090,但也有人表示其价格超出预算。有人分享自己在当地二手市场的发现,3090 价格相对便宜但性能和功耗有所不同。还有人提到 Nvidia 卡更主流,支持更好,问题解决资源丰富;而 AMD 卡则相对处于少数,支持可能较次。不过 ROCm 发展迅速,与 CUDA 的差距未来可能缩小。有人分享自己从 AMD 卡换成 4090 的经历,认为 AMD 卡对很多 AI 工作流不兼容。有人建议根据感兴趣的工具和项目来检查 ROCm 支持情况。有人推荐使用二手 3090,还有人提出双 3060 的方案。有人认为如果使用 Windows 或 Ubuntu 操作系统,选择 AMD 卡没问题,但如果是其他 Linux 发行版则不建议。有人分享自己使用 7900 xtx 运行相关软件的良好体验。

讨论中的共识在于 Nvidia 卡在主流支持和资源方面具有优势,而 AMD 卡的性价比和显存容量也有一定吸引力。特别有见地的观点如根据具体使用需求和操作系统来选择显卡,丰富了讨论。但对于到底选择哪款显卡,仍存在较大争议,取决于个人对性能、价格、支持和未来发展的权衡。

总之,在选择显卡时,需要综合考虑多种因素,根据自身需求做出最合适的决策。