原贴链接

标题基本上就是我的问题。我一直在考虑升级我的电脑，用于游戏和AI，并且我一直在查看各种GPU的价格。我现在的RTX 3060，虽然对于1080p游戏和运行低参数模型还可以，但开始显得有些过时了，所以我想进行一次小升级，以便能够继续在1080p下运行最新的游戏，也许还能将我的AI选项扩展到20B左右的模型（这不是一次大的升级，因为我不再是一个重度游戏玩家了，而且对于我所有高参数的AI需求，我只使用API）。问题是，英伟达的GPU显然很贵（我认为最便宜的是RTX 4060 ti 16gb，价格约为450英镑），但是AMD和英特尔似乎有16GB显存的选项，与英伟达的产品相比相当便宜（例如英特尔的Arc Sparkle A770或者AMD的Radeon RX 7600 XT，它们都有16GB显存，在亚马逊上售价约为300英镑）。所以回到标题中的问题，我能否购买英伟达以外的制造商的16GB显卡，并期望有相同的速度，与AI后端/前端没有意外的不兼容性（我主要使用StableDiffusion进行图像生成，使用Koboldccp进行文本生成）之类的情况呢？

讨论总结

原帖想知道AMD和英特尔的显卡是否能用于运行AI模型，特别是在16GB显存且性价比不错的情况下，能否替代英伟达显卡满足其在游戏和AI方面的需求。评论从多个方面进行了讨论，有的指出英伟达目前在软件支持等方面具有优势，有的分享了AMD和英特尔显卡运行AI模型的具体情况，包括AMD显卡在文本生成方面运行LLMs效果较好，但在其他程序上存在CUDA依赖、速度慢等问题，英特尔显卡在运行某些程序时速度慢、更新不频繁等情况，也有评论对原帖问题的重复性表示厌烦并给出建议。

主要观点

  1. 👍 英伟达目前是最容易且性能最高的方案。
    • 支持理由：在英特尔和AMD得到更多开发投入之前，英伟达的软件支持等优势明显，类比主机战争，硬件好坏取决于软件支持情况。
    • 反对声音：无。
  2. 🔥 AMD和Intel显卡用于运行AI模型是可行的，但缺少CUDA核心及相关软件会处于劣势。
    • 正方观点：AMD和Intel显卡确实可以运行AI模型。
    • 反方观点：没有CUDA核心和围绕其构建的软件会影响运行效果，在很多情况下性能不如英伟达显卡。
  3. 💡 在文本生成上AMD显卡运行LLMs效果佳，但文本生成之外的程序大多需要CUDA，否则可能无法运行或速度很慢。
    • 在文本生成方面有不错表现，但其他程序对CUDA依赖大，这是AMD显卡运行AI模型的现状。
  4. 🤔 llama.cpp可在英特尔显卡上编译运行但速度比英伟达显卡慢很多。
    • 表明英特尔显卡在运行特定程序时虽然可行但性能不如英伟达显卡。
  5. 😕 目前因驱动问题，AMD和英特尔显卡不能替代英伟达显卡满足原帖需求。
    • 目前驱动问题限制了AMD和英特尔显卡在速度、兼容性等方面的表现，无法达到原帖期望。

金句与有趣评论

  1. “😂 Until more development is put into Intel and AMD, Nvidia will remain the easiest and most performant solution.”
    • 亮点：简洁地指出了英伟达目前在AI显卡领域的优势地位以及英特尔和AMD需要更多投入才能改变现状。
  2. “🤔 Rocm works great almost everywhere, but if you find a place where is does not, your pretty much SIL.”
    • 亮点：准确地描述了AMD显卡在运行AI模型时使用Rocm的情况，既有好的方面也有潜在风险。
  3. “👀 这每天都有人发，就用搜索功能吧。”
    • 亮点：表达了对原帖问题重复性的看法，比较直白地给出建议。
  4. “😉 Viable but you’ll be crippled without the cuda cores and all the software built around them”
    • 亮点：概括了AMD和英特尔显卡在运行AI模型时缺乏CUDA核心及相关软件的劣势。
  5. “💡 你可以为AMD显卡使用LM studio - 开箱即用 - 轻松安装。”
    • 亮点：为AMD显卡运行AI模型提供了一种可用的工具及该工具的优点。

情感分析

总体情感倾向较为客观理性。主要分歧点在于AMD和英特尔显卡是否能替代英伟达显卡用于运行AI模型，部分人认为英伟达优势明显，AMD和英特尔存在诸多问题难以替代；部分人认为AMD和英特尔虽然有不足但也有可行之处且AMD在某些方面正在追赶。可能的原因是大家的使用场景、技术经验以及对硬件性能和软件支持的重视程度不同。

趋势与预测

  • 新兴话题：AMD在推理方面正在快速追赶可能会引发后续关于AMD显卡在AI推理领域能否与英伟达竞争的讨论。
  • 潜在影响：如果AMD在AI显卡领域不断发展，可能会影响显卡市场格局，促使英伟达进一步提升性能或降低价格，同时也会为AI模型运行提供更多硬件选择，降低成本。

详细内容：

标题：AMD 和 Intel 显卡用于运行 AI 模型是否可行？

在 Reddit 上，一则题为“Are AMD 和 Intel Graphic cards viable for running AI models?”的帖子引发了热烈讨论。该帖作者表示考虑升级电脑用于游戏和 AI，目前的 RTX 3060 已显老旧，想小升级至 1080p 运行最新游戏并拓展 AI 选项到 20B 左右的模型。英伟达 GPU 价格昂贵，而 AMD 和 Intel 有相对便宜的 16GB 显存选项。此帖获得了众多关注，引发了大量讨论。

文章将要探讨的核心问题是：AMD 和 Intel 显卡能否替代英伟达显卡在运行 AI 模型时达到相同效果，包括速度、兼容性等方面。

在讨论中，主要观点如下： 有人认为在英特尔和 AMD 获得更多开发投入之前，英伟达仍将是最容易且性能最佳的解决方案。有人提到英特尔准备推出 24GB 显卡，若 AMD 也有类似举措，可能促使开发者改变或增加对其的兼容性。还有人分享个人经历，如有人的 7900xtx 在 LLM 生成方面比朋友的 4090 快，但在艺术生成方面稍慢。也有人表示自己的 7900xtx 体验相反，使用 llama.cpp 与 ROCM 得到的结果低于他人用 3090s 或 4090s 的结果。还有人指出文本生成在其 AMD 显卡上运行良好，但其他程序要么需要 CUDA，要么运行极慢。

讨论中的共识在于大家都在关注不同显卡在运行 AI 模型时的实际表现和兼容性。特别有见地的观点如有人认为应根据自身需求和游戏兼容性来选择显卡。

总之，关于 AMD 和 Intel 显卡用于运行 AI 模型的可行性，讨论展现出了多样性和复杂性，仍需更多实践和测试来得出明确结论。