原贴链接

我正在考虑我的下一块GPU，并且在认真考虑7900 XTX - 24GB VRAM，价格合适，不会过热而且容易买到。问题是，这对于在本地运行模型等操作会是个大问题吗？我知道我最近为我的3070启用了CUDA支持并且在很多东西上使用了CUDA标识，所以如果没有CUDA会是个大问题吗？随着时间的推移，我们是朝着减少对CUDA的依赖还是增加依赖的方向发展呢？

讨论总结

原帖在考虑购买7900 XTX显卡时，对没有CUDA是否影响本地运行模型等操作提出疑问，进而探讨随着时间推移对CUDA依赖程度的变化。评论者们从不同角度进行了分析，包括CUDA在训练/机器学习研究中的优势、AMD显卡的适用性、云AI服务对CUDA依赖的影响等，大家各抒己见，态度比较客观。

主要观点

  1. 👍 对于训练/机器学习研究，CUDA仍有优势
    • 支持理由：可能会错过一些未移植到AMD的库。
    • 反对声音：无。
  2. 🔥 新硬件推出使CUDA依赖减少，但对专注AI的用户英伟达仍占优
    • 正方观点：新硬件不断推出提供了更多选择。
    • 反方观点：英伟达在AI终端用户方面的资源和性能优势明显。
  3. 💡 仅运行特定程序且AMD可行时可选择AMD
    • 解释：如仅运行llama且AMD可行的话可以选择AMD。
  4. 💡 CUDA目前仍是重要的存在，但云AI发展会稀释其在AI领域的使用比例
    • 解释：云服务提供商为降本增效使用定制芯片，这些芯片不依赖CUDA，从而影响CUDA在AI领域的整体使用占比。
  5. 💡 如果要进行模型训练并且需要前沿技术则可能要依赖CUDA
    • 解释：AMD虽在努力使相关框架在其硬件上运行良好，但训练模型时前沿技术方面CUDA仍占优。

金句与有趣评论

  1. “😂 对于训练 / ml研究我仍推荐cuda，你不会想因为开发者没时间把它移植到AMD而错过尝试一些库。”
    • 亮点：明确指出CUDA在训练/ml研究中的不可替代性。
  2. “🤔 长期，AMD和中国公司可能会赶上来，至少在价值方面。”
    • 亮点：对AMD和中国公司未来发展表示期待。
  3. “👀 由于不断有各种各样的硬件推出，对CUDA的依赖正在减少，但对于专注于AI的终端用户来说，英伟达仍然处于主导地位。”
    • 亮点：全面概括了CUDA依赖减少与英伟达在AI用户中的主导地位这一现状。
  4. “😂 人们试图在toasters上运行模型，但最终，CUDA仍然是最轻松的。”
    • 亮点：用诙谐的表述强调CUDA在运行模型方面的轻松性。
  5. “🤔 我甚至敢打赌英伟达正计划独占整个市场。”
    • 亮点：大胆提出英伟达独占市场的观点。

情感分析

总体情感倾向较为客观中立。主要分歧点在于对CUDA的依赖程度，一些人认为CUDA仍占据重要地位且依赖难以减少，如在训练和前沿技术方面；另一些人则认为随着新硬件和云AI服务发展，对CUDA依赖会减少。原因是大家从不同的应用场景、硬件发展和用户需求角度出发进行思考。

趋势与预测

  • 新兴话题：ROCM与CUDA的竞争、AMD在硬件上使相关框架良好运行的发展情况。
  • 潜在影响：如果CUDA依赖真的减少，将影响英伟达在GPU市场的独占地位，也会促使AMD等公司在GPU市场份额的增长，推动硬件研发和市场竞争格局的变化。

详细内容：

标题：随着时间推移，我们对 CUDA 的依赖是增是减？

在 Reddit 上，一则题为“Are we becoming more or less dependent on CUDA as time goes on?”的帖子引发了热烈讨论。此帖获得了众多关注，评论数众多。

原帖作者表示自己在考虑购买 7900 XTX 显卡，因其具有 24GB VRAM、价格合理、无过热问题且容易买到。但同时提出疑问，若没有 CUDA 支持，对于本地运行模型等操作是否会是大问题，以及我们对 CUDA 的依赖是在减少还是增加。

讨论焦点主要集中在以下几个方面： 有人认为这取决于具体的使用场景。对于训练和机器学习研究，仍推荐 CUDA，因为有些库可能未移植到 AMD 上。但也有人认为从长远看，AMD 和中国公司可能会赶上，只是还需要时间。有人担心英特尔可能需要经历重大变革才能在这方面有所进展，而有人认为 AMD 或苹果更有可能先取得突破。还有人提到苹果有能力重返服务器市场，谷歌也有其独特的业务考量。

有人分享说，自己从 GTX 1060、GTX 1080 Ti 等显卡换到 AMD RX 7900 XTX 后，在 AMD 上的体验在多数方面与 2018 - 2019 年在英伟达 / CUDA 上的体验相当甚至更好。但也有人指出，如果要训练模型，可能还是需要使用英伟达的 CUDA。

不同观点之间存在激烈争议。有人认为 CUDA 仍占据主导地位，而有人认为随着其他硬件的发展，对 CUDA 的依赖在逐渐减少。

总的来说，关于对 CUDA 依赖程度的变化，大家观点各异，仍有待时间给出答案。