原贴链接

将一块RTX 4090用于CUDA，然后利用RX 7900的VRAM，这样做难度大吗？这样可以大大降低成本。

讨论总结

本次讨论主要聚焦于在同一系统中混合使用Nvidia和AMD显卡的可行性、性能优化、成本效益和技术挑战。参与者分享了他们的实际操作经验，讨论了使用Vulkan和RPC技术优化性能的方法，以及在不同配置下的性能测试结果。同时，也有用户提出了关于成本效益和技术问题的观点，建议考虑购买翻新显卡或选择单一品牌以避免技术难题。整个讨论涵盖了从技术实现到成本考虑的多个方面，为有意尝试混合使用不同品牌显卡的用户提供了丰富的信息和见解。

主要观点

  1. 👍 混合使用Nvidia和AMD显卡是可行的
    • 支持理由：尤其是在使用Vulkan技术时，可以通过RPC技术在不同显卡上分别运行CUDA和ROCm，以优化性能。
    • 反对声音：混合使用可能会导致性能下降，尤其是在进行文本生成等基本推理任务时。
  2. 🔥 成本效益考虑
    • 正方观点：RX7900在eBay上比3090便宜$100-$200，可以考虑卖掉RX7900并购买两张3090显卡。
    • 反方观点：混合使用不同性能的显卡可能会失去上下文处理的优势。
  3. 💡 技术实现难度
    • 支持理由：设置过程并不复杂，只需按照常规方法分别设置每张显卡，需要特定的Linux发行版和版本以确保驱动兼容性。
    • 反对声音：混合使用Nvidia和AMD显卡可能会带来很多麻烦，特别是在需要专注于训练和探索时。
  4. 🚀 性能优化方法
    • 支持理由：通过RPC技术，可以在不同设备间进行网络通信，但这种通信可能会引入额外的延迟。
    • 反对声音：高闲置功率是一个问题，但评论者提出了一些解决方案。
  5. 🌟 翻新显卡的选择
    • 支持理由：购买两张翻新的3090 Ti显卡是一个更实际的选择，翻新显卡由Nvidia提供90天保修，增加了可靠性。
    • 反对声音：混合使用Nvidia和AMD显卡可能会带来麻烦。

金句与有趣评论

  1. “😂 fallingdowndizzyvr：Yes. I do it every day. It’s simple.”
    • 亮点：展示了混合使用Nvidia和AMD显卡的实际可行性。
  2. “🤔 mayo551：I would personally sell the RX7900 if you already own it and get two 3090’s to avoid this headache (if its even possible to do).”
    • 亮点：提出了一个实际的成本效益考虑方案。
  3. “👀 illathon：It is a pain, but it can be done.”
    • 亮点：反映了混合使用不同品牌显卡的技术挑战。
  4. “😎 fallingdowndizzyvr：The setup is exactly the same as if you are just running a single GPU.”
    • 亮点：简化了混合使用显卡的设置过程。
  5. “🤯 variscape：Sounds like a royal headache when you really want to focus on training and exploration.”
    • 亮点：强调了在专注训练和探索时不建议采用混合配置。

情感分析

讨论的总体情感倾向较为积极，尽管存在一些对技术挑战和成本效益的担忧。主要分歧点在于混合使用Nvidia和AMD显卡的可行性和实际操作难度。一些用户分享了他们的成功经验，而另一些用户则提出了潜在的问题和解决方案。这种积极的讨论氛围有助于为有意尝试混合使用不同品牌显卡的用户提供实用的建议和见解。

趋势与预测

  • 新兴话题：混合使用Nvidia和AMD显卡的技术优化和成本效益分析。
  • 潜在影响：这种混合使用方式可能会影响用户在选择显卡时的决策，尤其是在考虑性能和成本效益时。

详细内容：

标题：关于混合使用 Nvidia 和 AMD 显卡的热门讨论

在 Reddit 上，一个题为“Has anyone mixed Nvidia and AMD?”的帖子引起了众多网友的关注。帖子中提到：“若使用一张 RTX 4090 用于 CUDA，再利用 RX 7900 的 VRAM，这在操作上的难度如何？又是否可行？这样能大幅削减成本。”此帖获得了大量的点赞和众多评论。

讨论的焦点主要集中在混合使用这两种显卡的可行性、性能影响以及具体的操作方法。有人表示自己每天都这样做，认为这很简单，比如通过 Vulkan 操作，但性能并非最佳。若在 4090 上运行 CUDA，在 7900 上运行 ROCm，各自能发挥最佳性能，只需在每台设备上启动 rpc-server 并使用 llama.cpp 进行连接。不过，也有人提出质疑，比如想达到最优性能，需要自定义分层，这会更复杂。

有用户询问在文本生成和上下文排序的基本推理中，性能会受到多大影响。回答是相比仅使用 4090 会变慢，但比仅用 7900 要快，因为 RPC 调用存在一定的网络内部效率损耗。

还有用户讨论了通过 40gbps 雷电网络连接 Mac 并与 Nvidia 服务器结合的可能性。有人认为虽然可行，但目前 TB4 端口在 PC 上仍较为罕见。

对于是否值得这样混合使用，观点不一。有人认为这是个麻烦事，消耗大量时间，从性价比角度看也不太合理，不如直接多花 200 - 400 美元。但也有人觉得虽然有难度，还是可以做到的，只要安装好闭源驱动，版本与系统匹配即可，并且提供了相关的安装链接。

总体而言，关于混合使用 Nvidia 和 AMD 显卡的讨论充满了争议和不同的见解，既有认为可行且简单的声音，也有觉得麻烦且性价比不高的看法。但正是这样的讨论，让大家对这一技术问题有了更深入的思考和认识。