原贴链接

我使用7900 XTX，受/u/fallingdowndizzyvr启发做了些测试。简而言之，在提示处理（PP）方面，AMDVLK比mesa提供的默认Vulkan驱动RADV快45%，但仍比ROCm慢，不过在文本生成（TG）方面比ROCm快12 - 20%（在IQ2_XS上慢15%）。测试环境为AMD RX 7900 XTX、Arch Linux、llama.cpp版本51f311e0，使用bartowski GGUFs。以下是不同量化下不同模型在ROCm、Vulkan（默认mesa驱动RADV）、Vulkan（AMDVLK开源）的测试结果。

讨论总结

原帖对AMD不同驱动（AMDVLK、RADV、ROCM）在处理特定任务时的性能进行测试比较，重点展示在不同模型、不同量化下的速度差异。评论者们在此基础上展开讨论，话题包括对AMDVLK性能提升的看法、PRO驱动的性能、不同驱动未优化的原因、AMD GPU与LLM的适配性、Vulkan与CUDA的竞争关系等，整体讨论氛围较为理性且专注于技术探讨。

主要观点

  1. 👍 AMDVLK相对ROCM有较大的生成速度提升很令人惊喜。
    • 支持理由：测试数据显示在某些任务上AMDVLK比ROCM速度提升明显。
    • 反对声音：无。
  2. 🔥 对AMD的PRO驱动性能存在疑问。
    • 正方观点：看到AMDVLK的提升，好奇PRO驱动性能。
    • 反方观点：无。
  3. 💡 PRO驱动有针对专有软件的更多特定应用解决方法。
    • 解释：为解决专业环境中奇怪行为的专有软件问题。
  4. 💡 非PRO驱动在几乎所有情况下是更好的选择。
    • 解释：在多数场景下非PRO驱动表现更好。
  5. 💡 原帖的测试数据很难得。
    • 解释：很少有人发布这类驱动可比信息且如此详细的数据。

金句与有趣评论

  1. “😂 Its cool seeing such a large uplift in generation speed in AMDVLK over ROCM.”
    • 亮点：直接表达对AMDVLK性能提升的惊喜。
  2. “🤔 Afaik it has just more application specific workarrounds for wierdly behaving proprietary software used in an professional environments”
    • 亮点：阐述PRO驱动针对专有软件的特性。
  3. “👀 The non pro driver is usually the better choice in almost all cases.”
    • 亮点：给出非PRO驱动的使用建议。

情感分析

总体情感倾向为积极和好奇。大家对原帖分享的测试数据表示认可、感谢，对AMDVLK的性能提升感到惊喜，同时对一些驱动相关的未知情况（如PRO驱动性能）表示好奇。主要分歧点在于对ROCM性能的看法，有人认为数据显示ROCM表现不佳与声称的改进不符，部分人则解释ROCM一直在改进且原本比Vulkan好，只是Vulkan改进速度快现在部分方面表现更优。

趋势与预测

  • 新兴话题：可能会有更多人对AMD不同驱动在不同硬件（如MI60卡）下进行测试，进一步探索性能优化空间。
  • 潜在影响：对AMD驱动的性能优化方向有一定参考价值，也有助于用户在不同应用场景（如LLM、AI推理等）下选择合适的驱动。

详细内容：

标题：AMD 不同驱动在推理性能上的比较与讨论

在 Reddit 上，有一则关于 AMD 不同驱动在推理性能方面的讨论引起了广泛关注。原帖作者使用 7900 XTX 进行测试，发现 AMDVLK 驱动在某些方面的表现优于 RADV 和 ROCm。该帖子获得了众多的点赞和大量的评论。

讨论的主要方向集中在不同驱动在不同测试场景下的性能差异，以及背后的原因和影响。文章将要探讨的核心问题是 AMDVLK 驱动性能提升的原因以及其在不同场景下与其他驱动的优劣对比。

在讨论焦点与观点分析中，有人认为看到 AMDVLK 在生成速度方面有如此大的提升是很酷的，并感谢原帖作者进行的测试，因为这种关于驱动的详细对比数据十分罕见。还有人指出 RADV 作为 Steam Deck 上的默认驱动，由于 Valve 的贡献，其更侧重于通用和游戏用途，对计算的优化并非首要任务。

有用户分享自己的经历，称当 koboldcpp 进行了 Vulkan 改进并更改默认设置后，计算速度大幅提升。

关于 AMD GPU 对 LLM 的适用性，有人认为在没有过多调整的情况下表现不错。也有人认为虽然 ROCm 一直在改进，并且曾经优于 Vulkan，但 Vulkan 提升速度很快，在某些领域已经能表现得更好。还有人觉得 Vulkan 正式支持更广泛的硬件，所以吸引了更多开发者，而 ROCm 可能在性能上更优越，但仅对最新硬件有益，限制了愿意投入时间改进它的人。

总之，这次关于 AMD 驱动的讨论展现了大家对硬件性能优化的关注和深入思考，为相关技术的发展提供了有价值的见解。