原贴链接

我的配置是使用LMStudio和AnythingLLM，我有一块7900XTX且显存为24GB。我将ROCm llama.cpp设为我的运行时配置。在24.8.1版本下，我平均每秒能得到约25个token。升级到24.12.1版本后，运行完全相同的提示时，我的平均速度降到了7以下。我重启了两次以确保结果。进一步分析后，我注意到一旦模型加载到内存中，GPU使用率就会飙升并保持在100%，即使没有通过提示生成任何内容时也是如此。我测试了几次加载和重新加载，这种情况是一致的。我降级回24.8.1版本后，性能立即恢复正常。我没机会测试其他模型，但我很好奇是否其他人也注意到了最新驱动的类似问题。

讨论总结

原帖作者指出AMD 24.12.1版本驱动在自己的设备上性能显著低于24.8.1版本，如每秒生成的令牌数大幅下降。评论者们从不同角度回应，有提供AMD报告漏洞的途径，也有表示自己未发现性能退化但存在GPU使用率100%的情况，还有未遇到原帖中的性能问题但有其他由驱动更新导致的问题，也有在自己设备配置下特定版本驱动间无性能差异的情况，整体讨论氛围比较理性平和，大家都在分享自己的实际体验和观点。

主要观点

  1. 👍 AMD存在报告漏洞的途径，性能退化情况AMD可能会感兴趣
    • 支持理由：可以让遇到问题的用户反馈问题，AMD可能会重视性能退化问题。
    • 反对声音：无
  2. 🔥 未发现性能退化但存在GPU加载时100%使用率的情况并考虑换回24.8.1版本
    • 正方观点：虽然性能数字上没下降，但GPU高使用率可能存在隐患，换回旧版本以防万一。
    • 反方观点：无
  3. 💡 未遇到原帖中的驱动性能变差问题，但有显卡模型加载内存问题
    • 解释：自己情况与原帖不同，虽然没有性能变差，但有其他驱动更新导致的问题。
  4. 💡 在自己设备与配置下，特定版本驱动间性能无差异
    • 解释：说明不同设备和模型下，驱动性能表现可能不同。
  5. 💡 未发现GPU使用率达到100%，想检查自己的GPU使用率且不知如何降级驱动
    • 解释：对原帖中GPU使用率情况表示怀疑，自己想检查，但遇到找不到旧版本驱动的问题。

金句与有趣评论

  1. “😂 AMD has a few ways to report bugs (e.g. https://www.amd.com/en/resources/support-articles/faqs/AMDBRT.html)."
    • 亮点：为原帖作者提供了一个解决问题的可能途径。
  2. “🤔 我没有注意到性能下降，但我注意到加载时GPU为100%。我想我可能也会回到24.8.1版本。”
    • 亮点：虽然性能数字没降但GPU使用率情况异常，考虑换回旧版本是一种应对措施。
  3. “👀 我没有遇到这个问题，但是我的7900xtx存在模型加载到共享内存而非实际VRAM的问题，这也是由驱动更新引起的。”
    • 亮点：指出驱动更新除了可能影响性能，还可能导致模型加载内存的问题。
  4. “😉 8B模型像EXAONE - 3.5 - 7.8B - Instruct - Q4_K_M.gguf 让我得到52 t/s。”
    • 亮点：分享自己设备运行特定模型的速度，为讨论提供更多参考数据。
  5. “🤨 我不认为我看到我的（GPU）使用率达到100%。或者说，听到它（风扇狂转），因为风扇可能会狂转。”
    • 亮点：从风扇是否狂转的角度来判断GPU使用率是否达到100%，是一种很直观的判断方式。

情感分析

总体情感倾向为中性。主要分歧点在于是否发现AMD 24.12.1版本驱动存在性能问题，可能的原因是不同的设备配置（如不同型号的显卡）、不同的运行模型以及不同的软件环境等因素导致大家的体验不同。

趋势与预测

  • 新兴话题：如何在AMD网站找到旧版本驱动进行降级。
  • 潜在影响：如果AMD确实存在驱动性能问题，可能会影响用户对AMD产品的信任度，也可能促使AMD加快解决驱动性能问题并优化后续版本。

详细内容：

标题：AMD 最新驱动 24.12.1 性能问题引发热议

最近，Reddit 上一个关于 AMD 驱动的讨论吸引了众多用户的关注。原帖称，在使用 LMStudio + AnythingLLM ，拥有 7900XTX 及 24GB VRAM，并将 ROCm llama.cpp 作为配置运行时的情况下，24.8.1 版本平均每秒约 25 个令牌，而升级到 24.12.1 后，平均每秒降到不足 7 个，且在模型加载到内存时，GPU 使用率飙升并一直保持 100%，即使没有通过提示生成任何内容。经过多次测试，该用户降级回 24.8.1 后性能恢复正常。此帖获得了大量点赞和评论，引发了关于最新驱动性能问题的广泛讨论。

讨论焦点与观点分析： 有人指出 AMD 有多种报告 bug 的方式，比如[https://www.amd.com/en/resources/support - articles/faqs/AMDBRT.html](https://www.amd.com/en/resources/support - articles/faqs/AMDBRT.html)，并认为他们会对这种性能倒退问题感兴趣。有人表示会照此去做。 有人称虽然没注意到性能倒退，但在加载时也有 100%的 GPU 使用率，考虑返回 24.8.1 版本。有人分享自己的 7900xtx 在驱动更新后，模型加载到共享内存而非实际 VRAM 中，且提到在 GitHub 上有相关的 LLM 库问题讨论。 有人使用 6700XT 与 Vulcan 运行 LM 工作室，从 24.10.1 到 24.12.1 未发现差异，并询问测试模型。有人回复正在运行 QwQ 32B 参数模型，并猜测是否只有较大的模型会有问题。还有人指出运行方式不同，前者使用 Vulkan 而后者是 ROCm 。 有人表示没看到 GPU 使用率 100%的情况，会稍后检查。也有人询问如何降级驱动，因为在 AMD 网站上找不到以前的版本。

在这场讨论中，大家对于 AMD 最新驱动 24.12.1 的性能表现看法不一。有人遇到了严重的性能下降问题，有人则没有明显感受。但共识在于都对驱动性能表现非常关注，并积极交流分享经验和见解。其中一些独特的观点，如不同运行方式对性能的影响，丰富了整个讨论。