原贴链接

最近我看到到处都是关于搭载新锐龙9 HX 370的笔记本电脑和迷你电脑的评测。与英特尔相比，它们似乎表现得相当不错，但评测通常完全忽略人工智能部分。有没有人试过在它们上面运行一些流行的模型？我很想看看它们的表现。无论是在使用ROCm的集成显卡上，还是在神经网络处理器（我认为这会很棘手，因为模型必须转换为ONNX）上。它们有不错的内存带宽（虽然不如苹果芯片，但差距也不大）。锐龙AI系列在ROCm中得到官方支持，我相信这是APU的首次（虽然旧的APU实际上能工作，但未得到官方支持）

讨论总结

该讨论主要聚焦于Ryzen AI 300 APUs的性能相关话题。从不同方面进行了探讨，如在不同系统下NPU的可用性、与Intel系统在推理性能上的对比、受内存带宽的限制情况，以及ROCm的支持情况等，整体是一种理性分析和交流的氛围。

主要观点

  1. 👍 拥有带AI 300的联想笔记本，但Linux下NPU无法使用
    • 支持理由：评论者自身设备情况表明
    • 反对声音：无
  2. 🔥 Ryzen AI的NPU可能是Copilot PC推广后的剩余产物
    • 正方观点：根据在别处看到的信息和研究得出
    • 反方观点：无
  3. 💡 推理性能受内存带宽限制
    • 解释：多位评论者提及内存带宽对APUs推理性能的影响
  4. 💡 在相同内存下AMD和Intel系统推理性能相似
    • 解释：从内存带宽等硬件因素角度进行分析
  5. 💡 ROCm运行良好且有Vulkan，但APU受内存带宽限制
    • 解释：结合APU的特性及ROCm的情况进行讨论

金句与有趣评论

  1. “😂我有一个带AI 300的联想笔记本，但现在在Linux下不可能使用NPU，所以我无法尝试。”
    • 亮点：直接说明设备使用中的问题
  2. “🤔Everlier：In practice - consider this NPU as non - existent, unless you’re equipped to program for it yourself.”
    • 亮点：对NPU实用性提出独特看法
  3. “👀It would be criminal from AMD to named them Ryzen AI 300 series and say AI like 5 times per minute during the presentation and not support them in ROCm, but AMD can be unbeilable moronic sometimes.”
    • 亮点：表达对AMD命名与支持情况的不满

情感分析

总体情感倾向较为中性客观，主要分歧点在于对NPU的看法以及AMD在产品命名与ROCm支持上的合理性，可能的原因是不同评论者基于自身的知识、经验以及对硬件的不同期望所导致。

趋势与预测

  • 新兴话题：APU能否用于批处理和快速处理提示有待探讨，可能引发后续关于APU更多功能应用的讨论。
  • 潜在影响：如果APU在性能和功能上能够不断优化改进，可能会影响到相关硬件市场的竞争格局，促使其他厂商改进产品或者调整策略。

详细内容：

《新 Ryzen AI 300 APUs 的推理性能引发热议》

最近，有关配备新 Ryzen 9 HX 370 的笔记本电脑和迷你 PC 的评测层出不穷。然而，这些评测通常完全忽略了其 AI 方面的表现。原帖中有人提出疑问，是否有人尝试在这些设备上运行一些热门模型，很想了解它们的性能究竟如何，比如能否在 iGPU 上使用 ROCm 或者在 NPU 上运行（但可能需要将模型转换为 ONNX），还提到 Ryzen AI 家族在 ROCm 中已获得官方支持。此帖获得了众多关注，评论数众多，引发了关于新 Ryzen AI 300 APUs 性能的热烈讨论。

讨论的焦点主要集中在以下几个方面： 有人表示拥有联想笔记本电脑搭载 AI 300，但在 Linux 系统下无法使用 NPU，也不愿为了尝试而安装 Windows 系统，并期待看到相关的基准测试。有人认为 NPU 目前的驱动需要修补内核，且在 Linux 内核中的支持要到 2 月，还询问了 ROCm 性能的情况。还有人指出新 Ryzen AI 300 APUs 的性能在很大程度上受限于内存带宽，不同型号和速度的 RAM 决定了推理性能。

有人认为从其他帖子和研究来看，这可能是为 Copilot PC 大力推动的一部分，但实际情况是 NPU 除非自行编程，否则可视为不存在，ROCm 情况不佳，新 NPUs 支持和市场渗透不如人意。也有人吐槽这是微软的又一次彻底失败，AMD 在这方面的举措堪称愚蠢，其 AI 部门似乎存在问题。

有人提到 ROCm 运行效果不错，特别是与 MLC-LLM 配合。但也有人认为在这种 APU 上，一切都受限于内存带宽，所以在 CPU 或 iGPU 上运行区别不大，NPU 太慢不适合此类应用。

有人认为这款芯片的 NPU 具有 50 TOPS，并非一无是处，但也有人反驳称其与 GPU 级别的带宽差距太大，运行 LLM 模型仍不够理想。

总的来说，对于新 Ryzen AI 300 APUs 的性能表现，大家看法不一，争议点在于其内存带宽限制、NPU 的实际效果以及与其他竞品的比较。但也存在共识，即内存带宽是影响其性能的关键因素。

究竟新 Ryzen AI 300 APUs 在 AI 领域能有怎样的表现，还需进一步观察和更多实际测试数据来给出准确的答案。