原贴链接

正如你们中的一些人可能已经看到的，AMD刚刚发布了新的RDNA 4 GPU。RX 9070 XT售价599美元，RX 9070售价549美元。

从数据上看，与7900 XTX相比，9070 XT每个计算单元的FP16（半精度浮点数）性能是其两倍（来源），所以在64U（计算单元）对96U的情况下，这意味着RX 9070 XT的计算能力将提升33%。

问题在于带宽——在256位GDDR6下，我们得到的带宽约为630GB / s，而7900 XTX为960GB / s。

但是！根据同一场展示（来源），他们提到已经在RDNA 4中添加了INT8（8位整数）和带稀疏性的INT8计算，这使得每个单元比RDNA 3快4倍和8倍，这将使其比RX 7900 XTX快2.67倍和5.33倍。

我想知道受内存带宽限制较小的较新模型架构是否可以利用这些计算，从而使新的AMD GPU成为出色的推理卡。你们有什么想法？

编辑：在视频被剪辑后更新了链接。现在两者相同，最初我引用了视频的两个不同部分。

编辑2：我之前遗漏了，但他们也提到了4位张量类型！

讨论总结

本次讨论主要围绕AMD新推出的RX 9070 XT和RX 9070展开。涉及到显卡的多个方面，如性能（包括计算单元、带宽、不同计算类型下的性能提升等）、VRAM容量、价格、与其他产品（如英伟达相关显卡）的比较，以及在不同应用场景（如游戏、AI、LLM推理等）下的适用性。大家对新显卡的评价褒贬不一，既有期待和乐观的声音，也有不少质疑和批评的观点。

主要观点

  1. 👍 RX 9070和9070 XT在LLM推理方面可能无性能差异
    • 支持理由：主要受内存带宽限制。
    • 反对声音：无。
  2. 🔥 16GB VRAM是目前显卡的最大限制因素
    • 正方观点：在多种应用场景下（如游戏的高画质需求、AI模型运算等），16GB VRAM存在局限。
    • 反方观点：部分游戏场景下16GB VRAM够用，如普通游戏场景。
  3. 💡 AMD可以更合理定价推出32GB内存型号以占领业余AI爱好者市场
    • 支持理由：目前市场存在VRAM高价现象，合理定价有助于吸引用户。
    • 反对声音：AMD可能出于成本或其他策略考虑不会这么做。
  4. 💡 AMD不提供RX 9070系列发布日的ROCm支持表明其不够重视相关事务
    • 支持理由：尽管部分组件已在官方构建列表且有其他支持合并，但不能解释AMD不提供发布日支持的行为。
    • 反对声音：AMD的发布可能侧重于游戏而非计算，有其他安排。
  5. 💡 没有CUDA对AI训练有挑战，但简单推理应用仍可使用AMD GPU
    • 支持理由：在ROCm支持下AMD GPU可以进行推理工作，还有Vulkan等方式。
    • 反对声音：CUDA有庞大的生态系统，AMD与之相比存在差距。

金句与有趣评论

  1. “😂 Marcuss2：The biggest limitation is the 16 GB of VRAM mentioned by others.”
    • 亮点：直接指出讨论中多次提及的VRAM容量限制这一关键问题。
  2. “🤔 asssuber：We shouldn’t normalize those rip - off prices for extra VRAM driven by the near monopoly state of the market right now.”
    • 亮点：对当下VRAM高价现象提出质疑，反映市场现状。
  3. “👀 trololololo2137：no CUDA == worthless for AI”
    • 亮点：该观点引发了关于AMD GPU在AI领域价值的激烈讨论。
  4. “😂 只有16GB VRAM，即使是XT型号。这是他们对抗Nvidia的机会。”
    • 亮点：以一种看似矛盾的表述，引起大家对VRAM容量与市场竞争关系的思考。
  5. “🤔 asssuber：That means they can comfortably do a 9070 XTX with 32GB of memory for $720~$800 IF they want to grab market share among hobbyist AI crowd.”
    • 亮点：提出一种AMD可能的市场策略，吸引大家对AMD产品规划的讨论。

情感分析

总体情感倾向较为复杂，既有积极乐观（如对AMD下一代产品的期待、对AMD新计算方式成果的认可），也有消极不满（如对AMD不提供ROCm支持的批评、对新显卡VRAM容量和性能的不满）。主要分歧点在于对AMD新显卡的评价上，一部分人认为AMD在新显卡的研发上有积极成果且充满潜力，而另一部分人则对新显卡的性能、配置以及AMD的市场策略提出质疑。可能的原因是不同用户有不同的需求和期望，例如游戏玩家更关注VRAM容量对游戏体验的影响，而AI领域的用户则更关注显卡在AI任务中的性能以及软件支持等。

趋势与预测

  • 新兴话题：AMD是否会重视AI战略并推出相关产品和服务，以及AMD在软件方面（如ROCm）的发展情况。
  • 潜在影响：如果AMD在VRAM容量、软件支持等方面做出改进，可能会改变其在显卡市场的竞争力，影响与英伟达的竞争格局，也会影响到AI、游戏等相关领域用户的选择。

详细内容：

《AMD RX 9070 系列显卡性能讨论在 Reddit 上掀起热潮》

近日，Reddit 上关于 AMD 新发布的 RDNA 4 架构的 RX 9070 系列显卡的性能讨论十分热烈。原帖指出，RX 9070 XT 售价 599 美元，RX 9070 售价 549 美元。从数据来看，9070 XT 在 FP16 计算单元方面有显著提升，但带宽存在问题。同时提到新增的 INT8 和 INT8 with sparsity 计算可能带来性能优势，引发大家对其能否成为优秀的推理卡展开思考。该帖获得了众多关注，评论数众多。

讨论焦点主要集中在以下几个方面：

  1. 显存容量：有人认为 16GB 显存是最大限制，若推出 32GB 版本，价格在 720 - 800 美元会更具竞争力。
  2. 价格合理性：不少用户觉得当前价格偏高，认为 AMD 过去在显存定价策略上不够明智。
  3. 性能与应用：对于 9070 系列在游戏和 AI 推理方面的表现，大家看法不一。有人担心显存限制会影响 LLM 推理性能，也有人认为价格和性能可能会弥补显存不足。

有用户分享道：“我实际上买了一张 400 系列的显卡，本以为能用 rocm ，结果为了让 rocm 工作，我经历了两次完整的 Ubuntu 安装，第一次因为系统太新不支持 rocm ，最后发现 rocm 跳过了我这一代显卡。这张卡玩游戏还行，但不能用于 AI 工作让我很恼火。”

对于 ROCm 支持的问题，有人指出 AMD 在发布当天没有提供 Radeon RX 9070 系列的官方 ROCm 支持，这显示出 AMD 对此不够重视；但也有人认为 AMD 此次发布以游戏为重点，软件方面的进展已公开且状况良好。

在观点争议方面，有人认为没有 CUDA 使 AMD 显卡对 AI 毫无价值，而有人则表示可以在 AMD 支持 ROCm 的 GPU 上进行推理。

特别有见地的观点如，有人认为 AMD 若想在 AI 领域有所作为，应推出更完善的软件支持和“AI 版本”显卡。

总之，关于 AMD RX 9070 系列显卡的讨论展现了大家对其性能、价格、应用等多方面的关注和思考，未来其市场表现如何，还有待观察。