原贴链接

https://www.reddit.com/gallery/1fcy8x6

讨论总结

本次讨论主要围绕 AMD Epyc Genoa CPU 的内存带宽问题展开，涉及多个方面，包括虚假宣传、实际性能、价格和购买渠道等。讨论中，用户们对 AMD 宣传的内存带宽与实际物理电路不符表示质疑，特别是 9124 型号的 CPU。此外，用户们还讨论了不同型号 CPU 的价格范围、内存带宽的实际表现以及购买渠道，如通过 eBay 购买退役云服务器上的 CPU。讨论中还涉及了家用 CPU 的内存带宽问题，特别是关于 STREAM TRIAD 基准测试结果，以及下一代家用 CPU 是否应支持多于双通道的内存配置。总体而言，讨论涉及了硬件性能、价格和实际应用等多个方面，用户们对 AMD 的宣传提出了质疑，并分享了实际使用中的经验和见解。

主要观点

  1. 👍 AMD 宣传的 9124 型号最大内存带宽与实际物理电路不符

    • 支持理由：评论者指出，尽管 AMD 宣传 9124 型号的最大内存带宽为 460.8 GB/s，但实际上该型号的物理电路并不支持这一带宽。
    • 反对声音：无明显反对声音，但有用户提到即使是高端处理器也无法达到宣传的内存带宽。

  2. 🔥 即使是高端处理器也无法达到宣传的内存带宽

    • 正方观点：评论者指出，即使是 AMD 的高端处理器也无法达到宣传的内存带宽，这表明宣传与实际性能之间存在较大差异。
    • 反方观点：无明显反方观点，但有用户提到低核心数的 CPU 无法充分利用理论上的内存带宽。

  3. 💡 希望下一代家用 CPU 支持多于双通道的内存配置

    • 解释：评论者希望下一代家用 CPU 能够支持多于双通道的内存配置，以提升性能。Strix Halo 可能会支持多通道，但其他 CPU 可能会在较长时间内保持双通道配置。

  4. 💡 Epyc Genoa CPU 的价格范围从 3000 到 12000 美元不等，价格较高

    • 解释：评论者讨论了不同型号的 Epyc Genoa CPU 的价格范围，指出价格较高，但 9184X 型号的 CPU 价格约为 1500 美元，具有 12 通道 DDR5 内存，理论带宽优于 M3 Max。

  5. 💡 对于追求纯 CPU 推理的用户，选择 32 核心处理器是最佳选择

    • 解释：评论者指出，对于追求纯 CPU 推理的用户，选择 32 核心处理器是最佳选择，因为它能在 llama.cpp 中实现最大的并行处理，同时拥有最高的核心速度。

金句与有趣评论

  1. “😂 Phocks7：I feel like someone should take AMD to task for this. It’s one thing to advertise the "maximum memory bandwidth" for the 9124 as 460.8GB/s, when it doesn’t have the physical circuitry to be able to do that (only two CCD’s), but the fact that even their top of the line processors can’t either is pretty damning.”

    • 亮点：评论者对 AMD 的虚假宣传表示不满，认为应该有人对此提出质疑。

  2. “🤔 kryptkpr：This table is misleading, the lower core count CPUs physically cannot consume that bandwidth.”

    • 亮点：评论者指出，低核心数的 CPU 无法充分利用理论上的内存带宽，认为表格具有误导性。

  3. “👀 Healthy-Nebula-3603：I hope next generations of CPU for home users allow use more than dual channel …”

    • 亮点：评论者希望下一代家用 CPU 能够支持多于双通道的内存配置，以提升性能。

  4. “👀 ortegaalfredo：From 3000 to 12000 usd, those are spicy meatballs.”

    • 亮点：评论者用幽默的方式形容 Epyc Genoa CPU 的高价格。

  5. “👀 newdoria88：虽然厂商经常宣传“理论”值，但实际性能往往有所不同。”

    • 亮点：评论者指出厂商经常宣传“理论”值，但实际性能往往有所不同，提醒用户注意实际表现。

情感分析

讨论的总体情感倾向偏向负面，主要集中在对 AMD 虚假宣传的质疑和对实际性能的不满。用户们对 AMD 宣传的内存带宽与实际物理电路不符表示不满，认为这具有误导性。此外，用户们对不同型号 CPU 的价格范围和实际表现也表达了关注。讨论中也有一些积极的情感，如对下一代家用 CPU 的期待和对实际使用经验的分享。

趋势与预测

  • 新兴话题：下一代家用 CPU 是否能够支持多于双通道的内存配置，以及 AMD 是否会改进其宣传策略。
  • 潜在影响：对 AMD 的虚假宣传提出质疑可能会促使厂商改进其宣传策略，更加注重实际性能的宣传。此外，对内存带宽问题的讨论可能会影响用户在购买 CPU 时的决策，更加注重实际表现而非理论值。

详细内容：

标题：关于 Epyc Genoa CPU 内存带宽值的热门讨论

近日，Reddit 上一则关于“Memory bandwidth values (STREAM TRIAD benchmark results) for most Epyc Genoa CPUs (single and dual configurations)”的帖子引发了广泛关注，点赞数和评论数众多。该帖子主要围绕 Epyc Genoa CPU 的内存带宽值展开，特别是其理论值与实际表现的差异。

讨论焦点与观点分析： 有人觉得应该就 AMD 的相关情况问责，比如 9124 型虽宣传最大内存带宽为 460.8GB/s，但实际上因物理电路限制无法达到，甚至顶级处理器也不行，这相当糟糕。 有用户指出这张表格具有误导性，低核心数的 CPU 实际上无法消耗那么高的带宽。因为在理论上，内存和内存子系统之间的带宽是存在的，但计算单元和内存子系统之间的带宽不足，除非拥有几乎所有的核心。 有人回忆说所有 EPYC 9004 CPU 有 4 到 12 个 CCD（多数型号为 8 个），4 个 CCD 的只有 2 个 GMI 链接，带宽仅约 110GB/秒而非 266 。 有人希望下一代面向家庭用户的 CPU 能允许使用超过双通道。也有人称 Strix Halo 会实现，但其他 CPU 可能在很长时间内仍保持双通道。 有人提到从 3000 到 12000 美元的价格，十分昂贵。 有人表示 9184X 约 1500 美元，是 12 通道 DDR5 内存的猛兽，理论上带宽超过 M3 Max，还能随意加装大量内存以及一或两个 3090 用于 Cuda 加速，在家能舒适运行大型 405B 模型，要是能找到卖家自己肯定会买一个。 有用户称自己的线程撕裂者 8 通道设置远未达到纸面上的带宽，可能只有六分之一。 有人买 9174F 花费约 1200 美元，称只要能找到合适的 eBay 卖家，处理退役云计算服务器就行。 有人认为总是宣传永远达不到的“理论”值是具有欺骗性的，但好在大多数 Epyc 处理器的带宽相同（在误差范围内），对于纯 CPU 推理，选择 32 核处理器能在 llama.cpp 中获得最大并行处理能力和最高核心速度。 有人提出疑问，既然表格显示双 CPU 配置和单 CPU 具有相同的最大内存带宽和推理性能，那么是否没必要选择双 CPU 配置。 关于“TRIAD”的含义，有人建议搜索“stream triad”获取有意义的结果，比如https://superuser.com/questions/1815148/expected-results-of-a-stream-memory-bandwidth-benchmark 。还有人解释 TRIAD 是计算：a(i) = b(i) + q × c(i) 。 有人提供了相关的来源链接，如：https://sp.ts.fujitsu.com/dmsp/Publications/public/wp-performance-report-primergy-rx1440-m2-ww-en.pdf 、https://sp.ts.fujitsu.com/dmsp/Publications/public/wp-performance-report-primergy-rx2450-m2-ww-en.pdf 以及 https://www.fujitsu.com/global/products/computing/servers/primergy/benchmarks/ 。

讨论中的共识在于大家都关注到了 Epyc Genoa CPU 内存带宽的理论值和实际情况存在差异，争议点在于这种差异的原因以及对实际应用的影响。特别有见地的观点是对于不同用途如何选择合适的 CPU 型号，这为相关讨论提供了更深入的思考方向。