原贴链接

我让某人发布他们B580上的大语言模型（LLM）数据。它比A770快一点（看更新内容）。我在A770上发布了相同的基准测试，速度很慢。他们用的是Windows系统，我用的是Linux系统。我将切换到Windows并更新到新驱动，看看是否会有区别。我曾尝试发一个包含reddit帖子链接的帖子，但不知为何，只要我在帖子里放reddit的链接，那个帖子就会被隐藏（看不见）。去英特尔显卡（intelarc）板块找我发起的帖子吧。以下是从那里复制粘贴过来的内容。来自用户phiw的B580：qwen2 7B Q8_0，7.54 GiB，7.62 B，Vulkan、RPC，99，tg128，35.89±0.11；qwen2 7B Q8_0，7.54 GiB，7.62 B，Vulkan、RPC，99，tg256，35.75±0.12；qwen2 7B Q8_0，7.54 GiB，7.62 B，Vulkan、RPC，99，tg512，35.45±0.14。更新：我刚安装了最新驱动并在Windows下再次运行。这个新驱动就像人们说的一样好。我的A770速度提升很大，以至于B580没快多少了。现在看看在Linux下更新驱动的情况。我的A770在Windows下使用最新驱动和固件：qwen2 7B Q8_0，7.54 GiB，7.62 B，Vulkan、RPC，99，tg128，30.52±0.06；qwen2 7B Q8_0，7.54 GiB，7.62 B，Vulkan、RPC，99，tg256，30.30±0.13；qwen2 7B Q8_0，7.54 GiB，7.62 B，Vulkan、RPC，99，tg512，30.06±0.03。来自我的A770（旧的Linux驱动和固件）：qwen2 7B Q8_0，7.54 GiB，7.62 B，Vulkan、RPC，99，tg128，11.10±0.01；qwen2 7B Q8_0，7.54 GiB，7.62 B，Vulkan、RPC，99，tg256，11.05±0.00；qwen2 7B Q8_0，7.54 GiB，7.62 B，Vulkan、RPC，99，tg512，10.98±0.01

讨论总结

原帖作者给出了LLM在不同显卡（B580、A770、3060等）下的性能数据，在不同系统（Windows、Linux）下的差异。评论中，有人表达对B580被黄牛加价的厌恶，也有很多人在比较不同显卡性能，包括英特尔与AMD在AI方面的比较，还有关于硬件选择（如是否保留A770）以及技术方面（如软件限制、不同计算API的性能等）的讨论，整体氛围偏向于技术交流和理性探讨。

主要观点

  1. 👍 对B580被黄牛加价售卖表示厌恶。
    • 支持理由：这损害了消费者利益，使得购买价格远超标价。
    • 反对声音：无。
  2. 🔥 英特尔第二代产品在AI方面超越AMD令人惊讶。
    • 正方观点：英特尔仅第二代产品就在AI方面有这样的表现。
    • 反方观点：B580属于7700xt/6700xt级别的GPU且英特尔在亏本销售，不能算超越AMD。
  3. 💡 A770在内存带宽充分利用时应比B580快，B580更快不合预期。
    • 支持理由：按照内存带宽计算理论上A770更快。
    • 反对声音：可能存在配置或软件内存利用效率低等情况导致B580更快。
  4. 👍 B580可能更适合Vulkan计算从而在显卡上能发挥更大比例的效能。
    • 支持理由：对比数据显示B580在Vulkan计算上有较好表现。
    • 反对声音：B580仍未超越对A770投入实际支持后的成果。
  5. 🔥 考虑是否保留A770取决于多种因素，如机箱空间、电源、已有GPU性能等。
    • 正方观点：这些因素确实会影响是否保留第二块GPU。
    • 反方观点：无。

金句与有趣评论

  1. “😂 我讨厌黄牛在这张卡上加价150美元。”
    • 亮点：直接表达对黄牛加价行为的不满。
  2. “🤔 carnyzzle：I can’t get over that it’s only Intel’s second generation and they’re already beating AMD at AI”
    • 亮点：表达对英特尔在AI方面发展速度的惊讶。
  3. “👀 那很好，随着更多的B580被生产出来，黄牛们可以自食其果。”
    • 亮点：认为黄牛加价行为最终会受到产量增加的影响。
  4. “😂 在clpeak 1.1.2 opencl全球内存带宽基准测试中，B580似乎比A770快约5%。”
    • 亮点：给出了具体测试下两者的性能对比数据。
  5. “🤔 我知道他们说的ARC7在低线程并行性/占用率下，在VRAM BW吞吐量的某些方面相对于其芯片尺寸和NV/AMD GPU表现不佳。”
    • 亮点：指出了ARC7在特定方面的性能问题。

情感分析

总体情感倾向较为理性和客观。主要分歧点在于英特尔在AI方面是否超越AMD，原因是对于衡量“超越”的标准不同，一方从代际发展角度看，另一方从成本、GPU级别等更全面的角度看待。在黄牛加价问题上大家比较一致地持厌恶态度。

趋势与预测

  • 新兴话题：英特尔可能推出更高显存版本（如B990 32GB）以及相关产品在市场中的竞争力。
  • 潜在影响：对消费者在显卡选择上有更多的参考价值，也会促使厂商在AI相关的硬件优化和市场策略上进行调整。

详细内容：

标题：关于英特尔 B580 在 LLM 表现的热门讨论

在 Reddit 上，一则有关英特尔 B580 在 LLM 方面表现的帖子引起了广泛关注。原帖中，作者让他人在 B580 上发布了一些 LLM 数据，并将其与自己在 A770 上的测试结果进行对比。最初，A770 的表现较慢，而 B580 相对较快。然而，在作者安装最新驱动并切换到 Windows 系统后，A770 的速度大幅提升，B580 的优势不再那么明显。此帖获得了众多点赞和大量评论，引发了关于英特尔显卡性能、与其他显卡的对比、市场价格等多方面的热烈讨论。

讨论的焦点主要集中在以下几个方面： 首先，关于显卡的价格，有人抱怨黄牛对显卡加价过高，而也有人认为随着更多 B580 投放市场，黄牛可能会自食恶果。 在性能方面，有人认为英特尔 B580 虽表现不错，但与 AMD 和 NVIDIA 的同类产品相比各有优劣。例如，有人指出 B580 在某些方面的性能还不如 AMD 的产品。 对于英特尔显卡的发展，有人认为 A770 未能完全发挥其规格所承诺的性能，而 B580 则显示出英特尔在第二代产品中的进步。 同时，在不同的应用场景和技术支持方面，如 Vulkan 计算、SYCL 等，用户们也有着不同的看法和体验。有人指出 B580 可能在 Vulkan 计算方面更具优势，但在其他方面仍有待改进。

有用户分享道：“我尝试用链接发布帖子，但只要包含 Reddit 链接，帖子就会被隐藏，根本看不到。” 还有用户表示：“我刚安装了最新驱动，在 Windows 下重新测试，新驱动确实如大家所说的那样出色，A770 的速度提升了很多。”

在这场讨论中，存在一些共识。大家普遍认为英特尔显卡在不断发展，但其性能和特点在不同场景下的表现仍需进一步观察和测试。一些独特的观点，如对显卡带宽、计算能力以及不同技术接口的深入分析，丰富了讨论的内容。

总的来说，这次关于英特尔 B580 在 LLM 方面表现的讨论，充分展现了用户对显卡性能的关注和期待，也为大家提供了更多思考和交流的空间。