原贴链接

此为图片链接：https://llminfo.image.fangd123.cn/images/d4tu6z13iije1.png!/format/webp，无实质文本内容可供翻译

讨论总结

该讨论围绕标题中提到的H100s展开，主要话题是是否会有中国公司推出带有大量VRAM且价格便宜的GPU。评论者从不同角度进行讨论，包括中国在这方面的努力方向、需要的时间，还涉及英伟达、AMD等公司产品的性能、价格、带宽等情况，也有一些与主题关联不大的个人情况分享以及技术相关的疑问。整体氛围较为理性，但话题比较分散，既有深度讨论也有简短的调侃或个人分享。

主要观点

  1. 👍 中国可能有朝着推出大量VRAM且低价GPU方向努力的情况，但需要时间。
    • 支持理由：有评论者提及看到有相关的努力方向如某网站的项目，但距离成功可能还需要数年。
    • 反对声音：无。
  2. 🔥 英伟达的某些产品在性能、价格、带宽等方面存在局限性。
    • 正方观点：评论中有人指出英伟达相关产品存在如带宽等方面的问题。
    • 反方观点：无。
  3. 💡 AMD的某些产品在运行特定模型时具有成本效益。
    • 解释：这是评论者基于自身了解或使用经验得出的结论。
  4. 💡 中国某些高端产品可能优先供应本国大型云服务，短期内难以满足西方爱好者需求。
    • 解释：从市场供应和优先满足本国需求的角度出发提出的观点。
  5. 💡 目前有将多个设备连接起来弥补VRAM不足的思路。
    • 解释：这是一种解决VRAM不足问题的探索方向。

金句与有趣评论

  1. “😂 It’s never enough”
    • 亮点：简洁地表达出对H100s数量需求未被满足的态度。
  2. “🤔 Is there a chance that another chinese company will come up with a cheap GPU with a huge amount of VRAM?”
    • 亮点：引出整个讨论的核心问题。
  3. “👀 我没有看过《哈利·波特》电影第五部之后的影片。”
    • 亮点：在众多硬件相关讨论中出现这样一个与电影相关的个人话题，比较突兀但有趣。

情感分析

总体情感倾向较为理性客观。主要分歧点较少，在对英伟达产品存在局限性这一观点上可能会有不同看法，但由于没有明显的反驳声音，所以分歧不突出。可能的原因是大家更多是在分享各自的观点和知识，而非进行激烈的辩论。

趋势与预测

  • 新兴话题：关于将大参数模型拆分成小参数块的讨论可能会引发后续对模型优化技术的深入探讨。
  • 潜在影响：如果中国真的推出大量VRAM且低价的GPU，可能会对全球硬件市场格局和相关技术发展产生影响。

详细内容：

标题：关于高性能 GPU 及 VRAM 的热门讨论

最近，Reddit 上一篇题为“Just a bunch of H100s required”的帖子引发了广泛关注。此帖获得了众多点赞和大量评论。

帖子主要探讨了能否出现价格低廉且 VRAM 容量巨大的 GPU 这一话题，引发了关于不同产品性能、价格、带宽以及未来发展趋势的热烈讨论。

讨论焦点主要集中在以下几个方面： 有人认为中国公司有可能推出廉价且高 VRAM 的 GPU，比如像 Deepseek 这样的硬件，同时有人提供了相关链接https://www.androidpimp.com/embedded/orange-pi-ai-studio-pro/，表明可能需要几年时间才能有出色的成果。也有人指出当前的一些产品并非使用 VRAM。

还有人提到一些服务器能通过 DDR5 RAM 实现超过 1TB/s 的带宽，比如中国的方案似乎是英特尔至强 w/ AMX 扩展加上 768GB RAM 和尽可能多的旧 4090Ds 以获取更长的 VRAM 上下文。

有用户表示在 VRAM 领域也有一些新的发展，如https://www.tomshardware.com/pc-components/dram/sandisks-new-hbf-memory-enables-up-to-4tb-of-vram-on-gpus-matches-hbm-bandwidth-at-higher-capacity，但也像其他人说的那样，可能需要几年时间才能推向市场。

有人提到英伟达的 Digit 计算机，虽然承诺有 128GB 的 RAM 可用于 AI，并且可以将两个连接在一起获得 256GB，但存在带宽低、价格高等问题。

关于一些产品的带宽，有用户猜测例如 Digit 可能最多达到 200 gb/s。也有人指出目前消费者卡中最高的 VRAM 为 32 GB，价格昂贵，短期内不太可能有价格亲民的 768 GB VRAM 解决方案。

有人分享了可以在 128GB RAM 上运行 Deepseek 的相关链接：https://docs.openwebui.com/tutorials/integrations/deepseekr1-dynamic/，并提到英伟达收购了 Mellanox，希望能在此方面发挥其网络技术专长。

有人认为 AMD Instinct 看起来不错，但希望有更适合普通消费者且价格更低的产品。也有人提到 Ryzen AI Max 具有 128GB VRAM 的情况，并探讨了其带宽和性能。

对于一些观点，也存在不同的声音。比如有人认为某些产品性能和价格不成正比，存在过度依赖 CUDA 和英伟达功能等问题。

总之，这场讨论充分展现了大家对于高性能 GPU 及 VRAM 发展的关注和期待，同时也反映了当前市场上存在的一些问题和挑战。未来，我们期待能有更多性能出色且价格合理的产品出现，满足不同用户的需求。