原贴链接

帖子仅包含一张图片链接（https://i.imgur.com/HIozRbs.jpeg），无实质可翻译内容

讨论总结

整个讨论围绕DGX Spark Session展开，涉及多个方面的内容。包括它的性能方面如32B模型的token输出速度、在不同硬件下的性能比较、功率范围等；价格方面如价格的波动、第三方版本的价格差异；技术方面如是否违反美国出口规定、技术可用性等；还有人将其与苹果的Mac Studio M3 Ultra对比，表达对其性价比和参数竞争力的看法，以及对相关操作系统和软件发展程度的推测等，讨论热度不一，各种观点都有一定的代表性。

主要观点

  1. 👍 DGX Spark演示中的32B模型token输出速度每秒约十几个
    • 支持理由：根据演示情况进行推测。
    • 反对声音：无。
  2. 🔥 DGX Spark Session价格上涨
    • 正方观点：几个月前被透露为3000美元，正式预订时涨到4000美元。
    • 反方观点：无。
  3. 💡 DGX Spark Session的全球可用性可能与美国出口规定中的计算有关而非VRAM
    • 正方观点：以4090D和4090为例进行解释。
    • 反方观点：最初有人认为与VRAM有关。
  4. 🤔 硬件制造商的参与反映DGX Spark Session相关操作系统和软件的发展程度
    • 支持理由：基于硬件制造商参与数量的推测。
    • 反对声音：无。
  5. 😕 DGX Spark Session在第四季度的演示或操作不要抱太大期望，产品页面所标1000 TOPS为fp4的理论数值
    • 支持理由：对所标数值表示怀疑。
    • 反对声音：无。

金句与有趣评论

  1. “😂 他们演示了对R1 - 32B进行lora微调然后运行推理，屏幕上没有每秒的token输出，但我估计是每秒十几个。”
    • 亮点：对演示中的模型运行情况进行了直观的描述和推测。
  2. “🤔 我有点惊讶它产生token的速度没有更快，但考虑到低功耗和较低的内存带宽，这是合理的。”
    • 亮点：从功耗和内存带宽角度解释token速度。
  3. “👀 我的收获是整个过程看起来非常不稳定。它会相当快地生成一行代码，然后在空白处停留整整一秒钟。”
    • 亮点：描述了演示过程中的不稳定现象。
  4. “😮 $4k for ~270GB/s bandwidth.”
    • 亮点：简单陈述了价格和带宽的关系。
  5. “🧐 Is this globally available? (not violating some US tech exporting regulations?)”
    • 亮点：提出了关于全球可用性和违反出口规定的疑问。

情感分析

总体情感倾向较为复杂，既有对DGX Spark Session在性能、价格等方面的好奇和理性探讨，也有对其性价比表示不满的负面态度。主要分歧点在于对其性能和价格的看法，例如有人认为价格上涨不合理，也有人从性能的不同方面进行推测和解释。可能的原因是大家对产品的期望、对相关技术的理解以及各自的利益出发点不同。

趋势与预测

  • 新兴话题：DGX Spark Session与其他产品（如苹果Mac Studio M3 Ultra）的比较可能会引发更多关于性价比的讨论。
  • 潜在影响：如果价格和性能问题得不到解决，可能会影响DGX Spark Session的市场接受度和相关行业的竞争格局。

详细内容：

标题：关于 DGX Spark Session 的热门讨论

近日，Reddit 上关于 DGX Spark Session 的讨论引起了众多关注。该帖子包含了丰富的见解和观点，获得了大量的点赞和评论。

帖子主要围绕 DGX Spark Session 的性能、价格、带宽等方面展开。有人认为 10 - 20 tk/s 对于 32b 来说，如果是在 Q4 ，会令人失望。也有人指出，32B 4 位约 16GB ，结合 276GB/s 的带宽，最大也就 17tk/s 。还有人提到，如果计算 tk/kwh ，情况不太明朗，比如 32b 在约 200w 功率下约 10tk/s 。有人对其产生令牌的速度感到惊讶，认为相比之下 4090 运行 32b 模型表现更好，但功耗更大且内存更少。有人觉得这款产品不如 AMD AI 395 ，也有人反驳称 AMD 平台因无法使用 CUDA 而存在不足。

有人表示原本以为推理速度不到 10/s ，软件和一切都还在测试阶段，对关于带宽的回复感到失望。有人认为其整体性能表现非常不稳定。有人关心其是否全球可用，是否违反美国技术出口规定。还有人讨论其价格，称几个月前曾透露约 3000 美元，现在官方预订涨到了 4000 美元。有人认为其内部带宽过窄，价格昂贵，与苹果的 Mac Studio M3 Ultra 相比参数上毫无竞争力。

在这场讨论中，大家对于 DGX Spark Session 的看法存在诸多分歧。有人对其性能表示质疑，有人则认为在测试阶段还有提升空间。关于价格和全球可用性等问题也存在不同的观点。这场讨论反映了大家对新技术产品的关注和期待，也展示了不同用户对于性能和价格等关键因素的重视程度。但究竟 DGX Spark Session 未来会如何发展，还有待进一步观察。