原贴链接

无有效内容可翻译（仅为一个视频链接）

讨论总结

该讨论围绕标题中QwQ - 32B在4年之久的32GB M1 Max设备上运行这一话题展开。评论内容涉及M1 Max的价格、QwQ - 32B运行时的量化情况、不同设备上的运行情况和性能测试，还有关于开源应用Klee的讨论等，整体氛围偏向技术探讨，比较平和。

主要观点

  1. 👍 M1 Max初始价格较高且现在仍有较高价值
    • 支持理由：当初售价4000 - 5000欧元，现在还值2500欧元，比M4 Pro贵。
    • 反对声音：无。
  2. 🔥 对标题中的运行内容提出关于量化的疑问
    • 正方观点：想知道QwQ - 32B运行时采用何种量化。
    • 反方观点：无。
  3. 💡 在Klee应用上运行QwQ - 32B，Klee是完全开源应用，能本地运行LLMs且有知识库和笔记功能
    • 支持理由：评论者亲测并给出Klee的Github链接。
    • 反对声音：无。
  4. 💡 建议在Apple硬件上使用mlx模型以提升速度
    • 支持理由：认为mlx模型在Apple硬件上速度会快很多。
    • 反方观点：无。
  5. 💡 QwQ - 32B可在特定Mac Mini上运行，作者对设备运行情况表示满意
    • 支持理由：设备仅花费500英镑且运行速度为读取速度。
    • 反方观点：无。

金句与有趣评论

  1. “😂当你以贬损的方式提到4年前的M1 Max时，不要忘记它当初的成本为4000 - 5000欧元，现在仍然价值2500欧元”
    • 亮点：从价格角度重新审视M1 Max的价值。
  2. “🤔What quant?”
    • 亮点：直接提出关于QwQ - 32B运行量化的疑问，开启相关话题讨论。
  3. “👀我在Klee上运行它，Klee是一个完全开源的应用，可以在本地运行LLMs，还有内置知识库和笔记功能。”
    • 亮点：介绍了Klee这个开源应用的功能并表明可以运行QwQ - 32B。

情感分析

总体情感倾向为中性，主要分歧点较少。因为大部分评论都是在分享技术信息、提出技术疑问或者给出技术建议，没有太多涉及情感化的内容。

趋势与预测

  • 新兴话题：关于不同设备上QwQ - 32B运行的优化方案可能会继续被讨论。
  • 潜在影响：如果关于设备运行优化的讨论深入，可能会影响相关设备用户对QwQ - 32B运行效率的提升。

详细内容：

标题：关于 M1 Max 在不同场景下的性能讨论

在 Reddit 上，一则题为“QwQ-32B running on a 4 years old 32GB M1 Max”的帖子引起了广泛关注。该帖子中包含了一个视频链接：https://v.redd.it/ev80m8vjy2ne1/DASH_1080.mp4?source=fallback ，并引发了众多网友的热烈讨论。

有人指出，当以贬低的方式提及使用了 4 年的 M1 Max 时，不要忘了它最初的价格约为 4000 - 5000 欧元，如今仍价值 2500 欧元，甚至比 M4 Pro 还贵。有人分享自己大约一年前以 800 美元的价格买到了新的 32GB 的 M1 Max，还提到几个月前在 ebay 上看到一些新的售价为 1300 美元，是从一些清算人那里出售的。有人称 1300 美元可以买到 32 核 64GB 的 M1 Max，链接为ipowerresale.com 。

关于性能方面，有人表示基于内存使用情况，其量化应该很小，比如 Q2。有人分享自己在同一台机器上运行 4 位量化 MLX 效果很好。有人提到在 Klee 上运行，这是一个完全开源的应用程序，可以在本地运行 LLMs，并具有内置知识库和笔记功能，其 Github 链接为：[https://github.com/signerlabs/klee] 。有人好奇 Klee 与 lmstudio 相比如何，是否因为基于 ollama 运行所以更快。有人指出 Klee、lmstudio 和 ollama 的核心都是 llama.cpp，所以速度应该差不多。

还有人分享在微软 Word 中用 M1 Max（64G）进行测试，性能可以接受（不算太快但比想象中快），并提供了视频链接：[https://youtu.be/ilZJ-v4z4WI] 。也有人认为在苹果硬件上使用 mlx 模型会更快。还有人表示即使是基础款的 Mac Mini 以 3 位和 128gs 运行，虽然可能不如全 4 位那么智能，但因为只花了 500 英镑且运行速度达到阅读速度，所以也很满意。

这场讨论的核心争议点在于不同用户对 M1 Max 在不同量化和应用场景下的性能评价和价格认知存在差异。而共识在于大家都在积极探讨如何更好地发挥 M1 Max 的性能。特别有见地的观点如对不同模型和应用的具体分析，丰富了整个讨论，让大家对 M1 Max 有了更全面的认识。