原贴链接

我发现Mistral 3.1比Gemma3更令人兴奋，并且我很失望，因为目前我无法在我的AMD GPU上运行它。

讨论总结

原帖作者对Mistral 3.1不能在自己AMD GPU上运行且没有day - one vision支持而Gemma3有表示失望。评论者maikuthe1指出是因为Google团队的协助差异造成这种情况，Iory1998表示这个解释简洁优雅。Admirable - Star7088赞赏Mistral AI的开放权重及社区友好工作，但疑惑其为何不让模型在所有电脑可运行。其他评论还涉及到等待其他模型支持、模型的视觉能力支持、多模态问题、Ollama支持等相关话题，并且有针对原帖中问题的提问和解决办法提出。整体讨论比较聚焦在技术相关话题，氛围理性。

主要观点

  1. 👍 Gemma3有day - one vision支持而Mistral 3.1没有是因为Google团队的协助差异。
    • 支持理由：maikuthe1指出Google团队在发布之前就帮助实现了Gemma3的day - one vision支持，而Mistral没有。
    • 反对声音：无。
  2. 🔥 Mistral AI对开放权重及社区工作值得欣赏。
    • 正方观点：Admirable - Star7088提到他们提供了不错的Apache 2.0许可并鼓励社区进行微调，还举例DeepHermes。
    • 反方观点：无。
  3. 💡 Mistral AI对社区友好但却未让模型在所有电脑可运行这点令人疑惑。
    • 解释：Admirable - Star7088认为Mistral AI对社区友好，但不明白为何不迈出最后一步让模型在每个人电脑上运行，若能帮助llama.cpp添加支持或者创建自己的引擎对社区价值很大。
  4. 💡 Mistral Small 3.1目前没有视觉能力支持。
    • 解释：根据评论者以llama cpp对视觉模型的历史为例得出。
  5. 💡 某些模型存在无法在AMD GPU上运行的情况。
    • 解释：如llama - 3.2 - 11b - vision和Mistral 3.1存在这种情况。

金句与有趣评论

  1. “😂 maikuthe1：The Google team helped them implement it before the release, Mistral didn’t.”
    • 亮点：直接解释了Gemma3有day - one vision支持而Mistral 3.1没有的原因。
  2. “🤔 Iory1998：Simple and elegant!”
    • 亮点：简洁评价了maikuthe1关于两者差异的解释。
  3. “👀 Admirable - Star7088：I really appreciate Mistral AI’s dedication to open - weights and the awesome work they are doing.”
    • 亮点：表达了对Mistral AI在开放权重方面工作的赞赏。
  4. “👀 Admirable - Star7088：They seem to be very much in favor of the community, which makes me a bit baffled that Mistral AI don’t also do the last, perhaps most important step for the community: Make their models accessible and runnable on everyone’s computers.”
    • 亮点：指出Mistral AI对社区友好却未做到让模型在所有电脑运行的疑惑。
  5. “👀 如果llama cpp对视觉模型的历史有参考价值的话，Mistral Small 3.1不太可能得到视觉能力支持，除非Mistral团队像Google对Gemma3那样介入帮忙。”
    • 亮点：对Mistral Small 3.1得到视觉能力支持的条件进行了分析。

情感分析

总体情感倾向较为理性和平和。主要分歧点在于Mistral AI对社区的做法，例如既开放权重又未让模型在所有电脑可运行。可能的原因是大家对Mistral AI的期望与它实际的操作之间存在差异，并且不同用户从不同角度（如技术支持、社区友好等方面）去看待Mistral AI的行为。

趋势与预测

  • 新兴话题：随着多模态模型的增多，Llama.cpp需要尽快解决多模态问题可能会成为后续讨论热点。
  • 潜在影响：如果Llama.cpp解决多模态问题，可能会对相关模型在更多设备上的运行和应用产生积极影响，促进相关技术领域的发展。

详细内容：

标题：为何 Gemma3 获首日视觉支持，而 Mistral Small 3.1 没有？

最近，Reddit 上有一个关于 Gemma3 和 Mistral Small 3.1 的热门讨论引起了大家的关注。原帖作者表示，觉得 Mistral 3.1 比 Gemma3 更令人兴奋，但却无法在自己的 AMD GPU 上运行它，感到非常失望。此帖获得了众多点赞和评论。

讨论的焦点主要集中在对 Mistral Small 3.1 模型支持的问题上。有人指出谷歌团队帮助 Gemma3 提前实现了相关功能，而 Mistral 却没有。有用户分享道：“我真的很欣赏 Mistral AI 对开放权重的投入以及他们所做的出色工作。除了给我们一个很好的 Apache 2.0 许可证，他们还鼓励社区进行微调，甚至突出了微调模型DeepHermes。但让人困惑的是，他们没有为社区做最后的关键一步，让模型在每个人的电脑上都能使用和运行。” 还有用户表示从夏天就一直在等待 Pixtral 12B 在 llama.cpp 中的支持。

在讨论中，各方观点各异。有人认为如果 Mistral AI 帮助添加对 llama.cpp 的支持，或者创建自己的引擎，让任何人都能下载并运行量化的 Mistral 模型，那对社区来说将是价值连城。但也有人认为这是开源的，需要大家一起贡献。

总的来说，大家在期待 Mistral Small 3.1 能够获得更广泛的支持，同时也在探讨如何解决当前的困境。但目前，对于这个问题还没有一个明确的解决方案，大家仍在持续关注和讨论中。