原贴链接

似乎没有人再谈论它了。它不在Hugging Chat上，也不在Lmsys Arena上。似乎已经渐渐失去相关性。

讨论总结

这个讨论围绕Llama 3.2 90b - vision不再被提及且似乎失去相关性展开。大家从它在不同平台（如hugging chat、lmsys arena等）的消失情况出发，探讨其背后的原因，包括运行不便、缺乏支持、对普通用户来说体积过大等，也有部分人分享使用体验并与其他模型对比，还有人纠正关于它是否在某些平台存在的信息。

主要观点

  1. 👍 Llama 3.2 90b - vision仍然存在且在MLX支持下Mac用户可本地运行
    • 支持理由：Arkonias指出其在MLX中受支持，Mac用户可本地运行
    • 反对声音：无
  2. 🔥 Llama 3.2 90b - vision不被提及是因为没有针对llamaccp的实现来利用VRAM和RAM扩展
    • 正方观点：Healthy - Nebula - 3603提出其他项目从llamaccp派生所以无法使用该模型是因为缺乏VRAM相关实现
    • 反方观点：无
  3. 💡 Ollama预发布版本对Llama3.2有部分支持，未来可能完善
    • 解释：No - Refrigerator - 1672提到Ollama 0.4.0版本对Llama3.2有支持，未来可能增加90b版本
  4. 💡 Llama.cpp对视觉模型的不支持可能是缺乏有能力的人贡献
    • 解释：Accomplished_Bet_127认为这是个开放项目，缺少有技能的人做贡献
  5. 💡 多数人不需要或不关心视觉模型，倾向于智能的纯文本LLM而非多模态AI
    • 解释：部分评论者表示大多数人更偏好纯文本大型语言模型

金句与有趣评论

  1. “😂 Arkonias：It’s still there, supported in MLX so us Mac folks can run it locally. Llama.cpp seems to be allergic to vision models.”
    • 亮点：明确指出模型在MLX支持下Mac用户可运行且Llama.cpp对视觉模型的不兼容情况
  2. “🤔 No - Refrigerator - 1672：Ollama has llama3.2 support in pre - release 0.4.0 version, currently only for 11b size, but I believe they’ll add 90b after full release.”
    • 亮点：提供了Ollama对Llama3.2的支持情况以及未来发展的预测
  3. “👀 Healthy - Nebula - 3603：So other projects can’t use it as they are derived from llamacpp.”
    • 亮点：解释了其他项目不能使用该模型的原因是派生自llamaccp
  4. “😎 robotphilanthropist: not a good enough model ;)”
    • 亮点：简洁诙谐地表达对模型的负面评价
  5. “🤨 Eugr：Not yet, as llama.cpp doesn’t support vision llama architecture.”
    • 亮点：回答了关于LMStudio能否运行90b的问题并指出原因

情感分析

总体情感倾向比较中性。主要分歧点在于对Llama 3.2 90b - vision的评价，一部分人认为它有其存在价值，如在Mac下可运行，未来可能在某些平台得到完善支持；另一部分人觉得它存在各种问题，如运行不便、过度审查等，导致不再被提及失去相关性。可能的原因是大家从不同的使用场景、技术要求和期望等角度出发看待这个模型。

趋势与预测

  • 新兴话题：视觉模型若得到如Llama.cpp或ExllamaV2等流行后端更广泛的支持是否会变得更流行。
  • 潜在影响：如果视觉模型性能提升、解决现存问题，可能会对多模态人工智能的发展产生推动作用，影响人们对不同类型人工智能模型的选择倾向。

详细内容：

标题：关于 Llama 3.2 90b-vision 的热门讨论

在 Reddit 上，一个题为“ What happened to Llama 3.2 90b-vision?”的帖子引发了众多关注。该帖子指出似乎没人再谈论它，它既不在 hugging chat 上，也不在 lmsys arena 中，仿佛已逐渐失去了热度。此贴获得了大量的评论和讨论。

讨论的焦点主要集中在以下几个方面： 有人表示它仍存在，在 MLX 中得到支持，Mac 用户可在本地运行。也有人称 Ollama 在预发布的 0.4.0 版本中有 llama3.2 支持，虽然目前只有 11b 大小，但相信完整发布后会添加 90b，届时会受到更多关注。还有人认为项目的发展需要有技能和时间的人来贡献，并非是不喜欢视觉模型。有人分享了自己在 Mac 上使用相关模型的经历，如安装库时遇到的困难以及最终的运行效果。对于其性能和应用场景，大家也各抒己见。

比如，有人认为目前的视觉模型在纯 OCR 方面表现不佳，而在文档问答和结构化输出方面表现出色。也有人表示像自己这样的普通用户难以运行如此大的模型。有人提到 vision 模型和 text 模型在工作方式上相似，也有人认为它们在计算需求和速度上存在差异。

特别有见地的观点如：有人认为项目复杂，需要制定指南来处理冲突和检查，以便添加更多功能而不拖慢开发时间。有人指出虽然 Qwen 模型本身未被审查，但在线使用时，询问敏感话题会导致服务中断，引发了关于审查和有害信息的思考。

这场讨论的共识在于大家都在关注和探讨 Llama 3.2 90b-vision 的发展和应用现状。不同的观点和经历丰富了讨论，让我们对这一模型有了更全面的认识。

总之，关于 Llama 3.2 90b-vision 的讨论仍在继续，未来它的发展走向值得我们进一步关注。