原贴链接

难过：Meta只发布了8B和70B模型，没有13B的。我的硬件能轻松处理13B模型，8B感觉有点小，而70B对我的设备来说又太大了。这个范围内你们常用的模型有哪些？

讨论总结

原帖作者由于硬件条件适合13B模型，寻求该类型模型的推荐。评论者们纷纷给出自己的推荐，包括Qwen2.5 14b、Mistral Nemo（13B或12B）、Gemma - 2等模型，还阐述了不同模型的特点，如Qwen在编码和基准测试方面表现较好、Mistral模型遵循指令能力强、Gemma遵循系统提示等。整个讨论氛围积极，大家在互相提供有用的信息。

主要观点

  1. 👍 推荐Qwen2.5 14b作为合适的模型。
    • 支持理由：没有明确阐述，可能是大家的使用经验或者对该模型性能的认可。
    • 反对声音：无。
  2. 🔥 模型推荐取决于使用场景。
    • 正方观点：不同的使用场景下模型各有优劣，如Qwen在情景角色扮演中有不足，Mistral模型遵循指令能力强等。
    • 反方观点：无。
  3. 💡 Mistral Nemo更具通用性。
    • 解释：与Qwen对比，在一些综合使用场景下Mistral Nemo表现出更好的通用性。
  4. 💡 Qwen在编码和基准测试方面表现佳。
    • 解释：部分评论者基于使用经验或者测试结果得出此结论。
  5. 💡 Gemma - 2模型能明确遵循系统提示。
    • 解释：评论者GutenRa提到自己使用该模型时发现这一特点。

金句与有趣评论

  1. “😂 banerlord: Qwen2.5 14b”
    • 亮点：这是最早被推荐的模型，且得到较多人的认可，比较简洁地给出推荐。
  2. “🤔 GutenRa：Still on Gemma - 2. It is a model that clearly follows the system prompt.”
    • 亮点：提供了Gemma - 2模型的特点，有助于原帖作者进行选择。
  3. “👀 martinerous: Depends on the use case. Every model seems to have its weak spots.”
    • 亮点：从比较全面的角度看待模型推荐，提醒原帖作者要根据使用场景来选择。

情感分析

总体情感倾向是积极的，大家都在积极地给原帖作者推荐合适的模型，并分享自己的使用经验和对模型特点的看法。主要分歧点较少，可能存在的一点小分歧是对于某些模型的评价略有不同，比如对Qwen模型的评价既有优点也有不足的指出，但这也是正常的讨论范围，原因是不同的用户对模型的使用场景和要求不同。

趋势与预测

  • 新兴话题：可能会引发后续关于不同模型在特定场景下更深入的性能对比讨论。
  • 潜在影响：对那些正在寻找合适模型的用户有很大的帮助，能让他们在众多模型中根据自己的硬件和使用场景做出更合适的选择。

详细内容：

标题：当前通用 13B 模型的推荐引发热议

在 Reddit 上，有一个帖子引起了众多关注，标题为“[D] Recommendation for general 13B model right now?”。原帖中，发帖者无奈表示：Meta 只发布了 8B 和 70B 模型，没有 13B ，自己的硬件能轻松处理 13B 模型，8B 感觉有点小，而 70B 对自己的设置来说又太大了，想知道大家在这个范围内都选择什么模型。此帖获得了众多回复，引发了广泛讨论。

在讨论中，主要观点如下： 有人推荐 Qwen2.5 14b，如用户表示：“Qwen2.5 14b”。 也有人提到 Mistral Nemo 12B ，例如[carnyzzle] 说：“Mistral Nemo 12B” 。还有[jacek2023] 提供了链接https://huggingface.co/bartowski/Mistral-Nemo-Instruct-2407-GGUF/tree/main ，表示“…also Mistral Nemo is 13B” 。

对于不同模型，大家看法不一。有人认为 Qwen 擅长交流，但在处理大量数据时答案中常出现汉字，如[GutenRa] 提到：“Qwen 是好的交流者，但在大量数据处理时，答案常使用汉字。”

有人觉得不同模型各有优劣，像[martinerous] 指出：“Qwen 擅长编码和当助手，但在基于场景的角色扮演中存在‘个性问题’。Mistral 模型通常更擅长严格按照不寻常或违反直觉的分步指令执行。Gemma 也相当不错，但有一些格式上的怪癖。”

也有人关注硬件条件，比如[Few_Painter_5588] 问道：“你的硬件是什么？因为 8b 和 70b 之间差距巨大。”

讨论中的共识在于大家都在积极分享自己的见解和经验，以帮助发帖者找到适合的模型。而争议点在于对于不同模型的优劣评价因人而异，取决于具体的使用场景和需求。

总之，关于通用 13B 模型的选择，Reddit 上的讨论丰富多样，为有类似需求的人提供了多种参考和思考方向。