原贴链接

目前最好的RP模型和从llama 3.1或mistral nemo微调是什么？

讨论总结

本次讨论主要聚焦于当前最佳的RP（角色扮演）模型及其微调版本的选择和使用体验。社区成员积极分享了他们对不同模型的个人偏好和推荐，包括Midnight Miqu 1.5 70B、Nemo gguf、Magnum V2、Gemma2等。讨论中涉及模型的创意性、乐趣体验、处理黑暗内容的能力、以及在特定场景下的表现等多个方面。此外，还有一些用户分享了他们对新模型的期待和对现有模型的持续喜爱。整体来看，讨论氛围积极，社区成员对模型的选择和使用有着浓厚的兴趣。

主要观点

  1. 👍 Midnight Miqu 1.5 70B 模型非常具有创意和乐趣
    • 支持理由：尽管不是最智能的，但该模型在处理黑暗或NSFW内容时表现出色，且没有正面偏见，能够表现出不一致性。
    • 反对声音：目前没有其他模型能在乐趣方面与之匹敌。
  2. 🔥 Nemo gguf 与 koboldcpp 配合使用体验良好
    • 正方观点：作者自从使用 Nemo gguf 与 koboldcpp 后，就再也没有使用过 l3 模型。
    • 反方观点：作者提到了 anthracite-org 的 Magnum 12b 模型，虽然响应较长且适合故事讲述，但他们仍然偏好基础模型。
  3. 💡 New Dawn 70B 和 Llama 3.1 70B 的合并模型即将发布
    • 作者认为这个新模型表现良好，并正在将其上传至 Hugging Face，预计明天发布。
    • 已有用户对新模型表示期待和感谢。
  4. 👀 mini Magnum 和 Magnum V2 是最好的 Nemo 微调模型
    • 这些模型在连贯性和散文方面优于 8B 级别的 Stheno。
    • 作者尚未找到理想的设置。
  5. 🚀 Starcannon V3 12B 被推荐为最佳RP模型
    • 推荐使用“Starcannon V3 12B”作为最佳RP模型。

金句与有趣评论

  1. “😂 Mr_Hills：I’m still using midnight Miqu 1.5 70B because despite not being that smart it’s still the most creative and fun model out there.”
    • 亮点：强调了Midnight Miqu 1.5 70B模型的创意和乐趣。
  2. “🤔 J-IP：Ever since Nemo gguf’s has been working with koboldcpp those have been the only one’s I touched, made me drop l3 so haven’t tried 3.1 really.”
    • 亮点：分享了Nemo gguf与koboldcpp配合使用的体验。
  3. “👀 sophosympatheia：I’m on the verge of releasing a new merge between New Dawn 70B and Llama 3.1 70B that I think came out nicely.”
    • 亮点：预告了即将发布的新合并模型。

情感分析

讨论的总体情感倾向积极，社区成员对不同模型的使用体验和推荐表现出浓厚的兴趣。主要分歧点在于不同用户对模型的偏好和推荐，以及对新模型的期待。可能的原因包括个人使用体验、硬件限制、以及对模型性能的不同期望。

趋势与预测

  • 新兴话题：新合并模型的发布可能会引发后续讨论，特别是关于其性能和适用场景的探讨。
  • 潜在影响：对RP模型的持续优化和改进可能会对相关领域或社会产生积极影响，特别是在角色扮演和创意内容生成方面。

详细内容：

标题：关于最佳 RP 模型与微调的激烈讨论

在 Reddit 上，一篇题为“ What is currently the best RP model & finetune from llama 3.1 or mistral nemo? ”的帖子引发了众多用户的热烈讨论。该帖子获得了大量的关注，评论数众多，大家围绕着当前最佳的角色扮演（RP）模型及微调展开了深入探讨。

讨论焦点主要集中在不同模型的优缺点以及个人的使用体验上。有用户表示，尽管午夜米奎（Midnight Miqu）1.5 70B 可能不是最智能的，但它却是最具创意和趣味性的模型，在趣味性方面， llama 3.1 的微调都无法与之相比。还有用户提到，自己用午夜米奎来创作各种内容，如环境描述、日记、角色背景故事和睡前故事等。

有用户认为 123B 米斯特拉尔大型 2 系列是目前最好的模型，也有人提出能否将其与午夜米奎合并。对于能否用 LoRA 微调米奎 1.5 70B ，也有用户提出了疑问。

有人分享说，自从使用了 Nemo gguf 与 koboldcpp ，就不再尝试 llama 3 了，同时指出其他 Nemo 模型在某些方面去除了基础模型的灵活性。

也有用户即将发布新黎明（New Dawn）70B 与 llama 3.1 70B 的新合并版本，引发了大家的期待。

还有用户认为迷你马格南（mini Magnum）和马格南 V2 是最好的 Nemo 微调，而另一些用户则认为星炮（Starcannon）存在降级问题。

有人坦言，目前真正出色的 RP 模型只有午夜米奎和尤里尔（Euryale），但它们是 70B 模型，许多人无法运行。

在众多观点中，有人认为对于写作而言，特定的一些模型在不同规模上表现出色。也有人指出不同模型在不同场景下的优势和不足，如 Gemma2 在特定互动场景中的出色表现，以及 Llama 3 系列在某些方面的局限性。

这场讨论充分展现了大家对于寻找最佳 RP 模型的热情和探索，不同的观点和经验分享为广大爱好者提供了丰富的参考和思考。但究竟哪个模型才是真正的最佳选择，或许还需要根据个人的需求和实际使用情况来判断。