原贴链接

我已经下载了很多模型，现在到了需要扩展存储空间来继续尝试的阶段。在学习和聊天之间度过了很愉快的时光，但我很好奇——你们大家一般用于聊天或者角色扮演最喜爱的模型是什么呢？我不是特指成人内容（NSFW）方面的……我自己不感兴趣，但差不多是这个意思。一旦运输（可能是指购买的硬件运输之类的）问题解决，我就有了所需的风扇，能让我的其他GPU重新上线，这样我就可以自己做更多的训练并定制角色了。我发现构建角色非常有趣。

讨论总结

原帖询问大家最喜欢的聊天或角色扮演模型，评论者们根据自己的经验和使用情况推荐了不同的模型，如Mistral Small 22B、Llama 3.3 70B、Cydonia、Cydrion、Mistral Large等，并针对各模型的特点、优势、劣势以及运行时的硬件需求等方面进行了分享和交流，整个讨论氛围积极友好，充满了模型爱好者的分享精神。

主要观点

  1. 👍 Mistral Small 22B适合角色扮演
    • 支持理由：有较好的空间与情境感知，比12B及以下的角色扮演模型好，在Q6适配单个3090且有达32k语境
    • 反对声音：无
  2. 🔥 Llama 3.3 70B重度量化后仍是很好的模型
    • 正方观点：虽然经过审查但绕过审查容易，即便重度量化后仍为使用过的最佳模型
    • 反方观点：无
  3. 💡 22b是在3090设备上能运行的较好尺寸
    • 解释：评论者在自己3090设备上运行模型的经验得出此结论
  4. 💡 通常更大的模型更好，但硬件会限制选择
    • 解释：在理想情况下更大模型有优势，但受限于硬件条件只能选择小模型
  5. 💡 早期小模型表现不佳，现在情况改善
    • 解释：随着技术发展，小模型的表现有了进步

金句与有趣评论

  1. “😂 Mistral Small 22B is the best for roleplay.”
    • 亮点：直接表明Mistral Small 22B在角色扮演方面的优势
  2. “🤔 Personally, I find base mistral 22B is better than any of the finetunes, they tend to be lobotomized and horny to the point of irrationality.”
    • 亮点：对基础版和微调版Mistral 22B做出独特对比评价
  3. “👀 Llama 3.3 70B. It’s censored, but it’s easy to get around and fine tuning/decensoring kills the quality.”
    • 亮点：指出Llama 3.3 70B模型审查相关的特殊情况
  4. “💡 Bigger model usually better, but realistically, with my hardware I can run with acceptable speed only smaller models.”
    • 亮点：反映出模型选择受硬件限制的现实情况
  5. “😎 Gemma 2 27B - first fantastic smallish model, very smart and following instructions exceptionally well”
    • 亮点：强调Gemma 2 27B的优点

情感分析

总体情感倾向为积极正面，大家都在积极分享自己认为好的模型。主要分歧点较少，基本都是各自阐述推荐模型的优点，可能是因为大家都处于模型爱好者的交流分享情境下，更关注于表达自己的使用体验和推荐理由。

趋势与预测

  • 新兴话题：可能会有更多关于不同模型在不同硬件条件下量化情况的讨论。
  • 潜在影响：有助于新手在选择聊天或角色扮演模型时根据自己的硬件条件做出更合适的选择。

详细内容：

标题：热门探讨——您最爱的聊天或角色扮演模型是什么？

在 Reddit 上，一则关于各种聊天或角色扮演模型的讨论引起了广泛关注。该帖子询问大家在众多模型中，用于日常聊天或角色扮演时最喜欢的是哪款。帖子发布后获得了大量的点赞和众多的评论。

讨论的焦点主要集中在不同模型的特点和优势上。有人认为 Mistral Small 22B 是角色扮演的最佳选择，它在空间和情境感知方面表现出色，且基础模型优于微调版本。有人则提到 Llama 3.3 70B ，尽管存在审查问题，但易于处理，即使经过重度量化仍表现出色。还有人分享了自己使用不同模型的经历，比如 Gemma 2 27B 、CommandR 35B 等。

有用户表示：“我觉得 Pantheon 微调版在语言感觉上比基础的 M 小模型更好，但我可能错了。”也有人提出疑问：“我不太确定什么是 MOE 模型，我有 16GB 的 Vram 和 64 Sys Ram ，人们说的 22B 实际上是不是要 100+？”

讨论中的共识在于大家都在积极探索适合自己的模型，并交流使用过程中的感受和经验。特别有见地的观点是，对于角色扮演来说，一些模型在空间和情境感知方面的优势能够弥补其在语言表达上的不足。

总之，这场关于聊天和角色扮演模型的讨论，充分展示了大家对于模型选择的多样性需求和深入思考。