有什么新内容?创造力得到提升,讲故事的流程稍有不同,具有环保意识,倾向于在故事中加入一些未被提示的元素。
我在我的社区服务器上对这两个模型进行了一段时间的测试,在粉丝的压力下将它们作为下一个迭代版本发布。你可以在模型卡片中阅读他们的反馈以了解详情。
Cydonia 22B v1.2:[https://huggingface.co/TheDrummer/Cydonia - 22B - v1.2](https://huggingface.co/TheDrummer/Cydonia - 22B - v1.2)(又名v2k)
GGUF:[https://huggingface.co/TheDrummer/Cydonia - 22B - v1.2 - GGUF](https://huggingface.co/TheDrummer/Cydonia - 22B - v1.2 - GGUF)
v1.2更好了。我的天。你的数据集太棒了。我使用这两个模型进展不大,因为我得不断离开我的电脑去降温。🥵
Behemoth 123B v1.1:[https://huggingface.co/TheDrummer/Behemoth - 123B - v1.1](https://huggingface.co/TheDrummer/Behemoth - 123B - v1.1)(又名v1f)
GGUF:[https://huggingface.co/TheDrummer/Behemoth - 123B - v1.1 - GGUF](https://huggingface.co/TheDrummer/Behemoth - 123B - v1.1 - GGUF)
对我来说,少数能做到这一点的其他模型是OG Command R 35B。所以看到Behemoth v1.1有类似的感觉,但具有更高的通用智能,这真的让它成为我的最爱。
讨论总结
这个帖子是关于作者发布的两个新版本模型Drummer’s Behemoth 123B v1.1和Cydonia 22B v1.2 - Creative Edition。评论者们的主要话题围绕着这两个模型展开,大多表达出积极的态度,包括对之前版本的肯定、对新版本的期待、感谢作者的努力等,同时也有一些评论者分享了自己使用模型的体验,以及在使用过程中遇到的问题等。
主要观点
- 👍 之前版本的Behemoth 123b表现很棒
- 支持理由:评论者明确表示之前版本表现出色。
- 反对声音:无。
- 👍 对新的Cydonia模型表示期待
- 正方观点:评论者表示新模型像是收到的圣诞礼物。
- 反方观点:无。
- 👍 Behemoth模型有很好的整体输出
- 支持理由:有评论者分享使用体验称其表现出色。
- 反对声音:无。
- 🔥 在Sillytavern中,Meth模板的输出效果优于Mistral模板
- 正方观点:评论者Konnect1983通过自己的使用体验得出该结论。
- 反方观点:无。
- 💡 弄坏Cydonia可能与KCPP有关而非微调问题
- 解释:GraybeardTheIrate根据自己的使用情况提出该观点。
金句与有趣评论
- “😂 Your former Behemoth 123b was splendid!”
- 亮点:直接表达对之前版本的肯定,简洁明了。
- “🤔 A new Cydonia model to try? What is this? Christmas? Thank you!”
- 亮点:用形象的比喻表达对新模型的期待。
- “👀 Behemoth is phenomenal.”
- 亮点:简洁有力地评价Behemoth模型。
- “😉 I love Cydonia so much.”
- 亮点:直白地表达对Cydonia的喜爱。
- “🤓 The base model was great but this version feels juicier and smarter.”
- 亮点:对比新旧版本,肯定新版本。
情感分析
总体情感倾向为积极。主要分歧点较少,大部分评论者都对模型表示肯定、期待等积极态度,可能是因为对新发布的模型抱有希望,以及对作者之前工作的认可。
趋势与预测
- 新兴话题:关于模型在不同模板下的表现可能会引发更多讨论。
- 潜在影响:如果关于模型故障是由KCPP引起的这个观点被证实,可能会影响人们对KCPP的使用和对模型调试方向的判断。
详细内容:
《Drummer 新模型引发的热烈讨论》
近日,Reddit 上一篇关于“Drummer’s Behemoth 123B v1.1 和 Cydonia 22B v1.2 - Creative Edition!”的帖子引发了众多关注。该帖子介绍了这两个新模型的一些特点,比如提升了创造力、改变了讲故事的流程、具有环保意识,还会在故事中加入一些未提示的元素。帖子获得了大量点赞和众多评论。
主要的讨论方向集中在新模型的使用体验、性能表现以及相关的设置问题等。
讨论焦点与观点分析: 有人表示,“你的前一个 Behemoth 123b 很棒!希望这个 v1.1 版本也能大放异彩。”有人惊喜道:“新的 Cydonia 模型可以尝试?这是圣诞节吗?谢谢!” 还有人询问:“对于在租用的 A6000 上使用 Behemoth 几个小时,Koboldcpp 的最佳设置有什么建议?” 有人分享说:“我在 Runpod 中使用 Q8 和 3 张卡。只选择 spot pods 那个,因为可以通过它以更低的价格竞标。”还有人认为:“Exl2 加上大约 2.7 或 2.8 的 sub 3 bpw 应该合适。它低于 48g 的限制,还有一些空间用于上下文。” 有人提到:“我用 48GB VRAM 和 IQ 2M 量化来运行它。使用 Q4 缓存,平均每秒 16 次,上下文 16k。即使在这个小量化下,它也是完全连贯的,是我尝试过的最好的本地 RP 模型。” 有人称:“Behemoth 现象级的。与 Mistral 模板相比,我在 Meth 方面体验到了更好的整体输出。” 有人表示:“我非常喜欢 Cydonia,我大量使用 22B 版本,它的表现非常出色。”但也有人说:“我搞坏了新的 Cydonia,不知道怎么回事。我认为这与您的微调无关,可能是 KCPP 的问题。” 还有人详细分享了与模型交流过程中的一些具体经历。
在讨论中,大家对于新模型的性能和表现看法不一,但都积极分享自己的使用经验和见解,为其他用户提供了有价值的参考。
感谢您的耐心阅读!来选个表情,或者留个评论吧!