原贴链接

这是一个指向https://huggingface.co/TheDrummer/Anubis-70B-v1的链接,可能与名为Anubis 70B v1(基于Llama 3.3 RP微调)的模型相关资源有关。

讨论总结

主题围绕Drummer’s Anubis 70B v1模型展开。有用户分享使用体验、推荐其他模型、对其优秀之处存疑、探讨评估标准和角色扮演相关概念,还有人对模型命名政策提出疑惑、询问模型是否支持ERP,也涉及智能手机运行大型语言模型的相关讨论,整体氛围积极且话题多元。

主要观点

  1. 👍 提供了相关模型的GGUF链接和提示链接
    • 支持理由:原评论直接给出相关链接。
    • 反对声音:无。
  2. 🔥 模型在对齐方面表现出色,能按指令执行奇特任务
    • 正方观点:TroyDoesAI分享了自己使用模型的体验。
    • 反方观点:无。
  3. 💡 有其他模型可推荐,对Anubis - 70B - v1优秀之处存疑
    • 解释:uti24推荐了Beepo - 22B模型并对Anubis - 70B - v1提出疑问。
  4. 💡 Anubis是最好的本地AI角色扮演模型
    • 解释:Kako05认为Anubis在角色模仿和行文方面表现出色。
  5. 💡 评估不能完全说明模型情况
    • 解释:TroyDoesAI认为评估不能说明全部问题。

金句与有趣评论

  1. “😂 TroyDoesAI:Got to play around with your model this morning, it’s really something in terms of its alignment:”
    • 亮点:直接分享使用模型后的积极感受。
  2. “🤔 Kako05:Anubis is best RP local AI model you can get.”
    • 亮点:明确表达对Anubis模型在角色扮演方面的高度认可。
  3. “👀 tucnak:If they’re fine - tuning for RP, there should be a RP eval that they follow during training.”
    • 亮点:提出角色扮演训练应遵循评估标准的观点。
  4. “🙄 Infinite - Calendar542: I am waiting for LLM running on smartphones are there any?”
    • 亮点:提出关于智能手机运行LLM的疑问。
  5. “😎 s101c: The new iPhones already handle 7B easily, 9B too. Performance almost matches Macbook Air M1.”
    • 亮点:提供新iPhone处理模型的性能情况。

情感分析

总体情感倾向积极,大部分评论都是在积极探讨模型相关话题,如分享使用体验、提供建议等。主要分歧点在于对Anubis - 70B - v1模型是否优秀存在不同看法,可能是因为不同用户的使用需求和测试标准不同。

趋势与预测

  • 新兴话题:智能手机运行大型语言模型可能会成为后续更多讨论的话题,随着手机性能的提升,可运行模型规模的变化值得关注。
  • 潜在影响:对AI模型在不同设备上的应用开发有潜在影响,也可能影响用户对模型的选择和使用场景。

详细内容:

标题:Drummer’s Anubis 70B v1 引发的热门讨论

在 Reddit 上,一个关于“Drummer’s Anubis 70B v1 - A Llama 3.3 RP finetune!”的帖子引起了广泛关注。该帖子提供了链接 https://huggingface.co/TheDrummer/Anubis-70B-v1 。此帖收获了众多点赞和大量评论,引发了热烈的讨论。

讨论的主要方向集中在对这款模型的评价和比较,以及相关的个人体验和思考。

有人认为 Anubis 是目前能获取的最佳本地 AI 模型,比如[Kako05]表示,它比之前的 123b 等模型更出色,尤其是在人物模仿和行文方面。有人还提到 Llama3.3 方向正确,而 Drummer 在此基础上做出了改进,其人物模仿能力很强,行文有趣,是第一个让人在角色扮演(RP)中感到有趣且听起来很像人类的本地 AI 模型,尽管它并非完美无缺,但仍是当下本地 RP 的最佳选择。

[TroyDoesAI]分享了自己的使用经历,早上试用了这个模型,对其在对齐方面印象深刻,比如让它写了一个关于食人谋杀悬疑以销毁证据的故事,对其可操作性和遵循指令的能力表示赞赏。

也有人提出了一些有趣或引发思考的观点。[uti24]提出疑问,Anubis-70B-v1 到底是真的好还是只是未审查这一点令人印象深刻。[tucnak]认为如果是为 RP 进行微调,应该有一个 RP 评估在训练中遵循,否则说明不知道自己在做什么,模型可能已严重退化。

同时,关于本地 AI 模型在智能手机上的应用也有所讨论,有人认为 1B - 3B 标记的模型可以在现代智能手机上运行,新 iPhone 甚至能轻松处理 7B、9B,性能几乎能与 Macbook Air M1 相媲美。

总的来说,这次讨论展示了大家对 Anubis 70B v1 模型的浓厚兴趣和多样看法,同时也反映了人们对于本地 AI 模型发展的关注和期待。