原贴链接

这基本上是从《矮人要塞》论坛帖子复制粘贴过来的。但那不正是LLM的全部意义所在吗,即使在许多其他方面也是如此…

Layla有了新更新。主要是,你可以抓取“角色扮演”侧应用,让多个角色互相交谈。或者你在那里。或者你作为叙述者。我可能会尝试看看是否能开展一场DnD 5e战役,只是因为我想要看到随之而来的滑稽场面。就像屏保,但更傻。就像SillyTavern,但在你的手机上。而且是本地的,以防它变得奇怪。

还有两个真正快速(就其大小而言)的模型,它们很好地利用了ARM架构。想想,手机和平板电脑之类的东西。甚至是任何Pi。

第一个是Gemma 2(一个相当近期的发布)的2.6’ishB大小,在这里: https://huggingface.co/ThomasBaruzier/gemma-2-2b-it-GGUF/resolve/main/gemma-2-2b-it-Q4_0_4_4.gguf 真的非常快,有很多创造性/描述性的语言使用,但有点傻,有点重复。如果你不介意2k的上下文大小,可以轻松地在3-4GB的RAM上运行。与创意作家角色配合得很好。抱歉直接链接。

另一个是Llama 3.1(也很新)的8B参数大小发布,在这里: https://huggingface.co/gbueno86/Meta-Llama-3.1-8B-Instruct.Q4_0_4_4.gguf 更聪明,但更“标准”。也可以是傻傻的-无限制的,取决于你如何编写你的角色/s。更多在需要4-6GB RAM的领域,但速度相当快。

在ARM设备上,它们比标准桌面计算机版本快大约25-50%。有时甚至更快。对于高端手机,有稍微更快的,但这些几乎可以在任何设备上工作。试试看。除了测试和娱乐之外,我还没有找到LLM的实际用例,但这确实概括了手机上许多计算机游戏娱乐的本质。

((我发这个帖子是为了“我在Reddit上发了5个帖子成就”吗?不,我只是喜欢分享相关信息,即使有时是重复的,就像这个领域的大部分内容一样。有时这一切都变成了更大的整体呕吐物。 (插入《太空球》引用:)=))

讨论总结

Layla移动应用的最新更新主要集中在角色扮演功能的增强和性能优化上。用户对新功能如群聊和多角色互动表示欢迎,并对性能改进和错误修复给予肯定。此外,用户对开发者的积极态度和响应速度表示赞赏。讨论中还涉及了对未来技术发展的乐观态度和对跨平台兼容性的期待。

主要观点

  1. 👍 角色扮演功能更新
    • 支持理由:新增群聊功能和多角色互动,提升用户体验。
    • 反对声音:无明显反对声音。
  2. 🔥 性能和兼容性改进
    • 正方观点:新模型在ARM架构上表现出色,提高效率。
    • 反方观点:无明显反方观点。
  3. 💡 开发者积极态度
    • 支持理由:用户对开发者的积极响应和关心表示赞赏。

金句与有趣评论

  1. “😂 New feature: Roleplay app has been updated to v2: introducing Group Chats!”
    • 亮点:展示了新功能的创新性和趣味性。
  2. “🤔 I’ve never seen a more caring or more responsive dev in my life.”
    • 亮点:强调了开发者对用户体验的重视。
  3. “👀 Now do IOS! Please. Lol”
    • 亮点:幽默地表达了用户对iOS平台支持的期待。

情感分析

讨论总体呈现积极向上的情感倾向,用户对新功能和性能改进表示满意,对开发者的工作给予高度评价。主要分歧点在于对不同平台支持的期待,如iOS平台的用户希望得到同等的更新支持。

趋势与预测

  • 新兴话题:跨平台兼容性和更多创意写作功能的开发。
  • 潜在影响:提升用户体验,扩大Layla应用的用户基础。