原贴链接

对于不了解的人来说，ChatterUI是一个适用于大型语言模型（LLM）的安卓用户界面。你可以用它在设备上运行模型（使用llama.cpp）或者连接到商业/开源API。ChatterUI使用类似Sillytavern的角色卡格式，并为消息格式化方式提供底层控制（例如，采样器、指令格式）。来源：https://github.com/Vali - 98/ChatterUI/releases/tag/v0.8.0嗨，LocalLLaMA！距离上次发布已经有一段时间了，我一直在努力重新设计很多界面以提升用户体验和应用的整体流程。由于我们主要关注本地功能，以下是ChatterUI管理本地模型的主要变化：### 远程和本地模式该应用现在在主选项抽屉中区分了远程和本地模式： - 本地模式允许你在设备上自定义和使用本地模型。 - 远程模式允许你连接到各种支持的API。### 本地模式 - 新增了一个受Pocket Pal启发的新模型列表。这个列表将展示直接从GGUF文件中提取的模型元数据。 - 新增了“外部模型使用”功能 - 这个选项可以添加一个模型，它将从你的设备存储中加载，而不需要复制到ChatterUI中。 - 新增了一个模型设置页面： - CPU设置（最大上下文、线程、批处理）已移至此。 - 本地特定应用设置（聊天时自动加载和保存键值）已移至此。 - 新增了一个“支持量化”部分，以显示与Q4_0_4_8和Q4_0_4_4模型的兼容性。 - 将llama.cpp与较新的版本同步。这也为本地模式引入了XTC采样。### 聊天、角色和用户变更等！这些界面有大量变更，在此不便一一列出。所以为简洁起见，请阅读上述链接中的大小变更。欢迎对应用提供反馈，并在出现问题时提交问题！

讨论总结

这个讨论是关于ChatterUI v0.8.0发布的，主题涵盖应用的功能更新、存在的问题、与其他类似应用的比较、对新版本的期待以及一些功能改进的建议等。既有对应用积极肯定的态度，如在旧手机上也能快速找到应用、对新功能的期待等；也有指出应用问题的，像本地模型页面为空、版本存在崩溃问题等，整体氛围比较务实，大家从不同角度对ChatterUI进行了讨论。

主要观点

  1. 👍 ChatterUI存在本地模型页面为空的问题
    • 支持理由：有用户反馈本地模型页面空白。
    • 反对声音：开发者称全新安装未出现此情况。
  2. 🔥 0.8 beta 5版本和稳定版更新后存在问题
    • 正方观点：有用户反馈进入页面崩溃、更新后有问题。
    • 反方观点：重新安装可解决部分问题。
  3. 💡 Pocketpal用户体验更简单
    • 解释：相比ChatterUI，Pocketpal设置好后不用管，自动格式化。
  4. 💡 ChatterUI给予更多聊天格式化控制
    • 解释：ChatterUI能在聊天格式化处理之前给予更多控制。
  5. 💡 ChatterUI可与商业和开源API一起使用
    • 解释：开发者提到ChatterUI可与多种API协同工作。

金句与有趣评论

  1. “😂 FewMathematician5219: 本地模型页面是空白的。”
    • 亮点：直接指出应用存在的问题。
  2. “🤔 FullOf_Bad_Ideas: 重新安装应用后这个问题解决了，我猜在应用有重大功能更新时，平滑更新还不是优先事项。”
    • 亮点：对重新安装解决问题进行推测性解释。
  3. “👀 —-Val—-: 这很奇怪，我这边全新安装时没有这种情况，我会调查这个问题。”
    • 亮点：开发者对问题的积极回应。
  4. “🤔 Mandellaa: 请添加可从Hugging Face简单下载适合手机的模型列表。”
    • 亮点：提出建设性的功能建议。
  5. “😂 9tetrohydro: Awesome dude I can’t wait to try this version out.”
    • 亮点：表达对新版本的期待。

情感分析

总体情感倾向是积极的。主要分歧点在于应用存在的一些问题，如页面空白、崩溃等，但这些问题并没有影响大家对ChatterUI的整体积极态度。可能的原因是大家看到了应用的潜力，对其功能改进和发展有期待，并且开发者积极回应问题也让用户感到放心。

趋势与预测

  • 新兴话题：根据用户的功能建议，后续可能会对应用功能进行改进，如添加模型下载列表、显示token数量等功能。
  • 潜在影响：如果ChatterUI按照用户建议进行改进，可能会吸引更多用户，提升在安卓LLMs用户界面领域的竞争力，对整个移动客户端支持本地模型的领域发展也有一定的推动作用。

详细内容：

《ChatterUI v0.8.0 发布，引发热烈讨论》

近日，Reddit 上关于 ChatterUI v0.8.0 发布的帖子备受关注，获得了众多用户的点赞和评论。该帖子主要介绍了 ChatterUI 作为一款安卓的 LLMs UI，用户可在设备上运行模型或连接商业/开源的 API，并详细说明了其更新的各项功能。原帖链接为：https://github.com/Vali-98/ChatterUI/releases/tag/v0.8.0 。此帖引发的核心问题是新版本在实际使用中的表现和用户体验。

在讨论中，观点多样。有人反映本地模型页面为空，不过重新安装应用后问题得到解决。还有人表示虽然手机老旧，但仍能快速找到应用，体验不错。有人称赞新增加的外部模型使用选项，认为这对于内存管理不佳的用户很有帮助。同时，也有用户提出了一系列改进建议，如增加可从 Hugging Face 下载适配手机的模型列表、显示生成答案所需的令牌数等。

有人分享个人经历，如在使用 0.8 测试版 5 时遇到页面崩溃，回滚到 0.7.10 版本。有人刚了解到 PocketPal，询问与 ChatterUI 的差异，开发者解释称 Pocketpal 用户体验更简单，而 ChatterUI 能提供更多格式控制，还能与多种 API 配合使用。

讨论中的共识在于大家对应用的发展较为关注，期待不断完善和优化。特别有见地的观点如用户对外部模型使用选项的赞赏，认为这极大地解决了内存问题。而关于应用更新可能导致的一些问题和改进建议，则丰富了讨论的内容。

总的来说，ChatterUI v0.8.0 的发布引发了广泛而深入的讨论，用户在肯定其进步的同时，也期待未来能有更出色的表现。