原贴链接

大家好，刚刚在PocketPal（v1.8.3+）中发布了Pals，所以想和大家分享一下。Pals基本上是一个便于管理AI助手和角色扮演系统提示/设置的功能。如果你经常在设备上调整大型语言模型（LLM）的系统提示，我想这应该能为你节省一些时间。#Pals功能包括：定义助手类型：简单系统提示；角色扮演模式：快速创建结构化的角色扮演场景；选择默认模型：为每个Pal指定特定模型，这样当你选择使用它时也会加载该模型；快速激活：直接从聊天输入中选择或切换Pals；系统提示生成：大型语言模型（LLM）也有助于生成系统提示。如果你在编写系统提示时需要帮助，可以在PocketPal中使用大型语言模型（LLM）来生成。我发现Llama 3.2 3B在这方面效果不错。更多详情和使用说明请查看：https://github.com/a-ghorbani/pocketpal-ai/discussions/221。#一如既往，很想听听大家的想法。1. 将PocketPal更新到最新版本。* iOS：目前通过TestFlight：https://testflight.apple.com/join/B3KE74MS；* Android：https://play.google.com/store/apps/details?id=com.pocketpalai；2. 进入Pals屏幕并设置一个助手或角色扮演角色；3. 指定一个模型、系统提示，或使用大型语言模型（LLM）生成一个等；4. 当你需要时在聊天中使用你的Pal。https://reddit.com/link/1ivq82p/video/m2zgersxmqke1/player

讨论总结

这是一个关于PocketPal更新的讨论，涉及多个方面。包括技术相关的模型设置问答、产品功能的询问和建议、应用出现的闪退问题以及用户对更新的认可和期待改进之处等，整体氛围积极且充满对产品的关注与期待。

主要观点

  1. 👍 运行R1 - distills时默认的n - predict值400存在问题
    • 支持理由：会使模型中断回答且不保留思考标记。
    • 反对声音：无。
  2. 🔥 最新版本中n - predict值已提升到1024
    • 正方观点：有助于改善之前的问题。
    • 反方观点：无。
  3. 💡 对于R1 - distills，超过2 - 3轮质量会下降
    • 解释：这是用户在使用过程中的经验总结。
  4. 💡 MLX模型使用速度比gguf快
    • 解释：这是用户根据自身使用体验得出的结论。
  5. 💡 若PocketPal添加类似Ai Dungeon风格的冒险模式和世界信息板块，用户愿意付费使用
    • 解释：用户认可该应用当前成果并期待改进后的更好体验。

金句与有趣评论

  1. “😂 那是个好问题。在最新版本中，400已经增加到1024。”
    • 亮点：直接回答了关于n - predict值提升的问题。
  2. “🤔 对于R1 - distills，我通常不会超过2 - 3轮，因为质量会下降。”
    • 亮点：分享了使用R1 - distills的经验。
  3. “👀 I updated it but as soon I open the app it disappears! using Nova 5T with android 10.”
    • 亮点：明确指出应用闪退的设备和情况。

情感分析

总体情感倾向积极，大部分用户对PocketPal的更新表示认可、期待或积极反馈问题。主要分歧点在于技术设置方面的不同看法，但这也是正常的技术交流讨论。可能的原因是用户对产品有兴趣，希望产品不断改进优化。

趋势与预测

  • 新兴话题：可能会继续围绕添加新功能（如MLX模型、冒险模式、世界信息板块、上传照片和PDF功能）展开讨论。
  • 潜在影响：如果按照用户期望进行改进，可能会增加产品的用户数量和用户满意度，在相关应用领域获得更好的口碑。

详细内容：

《PocketPal 更新引发Reddit热议》

在Reddit上，一则关于“PocketPal Update: Roleplay & AI Assistant Management Made Easy”的帖子引起了众多关注。该帖子介绍了PocketPal（v1.8.3+）新推出的“Pals”功能，称其能更方便地管理AI助手和角色扮演系统的提示/设置。此帖获得了较高的关注度，引发了热烈讨论。

讨论的焦点主要集中在以下几个方面： 有人提到了关于模型设置的问题，比如在运行R1 - distills时，默认的n - predict为400常导致思考模型中断回答，而最新版本已将其增加到1024。还有人探讨了温度设置为0是否有助于更好的推理。 有人询问思考令牌是否包含在聊天的上下文中，如果因为太长未包含，能否实现某种“总结”功能。有人回应称总结功能的实现需要更多工作，但可以考虑增加一个设置让用户决定是否保留思考令牌。 有人询问该功能是否适用于标准角色卡，以及Pocketpal在iOS上是否支持MLX模型，开发者表示目前尚未支持，但未来可能会添加。 也有人对此次更新表示赞赏，认为如果能增加某些特定的冒险模式，愿意付费使用。同时，还有用户反馈更新后出现应用打开即消失的问题，开发者称正在解决，最终问题得以解决。

在这场讨论中，大家各抒己见，为PocketPal的发展提供了多样的思路和建议。