原贴链接

大家好，我在 PocketPal 中添加了 Qwen 2.5 1.5B (Q8) 和 Qwen 3B (Q5_0) 版本。如果你有兴趣在手机上尝试它们，请看这里：

非常欢迎大家对应用的反馈！请随时分享你的想法或报告任何问题：https://github.com/a-ghorbani/PocketPal-feedback/issues。我会尽量抽时间解决这些问题。

image

https://preview.redd.it/41nsp8m4hspd1.png?width=1290&format=png&auto=webp&s=19bfcc7a2badba6ec2e5c710e977f71c70543f8f

讨论总结

本次讨论主要围绕PocketPal应用中新增的Qwen 2.5 1.5B和3B量化版本展开。用户普遍对新功能的添加表示赞赏，并提出了一些改进建议，如增加语音转文字功能、优化设置选项、改进UI设计等。讨论中还涉及了应用程序的性能表现、隐私保护以及在不同设备上的兼容性问题。总体而言，讨论氛围积极，用户对新功能表示兴奋，同时也期待更多的优化和改进。

主要观点

  1. 👍 Qwen 2.5 1.5B和3B量化版本运行良好

    • 支持理由：用户普遍反馈新版本在手机上运行流畅，性能表现出色。
    • 反对声音：无明显反对声音，但有用户提出了一些优化建议。

  2. 🔥 建议增加语音转文字功能

    • 正方观点：用户认为语音转文字功能可以提升应用的实用性。
    • 反方观点：开发者表示已考虑该功能，但尚未有时间进行研究。

  3. 💡 优化设置选项和UI设计

    • 解释：用户提出了一些关于设置选项和UI设计的改进建议，如增加“More”按钮、优化键盘滑动功能等。

  4. 🌟 关注隐私保护

    • 解释：有用户询问是否所有数据都在本地处理，担心隐私问题。

  5. 🚀 讨论不同设备上的性能表现

    • 解释：用户分享了在不同设备上的使用体验，特别是旧款手机和Android设备上的性能表现。

金句与有趣评论

  1. “😂 Works great! Good job!”

    • 亮点：简洁明了地表达了对新功能的满意和认可。

  2. “🤔 How many tokens per second on an older phone? I’m on an iPhone XS lmao”

    • 亮点：用户对在旧款手机上的性能表现表示好奇，期待实际体验分享。

  3. “👀 Please change the icon for the app.”

    • 亮点：用户对应用图标设计提出了建议，显示了对细节的关注。

  4. “🌟 This is really neat, thanks.”

    • 亮点：用户对新功能表示赞赏，并提出了关于隐私保护的问题。

  5. “🚀 I’m getting almost 4 tokens per second on my Redmi Note 8 Pro with Qwen-2.5-3B—it’s amazing to have a local, open-source LLM in my pocket!”

    • 亮点：用户分享了在Redmi Note 8 Pro上的出色体验，强调了本地开源模型的优势。

情感分析

讨论的总体情感倾向积极，用户普遍对新功能的添加表示赞赏和兴奋。主要分歧点在于功能改进和优化建议，如语音转文字功能的添加、设置选项的优化等。这些分歧主要源于用户对应用的更高期望和实际使用中的体验反馈。

趋势与预测

  • 新兴话题：未来可能会围绕更多量化版本的添加、性能优化、隐私保护等方面展开讨论。
  • 潜在影响：新功能的添加和优化将进一步提升PocketPal应用的用户体验，吸引更多用户尝试和使用。同时，隐私保护和性能优化将成为用户关注的重点，开发者需要持续关注并改进。

详细内容：

标题：Qwen 2.5 加入手机应用 PocketPal 引发热烈讨论

近日，一则关于在手机应用 PocketPal 中添加 Qwen 2.5 1.5B（Q8）和 Qwen 3B（Q5_0）的帖子在 Reddit 上引起了广泛关注。该帖子获得了众多用户的点赞和评论。

帖子中，开发者分享了应用的下载链接，包括 iOS 和 Android 版本，并欢迎用户反馈问题和分享想法，同时提供了反馈问题的链接。

讨论的焦点主要集中在以下几个方面： 有人称赞应用很酷，并询问是否考虑添加语音转文字功能以及能否通过设置修改系统提示。开发者表示有想过添加语音转文字，但还没时间研究。 有人对应用在安卓设备上的快速表现感到惊讶，并探讨了其是否利用了某种硬件加速。有用户认为应用可能使用了 llama.rn ，并指出其在硬件加速方面的情况。 有人提出关于设置中的一些问题，如上下文大小的设置限制以及其含义，开发者对此进行了解释。 有人询问应用是否支持 NPUs，开发者表示需要进一步检查。 还有用户反馈了应用的一些 bug，如界面显示问题、崩溃问题等，开发者表示会关注和改进。

比如，有用户表示在 iPhone 15 pro 上不清楚 Metal 切换和 GPU 卸载的设置，开发者给出了相应解释。还有用户反馈长答案有时会中断需要输入“continue”才能继续生成，建议添加“More”按钮。也有用户提出删除聊天记录、更改应用图标、优化本地模型设置等问题。

总的来说，PocketPal 应用获得了不少用户的好评，但也存在一些需要改进和优化的地方。未来开发者如何解决这些问题，值得我们期待。