原贴链接

我在一台拥有128GB内存的Mac Studio M1 Ultra上使用Ollama和Openweb UI半年了，基本上还算满意。我主要使用Huggingface的不同大语言模型，在文本工作中大多使用参数范围为24B到32B的Q8版本。我也设置了RAG（检索增强生成）。现在我打算在我们新的Mac Mini上安装LM Studio用于一些小任务，我很好奇这个界面是否会更让我感兴趣。你们使用不同系统有什么经验？对苹果用户有什么建议？

讨论总结

原帖作者是苹果用户，分享自己使用Openweb UI的经历并询问大家对不同接口的喜好及原因。评论者们分享了各自在不同任务中使用不同工具的组合和体验，如有的偏爱Openweb UI因其可托管在VPS上实现随处访问，有的更倾向于LM Studio因为其支持MLX速度更快，还有推荐其他组合或应用的，整体氛围积极友好，大家在交流中分享经验和观点。

主要观点

  1. 👍 偏爱Openweb UI
    • 支持理由：可托管在VPS上、能在整个网络及通过VPN访问、是自由开源软件、在智能手机上显示效果不错、具有用户管理功能、可以将其提供给家人朋友团队使用等
    • 反对声音：无
  2. 🔥 根据任务类型选择不同前端
    • 正方观点：如快速一次性问题选Open WebUI，深入探究事物选SillyTavern方便
    • 反方观点：无
  3. 💡 更倾向于LM Studio
    • 支持理由：支持MLX，MLX比其他的快20%
    • 反对声音：无
  4. 👍 推荐AnythingLLM与LM Studio的组合
    • 支持理由：无（只是推荐）
    • 反对声音：无
  5. 💡 推荐Msty应用
    • 支持理由：免费、界面美观、有很多有用功能（网页搜索、知识堆栈RAG等）、免费版包含前端所需大部分功能、自己有资助想法
    • 反对声音：无

金句与有趣评论

  1. “😂 Openwebui because I can host it on a VPS and access it everywhere.”
    • 亮点：简洁地说出偏爱Openwebui的重要原因。
  2. “🤔 如果我需要一个快速的一次性问题的答案，我会去Open WebUI。如果我需要深入探究某些东西，我会去SillyTavern。”
    • 亮点：明确指出根据任务需求选择不同工具。
  3. “👀 LM Studio simply because it supports MLX which is 20% faster.”
    • 亮点：直接阐述偏好LM Studio的关键因素。
  4. “😂 Try Msty (I am not associated with the app). It is free, beautiful, has a bunch of useful features (web search, knowledge stacks RAG, etc.).”
    • 亮点：详细介绍推荐应用的优点并表明无利益关联。
  5. “🤔 我使用llamacpp是因为llamafile不像以前那样经常更新。”
    • 亮点：清楚解释使用llamacpp的原因。

情感分析

[总体情感倾向是积极正面的。主要分歧点在于不同用户对不同接口的偏好，原因是各自的使用需求和体验不同，如有些人注重可访问性和开源性所以偏好Openweb UI，有些人注重速度则倾向于LM Studio]

趋势与预测

  • 新兴话题：[不同接口组合使用的更多可能性以及新应用（如Msty）是否会被更多人关注和使用]
  • 潜在影响：[对苹果用户在选择合适的界面或工具进行相关操作方面有更多参考价值，可能促使相关应用或接口进行功能优化以吸引更多用户]

详细内容：

《苹果用户热议：Openweb UI、LM Studio 等界面谁更优？》

在 Reddit 上，一则关于“Openweb UI、LM Studio 或哪个界面是你的最爱以及原因（针对苹果用户）”的帖子引起了广泛关注。该帖子获得了众多的点赞和大量的评论。原帖中，作者表示自己在配备 128GB 内存的 Mac Studio M1 Ultra 上使用 Ollama 搭配 Openweb UI 已有半年，总体满意，还准备在新的 Mac Mini 上安装 LM Studio。这引发了大家对于不同系统使用体验的热烈讨论。

讨论焦点与观点分析： 有人认为 Openwebui 好，因为可以将其部署在 VPS 上，从而实现随处访问。还有人指出 KoboldCpp 后端结合 Open WebUI 前端对于处理某些任务很有效，对于简单的一次性问题会选择 Open WebUI，而深入挖掘问题时会选择 SillyTavern。对于模型切换，有用户分享说自己作为 Mac 用户，会利用工作流，能一次性加载多个模型，而对于非 Mac 用户，Ollama 可以通过 API 调用包含所需模型的名称来实现热切换，还有像 Llama-swap 这样类似的选择。 有人提到选择 Open-WebUI 是因为它是开源的，可以在整个网络和通过 VPN 访问，在智能手机上的显示效果也好，还能进行用户管理。有人好奇其提到的工具中哪些有用。 有人建议尝试 AnythingLLM 搭配 LM Studio，还有人推荐 Msty，称其免费、美观且功能实用，并提供了相关链接。有人则因为 LM Studio 支持 MLX 且速度快 20%而选择它。也有人使用 llamacpp，因为 llamafile 不像以前那样经常更新，还分享了自己在 NixOS 上的使用经历。还有人将 openwebui 连接到 openrouter 以试用更大的模型，并连接到 LM Studio 用于本地模型。

可以看出，大家对于不同界面的选择各有理由，且各有侧重。有人看重可访问性，有人在意功能特点，也有人关注性能速度。而这些多样的观点和丰富的使用经历，为苹果用户在选择界面时提供了宝贵的参考。