原贴链接

大家好!我一直在进行这个项目。这是一个为Ollama和OpenAI兼容API(如Kobold)设计的Web UI,是的,又一个这样的项目。但这个不需要安装,因为它在浏览器中运行API调用,可以直接使用你本地的Kobold/Ollama等模型,无需安装,直接从浏览器中使用。目前,它部署在这里。我添加了亮色和暗色主题,并且我还设计了应用中的每一个图标。希望你们喜欢!任何建议都会被阅读,并可能会得到回复! 主要功能:

  • 发送图片

  • 角色卡片

  • 提示

  • 角色设定

  • 编辑/删除/重新生成消息

  • 所有内容保存在浏览器中

  • 即时更改提示和聊天

image

亮色主题

移动端视图(滑动以打开其他面板)

讨论总结

本次讨论主要聚焦于一个无需安装的远程和本地Web UI项目,该项目支持Ollama和OpenAI兼容的API,如Kobold。用户可以直接在浏览器中运行API调用,使用本地模型而无需安装。项目提供了亮暗主题和自定义图标设计,以及包括发送图像、角色卡片、提示、角色编辑等功能。讨论中,用户们对项目的便利性和创新性表示赞赏,同时也提出了关于数据隐私和安卓设备使用的疑问和建议。

主要观点

  1. 👍 无需安装的便利性
    • 支持理由:用户可以直接在浏览器中使用本地模型,无需安装任何软件。
    • 反对声音:有用户提到市场上已有多个类似项目,但大多数都需要安装。
  2. 🔥 用户体验和设计
    • 正方观点:应用的用户体验现代且舒适,提供了亮暗主题和自定义图标设计。
    • 反方观点:有用户表示不喜欢Kobold的UI。
  3. 💡 数据隐私和收集
    • 解释:用户询问应用是否收集遥测数据,作者回应不收集任何用户数据。
  4. 💡 安卓设备的使用
    • 解释:用户探讨在安卓设备上使用该应用的可能性。
  5. 💡 开源项目的比较
    • 解释:有用户提到另一个类似的单文件开源项目,也支持从浏览器直接连接到自定义API端点。

金句与有趣评论

  1. “😂 Nice, if it doesn’t need a backend you could just deploy it on GitHub pages though as if it’s a documentation site.”
    • 亮点:评论者提出了一个创新的部署方式,增加了项目的可访问性。
  2. “🤔 Hey OP i think youre app is great! The UX is modern and comfortable and like you said it runs in the browser so I don’t have to worry about setting up another front end.”
    • 亮点:用户对应用的用户体验和便利性表示赞赏。
  3. “👀 Cool stuff! Something worth mentioning thought is that the bundled webui that comes with koboldcpp is also a single file no-install open source project.”
    • 亮点:评论者提到了另一个类似的开源项目,增加了讨论的深度。

情感分析

讨论的总体情感倾向积极,用户们对项目的便利性和创新性表示赞赏。主要分歧点在于用户体验和设计方面,有用户表示不喜欢Kobold的UI,而其他用户则认为应用的用户体验现代且舒适。可能的原因是用户对UI设计的个人偏好不同。

趋势与预测

  • 新兴话题:可能会有更多关于如何在安卓设备上使用该应用的讨论。
  • 潜在影响:该项目的无需安装特性可能会吸引更多用户尝试和使用,尤其是在移动设备上。

详细内容:

标题:无需安装的远程和本地 Web UI 引发 Reddit 热议

近日,在 Reddit 上有一则关于无需安装的远程和本地 Web UI 的帖子引起了众多用户的关注。帖子的作者表示自己一直在致力于这个项目,它适用于 Ollama 和 OpenAI 兼容的 API(如 Kobold),而且无需安装,直接在浏览器中运行 API 调用,能使用本地的 Kobold/Ollama 等模型。目前已部署在http://aiui-delta.vercel.app。该 Web UI 具有发送图像、角色卡、提示、角色设定、编辑/删除/重新生成消息、浏览器内保存所有内容、即时更改提示和聊天等功能,并提供了明暗两种主题,所有图标均为作者自行设计。

这篇帖子获得了较高的关注度,引发了一系列热烈的讨论。主要的讨论方向包括对该 Web UI 部署方式的建议、是否收集数据、在移动设备上的使用以及与其他类似项目的比较等。

在讨论中,有人认为这是一个开源的无需安装即可使用本地模型的 Web UI,部署在AIUI (aiui-delta.vercel.app)。有人提出如果不需要后端,可以部署在 GitHub 页面上,比如https://danmoreng.github.io/vue-mandel/,并提供了相关的参考链接https://imgur.com/gallery/llm-playground-X56nSUc

还有用户称赞这个项目很棒,询问应用是否收集遥测数据,作者回应称不收集任何数据,请求在浏览器中完成,是完全本地化的。对于在手机上的使用,作者表示可以在电脑上打开本地服务器并设置手机的公共/私有 IP,也可以尝试使用 Google Collab。

有人提到 Koboldcpp 自带的捆绑 Web UI 也是一个无需安装的开源项目https://github.com/LostRuins/lite.koboldai.net,同样能直接从浏览器连接到自定义 API 端点https://lite.koboldai.net

文章将要探讨的核心问题是:这种无需安装的 Web UI 在实际应用中的优势和可能面临的挑战,以及如何进一步优化和完善以满足用户的更多需求。