原贴链接

我正在研究本地LLM的使用，其中一件事我了解到的是支出分类和预算管理，我发现这非常有趣，并产生了一个想法。 我还可以用本地LLM做些什么呢？可能是提高生产力或任务自动化，或者创建我自己的自定义工作流程。

讨论总结

本次讨论主要围绕如何利用本地大型语言模型（LLM）作为个人助手和自动化工具，提升个人生产力和工作效率。参与者分享了多种工具和应用场景，如使用SillyTavern和Mixtral Dolphin创建专家角色，通过Open WebUI进行模型定制，以及利用Activepieces等无代码工具设计自动化流程。讨论中还涉及了如何通过LLM实现任务自动化、知识获取和习惯跟踪等具体应用。总体而言，讨论展示了LLM在个人工作流程中的广泛潜力和多样化的应用方式。

主要观点

  1. 👍 使用SillyTavern和Mixtral Dolphin创建专家角色
    • 支持理由：通过本地LLM实现个性化的任务自动化和知识获取，提升个人生产力。
    • 反对声音：无明显反对声音。
  2. 🔥 Open WebUI易于上手，提供丰富的定制选项
    • 正方观点：可以通过更改模型名称、图片和参数来定制模型，适合任务自动化和定制化。
    • 反方观点：可能不如Silly Tavern那么可定制，但已经足够满足大部分需求。
  3. 💡 本地LLMs适合个人工作流程自动化
    • 支持理由：可以构建自定义任务提醒、自动化重复性任务和跟踪习惯，推荐使用Activepieces工具。
  4. 🚀 想象力是利用本地LLM的唯一限制
    • 支持理由：只要能想象到的事情，就可以通过LLM实现，评论者正在从社区中汲取灵感。
  5. 🛠️ 推荐使用Dify和n8n这两个无代码工具
    • 支持理由：这两个工具与LLM有良好的集成，适合用于个人助理或个人工作流程自动化。

金句与有趣评论

  1. “😂 Sand-Discombobulated：I use SillyTavern and have my own expert coder, chef, health expert, and historian.”
    • 亮点：展示了如何通过本地LLM创建多个专家角色，提升个人生产力。
  2. “🤔 solarlofi：Open WebUI 易于上手，提供丰富的定制选项。”
    • 亮点：强调了Open WebUI在模型定制和任务自动化方面的优势。
  3. “👀 Euphoric-Belt8524：Local LLMs nice for personal workflow automation.”
    • 亮点：简洁地表达了本地LLM在个人工作流程自动化中的适用性。
  4. “💡 segmond：Your imagination is your limit, if you can imagine it, you can do it.”
    • 亮点：强调了想象力在利用本地LLM中的重要性。
  5. “🛠️ Everlier：For workflows, check out Dify and n8n, no code tools, both well developed and integrated with LLMs”
    • 亮点：推荐了两个无代码工具，适合用于个人工作流程自动化。

情感分析

讨论的总体情感倾向积极，参与者对本地LLM的应用前景感到兴奋，并分享了多种实用的工具和应用场景。主要分歧点在于不同工具的优劣和适用性，但总体上大家对LLM在个人工作流程中的潜力持乐观态度。

趋势与预测

  • 新兴话题：无代码工具和本地LLM的集成将成为未来讨论的热点。
  • 潜在影响：本地LLM的应用将进一步普及，提升个人生产力和工作效率，推动相关工具和平台的开发。

详细内容：

《探索本地 LLM 的无限可能：个人助理与工作流自动化》

在 Reddit 上，一则题为“如何利用本地 LLM 作为个人助理或个人工作流自动化？”的帖子引发了广泛关注。该帖获得了众多点赞和大量评论。原帖作者表示正在研究本地 LLM 的使用，对金钱支出分类和预算编制很感兴趣，并思考还能通过本地 LLM 做些什么来提高生产力、实现任务自动化或创建自定义工作流。

讨论的焦点主要集中在各种具体的应用和工具。有人分享道：“我使用 SillyTavern 并拥有自己的专家编码员、厨师、健康专家和历史学家。目前正在使用 Mixtral Dolphin on Kolobcpp 。”还有用户提到：“我一直在尝试 Open WebUI，它很容易上手，并且有足够多的选项能让我忙活一阵子。下载模型后，可以在应用内创建自定义模型，给它们起特殊的名字、更换图片和调整参数，还能给它们一个系统提示，使其专门用于您想要的特定任务（例如编码、金融、写作等）。甚至可以上传文档，让模型在回答问题时将其作为资源（我在备考时就这样做过，将它的答案与我的教科书进行交叉参考，结果完全一致）。”

有人说：“我制作了一个多功能工具来充当研究助理，https://github.com/rmusser01/tldw 。它具有 RAG 搜索、RAG 问答、角色卡支持、工作流支持（通过 json 文件定义您的工作流，然后从 UI 中选择工作流（各种工作流的示例 JSON：https://github.com/rmusser01/tldw/blob/main/Helper\\_Scripts/Workflows/Workflows.json ），添加自己的工作流也非常容易，因为只需添加到 JSON 文件中，应用程序在您点击’加载工作流’时就会读取它。我有一个公开演示：https://huggingface.co/spaces/oceansweep/Vid-Summarizer 。它还有些粗糙，仍在完善中，因此建议您查看 sillytavern 或 KoboldCPP 加载角色卡/角色的能力，您可以让 LLM 扮演任何您想要的角色。”

有用户认为本地 LLM 对于个人工作流自动化很有用，可以构建自定义任务提醒、自动化重复的工作，甚至跟踪习惯。如果想创建工作流，可以尝试 Activepieces 这类开源工具，无需编码就能轻松设计自动化流程。

有人提到为满足自身需求构建自定义 ReactAgent，并提供了相关资源链接：https://python.langchain.com/docs/how_to/migrate_agent/ 。

对于工作流，还有人推荐了 Dify 和 n8n 这两个无需代码且与 LLM 集成良好的工具。

讨论中存在的共识是本地 LLM 的应用潜力巨大，只要能想象得到，就能通过它实现。但也存在一些争议，比如有人担心某些应用会拖慢系统速度。

总之，Reddit 上关于本地 LLM 的讨论展现了其丰富的可能性和创新的思路，为大家带来了诸多启发。