原贴链接

停止为每个用例制作定制工具。我们需要的是一个制造工具的工具，使大型语言模型（LLMs）能够创建自己的工具来解决它们的任务。不会有任何问题的，而且我完全放心让我的大型语言模型（LLM）在无人监管的情况下运行。

讨论总结

原帖提出要打造一个能让大型语言模型（LLMs）自制工具的工具，避免为每个用例定制工具。评论者们围绕这个观点展开了多方面的讨论，包括分享类似项目、指出这种做法的局限性、表达对这一观点的赞同或反对，还有人分享了自己的相关实验经历等，整体氛围积极且充满探索性。

主要观点

  1. 👍 存在类似创建工具制作工具的项目
    • 支持理由：评论者给出了如https://github.com/adobe - research/dynasaur这样的项目例子，还提到autogen可能也是类似项目。
    • 反对声音：无
  2. 🔥 需要一个工具制作工具让LLMs能创建自己的工具
    • 正方观点：可以解决目前在众多工具中进行可靠的工具搜索存在的困难等。
    • 反方观点：有人认为这不是最终解决方案，存在诸多局限性，如已实践过的人表示存在大量局限性。
  3. 💡 在工具制作方面，需先建立良好的工具标准化框架
    • 支持理由：实验中最佳推理模型难以持续自动生成合适工具，有了标准才能更好地构建工具制造工具。
    • 反对声音：无
  4. 🤔 在生产里工具多为API调用，可将平台API规范数据注入编码代理知识库使其能做很多事
    • 支持理由：无
    • 反对声音：无
  5. 😕 不认为创建工具制造工具让LLM自行创建工具解决任务是个好做法
    • 支持理由：无（只是表明尝试过不推荐，但未给原因）
    • 反对声音：有人认为这种方式有助于解决工具搜索问题等。

金句与有趣评论

  1. “😂 Next thing you know, the LLM creates a paperclip - making tool and turns the entire universe into paperclips.”
    • 亮点：以幽默的方式表达了对LLM创建工具可能导致失控结果的担忧。
  2. “🤔 Exactly lol you just have to give it access to a python interpreter and it can write code for whatever it wants”
    • 亮点：简单直接地阐述了让LLMs能编写代码的一种方式。
  3. “👀 There are a couple of projects like this.”
    • 亮点：表明类似原帖设想的项目是存在的。
  4. “😎 go home, skynet”
    • 亮点：诙谐地将原帖中的工具制造工具的发展类比为天网，暗示可能存在危险。
  5. “😏 Well the first thing I have to do is kill your expectations, you won’t really be able to do all that stuff at the level you expect, and definitely not at the level of Operator.”
    • 亮点：针对非程序员想用本地AI做很多事给出了比较现实的看法。

情感分析

总体情感倾向比较复杂，既有积极赞同的（如有人认为这是个有趣的途径，能解决工具搜索问题等），也有消极反对的（如认为存在局限性，不认可这种做法等）。主要分歧点在于对打造工具制造工具让LLMs自制工具这一设想的可行性和有效性的看法。可能的原因是大家基于不同的实践经验、对LLMs能力的不同认知以及对潜在风险的不同考量。

趋势与预测

  • 新兴话题：像“Chain - of - tool”这种特定技术的出现时间以及相关技术的发展，还有如何构建更好的工具标准化框架等可能会引发后续讨论。
  • 潜在影响：如果这种工具制造工具真的实现并被广泛应用，可能会对人工智能相关领域的工具开发、使用效率等方面产生重大影响，也可能改变人们对LLMs能力和应用的认知。

详细内容：

标题：关于工具使用与制造的热门讨论

在 Reddit 上，一则题为“ The endgame of Tool-Use, toolmaking ”的帖子引发了广泛关注。帖子提出了停止为每个用例定制工具，而是需要一个能让大型语言模型（LLMs）自行创建工具来解决任务的工具制造工具，并表示对此完全放心让 LLM 不受监督。此帖获得了众多点赞和大量评论，引发了关于工具制造与 LLM 应用的热烈讨论。

讨论的焦点和观点主要有以下几个方面： 有人认为目前有一些类似的项目，但受到模型编码能力和编码时间的限制。不过这仍是一个有趣的方法，比如将其置于虚拟机中以免干扰当前会话。还有人提出应该停止制造工具制造工具，需要的是一个能让工具制造工具制造工具的工具，从而让 LLMs 能够创建自己的工具。也有人认为 LLMs 永远无法掌握工具制造的微妙艺术。

在个人经历和案例分享方面，有人表示明天将获得一台 3090 PC 来进行 AI 相关的工作，自己不是程序员但很有技术头脑，希望使用本地 AI 进行编码、创建应用、控制智能家居等，并询问非程序员入门的相关介绍。

有趣或引发思考的观点包括：有人提到硬件方面，一个 3090 不足以有效使用 70b 模型，参数决定了模型能容纳的信息量，还提到了量化可以减少 VRAM 需求。有人提到通过引入工具使用，能从小型模型中挤出更多智能，如让模型输出包含普通文本和 JSON 的混合内容，或者使用 Python 解释器。

讨论中的共识在于大家都认为这是一个有趣且具有探索价值的领域，但也存在不同立场的争议。有人对 LLM 自行创建工具的前景充满期待，认为可能会带来巨大的便利；也有人对此持谨慎态度，认为存在诸多限制和问题。

总之，关于 LLM 自行创建工具这一话题，在 Reddit 上引发了热烈且深入的讨论，让人们对未来的技术发展有了更多的思考和期待。