原贴链接

我偶然看到一篇文章，有人用Claude构建了一个工具 https://simonwillison.net/2024/Jul/8/box-shadow-css-generator/
我尝试了一下，并使用本地LLM重新创建了相同的工具。

我不知道他们为什么使用React 2.8mb，原生js & html 4k。

关键是本地LLM轻松构建了这个工具。零次尝试，然后通过几个后续提示进行调整。随着Anthropic加入OpenAI呼吁监管，这一点更加相关。

讨论总结

本次讨论主要聚焦于本地大型语言模型（LLM）在构建工具方面的应用，特别是使用Mistral Large v2模型的案例。参与者们分享了各自使用本地LLM构建工具的经验，并对OpenAI和Anthropic在监管法案上的立场进行了讨论。整体上，讨论呈现出对本地LLM能力的认可和对技术未来发展的乐观态度。

主要观点

1. 👍 本地LLM能够轻松构建工具
   • 支持理由：无需预先训练，只需几个后续提示进行调整。
   • 反对声音：无明显反对声音。
2. 🔥 OpenAI反对某项法案，Anthropic可能支持
   • 正方观点：OpenAI的立场引起关注。
   • 反方观点：Anthropic的支持态度。
3. 💡 本地LLM在正确的提示和设置下非常强大
   • 解释：本地模型在适当的使用下，性能可与大型模型相媲美。
4. 👀 使用Mistral Large模型进行零次创建非常酷
   • 解释：本地LLM能够创建可用UI，这是一个积极的进展。
5. 🚀 评论者认为使用本地LLM构建工具的过程简单易行
   • 解释：评论者提到自己曾使用Claude模型一次性生成过3D网页游戏。

金句与有趣评论

1. “😂 Didn’t OpenAI go out against the bill?”
   • 亮点：关注OpenAI在监管法案上的立场。
2. “🤔 Also super cool on using Mistral Large - zero shot creating that is pretty wild.”
   • 亮点：赞赏使用Mistral Large模型进行零次创建的能力。
3. “👀 Local LLMs are very powerful with the right prompt, right structure of the chat and correct settings.”
   • 亮点：强调本地LLM在正确使用下的强大性能。

情感分析

讨论的总体情感倾向积极，参与者对本地LLM的能力表示认可，并对技术未来发展持乐观态度。主要分歧点在于对OpenAI和Anthropic在监管法案上的立场，部分评论者对此表示关注。

趋势与预测

• 新兴话题：本地LLM在更多领域的应用，如游戏开发和UI创建。
• 潜在影响：随着本地LLM技术的进步，可能会对传统软件开发方式产生影响，推动更多创新工具的诞生。

详细内容：

标题：Local LLMs 的强大能力引发Reddit热议

在Reddit上，有一篇题为“Local LLMs are very capable, adventure with Mistral Large v2”的帖子引起了广泛关注。该帖子分享了有人使用Claude构建工具的文章链接[https://simonwillison.net/2024/Jul/8/box-shadow-css-generator/]，而发帖者自己则使用本地LLM重新创建了相同的工具，并强调本地LLM轻松完成了任务，只需零次提示，然后几次后续提示来调整。这在Anthropic加入OpenAI呼吁监管的背景下显得更为相关。此帖获得了众多点赞和大量评论。

讨论焦点主要集中在不同模型的能力以及对相关事件的看法。有人提到“OpenAI是否反对该法案”，有人回应“是的，而Anthropic似乎喜欢该法案”。还有用户称赞使用Mistral Large很酷炫，零次提示就能创建，自己曾尝试让GPT4创建游戏，效果取决于提示等，很高兴看到本地LLM能够创建可用的UI。有人表示本地LLM在正确的提示、聊天结构和正确的设置下非常强大，自己曾用小型的Gemma 2 2B（1.7GB模型）完成以前用GPT 3.5做的事。也有人觉得这对自己来说很简单，认为llama-2也能做到，还有人提到Claude能一次生成3D网页游戏。

在这些讨论中，对于本地LLM的能力既有肯定也有质疑。肯定的声音认为在适当条件下，本地模型能与大型模型媲美；质疑的声音则认为某些任务对其他模型来说也并非难事。而关于OpenAI和Anthropic对法案的态度也存在不同看法。总体而言，大家对本地LLM的发展表现出了浓厚的兴趣，也期待其在未来能有更出色的表现。