原贴链接

指示大型语言模型（LLM）在作答前先思考并展示思维过程。[这是提示内容](https://gist.github.com/Maharshi - Pandya/4aeccbe1dbaa7f89c182bd65d2764203)。这是来源。我试过几次，发现对于从无推理能力的模型中挖掘信息来说，这种方法相当令人印象深刻。

讨论总结

原帖介绍了一种让大型语言模型（LLM）在回答前先思考并展示思维过程的“沉思推理”提示方式。评论者们从多方面展开讨论，有人分享了这种提示在自己使用的模型（如nemo 12b、Qwen 2.5 72B、Qwen 7b等）上的效果，包括正面效果和与其他提示对比的情况；有人对这种提示方式表示惊叹和赞同，也有人提出应对Gemini模型进行优化；还有人从操作建议角度提出在系统提示中使用XML的想法，同时也有人认为该提示方式长度过长，此外还有人询问哪些模型对这种提示响应良好。整体氛围积极且充满对这种技术的好奇。

主要观点

  1. 👍 这种提示在较小本地模型上效果很好
    • 支持理由：评论者亲自尝试，发现像nemo 12b这样的小模型上效果惊人。
    • 反对声音：无。
  2. 🔥 在特定例子中简单的提示效果更好
    • 正方观点：以Qwen 2.5 72B回答“strawberry”中“R”的个数为例，对比“contemplator”提示和“think step by step”提示，发现简单提示结果更好。
    • 反方观点：无。
  3. 💡 “沉思推理”回应风格很好并且能解决逻辑谜题
    • 解释：评论者认为这种风格不错，还指出这个提示使模型1206解决了之前无法解决的逻辑谜题。
  4. 💡 在系统提示中应使用XML并正确嵌套内容
    • 解释：评论者提出这种操作建议，认为不需要XML的人类可读性，正确嵌套内容会有更好效果。
  5. 💡 认可分享的提示并感谢分享者
    • 解释：多位评论者直接表示这是个好提示并感谢分享者。

金句与有趣评论

  1. “😂我试过了，它在较小的本地模型上也效果惊人，比如我用的nemo 12b。”
    • 亮点：用自身实例证明提示在小模型上的有效性。
  2. “🤔Qwen 2.5 72B using this prompt 😭: Hmm… let me think about this… The question is asking how many "R’s" are in the word "strawberry." That seems straightforward enough. I’ll start by spelling out the word: S - T - R - A - W - B - E - R - R - Y. "
    • 亮点：详细展示了模型按照特定提示的思考过程。
  3. “👀哦，哇。让一个蹩脚的模型成为一个有推理能力的模型！酷！”
    • 亮点：生动表达出对提示方式使较差模型具备推理能力的惊叹。
  4. “😊Good prompt, thank you for sharing!”
    • 亮点：简洁地表达认可与感谢。
  5. “😉this prompt alone made the 1206 solve some logical riddles that it couldn’t before!”
    • 亮点：强调提示对解决逻辑谜题的作用。

情感分析

总体情感倾向是积极的。主要分歧点在于对提示方式的评价，如在提示效果对比上，有人认为简单提示效果更好，但这并不影响整体积极的氛围。可能的原因是原帖分享的提示方式为大家提供了新的思路和探索方向，大家更多地是在分享自己的体验和想法，即使有不同观点也是比较温和的探讨。

趋势与预测

  • 新兴话题：可能会有更多关于如何针对不同模型优化这种提示方式的讨论。
  • 潜在影响：如果这种提示方式被广泛应用和优化，可能会提高LLM在回答问题时的准确性和逻辑性，对自然语言处理领域有一定的积极推动作用。

详细内容：

标题：探索用于 LLMs 的“沉思推理”响应风格

在 Reddit 上，一篇关于“Contemplative reasoning”响应风格用于 LLMs 的帖子引起了众多关注。原帖介绍了让 LLM 在给出答案前进行沉思并展示思考过程的方法，并提供了相关的提示链接[https://gist.github.com/Maharshi-Pandya/4aeccbe1dbaa7f89c182bd65d2764203]和来源链接[https://x.com/mrsiipa/status/1876253176963493889]。此帖获得了大量的点赞和众多的评论，引发了大家对这种响应风格效果的热烈讨论。

讨论焦点主要集中在不同模型对这种提示风格的反应。有人分享说，使用这种提示风格，即使是较小的本地模型，如在自己的案例中使用 nemo 12b，效果也非常惊人。还有用户详细展示了 Qwen 2.5 72B 使用该提示回答“strawberry 这个单词中有几个‘R’”这一问题时的完整思考过程，考虑了各种可能性。但也有人指出，对于对比而言，简单的“think step by step”能让模型 100%正确回答，也许是因为模型规模较小，所以更简单的提示反而效果更好。

有人认为这种提示风格真的非常好，能让 1206 解决一些之前无法解决的逻辑谜题。有人表示会在系统提示中使用 XML，认为这样效果更好。还有人好奇哪些模型对这种提示反应良好，有人测试后发现 Chatgpt 免费版本反应良好，Llama 3.2 3b 效果也非常好，但 Qwen 会出现循环，Mistral Nemo 表现不佳。也有人觉得对于一个提示词来说有点长。

总的来说，对于这种“Contemplative reasoning”响应风格用于 LLMs 的效果，大家看法不一。但通过这些讨论，为探索更优化的提示方式提供了有价值的参考。