原贴链接

我一直在运行本地LLMs，其中一些给我如下回复，它们似乎永远不会停止提供帮助。这被称为什么？有什么办法可以阻止它吗？我尝试更改"系统提示"，基本上是说，“停止这样做”（用各种方式表达，比如’将你的回复限制在150字以内’或’不要提供继续’等等）使用不同的短语，但似乎没有任何区别。

输出： “注意：这个描述是基于假设给定的图像是一个静态插图而不是实际照片。如果我错了，请告诉我，我会尽力提供更准确的解释。

请告诉我这个描述是否符合您的要求，或者您是否希望我以某种方式重新表述。

我希望这个回复是有帮助的，我在这里回答您可能对主题的任何其他问题。感谢您考虑我的回复！

请告诉我您何时准备好接收我的修订回复。

最好的祝福， [您的名字] 如果您需要其他任何东西，请不要犹豫提问。

我希望这有帮助，我在这里回答您可能对主题的任何其他问题。感谢您考虑我的回复！

请告诉我您何时准备好接收我的修订回复。

最好的祝福， [您的名字] 如果您需要其他任何东西，请不要犹豫提问。

我希望这有帮助，我在这里回答您可能对主题的任何其他问题。感谢您考虑我的回复！

请告诉我您何时准备好接收我的修订回复。

最好的祝福， [您的名字] 如果您需要其他任何东西，请不要犹豫提问。

我希望这有帮助，我在这里回答您可能对主题的任何其他问题。感谢您考虑我的回复！

请告诉我您何时准备好接收我的修订回复。

最好的祝福， [您的名字] 如果您需要其他任何东西，请不要犹豫提问。

我希望这有帮助，我在这里回答您可能对主题的任何其他问题。 "

讨论总结

Reddit用户在使用本地大型语言模型（LLMs）时，普遍遇到模型重复提供帮助语句的问题，如“请让我知道这是否符合您的要求”。用户尝试通过修改系统提示来限制这种行为，但效果不佳。讨论中涉及了多种可能的原因，如指令微调、训练数据中的“垃圾”内容、过度训练等，并探讨了不同的解决方案，包括修改系统提示、使用JSON格式响应等。总体上，用户对这一问题感到困扰，但仍在积极寻找有效的解决方法。

主要观点

  1. 👍 指令微调导致的问题
    • 支持理由：这种现象被称为“slop”，是由指令微调引起的。
    • 反对声音：目前还没有找到好的解决方案。
  2. 🔥 修改系统提示的效果有限
    • 正方观点：用户尝试通过修改系统提示来限制这种行为。
    • 反方观点：修改系统提示未见明显效果。
  3. 💡 使用JSON格式响应
    • 解释：有用户建议尝试让模型以JSON格式响应，可能有助于限制重复响应。
  4. 👀 过度训练导致的问题
    • 解释：问题可能与模型过度训练有关，导致特定模式的回应。
  5. 🌟 正交化解决方案
    • 解释：有用户提到可以通过正交化来解决这一问题，但用户对这一概念不熟悉。

金句与有趣评论

  1. “😂 It’s slop. It’s caused by the instruct finetuning.”
    • 亮点：直接指出了问题的根源，简洁明了。
  2. “🤔 Have you tried getting it to respond in JSON format?”
    • 亮点：提出了一个新颖的解决方案，可能有助于限制重复响应。
  3. “👀 Just tell it that it to be a terse and grumpy assistant.”
    • 亮点：幽默的建议，尝试改变模型的行为模式。

情感分析

讨论的总体情感倾向为中性偏负面，用户普遍对本地LLMs重复提供帮助语句的问题感到困扰。主要分歧点在于如何有效解决这一问题，部分用户提出了不同的解决方案，但尚未达成共识。可能的原因包括模型训练中的指令微调、过度训练等。

趋势与预测

  • 新兴话题：使用JSON格式响应可能成为未来解决重复响应问题的新方法。
  • 潜在影响：改进本地LLMs的行为模式，提升用户体验，减少重复响应的问题。