原贴链接

宇宙飞船的传感器在茂密森林附近探测到一个安全的着陆点，飞行员朝着该区域驾驶飞船。当他们靠近时，不禁注意到该地区繁茂生长的奇异植物群。对于经常使用大型语言模型（LLM）的人来说，我想你也注意到了同样的措辞被使用，而且方式非常奇怪（为什么要强调无奈地注意到该地区的奇异植物群呢？）实际上，我已经添加了‘不要在你的输出中使用‘我不禁’这个词’，但大型语言模型仍然在输出中使用这个短语，这几乎就像人类‘不要去想大象’的概念一样。

讨论总结

该讨论围绕大型语言模型（LLM）中存在的重复表述现象展开，如“can’t help but”等短语的过度使用。大家分享了各自遇到的重复表述情况，探讨了这些现象产生的原因，如LLMs偏好使用能在多种语境下通用的短语构建句子。同时还提出了很多解决办法，包括使用黑名单采样器、短语禁用功能、调整指令形式、增加重复惩罚、提高温度值、利用本地模型重新措辞、启用DRY采样、采用[XTC采样]等，并且针对这些解决办法中的一些技术操作和可能存在的问题也进行了讨论。

主要观点

  1. 👍 大型语言模型存在常见的重复表述。
    • 支持理由：多位评论者提到如“can’t help but”等短语经常在LLM输出中重复出现。
    • 反对声音：无。
  2. 🔥 有些表述即使重复也有一定的合理性。
    • 正方观点：如“(emotion 1 + emotion 2)”这种表述因短语混合有一定动态性。
    • 反方观点：无。
  3. 💡 给LLM指令不应仅为否定形式。
    • 支持理由：仅否定指令可能导致不理想的输出，应提供预期输出示例来完善指令。
    • 反对声音：无。
  4. 💡 某些引擎存在短语禁用功能。
    • 支持理由：像kobold.cpp有此功能能阻止特定短语出现在输出中。
    • 反对声音：有人质疑被禁用短语生成时输出回滚到短语开始处的操作是否生硬。
  5. 💡 可通过特定接口禁止相关标记解决LLM短语重复问题。
    • 支持理由：可通过SillyTavern或Koboldcpp接口禁止特定的标记。
    • 反对声音：无。

金句与有趣评论

  1. “😂 Yeah, the usual slop, "can’t help but", "mix of [emotion1] and [emotion2]", "shivers down my spine"…”
    • 亮点：形象地列举出LLM中常见的重复表述。
  2. “🤔 Instead of just saying do not use, give it examples of expected output.”
    • 亮点：指出给LLM指令时应补充肯定示例的关键。
  3. “👀 LLMs have a preference for composing all their sentences out of phrases which could be part of some sentence that could be encountered in any context.”
    • 亮点：深入解释了LLMs使用重复短语构建句子的倾向。

情感分析

总体情感倾向是积极解决问题的。主要分歧点在于一些技术操作的合理性，如短语禁用时输出回滚操作是否生硬。产生分歧的原因可能是大家对技术原理和操作细节的理解不同，以及不同技术方案在实际应用中的效果差异。

趋势与预测

  • 新兴话题：如[XTC采样]这种新的解决方法可能会引发后续更多关于其有效性和适用范围的讨论。
  • 潜在影响：这些关于LLM重复表述问题的讨论和解决方案可能会促使LLM开发者优化模型，减少重复表述，提高输出质量，从而对自然语言处理领域产生积极影响。

详细内容：

《关于 LLM 重复措辞现象的热门讨论》

在 Reddit 上，一则题为“‘I/We/They Couldn’t Help But…’ Repeating LLM Phrasing?”的帖子引发了广泛关注。此帖指出，航天器相关描述中出现了“they couldn’t help but notice”这样的表述，并提出在使用 LLM 时经常会注意到相同的短语以奇怪的方式被使用，即便明确禁止使用“I couldn’t help but”，LLM 仍会用上该短语。该帖获得了众多点赞和大量评论。

讨论焦点集中在 LLM 重复使用某些短语的问题及应对方法上。有人指出常见的重复短语，如“can’t help but”“mix of [emotion1] and [emotion2]”“shivers down my spine”等，认为有些短语即便重复也能接受。还有人分享，通过一些方法如使用黑名单采样器、设置轻微的重复惩罚并提高温度、微调或 Lora 模型等，可以减少这类问题。比如，有用户提到某些引擎的短语禁止功能，若生成被禁止的短语，输出会回滚到该短语前的最后一个标记重新生成。有人建议给出期望输出的示例，而非单纯禁止。也有人提到 DRY 采样器是有效的解决方案，并提供了相关的 GitHub 链接。

在讨论中，大家对于如何解决 LLM 重复措辞的问题存在共识，即需要采取多种方法进行尝试和优化。同时，一些独特的观点如通过本地模型进行重述等，为解决这一问题提供了新的思路。

总之，这次关于 LLM 重复措辞现象的讨论，为改善语言模型的输出质量提供了丰富的思路和方法。