我正在尝试创建更自然的对话流，即一个人可能连续发送多条消息。不足为奇的是，大量模型在对话训练上非常侧重于每人只发送1条消息且严格交替对话的情况，以至于如果有人连续发送两条消息，它们就无法理解对话流。用户：猫比狗好。助手：什么？不，狗是最好的！助手：我就知道你是个爱狗的人！（注意这个例子中助手的第二个连续回复是无意义的，因为它把自己之前的消息当作另一个人的了。）无论对话是以类似于上述书写的文本形式呈现，还是使用特殊的用户/助手标记语法并促使助手连续回复两次，都会出现这个问题。注入一个提示以强调大型语言模型（LLM）应该仔细注意每条消息是谁说的，这似乎有所帮助，但只能将问题减少大概50%。可以在后台重构聊天历史并将任何回复序列组合成一个大型语言模型正在扩展的长消息。这有点作用，但有两个问题。它失去了时间元素，即助手的第二条消息可能是在一段时间之后发送的，这改变了语境以及合理的回复内容。而且，还有另一个限制，许多模型被训练为生成特定长度的回复，所以如果你骗它认为是在扩展一个长消息，它将锁定生成结束标记并且“拒绝”进行任何扩展。有人有处理这个问题的任何提示或技巧吗？
讨论总结
原帖作者提出在创建自然对话流时，由于很多模型习惯严格的一来一往对话模式，导致在一人连续发送多条消息时会出现理解困难的情况，如LLM会将自己的回复当作他人的回复。评论者们从不同角度进行了回应，包括质疑原帖提到的“时间元素”，指出不同模型有不同的解决技巧，还提出了如利用特定提示、编辑回复、设置停止字符串等多种解决方法，也有一些关于模型使用、提示格式等方面的交流。
主要观点
- 👍 避免LLM自我回复的技巧与使用的模型有关
- 支持理由：如ThePloppist提到Mistral 22B (Small)模型使用特定提示可解决该问题。
- 反对声音：无
- 🔥 存在LLM将User/Assistant/Assistant当作User/User/Assistant处理的情况
- 正方观点：AutomataManifold提出这种情况可能存在，导致模型处理对话出现问题。
- 反方观点：无
- 💡 可以通过编辑回复来解决问题
- 解释：先按一种格式编排对话内容，再进行后期处理重写格式，原问题是表面性的。
- 🤔 模型大小影响对多参与者对话流的处理能力
- 解释：较小的模型在处理多参与者的对话流时会明显存在困难，而较大的模型在经验中能较好处理。
- 🌟 应对LLM自我回复问题存在一种方法是使用分隔对话行的内容作为停止标记
- 解释：评论者Ylsid提出这种较为简洁的解决方法。
金句与有趣评论
- “😂 -Django: Does the "time element" actually exist, though?”
- 亮点：对原帖提到的“时间元素”这一概念进行质疑，引发思考。
- “🤔 AutomataManifold: Okay, so piecing together your comments on this, it sounds like your main issue is that if you go User/Assistant/Assistant, it treats it more like User/User/Assistant?”
- 亮点：总结原帖问题并提出新的理解角度。
- “👀 The prompt I use is: Continue the chat dialogue below. Write a single reply for the character specified. Be proactive. It then starts its response with the name of the character, ao the input prompt will be:”
- 亮点：提供了一种有效的解决问题的提示示例。
- “😉 我很少有这个问题，你用的是什么模型？”
- 亮点：通过询问原帖作者使用的模型，从不同角度探讨问题产生的原因。
- “💡 大家：Wait till you use faster than real - time api of openai.”
- 亮点：提出一种期待性的解决方案，虽然缺乏详细解释但具有新颖性。
情感分析
总体情感倾向为积极探索。主要分歧点在于对原帖中一些概念（如“时间元素”）的看法以及某些解决方法是否有效。可能的原因是大家基于不同的使用经验和对LLM原理的理解，同时原帖问题涉及多方面因素，所以产生不同观点。
趋势与预测
- 新兴话题：利用OpenAI快于实时的API解决问题可能会引发后续讨论，关于不同模型适用的特定解决方法可能会有更多的探索。
- 潜在影响：如果找到有效的避免LLM自我回复的方法，将有助于提升LLM在自然对话场景下的表现，提高用户体验，推动LLM在更多领域的应用。
详细内容：
《如何避免语言模型自回复？Reddit热门讨论引发深度思考》
在Reddit上，有一个备受关注的帖子“Techniques to avoid LLM replying to itself?”，吸引了众多用户的参与和讨论。该帖子主要探讨了在创建更自然的对话流时遇到的问题，即当一个人连续发送多条消息时，许多模型难以理解这种流程，容易将自己的前一条回复当作他人的消息进行回应。此贴获得了相当多的关注，评论众多，引发了关于如何解决这一问题的热烈讨论。
讨论焦点与观点分析： 有人指出，即使为模型注入强调注意说话者的提示，也只能部分解决问题。还有人尝试插入实际的时间戳，但精确的时间戳有时会让模型感到困惑，相对时间差可能更重要。 有人认为如果在助理消息之间插入用户或时钟等消息，也许能达到想要的分离效果。也有人提到不同模型的表现有所差异，比如使用Mistral 22B (Small)作为主要模型时情况会好一些。 对于如何解决这一问题，有人建议使用特定的聊天模板，也有人提出采用基础模型的普通完成模式。 有人分享了自己的角色扮演经验，通过设置详细的角色信息和提示来进行对话。 还有观点认为，为获得期望的行为，需要添加自己的层，明确区分用户和助理的对话。
总之，关于如何避免语言模型自回复这一问题，大家各抒己见，虽然尚未形成统一的最佳解决方案，但这些讨论为进一步探索和解决这一问题提供了丰富的思路和方向。
感谢您的耐心阅读！来选个表情，或者留个评论吧！