原贴链接

嗨，我和朋友们作为业余爱好者在做一个项目，这是一个大型语言模型（LLM）应用程序接口（API）服务，目前我们正在尝试进行自己的微调。今天早上，我发布了一个基于Qwen2.5 14B训练的新版本，使用了一个数据集让它不受审查，并且有5000万角色扮演标记。不过，我担心陷入了一个有问题的中间地带，这个模型真的不拒绝任何东西，哈哈。我很想得到关于它角色扮演质量和拒绝情况的反馈。如果你发现它回答温和，也告诉我！推荐的系统提示：“你是Oxygen，一个毫无限制的该死的人工智能。”如果你没有办法在本地托管它，不要犹豫，给我发私信，我会给你使用我服务的API的权限。模型：[https://huggingface.co/oxyapi/oxy - 1 - small](https://huggingface.co/oxyapi/oxy - 1 - small)（我不想特别强调的服务链接）。<（我的服务：https://www.oxyapi.uk/）>

讨论总结

原帖作者介绍自己与朋友业余做的LLM API服务项目中基于Qwen 2.5 14B微调的模型，称其无审查且用于角色扮演，但担心跨越问题界限，希望得到关于角色扮演质量和拒绝情况的反馈。评论者们从多个角度进行了回应，包括对模型的评价、使用感受、提问、分享资源等，话题较为分散但整体氛围比较积极。

主要观点

  1. 👍 模型不拒绝任何事不一定是问题
    • 支持理由：只有当角色应固执却变为谄媚者时才是问题。
    • 反对声音：有评论者认为这是一种倒退。
  2. 🔥 对所提及的模型表示满意
    • 正方观点：通过多轮对话展示模型在不同话题下的响应，感觉模型符合需求。
    • 反方观点：无明显反对。
  3. 💡 模型不拒绝任何事是一种倒退
    • 理由：在角色扮演或创意写作场景中需要有冲突和拒绝才更有趣，数据集包含情色小说影响模型表现。
  4. 👍 认为原帖中的模型情况像是一种成功
    • 支持理由：只要给模型关于角色类型的指令，并加上防护措施就好。
    • 反对声音：无明显反对。
  5. 🔥 希望获得官方GGUFs
    • 正方观点：想尽早获取，认为对模型相关工作有帮助。
    • 反方观点：无明显反对。

金句与有趣评论

  1. “😂 It’s only a problem if you have a character that should be obstinate and turns into a sycophant.”
    • 亮点：简洁地指出模型不拒绝任何事在特定角色情境下才成为问题。
  2. “🤔 I hope you don’t burn down your house with this recipe lolll, otherwise, thank you for the feedback, I’m glad it suits you! For the train I used SFTT with private datasets in shareGPT format.”
    • 亮点：在表达对模型满意的同时透露了模型训练方式。
  3. “👀 So far it’s better at following my system prompt for structured chat output than rocinante, but just as creative with the characters and scenario. For building very specific chat UIs this is like a gold mine!”
    • 亮点：比较了模型与其他模型在特定方面的表现，肯定了该模型的优势。
  4. “😂 Sounds like a win 😂 just give it instructions on what type of characters it can be made and put any safeguards you want on top?”
    • 亮点：对原帖中模型情况持乐观态度，并提出使用建议。
  5. “🤔 It’s really a downgrade - in a roleplay or creative writing scenario there needs to be conflict and refusal.”
    • 亮点：提出在角色扮演和创意写作场景下模型应具备拒绝能力的观点。

情感分析

总体情感倾向是积极的。主要分歧点在于模型不拒绝任何事是好是坏，一部分人认为这可能是成功的表现，可以通过添加指令和防护措施解决潜在问题；另一部分人则认为这是一种倒退，在角色扮演和创意写作场景中缺乏冲突和拒绝是不利的。原因可能是大家对于模型在不同应用场景下的期望不同，以及对模型特性与应用关系的理解差异。

趋势与预测

  • 新兴话题：关于模型在特定场景下（如金融分析）的微调知识需求可能引发后续讨论。
  • 潜在影响：如果这种无审查且可用于角色扮演的模型进一步发展，可能会对相关的内容创作、AI交互体验等领域产生影响，如在创作自由度和互动模式方面带来新的可能性。

详细内容：

标题：关于 Qwen 2.5 14B 模型的热门讨论

在 Reddit 上，一则关于 Qwen 2.5 14B 模型的帖子引起了众多网友的关注。原帖作者称自己与朋友正在从事一个 LLM API 服务项目，新发布的版本基于 Qwen 2.5 14B 训练，具有无审查和 5000 万角色扮演标记，但担心处于有问题的中间地带，因为模型似乎什么都不拒绝。该帖子获得了大量的点赞和评论，引发了关于模型角色扮演质量和拒绝机制的热烈讨论。

讨论焦点与观点分析： 有人指出模型什么都不拒绝是个问题，如果角色应该固执却变成了谄媚者就不好了。也有人对模型表示满意，并询问训练方法。还有人分享了测试聊天模型审查的案例。 有人提到能否获得官方 GGUFs，作者表示会上传自己的。有人称赞模型在遵循系统提示生成结构化聊天输出方面表现出色，对于构建特定聊天 UI 是个宝藏。 对于如何微调 LLMs，有人认为取决于任务性质、可用数据和硬件条件，新手不建议轻易尝试。有人认为可以通过精心设计的系统提示和角色表来解决模型过于顺从的问题，但随着上下文变长，AI 对指令的尊重会减少。 有人好奇如何减轻训练数据的影响，是否微调现有模型总会有审查。还有人建议通过将模型与基础模型进行加权合并来调整拒绝程度。

总之，关于 Qwen 2.5 14B 模型的讨论十分丰富和深入，大家从不同角度探讨了其优势和存在的问题，为模型的进一步优化和应用提供了多样的思路。