原贴链接

嗨，r/LocalLLaMA和AI爱好者们！我制作了这个名为Impish_Mind_8B的全新微调模型，它具有一些非常有趣的特性。

🔍关键亮点：

  • 预期用途：创意写作、角色扮演和一般性任务
  • 审查等级：低（8/10未审查）
  • 独特卖点：
    • 增强的个性和性格分析（非常好的MBTI分析、表格使用等）
    • 改进的markdown理解
    • 强大的创意写作能力

🎨个性怪癖

该模型有点小脾气：

  • 在非严格助手模式下会有点偏执和尖锐（使用了一些4chan数据）
  • 独特的角色扮演风格
  • 略低的积极偏向

💻技术规格

  • 有多种量化选项（FP16、GGUF、EXL2）
  • 训练时专注于在保持相当不审查的情况下最小化有毒数据
  • 使用Llama - 3 - Instruct模板

查看模型卡片以获取更多详细信息和示例输出： https://huggingface.co/SicariusSicariiStuff/Impish_Mind_8B

讨论总结

这个讨论主要是关于新的Impish_Mind_8B模型。原帖介绍了该模型的用途、审查水平、卖点、个性特点和技术规格等。评论者们表现出对这个模型的浓厚兴趣，有人惊叹于模型，有人打算尝试，也有人询问模型微调的数据类型、数据集创建方法、不同版本的差异等，整体氛围积极且好奇😉

主要观点

  1. 👍 对Impish_Mind_8B模型表示惊叹和兴趣
    • 支持理由：评论者们表达了想要尝试模型、对模型感到兴奋等态度，如Nyghtbynger认为模型看起来很有趣打算尝试，clduab11对模型感到兴奋并期待尝试。
    • 反对声音：无。
  2. 🔥 询问模型微调的数据类型
    • 正方观点：了解数据类型有助于深入理解模型的构建基础，如ahsaor8询问用于微调的数据类型。
    • 反方观点：无。
  3. 💡 模型创建者阐述数据来源包含多种类型
    • 解释：模型创建者称使用了书籍、markdown文档、4chan数据、角色扮演内容和reddit帖子数据集等混合数据。
  4. 💡 关注模型不同版本的差异
    • 解释：如3B版本和8B版本在审查程度、“毒性”、智能程度上存在差异。
  5. 💡 对初次进行微调者的引导需求
    • 解释：clduab11询问对于初次尝试微调的人是否有技巧或诀窍。

金句与有趣评论

  1. “😂 ahsaor8: Amazing, what type of data did you use for fine - tuning”
    • 亮点：这是第一个对模型提出深入疑问的评论，开启了关于模型构建的讨论。
  2. “🤔 Nyghtbynger: Seems fun. I will give it a go. (In the hope it balances out copilot weirdness)”
    • 亮点：表达了对模型的期待，同时关联到Copilot的怪异之处，引出新话题。
  3. “👀 Sicarius_The_First: A healthy mix of various books, LOTS of markdown documents, little bit of 4chan data, to add some spice, some RP, and a subset of reddit posts dataset.”
    • 亮点：详细阐述了模型数据来源，让读者更了解模型构建的基础。
  4. “😉 Sicarius_The_First: no, the 3B version is much more censored and less toxic, see its UGI score.”
    • 亮点：比较了模型不同版本在审查和“毒性”方面的差异。
  5. “🤗 Excited to try! Love your other Impish tunes as well, so definitely looking forward to this.”
    • 亮点：表达了对该模型以及作者其他相关作品的喜爱和对这个模型的期待。

情感分析

总体情感倾向是积极的，评论者大多对Impish_Mind_8B模型表现出好奇、期待和喜爱。主要分歧点较少，只是在模型不同版本的特性上存在讨论，可能的原因是大家对新模型的探索欲望，希望更深入了解模型的各方面特点以便更好地使用或研究🧐

趋势与预测

  • 新兴话题：对于初次进行微调者的引导可能会成为后续讨论的新观点，因为随着模型的发展，可能会有更多人想要尝试微调。
  • 潜在影响：如果关于模型微调的引导讨论增多，可能会降低新手进入这个领域的门槛，推动更多人参与到模型的优化和创新工作中，对人工智能相关领域的发展产生积极影响。

详细内容：

《独特的 8B Llama 3.1 模型：Impish_Mind_8B 引发热议》

在 Reddit 上，一则关于名为 Impish_Mind_8B 的新微调模型的帖子引起了众多用户的关注。该帖子获得了大量的点赞和众多评论。原帖主要介绍了这个模型的特点，包括其预期用途、审查级别、独特卖点以及技术规格等。

这一讨论引发了多个方向的探讨，核心问题集中在模型的数据来源、创建数据集的方法以及不同版本的性能差异等。

在讨论中，有人好奇地询问：“Amazing, what type of data did you use for fine - tuning”，模型创建者回应称使用了各种书籍、大量的 markdown 文档、少量的 4chan 数据、一些角色扮演内容和一部分 reddit 帖子数据集。还有人请教如何从原始文本创建所需格式的数据集，创建者表示可以使用 python 运行推理模型来从任何数据创建问题。

有人觉得这个模型看起来很有趣，会尝试使用，希望能平衡 Copilot 的怪异表现。也有人询问 3B 版本是否和 8B 版本一样好，得到的回复是 3B 版本审查更严格，毒性更低，且在智能方面与 8B 版本差异巨大。

此外，有人对第一次进行微调感到期待，询问有没有相关的技巧或建议，得到了可以参考 unsloth 的详细笔记以及在有多个 GPU 时使用 axolotl 的建议。

总的来说，这次关于 Impish_Mind_8B 模型的讨论展现了用户们对新技术的浓厚兴趣和深入探索，也为模型的进一步发展和应用提供了多样的思考。