原贴链接

它有24GB显存，采用IQ3 XXS（16k上下文，若用XS则为8k上下文）。我不确定自己是否运气好，通常我确定好才会发帖。但不管运气与否，它确实有创意潜力！我初次使用时就发现它很有创意而且聪明，上下文回忆能力也很好，而且对成人内容故事也无审查。在我看来，新的Qwen、Mistral小版本、Gemma 3在创作故事方面都很枯燥，缺乏创意和智慧。我发帖是想得到大家使用这个模型进行创意写作的反馈，你们的使用体验如何呢？谢谢，我最爱的社区。

讨论总结

原帖探讨Nemotron - Super - 49B在创意写作方面的表现，希望得到大家的使用反馈。评论涵盖多个方面，包括索要创意写作示例、模型的安全调整、与其他模型在创意写作上的对比、量化等级与质量关系、特定技术条件下的适配性、模型的基准测试以及一些技术问题等，整体讨论比较理性且全面。

主要观点

  1. 👍 Nemotron - Super - 49B在创意写作方面表现不错。
    • 支持理由：部分用户认为该模型创意潜力大，在创意方面表现优异，无审查机制等。
    • 反对声音：有用户认为其不如Gemma在创意写作方面的表现。
  2. 🔥 Nemotron - Super - 49B存在过度安全调整的情况。
    • 正方观点：用户Chromix_提到遇到过度“安全”调整影响创意。
    • 反方观点：h1pp0star指出多数公司实施安全措施有合理性，toothpastespiders认为额外微调的影响被高估。
  3. 💡 Q4以下量化等级质量损失过大。
    • 解释：pigeon57434提出在量化等级Q4以下，质量损失过大不值得，Q4是最优范围。
  4. 🤔 模型需要进行创意写作的基准测试才能被重视。
    • 解释：waywardspooky认为想让别人认真对待Nemotron - Super - 49B模型就应该进行基准测试。
    • 反对声音：Majestical - psyche认为不需要太依赖基准测试，用户觉得模型好用就行。
  5. 😎 不同测试者对Nemotron - Super - 49B是否拒绝请求有不同的体验。
    • 解释：在关于模型安全调整的讨论中，不同测试者有不同的测试结果。

金句与有趣评论

  1. “😂 Chromix_：Creative, until you run into the excessive "safety" tuning.”
    • 亮点：简洁地指出Nemotron - Super - 49B存在过度安全调整影响创意的问题。
  2. “🤔 h1pp0star：I guess you just post about excessive "safety" tuning and not read responses to your comments.”
    • 亮点：对Chromix_只发关于过度安全调整评论而不看回复的质疑。
  3. “👀 toothpastespiders：I agree on the pragmatism, it’s a sensible choice from a business perspective even if I personally don’t like it.”
    • 亮点：在模型安全调整的争议中，表达对公司实施安全措施从商业角度合理性的认同。
  4. “😉 yes it is good wayy better than Qwen or Mistral, but I would not say better than Gemma.”
    • 亮点：对Nemotron - Super - 49B与其他模型在创意写作方面进行对比。
  5. “🤓 ive always heard beyond Q4 down into Q3 and below is too much quality loss to be worth it and Q4 is the optimal range”
    • 亮点：提出关于量化等级与质量损失关系的观点。

情感分析

总体情感倾向比较中性，主要分歧点在于Nemotron - Super - 49B模型是否存在过度安全调整、是否需要进行基准测试以及与其他模型对比的优劣等。产生分歧的可能原因是不同用户对模型的使用场景、需求以及评价标准不同。

趋势与预测

  • 新兴话题：IQ3_M在不同量化条件下的适配性以及与性能的关系可能会引发后续讨论。
  • 潜在影响：如果关于模型安全调整的讨论深入，可能会影响模型开发者对安全措施的调整策略；对模型量化等级与质量关系的探讨可能影响用户在选择模型时的考量。

详细内容：

标题：Nemotron-Super-49B 引发的创意写作模型讨论热潮

在 Reddit 上，一篇关于“Nemotron-Super-49B 可能成为创意写作的杀手级模型（24GB Vram）”的帖子引发了广泛关注。该帖子获得了众多点赞和大量评论。

原帖作者称，在初步试用后，感觉其创意潜力巨大，且上下文回忆能力出色，同时还提到新的 Qwen、Mistral small、Gemma 3 等模型在创意和智能方面表现欠佳。作者希望大家分享使用该模型进行创意写作的经验。

讨论的焦点集中在模型的性能、安全性调优以及与其他模型的比较等方面。有人提出想看 200 字左右的短故事示例。还有人表示担心因内容不适当而被封禁。

有人在测试中发现，该模型没有拒绝任何请求，甚至能给出相当详细的回应，包括明确的低俗内容。但也有人指出存在“安全”调优问题，可能影响正常使用。有人认为等待无审查版本推出是个办法。

关于模型的量化，有人认为低于 Q4 会有较大质量损失，但也有人表示对于更大的模型，这个规则不一定适用。还有人分享了自己在不同量化设置下的尝试和效果。

有人是 Mistral 的粉丝，但认为 Qwen32B 更出色，而原帖作者则希望听到更多人试用 Nemotron-Super-49B 的体验。有人指出该模型的数据集主要集中在数学、代码和科学方面。有人询问该模型在创意写作方面是否有基准测试，认为基准测试很重要，而原帖作者认为个人体验更重要。

有人在使用过程中遇到显存分配不均和加载错误的问题。

总的来说，对于 Nemotron-Super-49B 模型，大家看法不一，有赞扬其创意表现的，也有对其安全性和量化等方面存在担忧的。未来，我们期待看到更多关于该模型的实际表现和改进。