原贴链接

来自David_AU；基于刚发布的Qwen超棒的“QwQ 32B”模型构建的前两个模型，有额外能力。每个代码库都有详细说明和示例。新模型：自由思考者、超辣版：https://huggingface.co/DavidAU/Qwen2.5 - QwQ - 35B - Eureka - Cubed - abliterated - uncensored - gguf；常规版、不太辣版：https://huggingface.co/DavidAU/Qwen2.5 - QwQ - 35B - Eureka - Cubed - gguf；还有Qwen/Llama思考/推理MOES所有规格的。34个推理/思考模型（示例生成、注释、说明等）：包括Llama 3、3.1、3.2和Qwens、DeepSeek/QwQ/DeepHermes的MOE和非MOE配置等：https://huggingface.co/collections/DavidAU/d - au - reasoning - deepseek - models - with - thinking - reasoning - 67a41ec81d9df996fd1cdd60；这里有个有趣的：https://huggingface.co/DavidAU/DeepThought - MOE - 8X3B - R1 - Llama - 3.2 - Reasoning - 18B - gguf；仅针对Qwens（12个模型）（Moes和/或增强版）：https://huggingface.co/collections/DavidAU/d - au - qwen - 25 - reasoning - thinking - reg - moes - 67cbef9e401488e599d9ebde；另一个有趣的：https://huggingface.co/DavidAU/Qwen2.5 - MOE - 2X1.5B - DeepSeek - Uncensored - Censored - 4B - gguf；主代码库有单独的源/全精度部分/集合：656个模型，27个集合：https://huggingface.co/DavidAU；给Lmstudio用户的特别服务提示：QwQs（来自Qwen的32B和我的35B）关于模板/Jinja模板的问题已修复。确保更新到0.3.12版本；否则手动选择CHATML模板来使用新的QwQ模型。

讨论总结

帖子主要是David_AU发布关于Qwen等一系列模型的相关资源。评论内容较为多样，有对模型名字过长的调侃，有质疑模型缺乏基准测试来证实性能，也有对新模型特定版本的疑惑，还有人因为新模型改变自己的周日计划，也有人对模型在特定硬件上的运行提出疑问，以及对模型卡片呈现方式不满等，整体氛围比较多元，各种态度都有体现。

主要观点

  1. 👍 LLM名字较长
    • 支持理由：与Java类名比较，LLM名字在长度上更胜一筹。
    • 反对声音：无。
  2. 🔥 发布的模型缺乏基准测试
    • 正方观点：模型微调去审查时避免LLM变笨或更易产生幻觉很重要，有了基准测试才能证实模型性能。
    • 反方观点：无。
  3. 💡 对“Extra Spicy”版本的含义表示疑惑
    • 解释：不清楚这个版本到底如何体现“特辣”，同时提到常规QwQ模型存在的一些问题。
  4. 💡 认为QwQ 32b模型适合自己，对其他模型无兴趣
    • 解释：在众多模型资源面前，觉得基础的QwQ 32b模型就可以满足自身需求。
  5. 💡 对模型卡片的呈现方式持否定态度
    • 解释：认为存在类似词藻堆砌的问题，但未详细说明。

金句与有趣评论

  1. “😂 LLM names beat Java class names in length”
    • 亮点：以一种诙谐的方式比较LLM名字和Java类名的长度。
  2. “🤔 No benchmarks? One of the greatest challenges of fine - tuning a fine - tune to remove censorship is to do it without making the LLM dumber or more prone to hallucinations.”
    • 亮点：指出模型缺乏基准测试以及微调模型时面临的挑战。
  3. “👀 There is a band of probabilities in regular QwQ where it doesn’t do refusals and writes smut with the actual words.”
    • 亮点：揭示常规QwQ模型存在不拒绝生成不良内容的概率。
  4. “😉 So here was me relaxing a bit, thinking I could catch up with work on this Sunday - and now I’m going to be testing LLMs all day?”
    • 亮点：表达新模型发布对个人计划的影响以及无奈接受的态度。
  5. “👍 Awsome, thanks for the share on theses :)”
    • 亮点：简洁地表达对模型分享行为的赞赏。

情感分析

总体情感倾向比较多元。部分人对新模型持期待、感谢等积极态度，如感谢发布者分享模型，对模型前景看好等；也有部分人持质疑、否定态度，像怀疑帖子是广告，对模型卡片呈现方式不满等。主要分歧点在于对模型本身质量的看法（如是否需要基准测试）以及对发布内容的态度（如是否像广告），可能的原因是不同用户的需求、关注点以及对模型的期望不同。

趋势与预测

  • 新兴话题：可能会有更多关于模型在实际应用中的性能测试结果的讨论，以及新模型与原始模型的比较。
  • 潜在影响：如果模型在实际应用中表现良好，可能会推动相关领域的发展，如自然语言处理等；若模型存在问题得不到解决，可能会影响用户对这类模型的信任度。

详细内容：

标题：Reddit 上关于新模型的热门讨论

最近，Reddit 上一个关于一系列新模型的帖子引起了广泛关注。帖子由 David_AU 发布，介绍了基于 Qwen 的新模型，包括特别版和常规版，并提供了多个相关链接，点赞和评论数众多。主要讨论方向围绕着模型的特点、性能、应用等方面。

文章将要探讨的核心问题是这些新模型在实际应用中的表现以及它们与现有模型的比较。

在讨论中，有人认为 LLM 名字长度比 Java 类名还长；有人提到某些复杂的模型名称；还有人质疑没有提供基准测试数据。

有用户表示，对去审查化的微调模型而言，最大挑战是避免降低模型的智能或增加幻觉倾向，同时希望能看到实际的基准测试和相关数据。也有人分享了在使用某些模型时的体验，比如在多轮对话中的表现。

有人指出新模型在去审查化方面的处理很出色，经过测试未发现明显问题，对指令的遵循、理解、推理、规划和输出都保持完好。但也有人提到如何限制推理和思考部分以及提升多轮对话的稳定性仍在研究中。

还有用户对模型在特定硬件上的运行情况进行了交流，分享了通过使用特定方法可以在有限的硬件条件下运行模型。

特别有见地的观点是，在评估模型时，不能仅仅依靠名称和宣传，而要通过实际的基准测试和数据来客观判断其性能。

总之，这次关于新模型的讨论展示了大家对技术创新的关注和期待，也反映出在模型发展中面临的挑战和需要解决的问题。希望未来能有更多详细的测试和实际应用的反馈，让这些新模型能更好地服务于用户。