原贴链接

之前我查看大型语言模型排行榜时，注意到SuperNova - Medius - GGUF在榜单上排名很高，所以我决定用它来编码。以我的个人经验，它绝对比qwen2.5 - coder更好。强烈建议大家试试！这里有一张我很糟糕地向它提问的截图，让它编辑它之前生成的贪吃蛇游戏脚本，因为我不太擅长软件，但它完全理解我的意思：https://imgur.com/a/UxEAyuC。如果你想试试的话，这是它编写的贪吃蛇游戏代码：https://www.pythonmorsels.com/p/385wp/。编辑：我在4_K_S使用的这个模型的Huggingface链接：[https://huggingface.co/arcee - ai/SuperNova - Medius - GGUF](https://huggingface.co/arcee - ai/SuperNova - Medius - GGUF)。我在lm - studio中使用它，温度设置为0.6。另外，它编写的贪吃蛇游戏在反向移动时不会让游戏结束，而是不能反向移动（本来就应该这样）。实际上到目前为止我试过的所有其他模型都有这个问题，例如如果你正在向右移动，向左就会游戏结束。

讨论总结

原帖作者分享了SuperNova - Medius - GGUF模型在编码方面的体验并认为优于qwen2.5 - coder，建议大家尝试。评论者们对该模型进行了多方面的讨论，包括对模型本身的评价，如认为它是14B的优秀模型、架构奇特等；与其他模型在功能、规模等方面的比较；运行该模型的硬件配置情况，尤其是显卡方面；也有评论者对原帖以贪吃蛇游戏作为衡量模型的基准提出反对意见，还有人对模型相关企业情况、表示感兴趣、感谢分享等内容，整体氛围积极且充满多元观点。

主要观点

  1. 👍 SuperNova - Medius - GGUF是一个优秀的模型
    • 支持理由：有评论者认为对于14B来说它像是一个很棒的模型，是不同标记器模型的精华版，试用后印象深刻，4位量化版本非常智能等。
    • 反对声音：无
  2. 🔥 硬件配置影响模型使用
    • 正方观点：如4070ti显卡运行模型存在显存等硬件方面的情况，不同显卡对运行模型有影响。
    • 反方观点：无
  3. 💡 贪吃蛇游戏不是衡量模型的好基准
    • 理由：应选择自己非常熟悉的主题相关的提示进行测试，贪吃蛇游戏不应是考量模型的首要因素，但认同个人基准测试这种方式。
  4. 🤔 SuperNova - Medius - GGUF架构奇特
    • 解释：它基于Qwen 2.5 14B，还结合了Qwen 72B和Llama 405B的部分。
  5. 😎 Arcee AI模型相当不错且重点在企业方面
    • 解释：所以在当前环境下人们较少听到它们，并且该企业雇佣了goddard。

金句与有趣评论

  1. “😂 It seems like a killer model for a 14B, a distillation of models with different tokenizers!”
    • 亮点：生动地形容SuperNova - Medius - GGUF模型对于14B来说很棒，是不同模型的精华版。
  2. “🤔 I’d use a 32B version in a heartbeat.”
    • 亮点：表达对该模型的认可，如果有32B版本会毫不犹豫使用。
  3. “👀 You should try it though! A 14B is perfect for a 4070ti.”
    • 亮点：推荐大家尝试该模型，并且提到14B版本与4070ti显卡的适配情况。
  4. “😉 I think using the snake game as a benchmark for models is not appropriate.”
    • 亮点：提出了与原帖不同的观点，认为贪吃蛇游戏不适合作为衡量模型的基准。
  5. “👍 Thanks for posting this ive give it a go and it has been surprisingly good, resoundingly beating mistral small in tool use albeit a bit weaker for longer turn by turn conversations.”
    • 亮点：感谢原帖分享并给出自己试用后的评价，指出在工具使用方面的优势和长轮次对话的不足。

情感分析

总体情感倾向是积极的。主要分歧点在于是否认为贪吃蛇游戏可以作为衡量模型的基准，可能的原因是大家对于衡量模型的有效方式有着不同的理解和侧重点，有的人认为应该选择更熟悉主题相关的提示进行测试，而原帖作者用贪吃蛇游戏作为自己测试模型的一个例子。

趋势与预测

  • 新兴话题：模型在不同应用场景（如工具使用、算法创建、长轮次对话等）中的表现对比可能会引发后续讨论。
  • 潜在影响：如果类似SuperNova - Medius - GGUF这种优秀模型不断发展，可能会对编程领域的效率提升以及相关模型竞争格局产生影响。

详细内容：

《关于 SuperNova-Medius-GGUF 的热门讨论》

在 Reddit 上，有一篇关于 SuperNova-Medius-GGUF 的帖子引起了众多关注。该帖子的作者称在查看 llm 排行榜时发现 SuperNova-Medius-GGUF 排名较高，于是尝试将其用于编码，并且表示从个人体验来看，它明显优于 qwen2.5-coder。帖子还提供了相关的截图和代码链接。此帖获得了大量点赞和众多评论。

讨论的焦点主要集中在以下几个方面： 有人认为对于 14B 而言，这似乎是一个出色的模型，是不同标记器模型的精华提炼。还有人表示会毫不犹豫地使用 32B 版本。有人分享自己已经尝试并非常喜欢这个模型。也有人指出 Arcee AI 模型实际上相当不错，只是其重点完全在企业方面，所以在这儿听闻较少。有人提到该模型基于 Qwen 2.5 14B ，同时结合了 Qwen 72B 和 Llama 405B 的部分，令人印象深刻，能处理更复杂的函数包括错误/异常处理。

但也存在不同声音，有人认为制作蛇游戏不能作为一个好的基准。不过也有人回应称作为零样本提示，这对于测试不同模型是一个很好的指标，有很多解决问题的方式。

在个人经历和案例分享方面，有用户表示自己是原帖作者，已经尝试并喜爱这个模型，还提到因使用 4070ti ，不得不更多地利用内存和 CPU ，并计划明年购买 5000 系列 GPU 。还有人分享说 1980 年 UNIX 实现的这个游戏允许玩家向后碰到自己的尾巴而结束游戏。

总之，关于 SuperNova-Medius-GGUF ，大家的讨论热烈且观点多样，既有对其性能的高度称赞，也有对测试基准的不同看法。这一讨论充分展现了大家对新模型的关注和思考。