原贴链接

今天我得暂停实验，像gemma3、mistralsmall、phi4、qwq、qwen等模型，惊叹于它们如此小却如此好。一年前我们大多认为需要70B的模型才厉害。14 - 32B的模型现在也很强。我要删除我的Q2/Q3 llama405B和deepseek动态量化模型。我打算重新下载guanaco、dolphin - llama2、vicuna、wizardLM、nous - hermes - llama2等模型。为了纪念过去。我们发展得如此之快，走得如此之远真是令人惊讶。有些模型甚至还不到两年，仅一年多。我打算保留一些旧模型并运行它们，这样我就能铭记不忘，也能更加珍惜我们现在所拥有的。

讨论总结

原帖作者感慨人工智能模型发展迅速，打算重新下载一些旧模型来纪念，同时提到要删除一些大模型。评论者们纷纷分享自己仍在使用的旧模型，如Nous - Capybara - 34B、Guanaco 65b ggml、Gemma2等，并且讨论了旧模型在特定任务上的表现、与新模型的比较、旧模型的优势和不足、使用旧模型的原因（如怀旧、预算限制、计算资源受限等），还涉及到模型审查、模型训练等方面的内容。

主要观点

  1. 👍 大公司可能仍在使用古老架构的人工智能生产模型
    • 支持理由：大多数十年前使用AI的大公司出于成本和架构合理性等因素可能继续使用旧模型。
    • 反对声音：无。
  2. 🔥 部分旧模型在风格上很棒，但遵循指令能力差
    • 正方观点：从风格上看，旧模型有独特之处。
    • 反方观点：指令遵循能力差影响使用体验。
  3. 💡 旧模型在特定任务或小众领域表现不错
    • 解释：如旧的Mistral 7b Nous Hermes微调模型在产品描述生成任务中效果好，yi capybara tess 34b模型在小众主题上表现佳。
  4. 👍 新模型更听从指令，但老的无审查模型更无审查
    • 支持理由：新模型有改进的越狱防范方法，而老模型未经过多净化处理。
    • 反对声音：部分人对老模型更无审查这一观点不完全认同。
  5. 🔥 一些旧模型虽不“智能”，但仍有实用价值
    • 正方观点：像Gemmasutra - 2b这样的旧模型在大多数事情上比原始Gemma2稍好。
    • 反方观点：在处理生成人类化回应/写作任务上能力不足。

金句与有趣评论

  1. “😂 You can bet your house that the vast majority of large companies that also used AI a decade ago (or earlier) still have production models deployed that are >3 years old (at least architecture - wise, ideally they retrained them).”
    • 亮点：强调大公司可能仍在使用旧的人工智能生产模型，用比较肯定的表述引起关注。
  2. “🤔 in my opinion it was a bit ahead of time.”
    • 亮点：表达对Nous - Capybara - 34B模型超前性的个人看法。
  3. “👀 It’s fun how we call "ancient" something that’s a couple years old :)”
    • 亮点：指出将几年历史的事物称为“古老”是一种有趣的现象。
  4. “😂 Mistral Small absolutely crushes Goliath - 120b, which is five times its size.”
    • 亮点：通过对比体现出模型的表现与尺寸不一定成正比。
  5. “🤔 I still can’t delete the original Mistral 7b instruct, but that’s for sentimental reasons”
    • 亮点：说明情感因素在保留旧模型中的作用。

情感分析

总体情感倾向是积极的。主要分歧点在于老的无审查模型是否比新模型更无审查，以及旧模型和新模型在不同任务上的表现优劣。可能的原因是不同用户对模型的使用场景、需求和体验不同，导致对模型的评价存在差异。

趋势与预测

  • 新兴话题：将过去的训练经验应用于原始模型权重的效果探讨。
  • 潜在影响：对人工智能模型的开发和优化有一定的参考价值，可能促使开发者在模型设计和改进中考虑更多因素，如在保持性能的同时提高指令遵循能力，以及平衡模型的审查程度等。

详细内容：

标题：关于仍在运行古老模型的热门讨论

在 Reddit 上，一则题为“Who’s still running ancient models?”的帖子引发了众多网友的热烈讨论。该帖子获得了大量的点赞和众多的评论。

帖子的主要内容是作者感叹技术发展之快，以前认为需要 70B 才能表现出色，如今 14 - 32B 就相当出色，并打算重新下载一些旧模型来运行，以作纪念和更好地体会技术的进步。

这个话题引发了多个方向的讨论，核心问题包括为什么一些大公司仍在使用旧模型、旧模型与新模型的性能差异、不同模型在特定任务中的表现等。

在讨论焦点与观点分析方面，有人认为大多数大型公司仍在使用多年前的生产模型，因为“如果没坏，就别修”，而且运行成本在降低。也有人分享使用 ChatGPT 3.5 的案例，并表示正在为客户寻找本地解决方案。还有人质疑为什么不使用更新更便宜的模型，如 4o - mini 。

有人指出在某些使用场景下，使用大型语言模型没有意义。有用户提到自己尝试过多种模型，如 llama3.1 8b ，认为其在综合性能上表现出色，尽管其他模型在特定领域可能更好，但 llama3.1 8b 更全面。

还有人认为旧模型在风格上有时比新模型更出色，但在遵循指令方面表现较差。也有用户提到一些旧模型在特定任务中的良好表现。

例如，有用户分享道：“我知道这是 localllama，但我不得不跟您说，我们为一个大客户使用 ChatGPT 3.5 ，它对他们的用例来说非常完美。尽管如此，我们正在为他们准备一个本地解决方案。”

讨论中的共识在于大家都认同技术进步迅速，旧模型与新模型各有优缺点。特别有见地的观点如有人认为 llama 模型在通用性方面表现出色，尽管在某些基准测试中表现不佳，但能更好地处理训练数据之外的情况。

总之，这场关于古老模型的讨论展示了大家对技术发展的思考和不同的见解。