原贴链接

大型语言模型（LLMs）的改进速度快得惊人。如果你用它们构建应用程序，在几个月或几周内，仅仅通过替换模型文件，或者如果你使用API的话仅仅替换一个字符串，几乎就可以保证得到更好、更快且更便宜的结果！这就是我想象中70年代和80年代计算机极客们的感受，但现在的发展速度更快而且是开源的。如果说Qwen追赶OpenAI这件事向我们展示了什么的话，那就是看起来，即使对于巨头们来说，围绕LLMs构建护城河也不是那么现实。多么美妙的世界啊！对新的开放式推理模型时代超级兴奋，我们离开放的通用人工智能（AGI）已经非常接近了。

讨论总结

原帖认为LLMs发展迅速，在构建应用时能快速便捷地更新模型从而获得更好的效果，并且开源环境下巨头难以建立护城河。评论者们从多个方面展开讨论，有的分享自己使用LLMs的积极体验，如在工作学习中的改变、项目构建中的助力；有的指出LLMs发展存在的问题，像显存限制、模型转换时的操作等；还有的从不同角度对LLMs发展进行对比和展望，整体氛围积极向上，对LLMs发展充满期待。

主要观点

  1. 👍 当下是LLMs的类似Commodore 64的时代，易上手且有趣
    • 支持理由：类比Commodore 64时代，现在的LLMs容易上手且充满乐趣，只要花时间学习就能构建东西
    • 反对声音：无
  2. 🔥 LLMs的出现激发了评论者为自己做项目的动力
    • 正方观点：LLMs带来诸多可能性，让评论者开始维护开源代码库、学习和改变工作流程
    • 反方观点：无
  3. 💡 定制模型的时代已经来临
    • 支持理由：Llama3 - 3B在资源适度的情况下能很好地进行微调
    • 反对声音：无
  4. 👍 认可LLMs发展迅速，但模型转换时除替换文件外还需其他操作
    • 支持理由：从多个模型迁移时，需要对提示词措辞和推理后处理进行更改
    • 反对声音：无
  5. 🔥 认同LLMs发展迅速且类似早期计算机革命
    • 正方观点：发展速度快且开源，类似70、80年代计算机革命
    • 反方观点：无

金句与有趣评论

  1. “😂 Yup. This is the "Commodore 64" era of LLMs. Easy to play with, lots of fun, and can build stuff if you take time to learn it.”
    • 亮点：形象地将LLMs时代类比为Commodore 64时代，说明其易上手和有趣的特点
  2. “🤔 Llama3 - 3B takes up fine tuning really well, with modest resources.”
    • 亮点：指出Llama3 - 3B微调对资源需求适度，支持定制模型时代来临的观点
  3. “👀 LLMs came and the possibilities were so exciting that I finally started; they’ve gotten me to actually start maintaining an open source repo, regularly studying and learning, and I’m practicing with different ways of programming with them AI integrated into the workflow to help me move even faster.”
    • 亮点：具体阐述了LLMs对评论者在学习、工作方面的积极影响

情感分析

总体情感倾向为积极。主要分歧点较少，多数评论者都对LLMs的发展表示认可和期待。可能的原因是LLMs确实给人们带来了新的可能性和机遇，无论是在工作学习还是项目构建方面，大家都从中看到了积极的一面。

趋势与预测

  • 新兴话题：可能会更多关注开源协议对LLMs发展意义的讨论，以及如何突破VRAM短缺等技术问题。
  • 潜在影响：如果LLMs继续发展，可能会对传统编程、工作流程等产生变革性影响，并且可能改变应用层的构建模式。

详细内容：

标题：LLMs 时代：令人兴奋的变革与挑战

在 Reddit 上，一个题为“This era is awesome!”的帖子引起了广泛关注，收获了众多点赞和大量评论。原帖主要探讨了大语言模型（LLMs）发展迅速，认为其更迭能让应用开发者轻松获得更好、更快且更便宜的效果，还提及即便像 Qwen 这样的后来者也能赶上 OpenAI，构建围绕 LLMs 的护城河对巨头来说似乎不太现实，对开放推理模型的新时代充满期待。

帖子引发了多方面的热烈讨论。有人将当前视为 LLMs 的“Commodore 64”时代，认为容易上手且乐趣多多，只要花时间学习就能有所建树。但也有人指出，简单用户仍受限于 VRAM 而无法接触到更好的资源。

有用户分享了自己的经历，比如有人过去十年因工作忙碌而未开发个人项目，LLMs 的出现让其开始维护开源项目、不断学习，并将 AI 融入工作流程，大幅提高了工作效率。还有人在一周内就构建了使用 ollama 或 openrouter 的网络应用和能自动行驶的机器人汽车。

关于未来发展，有人认为运行托管模型是个不错的过渡，一年内本地运行的模型能力将不输于托管模型。也有人认为需要类似 NVLink 的技术，还有人提到需要安德烈·卡帕西提到的“10B 推理核心”，甚至有人建议设计带有可更换 GDDR5 或 6 模块的扩展卡。

有人指出，LLMs 在一定程度上消除了繁琐的格式问题，让人能直接投入到实现过程中。也有人认为，尽管单个模型可能不如专有模型，但多个模型协同工作效果显著。

同时，有人认为 VRAM 短缺是社区发展的唯一阻碍，AMD 应改进，还有人觉得 NVIDIA 有能力解决但因商业考虑未行动。

在这场讨论中，大家的共识在于认可 LLMs 带来的巨大变革和可能性。特别有见地的观点如有人感慨如今工作中的编码因缺乏家中可用的 AI 工具而仿佛回到石器时代，还有人通过 LLMs 扩展了内部语境，实现了快速的项目开发。

总之，这个讨论展现了 LLMs 时代的活力与潜力，也揭示了其中面临的问题和挑战，让我们对未来充满期待又充满思考。