原贴链接

在过去的一周里，DeepSeek、Fireworks AI和NousResearch纷纷发布了o1风格的推理模型。在我们的开源优化推理代理optillm（https://github.com/codelion/optillm）中，我们已经实现了一些利用额外推理时间计算来提高准确性并适用于多种基础模型的技术。今天，我们很高兴地宣布，通过在optillm中使用代码链（coc）插件，我们能够使用Anthropic和DeepMind的最先进基础模型在AIME 2024（pass@1）上击败OpenAI的o1 - preview。作为参考，也可查看引入代码链（CoC）概念的原始论文：《代码链：用语言模型增强的代码模拟器进行推理》 - https://arxiv.org/abs/2312.04474。由于原始源代码未发布，我们在optillm中进行了独立实现。

讨论总结

原帖分享了在Optillm中通过链代码推理在AIME 2024上击败o1 - preview的成果，并提到相关模型发布和Optillm中的技术。评论者从不同角度进行讨论，包括对模型表现改进的设想、对CoC工作原理的疑问、对成果成本的关注、对Optillm的肯定与好奇等，整体氛围较为理性且专注于技术话题。

主要观点

  1. 👍 若能控制关键要素并使用辅助奖励模型会有更好表现
    • 支持理由：未明确提及，但基于技术改进的一般性理解，控制关键要素和辅助模型可能优化结果。
    • 反对声音：无。
  2. 🔥 OpenAI的o1模型在会计方面是变革而非能力方面
    • 正方观点：可能基于对o1模型在会计相关业务上的独特影响判断。
    • 反方观点：无。
  3. 💡 预测谷歌和Anthropic会远超OpenAI下一代o1模型
    • 支持理由：未详细阐述，可能基于对谷歌和Anthropic技术发展潜力的预估。
    • 反对声音：无。
  4. 💡 基准测试对某些产品不可靠
    • 支持理由：未详细说明，可能考虑到产品的多样性和测试的局限性。
    • 反对声音：无。
  5. 💡 对CoC工作原理存在疑问
    • 支持理由：直接提出疑问，表示对原理不清楚。
    • 反对声音：无。

金句与有趣评论

  1. “😂 The o1 model released by OpenAI is a revolution in accounting, not capability.”
    • 亮点：提出对OpenAI的o1模型独特的观点，从会计角度而非能力角度定义其意义。
  2. “🤔 I predict the likes of Google, & Anthropic will severely outperform whatever OpenAI could produce with the next - generation o1.”
    • 亮点：对未来模型发展进行大胆预测，涉及到谷歌、Anthropic与OpenAI的竞争关系。
  3. “👀 asankhs：The attached research paper has the details.”
    • 亮点：简单直接地指出获取CoC工作原理详细信息的来源。

情感分析

总体情感倾向较为理性中立，主要分歧点较少。原帖为信息分享性质，评论也多是基于技术探讨。可能的原因是话题本身的专业性，吸引的多是关注技术本身的用户，大家更多从技术事实角度出发进行讨论。

趋势与预测

  • 新兴话题：将相关技术应用于其他模型（如Mistral - Large、Qwen72b或者Llama70b）的性能表现可能引发后续讨论。
  • 潜在影响：对机器学习或数据分析领域在模型评估、技术改进等方面可能产生积极的推动作用，促使研究者更深入地探索模型性能优化等相关内容。

详细内容：

《Optillm 凭借 Chain-of-Code 推理在 AIME 2024 中击败 o1-preview 引发热议》

近日，Reddit 上一篇关于在 AIME 2024 中使用 Optillm 中的 Chain-of-Code（CoC）插件击败 OpenAI 的 o1-preview 的帖子引起了广泛关注。该帖子获得了众多点赞和大量评论。

原帖主要介绍了在开源优化推理代理 Optillm 中实施的多种技术，通过使用 CoC 插件，能够在 AIME 2024 中取得优于 o1-preview 的成绩，同时还提供了相关研究论文的链接。帖子引发的主要讨论方向包括对技术原理的探讨、对不同模型性能的比较和预测，以及对行业发展趋势的分析。

讨论焦点主要集中在以下几个方面： 有人认为如果能对上下文窗口、K/V 缓存进行有效控制，并采用辅助奖励模型进行 MCTS，可能会取得更大的进展。 有人指出 OpenAI 发布的 o1 模型在“会计”方面是一场革命，但在能力上并非如此，竞争它并非难事，真正的创新更多在于数据集和合成方面。 有人预测像谷歌和 Anthropic 等将在下一代 o1 中大幅超越 OpenAI 的产品。 有人详细介绍了 CoC 的工作原理，如生成初始代码、尝试直接执行、修复代码等步骤。 有人关心在时间和请求成本方面的情况，回复称 CoC 最多额外调用 5 次，实际成本可能比 o1-Preview 低。

在讨论中，存在一些共识，比如大家普遍认为行业中的创新和竞争非常激烈。特别有见地的观点如对 Anthropic 研究目标的分析，认为其研究是为了达到特定目的，而非孤立的行为。

总之，这次关于 Optillm 击败 o1-Preview 的讨论展现了业内对前沿技术的关注和深入思考，也为未来的研究和发展提供了丰富的思路。