原贴链接

嗨，我们训练了一个将PyTorch代码转译为Triton的模型并将其开源：[https://huggingface.co/predibase/Predibase - T2T - 32B - RFT](https://huggingface.co/predibase/Predibase - T2T - 32B - RFT)。为了做到这一点，我们使用强化微调（基于GRPO）训练了Qwen2.5 - Coder - 32B - instruct，根据内核基准测试（kernelbench），其性能比DeepSeek - R1和OpenAI o1高出约3倍。我们在这里写了关于强化微调（RFT）实现和这个模型的文章：[https://predibase.com/blog/introducing - reinforcement - fine - tuning - on - predibase](https://predibase.com/blog/introducing - reinforcement - fine - tuning - on - predibase)。https://llminfo.image.fangd123.cn/images/vj39t0dcznpe1.png!/format/webp

讨论总结

原帖介绍了一个经过强化微调训练的将PyTorch转换为Triton的开源模型，在kernelbench上性能超DeepSeek - R1和OpenAI o1约3倍，并分享了相关代码和文章。评论者们各抒己见，有对模型表示感谢的，也有很多提出疑问的，如模型功能是否与torch.compile()重叠、是否像TypeScript转换、是单任务还是通用模型、对模型性能比较的疑惑等，同时也探讨了模型的实用性、潜力、速度等，还有人对模型未来表示希望，整体氛围积极且充满好奇探索的感觉。

主要观点

  1. 👍 对原帖分享表示感谢
    • 支持理由：这是对原帖分享者的一种礼貌回应。
    • 反对声音：无
  2. 🔥 质疑是否与torch.compile()功能重叠
    • 正方观点：原帖未明确与torch.compile()的区别，存在疑惑是合理的。
    • 反方观点：无明确反对，但有后续解释该模型展示出潜力是不同之处。
  3. 💡 认为目前该模型写实际Triton内核的实用性不高
    • 支持理由：从当前状态看，没人会用其写实际内核。
    • 反对声音：无明确反对，但有提到其展示出潜力。
  4. 💡 认可模型展示出潜力
    • 解释：虽然目前实用性不高，但有发展潜力。
  5. 💡 提出应与torch.compile等进行基准测试
    • 解释：为了更准确判断模型价值。
  6. 💡 对模型性能数据表示惊讶
    • 解释：模型在kernelbench上超其他模型约3倍的数据很惊人。
  7. 💡 对将PyTorch转换为Triton的操作是否像TypeScript转换提出疑问
    • 解释：两者都涉及转换操作，所以有此疑问。
  8. 💡 探讨Triton和PyTorch的速度比较
    • 解释：对两种技术的性能比较好奇。

金句与有趣评论

  1. “😂 thanks op for sharing, maybe I’m missing the context, but isn’t this what torch.compile() is for?”
    • 亮点：直接提出关于模型功能的疑问，是很多人可能关心的点。
  2. “🤔 Yes. Honestly, I don’t think anyone is gonna use this to write actual Triton kernels (at least not in its current state).”
    • 亮点：对模型实用性的客观评价。
  3. “👀 Imagine a world where people write for cuda and a LLM translates to OpenCL… etc.”
    • 亮点：充满想象力地描述了代码转换的未来可能。
  4. “😂 peaceofcosmo: wow this is crazy stats!”
    • 亮点：简洁表达对模型性能数据的惊叹。
  5. “🤔 celsowm: transpiling like typescript?”
    • 亮点：提出关于转换操作的类比疑问。

情感分析

总体情感倾向是积极的。主要分歧点在于对模型实用性和性能比较的看法，原因是原帖未详细解释模型在实际中的应用场景和性能优势与其他模型对比的更多细节，导致大家根据自己的理解和知识背景产生不同观点。

趋势与预测

  • 新兴话题：用小模型和更好机器复制成果的可能性。
  • 潜在影响：如果能实现小模型复制成果，可能会推动相关技术在更多场景下的应用，对软件和硬件的发展都有一定的推动作用。

详细内容：

标题：新开源模型将 PyTorch 转译为 Triton 性能卓越

在 Reddit 上，有一个热门讨论围绕着新的开源模型展开。该模型用于将 PyTorch 代码转译为 Triton，并在 kernelbench 上的表现超越了 DeepSeek-R1 和 OpenAI o1 约 3 倍。原帖作者分享了相关模型及训练细节，并提供了多个链接：https://huggingface.co/predibase/Predibase-T2T-32B-RFT 以及 https://predibase.com/blog/introducing-reinforcement-fine-tuning-on-predibase 。此帖获得了众多关注，引发了激烈的讨论。

讨论的焦点主要集中在以下几个方面：

有人提出疑问，认为这不就是 torch.compile()的作用吗？还有人认为，至少在当前状态下，没人会用这个来写实际的 Triton 内核，但它展示了潜在的可能性，下一步应该与 torch.compile 进行基准测试。

有人想象了一个人们为 cuda 编写代码，然后由 LLM 转换为 OpenCL 等的世界。

也有人不太理解这个模型到底是像 TypeScript 那样的转译，还是用于特定任务的单一工作模型，还是通用的编码模型。有人指出该模型高度特定，但用于推导它的过程适用于其他模型。特别是在领域示例具有稀疏性时，这种方法能以更少的计算获得更好的损失值。

在讨论中，大家的观点各有不同。有人认为这就像一个只能做一项工作的模型，而有人认为像手术刀一样，虽然只有一项工作，但在特定领域能发挥出色。也有人对这种基准测试的方式提出疑问，想知道是否意味着这个 predi 模型比之前所有的 SOTA 都要好。

总的来说，这个话题引发了大家对新开源模型的性能、用途以及未来发展的深入思考。虽然存在不同的看法，但都为相关领域的讨论提供了有价值的见解。