原贴链接

1.5版本的新特性：

  • 吞吐量提升高达50%，延迟降低25%
  • Command R 1.5的硬件需求减半
  • 增强多语言能力，改进检索增强生成
  • 更好的工具选择和使用
  • 数据分析和创建能力增强
  • 对非语义提示变化的鲁棒性提高
  • 拒绝回答无法解决的问题
  • 引入可配置的安全模式，进行细致内容过滤
  • Command R+ 1.5定价为每百万输入令牌$2.50，每百万输出令牌$10
  • Command R 1.5定价为每百万输入令牌$0.15，每百万输出令牌$0.60

博客链接：https://docs.cohere.com/changelog/command-gets-refreshed

Huggingface链接：
Command R：https://huggingface.co/CohereForAI/c4ai-command-r-08-2024
Command R+：https://huggingface.co/CohereForAI/c4ai-command-r-plus-08-2024

讨论总结

Reddit用户对新发布的Command R和Command R+模型表现出极高的兴趣和讨论热情。主要关注点包括模型的性能提升，如吞吐量和延迟的改进，以及硬件需求的降低。多语言支持的增强和安全模式的引入也是讨论的热点。此外，用户还关注模型的价格调整和量化方法，以及如何在本地管理和使用这些模型。讨论中还涉及了模型的创意任务表现、与其他模型的比较，以及用户的使用体验和模型管理策略。

主要观点

  1. 👍 性能显著提升
    • 支持理由：新模型提供了高达50%的吞吐量提升和25%的延迟降低。
    • 反对声音：有用户对新模型的性能提升表示怀疑，希望看到更多基准测试结果。
  2. 🔥 多语言支持增强
    • 正方观点：新模型在多语言处理上表现出色，特别是在检索增强生成方面。
    • 反方观点：有用户对新模型在非英语语言上的表现表示疑问。
  3. 💡 安全模式的引入
    • 解释：新模型引入了可配置的安全模式，用于细粒度内容过滤。
  4. 🌟 价格调整
    • 解释：新模型的定价有所调整，Command R+ 1.5和Command R 1.5的价格分别为$2.50/M输入令牌和$0.15/M输入令牌。
  5. 🛠️ 模型管理策略
    • 解释：用户讨论了如何管理大量旧模型，包括保留策略和数据清理。

金句与有趣评论

  1. “😂 Command-R now uses GQA, which significantly reduces its memory usage.”
    • 亮点：GQA技术的引入大幅降低了模型的内存使用。
  2. “🤔 I would love to see evidence from someone (ANYONE, especially that guy) about differences between the two, at absolute best I’ve observed no difference, at worse it’s actually worse somehow.”
    • 亮点：用户对量化方法的效果表示怀疑，希望看到更多实验数据支持。
  3. “👀 Soo. I have over 300gigs in models on my laptop dating back to April. How does everyone decide that it’s time to delete a model?”
    • 亮点：用户提出了一个关于模型管理的问题，引发了广泛的讨论。

情感分析

讨论的总体情感倾向是积极的，大多数用户对新模型的发布表示兴奋和期待。主要分歧点在于模型的性能提升是否如宣传所述，以及安全模式的实际效果。用户对新模型的价格调整和多语言支持表示赞赏，但对某些技术细节和实际应用效果表示疑问。

趋势与预测

  • 新兴话题：用户对未来模型的更新和功能增强表示期待，特别是多模态模型的开发。
  • 潜在影响：新模型的发布可能会对AI模型市场产生影响，特别是在性能和价格方面。同时，安全模式的引入可能会改变用户对模型内容过滤的看法。

详细内容：

《Cohere 发布新 Command R 和 Command R+ 模型引发热烈讨论》

近日，Reddit 上一则关于 Cohere 发布新 Command R 和 Command R+ 模型的帖子引发了众多关注。该帖子详细介绍了新模型的多项改进和新特性，包括更高的吞吐量、更低的延迟、硬件要求降低、增强的多语言能力等，同时还公布了新的定价。此帖获得了大量的点赞和众多评论。

讨论的焦点主要集中在以下几个方面：

  • 性能提升：有人指出新的 35b 模型终于有了 GQA，显著降低了内存使用。还有用户表示新模型在性能上有了很大提升，比如在处理速度和资源占用方面有了显著改善。
  • 功能改进：如增强的多语言能力和更好的工具选择及使用等特性受到关注。
  • 与其他模型的比较：不少用户将新模型与诸如 Gemma 2 27B、Mistral Large 等进行对比，讨论其优劣。
  • 安全性模式：对于“Safety Modes”的设置和效果存在不同看法，有人关心其对模型训练的影响以及能否自由关闭。
  • 模型适用性：不同用户根据自身需求和使用场景，探讨新模型是否适合自己，比如在写作、编码等任务中的表现。

例如，有用户分享道：“作为一名长期关注模型发展的技术爱好者，我亲自测试了新的 Command R 模型。在处理长文本时，它的速度和准确性让我眼前一亮。之前使用的其他模型在这方面往往表现不佳，但新的 Command R 确实带来了很大的改进。”

同时，也存在一些争议点。比如，有用户认为新模型在某些方面的表现不如预期，特别是在某些特定的编码任务中。但也有用户认为，对于大多数用户来说，新模型在综合性能上仍然是一个不错的选择。

总的来说，这次 Cohere 新模型的发布在 Reddit 上引起了广泛而深入的讨论，用户们各抒己见，为大家提供了丰富多样的观点和见解。