原贴链接

Deepseek V3现在可在together.ai上使用，不过可以预见，其价格不如Deepseek官方API有竞争力。他们对输入和输出的收费为每百万个标记0.88美元。但好处是，他们允许使用模型完整的128K上下文，而官方API仅限于64K输入和8K输出。并且他们不会使用你的数据进行训练，这是官方API最大的问题之一。这也意味着，现在在Openrouter中可以使用Deepseek V3，而无需启用使用会基于数据进行训练的供应商的选项。

讨论总结

整个讨论围绕Deepseek V3在together.ai平台上的使用情况展开。在模型的可用性方面，有用户反馈在together.ai上使用存在如事务处理速度慢、延迟高、每秒产生令牌速度慢等性能问题，但也有人认为这可能是因为模型刚添加到平台，之后可能会改善；在价格上，虽然together.ai每百万输入和输出tokens收费0.88美元看起来不如官方API有竞争力，但考虑到官方API即将涨价，它也有一定竞争力；隐私方面，针对together.ai声称是隐私友好的方式，许多用户表示质疑，引发了关于第三方托管能否保障隐私、不同地区供应商隐私风险差异等讨论；技术层面，用户对模型的上下文限制、输出等情况存在疑惑并展开交流。

主要观点

  1. 👍 Deepseek V3在together.ai上存在性能问题，如事务处理速度慢和延迟高
    • 支持理由：有用户反馈在together平台使用Deepseek V3时每秒处理7个事务且有12秒延迟，还有人尝试得到平均每秒7个令牌的结果，远低于官方API速度。
    • 反对声音：无
  2. 🔥 对together.ai声称的隐私友好方式表示质疑
    • 正方观点：第三方托管本身存在隐私风险，且Deepseek明确会记录用户提示并有训练权，together.ai也不一定能真正保障隐私。
    • 反方观点：together.ai不基于提示进行训练且可禁用提示记录相对有隐私性。
  3. 💡 Deepseek V3在together.ai上价格看似无竞争力，但官方API涨价后会改变这种情况
    • 解释：together.ai每百万输入和输出tokens收费0.88美元，高于Deepseek官方API，但官方API即将涨价，这会使together.ai的价格变得有竞争力。
  4. 💡 对Deepseek V3在together.ai上显示的128K上下文表示疑惑
    • 解释：有用户发现实际可用上下文与显示的不同，并且Together推出模型时存在配置问题已下线。
  5. 💡 对选择成本更高的第三方API而非Deepseek API表示疑惑
    • 解释：有人不理解为什么不信任Deepseek却信任成本更高的第三方API，回复者从隐私政策方面进行了解释。

金句与有趣评论

  1. “😂 我不明白为什么模型没有在他们的定价页面列出，而且页面上100 + B参数模型的定价高于你所说的。你能分享下你在哪里找到这个信息的吗？”
    • 亮点：直接对原帖中提到的价格信息提出质疑并索要来源。
  2. “🤔 Together seems to be back in openrouter but it says 128k output. Is it a mistake or did they have a breakthrough and we don’t know it yet?”
    • 亮点：针对模型输出情况提出合理疑惑。
  3. “👀 The price is actually quite competitive because the official API will soon increase the price.”
    • 亮点：从不同角度看待together.ai的价格竞争力。
  4. “😉 Deepseek explicitly states in their privacy policy that they log all user prompts and has the right to train on them. And do not provide any timeframe for when these prompts will be deleted.”
    • 亮点：明确指出Deepseek隐私政策的关键内容，解释了部分用户对隐私担忧的原因。
  5. “🙄 Puh, in together it is 7t/s with 12s latency.. nearly unusable rn.”
    • 亮点：生动描述了在together平台使用Deepseek V3时遇到的性能问题。

情感分析

总体情感倾向为疑惑与质疑较多。主要分歧点在于together.ai是否能提供如标题所说的隐私友好的使用方式以及其性价比。可能的原因是用户对隐私的重视以及对不同平台使用成本和性能的关注，同时together.ai在模型的推出过程中存在如配置错误、定价列错等问题也引发了用户的不信任感。

趋势与预测

  • 新兴话题：不同平台（如Requesty Router）的对比可能会成为后续讨论的新观点，包括价格、隐私和性能等方面。
  • 潜在影响：如果隐私问题得不到妥善解决，可能影响用户对类似的第三方托管平台和相关API的信任度，进而影响市场格局；同时性能问题也可能促使平台方对模型进行优化或者调整定价策略。

详细内容：

标题：关于 DeepSeek V3 在 Together 平台的可用性及隐私争议

近日，Reddit 上一则关于 DeepSeek V3 现已在 together.ai 上线的帖子引发了热烈讨论。该帖子获得了众多关注，评论数众多。

帖子指出，Together 平台的价格不如 DeepSeek 官方 API 有竞争力，其对输入和输出的收费为每百万令牌 0.88 美元。但优点是允许模型的完整 128K 上下文，而官方 API 则限制为输入 64K 和输出 8K，且允许用户选择不进行提示记录和训练。然而，后来发现该模型发布过早，配置不正确，价格也列错了，目前已下线，上线时间未知。

讨论焦点与观点分析：

  • 关于价格和模型列表的疑问：有人表示在定价页面未看到该模型，且页面上 100+B 参数模型的定价高于所说的价格，也有人提到模型列表可能未及时更新。
  • 关于模型的实际效果和限制：有人在使用时遇到错误提示，有人认为目前模型速度慢，存在配置问题。还有人指出 128K 是模型允许的最大上下文长度，并非输出长度，且不同模型的输出限制不同。
  • 关于隐私问题：有人质疑第三方托管如何能成为隐私解决方案，有人认为美国或欧洲的提供商风险状况不同，也有人认为只要数据在线就无隐私可言。
  • 关于使用方式：有人询问如何在 Openrouter 上使用 Together 平台，有人分享了相关配置代码。

总的来说，这次关于 DeepSeek V3 在 Together 平台的讨论，涉及价格、性能、隐私和使用方法等多个方面，大家各抒己见，观点丰富多样。