原贴链接

我想复制像cursor / anthropic等编码助手的速度和准确性。

用2000到3000美元我可以构建什么？

一台Mac Studio够用吗？

我更看重速度而非准确性…我认为准确性可以通过更好的提示或重试来微调

讨论总结

Reddit上的讨论围绕着在2000-3000美元的预算内构建一个本地的编码AI系统展开。用户们讨论了不同型号的AI模型（如DeepSeek Coder V2和Mistral 22B），所需的硬件配置（如Mac Studio、RTX 3090显卡和DDR5内存），以及通过API使用现有服务的成本效益分析。讨论中还提到了通过实验和测试来选择最适合的模型和配置的重要性。总体上，讨论涉及了硬件选择、模型性能、成本效益和技术更新等多个方面。

主要观点

  1. 👍 DeepSeek Coder V2需要高性能硬件
    • 支持理由：高性能硬件如128GB或192GB的Mac Studio能够支持DeepSeek Coder V2的运行。
    • 反对声音：成本较高，不适合预算有限的用户。
  2. 🔥 DeepSeek Coder V2 Lite或Mistral 22B可以在较低成本的硬件上运行
    • 正方观点：这些模型可以在如3090或7900 XTX显卡上运行，成本较低。
    • 反方观点：性能可能不如高端模型。
  3. 💡 在购买硬件前，应通过API尝试不同大小的编码模型
    • 解释：选择“足够好”的模型可以节省成本并满足需求。
  4. 👍 使用DeepSeek API是一种成本效益高的选择
    • 支持理由：比ChatGPT4更便宜且性能更好。
  5. 🔥 在eBay上可以找到性价比较高的二手RTX 3090显卡和DDR5内存
    • 解释：这些二手硬件可以降低构建系统的成本。

金句与有趣评论

  1. “😂 You could target DeepSeek Coder V2 (not lite). It’s very fast, and incredible, but it’s a big boy.”
    • 亮点：幽默地描述了DeepSeek Coder V2的高性能需求。
  2. “🤔 The cheapest way is to simply use deepseek api. State of the art coding model very, very cheap.”
    • 亮点：强调了使用API的成本效益。
  3. “👀 Grab a used $600 RTX 3090 and $400 of 4x48GB DDR5 RAM on Ebay (or half the cost for DDR4, but slower inference) and $300 of other PC components.”
    • 亮点：提供了具体的硬件购买建议。

情感分析

讨论的总体情感倾向是积极的，用户们对于在有限预算内构建本地编码AI系统持有探索和乐观的态度。主要分歧点在于硬件选择和模型性能的平衡，以及是否应该投资硬件还是使用API服务。这些分歧可能源于用户对成本效益和技术性能的不同考量。

趋势与预测

  • 新兴话题：随着技术的发展，未来可能会有更多成本效益高的解决方案出现，如更高效的模型和优化过的硬件配置。
  • 潜在影响：对相关领域或社会的潜在影响包括提高编程效率，降低开发成本，以及推动AI技术在编程领域的广泛应用。

详细内容：

标题：$2000 - $3000 能否构建本地编码 AI 系统？Reddit 热议

在 Reddit 上，一则关于“$2 - $3000 是否足够构建一个本地编码 AI 系统”的帖子引发了热烈讨论。该帖子吸引了众多用户的关注，评论数众多。

帖子中，发帖者表示想要复制像 Cursor / Anthropic 等编码助手的速度和准确性，询问在 2000 - 3000 美元的预算下能构建怎样的系统，还提及 Mac Studio 是否足够，更倾向于速度而非准确性。

讨论焦点与观点分析： 有人认为这取决于想要的模型，比如可以选择 Deepseek Coder V2 ，但可能需要 128GB 或 192GB 的 Mac Studio 等较高配置。有人指出 Deepseek Coder V2 Lite 或 Mistral 22B 相对容易，只需配备 3090 或 7900 XTX 等，并构建一个廉价机箱。 有人提到最经济的方式是使用 deepseek api ，认为其在某些方面优于 ChatGPT4 。 还有人探讨了不同模型的性能和适用场景，比如有人认为 70B 的 llama 3.1 表现不错。 有人认为 3000 美元的预算是不够的，可能需要 20000 - 25000 美元来构建一个“初学者系统”。但也有人表示 3000 美元可以买到 3 个 3090 显卡及其他组件，能达到一定的速度。 有用户表示自己作为软件开发者，使用 ChatGPT 辅助编码的体验有好有坏。有人认为可以借助 LLM 完成特定功能的编码，也有人认为 LLM 生成的代码存在诸多问题。

总的来说，关于 2000 - 3000 美元是否能构建满足需求的本地编码 AI 系统，大家观点不一，且讨论涉及模型选择、硬件配置、实际应用效果等多个方面。