原贴链接

先不考虑成本,我很喜欢人工智能提升我学习能力的方式。继续按月付费(目前只订阅了Claude Pro和ChatGPT团队版,但已取消ChatGPT,不想每月支付200美元)是不是更好呢?我认为构建本地托管系统本身就是最好的学习体验。不管这是否浪费钱,我将比以往更细致地了解产品和服务。你们有什么看法?

讨论总结

原帖提出在AI服务中选择付费订阅还是构建本地系统的问题,评论者从不同角度给出看法。一些人考虑成本、性能、自身需求等因素,如有人认为订阅成本低且无需操心系统,而本地系统可提供隐私和深入学习机会;也有人从硬件角度出发,提及本地硬件的多用途和不同硬件运行模型的能力等,总体氛围是理性探讨且观点多元。

主要观点

  1. 👍 本地硬件不限于LLM,可用于多种用途
    • 支持理由:评论者以自身使用本地硬件做多种事情为例,如运行LLM、游戏电脑等用途。
    • 反对声音:无。
  2. 🔥 决策取决于自身需求、硬件和能源价格
    • 正方观点:这些因素综合起来能确定是订阅还是构建本地系统更合适。
    • 反方观点:无。
  3. 💡 若想学习硬件设置可构建本地系统且可从旧设备开始,但软件学习价值不大
    • 解释:从硬件学习和软件学习的成效对比得出此观点。
  4. 💡 推荐OpenRouter与Hermes 3 405B用于学习
    • 解释:提到Hermes 3 405B在创建学习材料方面效果较好且价格有优势,OpenRouter资源灵活多样。
  5. 💡 投资硬件是较为保险的做法
    • 解释:认为订阅费用会持续增加,硬件价格也会上涨,构建本地系统可避免付费墙。

金句与有趣评论

  1. “😂 Local hardware is not exactly limited to LLM’s, you can do almost anything you want with it.”
    • 亮点:强调本地硬件用途的广泛性。
  2. “🤔 Well, that depends on (a) what you’re needs are, (b) what hardware you have, and (c) what the energy prices are for you?”
    • 亮点:简洁概括出决策的关键因素。
  3. “👀 我个人永远不会构建自己的设备。”
    • 亮点:明确表达自己不会构建本地系统的态度。
  4. “😉 OpenAI has set a trend, and the trend indicates that subscription costs will continue to rise.”
    • 亮点:指出订阅成本的趋势。
  5. “💡 我会两者都做:一个便宜的GPU(像50美元的P102 - 100)可以让你快速轻松地进行试验。”
    • 亮点:提出兼顾订阅和构建本地系统的一种方式。

情感分析

总体情感倾向为中性,主要分歧点在于构建本地系统和订阅服务哪个更好。可能的原因是大家的需求、经济状况、技术能力和对隐私的重视程度不同。有些人更看重成本和便利性,倾向于订阅服务;而有些人注重学习体验、隐私和长期投资,更偏向构建本地系统。

趋势与预测

  • 新兴话题:不同硬件对运行模型的影响以及如何优化本地系统性能。
  • 潜在影响:对AI服务的市场推广策略、用户教育方向以及相关硬件市场的发展有一定影响。例如,更多人关注硬件性能可能促使硬件厂商针对AI运行进行优化,而服务提供商可能会根据用户需求调整订阅策略。

详细内容:

《付费订阅与搭建本地系统,究竟哪个更优?》

在 Reddit 上,一则关于“Better to pay a subscription or build a local system ”的讨论引发了众多网友的关注。该帖子获得了大量的点赞和评论。原帖提出,在不考虑成本的情况下,AI 增强了学习能力,是选择继续支付每月订阅费用(目前是 Claude Pro 和 Chat GPT 团队,但已取消 Chat GPT,不想每月支付 200 美元),还是搭建本地托管系统,因为这本身是最好的学习体验,但不确定是否浪费钱,还是能更深入了解产品和服务。

讨论的焦点主要集中在以下几个方面: 有人认为,本地硬件不仅限于大语言模型(LLM),用途广泛,且成本并非高昂,能满足多种任务需求,但对于仅将 LLM 作为主要学习、工作和娱乐工具的人,搭建专用机器可能更合适,最终取决于个人的财务灵活性。也有人指出,如果想学习硬件设置,那就去搭建,不过在软件方面可能更多是解决驱动问题,学习价值有限。还有人表示,使用 OpenRouter 等服务对于大多数私人用户来说更经济实惠。

有人分享道:“我的用于 LLM 的机器也是我的常规游戏 PC、按需为朋友提供的专用服务器、3D 建模和打印中心、数字绘图工具,还通过 BOINC 进行一些计算。这东西一直在为自己的存在买单。” 还有人说:“如果您觉得您的情况相反,并且 LM 是您一直学习、玩耍和工作的主要内容,那么当然,围绕它构建专用机器可能更可取,最终还是取决于您的财务灵活性。”

有人认为 OpenAI 已经开创了订阅成本持续上涨的趋势,其他人可能会效仿,所以现在投资硬件是更安全的选择。但也有人提出,已经有像 OpenRouter 和 Vast.ai 这样的硬件访问选项,民主化了托管服务,除非利用率极高,否则投资硬件是不明智的。

有人表示会两者兼顾,比如买一个便宜的 GPU 进行实验,同时利用免费的 API。也有人分享自己搭建本地系统的经历,认为虽然学习过程不错,但现在不用本地 LLM 了,因为无法匹配 API 提供商的性能。

总之,关于是选择付费订阅还是搭建本地系统,大家各执一词。有人认为取决于个人需求、硬件拥有情况和能源价格;有人觉得如果是兴趣爱好,可以搭建系统,如果只是想用模型,租用或订阅就行。这场讨论没有明确的结论,最终的选择取决于每个人的具体情况和需求。