原贴链接

我试过的GPU供应商没有一个是完美的，但他们通常都有自己的优势……但到目前为止，Vast.ai是第一个没有任何可取之处的。实例在设置模板或更改模板时似乎会陷入死锁，几乎没有可观察性（其他人似乎也注意到了这一点：https://www.reddit.com/r/LocalLLaMA/comments/1cz90le/comment/l5g270m/）；大部分用户界面是我管理计算时遇到过的最糟糕、最混乱的界面；即使在他们的“数据中心”实例上也表现糟糕。https://llminfo.image.fangd123.cn/images/vz2huqmjmgae1.png!/format/webp；最大合同概念处理起来很烦人，感觉他们不想对供应商执行实际的服务水平协议，而是把负担转嫁给用户；总体上价格似乎没有竞争力？一些非常特定的配置（如4x3090s/4090s）肯定比平常便宜……但由于实例质量如此糟糕，模型并行性往往会导致像我上面图表那样非常糟糕的性能，抵消了节省的费用；他们似乎没有很多最具成本效益的低成本GPU，如A40s。我知道我在吐槽Vast，但我也真心想弄清楚是否存在一些神奇的小众优势，因为我已经在那里充值了。是程序访问很棒吗？他们是否在某个我没注意到的特定GPU配置的最佳点上做得更好？他们给人业务很多的印象，所以我想物尽其用。

讨论总结

原帖对Vast.ai进行吐槽，指出它在实例、UI、性能、合同概念、价格、GPU种类等多方面存在问题，怀疑其没有可取之处。评论者们观点不一，有人认同原帖，分享自己使用Vast.ai时糟糕的经历，如存储性能差、被莫名踢出、数据收费过高等；也有人以自己的良好使用体验反驳原帖，提到在Vast.ai上进行特定任务（如训练Yolov9、图像二值化推理）时无问题，且有价格优势等。还有人在两者之间，既认可Vast.ai存在部分问题，又表示在特定需求下它有一定价值，也有人分享了使用Vast.ai的实用建议。

主要观点

  1. 👍 Vast.ai存在诸多问题，没有可取之处
    • 支持理由：原帖列出实例易死锁、UI糟糕、性能差等多方面问题。
    • 反对声音：有评论者以自身良好体验反驳。
  2. 🔥 Vast.ai对于特定需求（如租用H100和H200）有价格优势
    • 正方观点：评论者提到如果有特定需求，Vast.ai有便宜的机器可租用。
    • 反方观点：原帖认为其价格整体缺乏竞争力。
  3. 💡 在Vast.ai的A6000 gpu上进行Yolov9训练无问题，不认同原帖观点
    • 解释：评论者以自身经历表明训练过程顺利，与原帖看法不同。
  4. 💥 Vast.ai使用过程中存在如连接方面的问题
    • 解释：评论者以自身使用经历提到有连接错误、apt连接慢等问题。
  5. 🤔 使用Vast.ai导致未开始就被踢出，是浪费时间和金钱
    • 解释：评论者分享自己在廉价设备上进行CPU推理时的糟糕遭遇。

金句与有趣评论

  1. “😂 我认为在随机陌生人的硬件上运行不是明智之举。”
    • 亮点：表达对在随机硬件上运行的态度，暗示Vast.ai可能存在此类问题。
  2. “🤔 They have interesting machines to rent if you have specific needs, and are pretty cheap for H100 and H200s.”
    • 亮点：指出Vast.ai在特定需求下的价格优势。
  3. “👀 yesterday i trained an Yolov9 on A6000 gpu on vast.ai. It trained without any issues.”
    • 亮点：以自身经历反驳原帖关于Vast.ai的负面评价。
  4. “😒 我试了几次，结果都不好。一次是H100机器，GPU正常但存储性能太差，啥都做不了。”
    • 亮点：具体描述使用Vast.ai时遇到的问题。
  5. “🙄 Ya that’s a nope.”
    • 亮点：简洁地表达对原帖关于Vast.ai存在问题观点的认同。

情感分析

总体情感倾向是争议性较大。主要分歧点在于Vast.ai是否有价值、是否存在诸多问题。可能的原因是不同用户有不同的使用需求和场景，导致体验差异很大。原帖作者可能在自身使用场景下遇到较多问题，而部分用户在自己特定的任务（如图像二值化推理、特定GPU训练）下体验较好。

趋势与预测

  • 新兴话题：可能会进一步探讨Vast.ai在不同使用场景（如不同类型的模型训练、推理等）下的表现，以及如何更好地使用Vast.ai（如实例筛选等实用建议）。
  • 潜在影响：对于想要租用计算资源的用户来说，这个讨论有助于他们更全面地了解Vast.ai的优缺点，从而做出更合适的选择；对于Vast.ai来说，如果负面评价较多，可能需要改进自身的服务，如提升实例性能、优化UI等。

详细内容：

《关于 Vast.ai 的热门讨论：是福是祸？》

在 Reddit 上，一则题为“Does anyone here use Vast.ai?”的帖子引起了广泛关注。该帖指出了 Vast.ai 在使用过程中的一系列问题，获得了众多点赞和评论。

原帖作者列举了 Vast.ai 的诸多不足，如实例设置和更改模板时容易死锁且缺乏可观测性，用户界面糟糕，性能不佳，最大合同概念烦人，价格缺乏竞争力，缺乏成本效益高的低功耗 GPU 等。同时还附上了相关链接以作补充说明。

讨论焦点主要集中在对 Vast.ai 的不同看法上。有人认为在随机陌生人的硬件上运行并非明智之举，比如有人说：“我认为‘数据中心’仅仅意味着在某些随机的数据中心内部。”还有人表示，Vast.ai 的大部分 GPU 租赁空间似乎都建立在随机人员的硬件上，但处理得并不好，以至于产生了诸多问题，比如：“我从来不必担心像‘这个实例是否真的会上线运行我让它运行的代码’这样简单的问题。再加上可怕的用户界面，要弄清楚到底发生了什么简直难如登天。”

也有用户认为 Vast.ai 有其可取之处，如有特定需求时能租到有趣的机器且价格便宜。比如有人提到：“他们有 H100 和 H200 可供租赁，价格相当便宜。在哪里还能以 2.67 美元租到 H200，以 1.7 美元租到 H100 呢？”

还有用户分享了个人经历，比如：“我最近每天都在使用 Vast.ai，遇到的唯一问题是某些未经验证的机器的连接错误，以及在香港的某些机器上连接 apt 速度超级慢，我不得不更改镜像。在这些机器上的性能还可以。当性能不佳时，查看您获得的 CPU 以及 GPU 的功率限制。”

然而，更多的用户则是对 Vast.ai 表示不满，认为它是浪费时间和金钱。

那么，Vast.ai 到底是有其独特价值，还是真的问题重重？这成为了大家讨论的核心争议点。