原贴链接

这是我的第一个AI视频处理工作站，配置了3块4090显卡。详情请见图片链接：

image

讨论总结

该讨论主要围绕用户Special-Wolverine新搭建的3x RTX 4090 AI + 视频处理工作站展开。评论涉及硬件配置优化、软件推荐及性能提升等方面。Special-Wolverine提到希望更换电源线以减少杂乱，并探讨了使用不同前端和后端支持GPU分割的可能性。其他用户如Armym、EDLLT等提供了关于软件优化和硬件选择的建议，整体讨论氛围积极且富有建设性。

主要观点

  1. 👍 Special-Wolverine希望更换90度CableMob电源线以减少线缆杂乱，并尝试关闭机箱玻璃。
    • 支持理由：减少线缆杂乱，提升美观度和易用性。
    • 反对声音：暂无。
  2. 🔥 Armym建议尝试使用vLLM和George Hotz RTX 4090 p2p驱动来提升推理性能。
    • 正方观点：vLLM和George Hotz RTX 4090 p2p驱动可以显著提升推理性能。
    • 反方观点：暂无。
  3. 💡 Special-Wolverine计划尝试不同的前端和后端支持GPU分割。
    • [解释]：探索不同的前端和后端支持GPU分割的可能性，以优化性能和资源利用率。
  4. 💡 EDLLT推荐使用langflow代替AnythingLLM。
    • [解释]：langflow可能比AnythingLLM更有效或更易用。
  5. 💡 Special-Wolverine认为当前技术发展迅速，最佳解决方案往往未知。
    • [解释]：技术在快速发展，最佳解决方案可能尚未被发现。
  6. 💡 Armym指出，关于最佳LLM实践的文档需要频繁更新。
    • [解释]：由于技术快速发展，最佳LLM实践需要不断更新。
  7. 💡 antialtinian对CableMod产品的安全性表示担忧。
    • [解释]：对CableMod产品的安全性表示担忧。
  8. 💡 CableMod_Alex澄清CableMod电缆的安全性，并指出召回的是角度适配器。
    • [解释]：CableMod电缆的安全性得到澄清，召回的是角度适配器。
  9. 💡 satireplusplus误以为看到4个GPU，实际上是三个风扇。
    • [解释]：对硬件配置的误解。
  10. 💡 Darkonimus认为3块4090显卡的性能非常强大，但功耗和散热问题严重。
    • [解释]：3块4090显卡性能强大，但功耗和散热问题需要关注。

金句与有趣评论

  1. “😂 That’s the crazy thing about this time we live in - everything is still up for grabs.”
    • 亮点：表达了对当前技术发展迅速，机会遍地的看法。
  2. “🤔 If you made a document/book about best llm practices, you would have to update it every half a month or so.”
    • 亮点：指出最佳LLM实践需要频繁更新。
  3. “👀 If anything, our cables will make that build look cleaner and reduce the potential points of failure thanks to direct connections.”
    • 亮点：强调CableMod电缆

详细内容：

标题：网友打造超强 AI + 视频处理工作站，引发热烈讨论

在 Reddit 上，一位网友分享了自己打造的首台 AI + 视频处理工作站，配备了 3 块 4090 显卡，引起了众多网友的关注。该帖子获得了极高的热度，点赞数众多，评论区更是热闹非凡，各种观点和建议层出不穷。

帖子主要展示了这一强大的工作站配置，并引发了关于其性能、成本、应用场景以及技术细节等方面的广泛讨论。

在讨论焦点与观点分析方面，网友们的看法多种多样。有人称赞这一构建十分强大和整洁，也有人对其性能表现提出了不同看法。比如，有用户表示对每秒的处理能力（T/s）感到有些失望，认为可能是过时的 CPU 和主板限制了性能。还有用户指出，对于大型语言模型（LLM），增加显存和上下文大小通常能在相同性能下获得更好的结果，而这主要取决于内存带宽。

有人提到在多 GPU 利用方面，一些模型如 Ollama 和 ExLlamaV2 能够自动在可用的 GPU 之间分配任务。对于 GPU 的功耗限制，有人认为在推理过程中限制功耗对性能影响不大。

关于操作系统，有人建议从 Windows 切换到 Linux 以获得更好的性能。在成本方面，建造者透露总成本约为 6500 美元，引发了关于性价比的讨论。

此外，还有关于硬件连接、散热、电源供应等技术细节的深入探讨，以及对于未来硬件发展和市场需求的展望。

总之，这次关于 AI + 视频处理工作站的讨论展示了网友们丰富的知识和经验，也为有类似兴趣和需求的人提供了宝贵的参考和思考。