原贴链接

今天又拿到了第二张3090，终于能够以每秒17个令牌的速度运行llama 3.1 70b 4bpw exl2，上下文长度为32k。我将一张卡的功耗降低到300瓦，以便能够使用两块650瓦的电源供应器运行它们。

但昨晚发生了一件糟糕的事情，突然间我的两块nvme硬盘上的所有数据都丢失了。分区结构还在，但看起来数据已经损坏。不确定是否是由突然断电引起的，我刚刚订购了一个不间断电源（UPS），希望它能防止以后的数据丢失。

讨论总结

本次讨论主要围绕NVIDIA 3090显卡的功耗优化、性能提升、硬件安全和数据丢失问题展开。用户分享了降低功耗的经验，讨论了电源供应器的选择和硬件连接方法，以及数据丢失的预防措施。讨论中涉及了多个技术细节，如显卡功耗控制、PSU选择、硬件兼容性和数据恢复等。总体氛围偏向技术探讨和经验分享，同时也存在对硬件安全和数据保护的担忧。

主要观点

  1. 👍 每张NVIDIA 3090显卡的功耗可以降低至240W而不影响性能
    • 支持理由：用户通过实践证明了降低功耗的可行性，如"ZookeepergameNo562"报告性能提升至16 tokens/second。
    • 反对声音：部分用户对功耗降低的具体效果持保留态度，担心可能影响系统稳定性。
  2. 🔥 使用两个650W PSU可能不足以支持两张RTX 3090显卡
    • 正方观点：需要考虑CPU、RAM、硬盘、风扇等其他组件的功耗，建议使用更高功率的PSU。
    • 反方观点：部分用户认为650W PSU在实际使用中并未出现问题，但建议增加功率储备。
  3. 💡 数据丢失问题可能由突然断电导致
    • 解释：原帖作者遭遇了数据丢失问题，怀疑是突然断电导致的，因此决定购买UPS以防止未来数据丢失。

金句与有趣评论

  1. “😂 You can go as low as 240W on each card without significant performance impact.”
    • 亮点：这一观点展示了降低功耗的可行性，引起了其他用户的兴趣和尝试。
  2. “🤔 Brother, stop before you melt the mobo.”
    • 亮点：这一幽默的警告提醒了用户注意硬件安全，增加了讨论的趣味性。
  3. “👀 I just bought a 1300w psu since I’ve experienced several crash even I restricted the power to 240w.”
    • 亮点：这一评论反映了用户在寻求更稳定电源解决方案时的实际经历，具有代表性。

情感分析

讨论的总体情感倾向偏向积极和探索，用户们分享了各自的经验和见解，寻求最佳的硬件配置和电源管理方案。主要分歧点在于功耗优化和硬件安全，部分用户对功耗降低的效果持保留态度，担心可能影响系统稳定性。可能的原因包括硬件设计的差异和对电源管理技术的不同理解。

趋势与预测

  • 新兴话题：数据安全和文件系统类型对数据保护的影响可能会引发更多讨论。
  • 潜在影响：对硬件配置和电源管理的深入探讨可能会推动相关技术的改进和创新。

详细内容：

标题：Reddit 用户分享 3090 显卡相关经历，引发热烈讨论

近日，一位用户在 Reddit 上发帖称“got a second 3090 today”，此帖获得了众多关注，引发了大量讨论。帖子主要讲述了他终于拥有了第二块 3090 显卡，能够以一定的速度运行 llama 3.1 70b 4bpw exl2 并控制了显卡功耗，但昨晚遭遇了两块 NVMe 丢失所有数据的糟糕情况，已订购 UPS 以防后续数据丢失。这篇帖子的核心问题在于如何更好地配置硬件以实现稳定运行，并避免数据丢失。

在讨论中，观点众多。有人表示每张卡可以低至 240W 而不会有显著性能影响；有人尝试了这种设置后达到了 16 tokens/second 的效果，感到很棒；有人询问如何控制功率；还有人指出英伟达-smi 可以用于控制。

关于电源供应问题，有人认为 850W 对于两块 3090 显卡不太够，至少要 1000+；有人则认为如果限制功率和降压，850W 也可以运行两块 3090 显卡，并且热限制能保护显卡和电源；也有人提到使用两个电源供应器可能会导致问题。

在显卡连接方面，有人好奇如何将两块卡连接到主板，分享者表示自己主板有两个 GPU 插槽，并用另一个电源为其中一张卡供电，需要短接第二个电源的 24 针脚。有人认为这样有风险，不如买一个 1200W 电源以求安心。

对于主板和 CPU 的选择，有人对分享者使用的老旧主板和 CPU 表示惊讶，认为在购买第三块显卡前应考虑升级；也有人认为电脑不应在负载下崩溃。

还有人提到最近在多台机器上看到更多硬盘损坏的情况，怀疑有某种原因。

在性能比较方面，有人询问运行 exllama2 与 ollama 的性能差异，分享者表示 ollama 不允许在同一服务器上的 Chrome 扩展访问，而 tabbyapi 能更灵活地调整参数。

在文件系统类型方面，有人询问分享者的文件系统类型，分享者表示使用 u2004，不确定 Windows 是否能识别 ext4。

最后，分享者表示尽管将功率限制在 240W，仍经历了几次崩溃，已购买 1300W 电源。

总之，这次关于 3090 显卡的讨论十分热烈，涵盖了从硬件配置到性能优化，再到数据安全等多个方面，为广大电脑硬件爱好者提供了丰富的经验和见解。