原贴链接

来看看最近发布的`nvidia-pstated`守护进程。它会根据GPU是否空闲自动调整电源状态。在我的三块P40设备上,它们空闲时功耗为10瓦而不是50瓦。之前,我运行的是llama.cpp服务器的修改版。有了这个工具,电源管理就不再依赖于任何服务器。

它可以在https://github.com/sasha0552/nvidia-pstated获取。

以下是一个输出示例。性能状态8是低功耗模式,性能状态16是自动模式。

GPU 0进入性能状态8
GPU 1进入性能状态8
GPU 2进入性能状态8
GPU 0进入性能状态16
GPU 1进入性能状态16
GPU 2进入性能状态16
GPU 1进入性能状态8
GPU 2进入性能状态8
GPU 0进入性能状态8

讨论总结

本次讨论围绕新发布的nvidia-pstated守护程序展开,该工具能够根据GPU是否空闲自动调整电源状态,从而显著降低功耗。用户分享了在P40和RTX 3060等GPU上的使用体验,并提出了增加命令行标志或配置文件以优化管理的建议。讨论中还涉及了P100的支持问题以及与nvidia-smi工具的区别。总体上,用户对这一工具的节能效果和独立于服务器的电源管理功能表示赞赏。

主要观点

  1. 👍 nvidia-pstated守护程序有效降低了GPU的空闲功耗
    • 支持理由:用户报告称,使用该工具后,P40 GPU的空闲功耗从50瓦降至10瓦。
    • 反对声音:无明显反对声音,多数用户表示满意。
  2. 🔥 该工具的电源管理功能不再依赖于特定服务器
    • 正方观点:用户认为这一改进使得电源管理更加灵活和独立。
    • 反方观点:无明显反方观点。
  3. 💡 建议增加命令行标志或配置文件来控制GPU管理及电源状态切换参数
    • 解释:用户harrro建议通过增加配置选项来进一步优化工具的使用体验。

金句与有趣评论

  1. “😂 P40 gang just can’t stop winning!”
    • 亮点:表达了用户对P40系列GPU持续改进的积极态度。
  2. “🤔 Worked great (p40 and rtx 3060) and aggressively switches power states on demand.”
    • 亮点:harrro分享了在不同GPU型号上的成功体验。
  3. “👀 It dropped from 50w to 10w per P40. So 40w x 3, about 120w total reduction in power while idling.”
    • 亮点:具体数据展示了功耗降低的显著效果。

情感分析

讨论的总体情感倾向积极,用户对nvidia-pstated守护程序的节能效果和独立电源管理功能表示赞赏。主要分歧点在于对不同GPU型号的支持和配置优化,但这些讨论更多是建设性的建议而非负面情绪。

趋势与预测

  • 新兴话题:可能会有更多关于如何优化nvidia-pstated工具配置的讨论。
  • 潜在影响:该工具的广泛应用可能会进一步推动GPU电源管理的自动化和智能化,对数据中心和AI领域的能效提升有积极影响。