原贴链接

我有一台配备rx7900xtx的台式电脑和一台由雷电坞(cal digit ts3)供电的Macbook pro m1 Max,它们都插在我的不间断电源(这可能是问题的根源)上。我正在运行Ollama和LM studio,在使用我的iOS大语言模型客户端工作时,我将它们用作大语言模型服务器,当我看到标记流进来时,我能听到PC或Mac发出轻微的嘶嘶声,有趣的是它与每个生成的标记相匹配。这有点让我想起电影中的计算机终端在输入文本时似乎会发出哔哔声。

讨论总结

原帖作者发现自己的PC和Mac在本地大型语言模型(LLM)生成标记时会发出嘶嘶声,怀疑是UPS的问题。评论者们从不同角度对这一现象进行了讨论,有认为这种现象很常见的,也有从技术角度分析是线圈啸叫、电容问题或者电感问题等原因造成的,还有人以幽默诙谐的方式回应这一现象。

主要观点

  1. 👍 这种现象被称为“signing capacitors”且很常见
    • 支持理由:评论者称这种现象他们也遇到过,如自己的v100工作时有类似声音。
    • 反对声音:无。
  2. 🔥 设备发出的嘶嘶声是线圈啸叫
    • 正方观点:多位评论者指出这一现象符合线圈啸叫的特征,如小金属线圈因电流振动。
    • 反方观点:有评论者认为是电感或者电容问题,并非线圈啸叫。
  3. 💡 设备发出嘶嘶声是正常现象
    • 解释:很多评论者表示自己设备也有类似情况,并且认为这是正常的,不需要担心。
  4. 💡 嘶嘶声可能与电容器有关,要么是电容器损坏,要么是电容器质量差
    • 解释:从电容的特性出发,推测电容出现问题导致嘶嘶声。
  5. 💡 电脑发出嘶嘶声与音量设置有关
    • 解释:低电脑音量与高音频放大会使嘶嘶声更明显,调整音量设置可改善这种情况。

金句与有趣评论

  1. “😂 我们称这个为“signing capacitors”。它们都会这样。我的v100在工作时听起来像一罐蛇。”
    • 亮点:形象地描述了这种现象,并且给出了这种现象的一种名称。
  2. “🤔 lacerating_aura:It’s thinking.”
    • 亮点:以幽默诙谐的方式将设备发出声音归结为设备在思考,拟人化很有趣。
  3. “👀 你需要佩戴Hedron Resonance Amplifier来保护自己免受嘶嘶声(Hiss)的影响。”
    • 亮点:以玩笑的方式应对设备发出嘶嘶声的现象。
  4. “😂 Ah, that’s normal. That’s how they curse you.”
    • 亮点:把设备发出的嘶嘶声解释为一种“诅咒”行为,非常幽默。
  5. “🤔 我可能会被纠正,但发出这种声音的是电感,而不是电容。”
    • 亮点:在技术讨论中提出不同观点,有探讨价值。

情感分析

总体情感倾向是比较轻松、诙谐的。主要分歧点在于设备发出嘶嘶声的原因,是线圈啸叫、电容问题、电感问题,还是其他原因。可能的原因是大家从不同的技术角度和经验出发,并且很多人想要以一种幽默轻松的方式参与讨论。

趋势与预测

  • 新兴话题:设备的硬件组件在运行特定程序时的表现以及如何优化这种表现。
  • 潜在影响:可能会让更多人关注设备硬件在运行大型程序时的状况,对硬件的设计和优化可能有一定的参考价值。

详细内容:

标题:电脑与 Mac 运行本地 LLMs 时产生嘶嘶声引发 Reddit 热议

最近,Reddit 上有一个热门帖子引起了众多网友的关注。帖子称,一台配备了 rx7900xtx 的台式电脑和通过雷电坞连接的 Macbook pro m1 Max 在运行 Ollama 和 LM studio 作为 LLM 服务器时,会在生成令牌的过程中发出小嘶嘶声,这一现象十分有趣。该帖子获得了大量的点赞和众多的评论。

讨论焦点主要集中在对这种嘶嘶声产生原因的分析。有人认为这是“电容签名”,并提供了相关链接[https://product.tdk.com/system/files/contents/faq/capacitors-0031/singing_capacitors_piezoelectric_effect.pdf];有人指出是“线圈鸣叫”;还有人觉得声音更像老式调制解调器。有人开玩笑说“你的电脑正在与其他电脑密谋接管世界”,也有人打趣道“这是电脑在思考”。

有用户分享个人经历,称自己的 3060 和 RTX 8000 Quadro 也有同样的情况。还有用户详细解释,这种声音可能是由于电感而非电容造成的,称“电感是线圈,处理高电流时会共振。电容通常只响一次且不明显”。更有用户提到,在某些情况下,硬件甚至能被驱动来播放音乐或充当扬声器。

讨论中存在的共识是这种嘶嘶声是比较常见的现象。特别有见地的观点如,有人从原理上详细阐述了“tl;dr - 线圈鸣叫是因为电力流过电源部件中的小金属线圈时产生振动,工作强度越大振动越厉害,有时就会产生我们能听到的频率。电容也会因充放电快速进行而产生恼人的声音”。

此次讨论让我们对电脑运行时产生的特殊声音有了更深入的了解,也展示了网友们对技术现象的好奇和探索精神。