原贴链接

无实际有效内容（仅一个视频链接）

讨论总结

该讨论围绕glm - 4 - voice - 9b可在12GB GPUs上运行展开。包括模型在不同设备上的运行流畅度、相关的AI技术发展预测、不同显卡对于运行模型或其他任务的适用性，同时也有针对模型本身的疑问，如语音类型和术语选择等，还有一些如提醒功能的操作以及软件推荐等内容。整体氛围比较积极，大家积极分享观点并互相交流。

主要观点

  1. 👍 glm - 4 - voice - 9b在12GB GPUs上可运行是很棒的事情
    • 支持理由：许多人对这个消息表示赞叹或兴奋，计划尝试相关设置。
    • 反对声音：无。
  2. 🔥 模型在某些电脑上运行不够流畅
    • 正方观点：有测试者表明在自己电脑上用于实时对话不够流畅，在Runpod未量化时会有问题。
    • 反方观点：无。
  3. 💡 最多3年内会有接近ChatGPT语音功能的成果
    • 支持理由：有人根据技术发展做出此预测。
    • 反对声音：有人认为8 - 12个月就能达成。
  4. 🤔 1080ti不适合专门用于LLMs或AI任务
    • 支持理由：存在功能和速度上的缺失。
    • 反对声音：无。
  5. 😎 推荐使用KoboldCPP与llama 3 8b、whisper和Alltalk TTS组合
    • 支持理由：认为这些软件更高效，可以节约资源。
    • 反对声音：无。

金句与有趣评论

  1. “😂 Monkey_1505: I never thought anyone would write the prompt ‘cry about your lost cat’.”
    • 亮点：对特殊提示语的存在表示惊讶，引发关于提示语创作的小讨论。
  2. “🤔 MustBeSomethingThere：It’s working, but to be honest, it’s not smooth enough for real - time conversations on my PC setup.”
    • 亮点：指出模型运行的实际问题，引出更多关于运行不流畅情况的讨论。
  3. “👀 Nexter92：In 3 years maximum we gonna have something close to current chatgpt voice. AI assistant manager and girlfriend go BRRRRRRRRRRRRR”
    • 亮点：对AI技术发展做出大胆预测，同时以一种诙谐的方式提及AI助手等内容。
  4. “😎 Educational_Farmer73: Bro just use KoboldCPP with llama 3 8b, with whisper and Alltalk TTS.”
    • 亮点：简洁地推荐了一组软件，表达资源节约的观点。
  5. “💪 Fluffy - Brain - Straw: Gonna try to run this on my pc”
    • 亮点：体现出对新事物积极尝试的态度。

情感分析

总体情感倾向是积极的。主要分歧点在于AI技术发展达到类似ChatGPT语音功能成果的时间预测，可能的原因是不同人对技术发展速度的判断依据不同，如对当前技术发展的掌握程度、对技术研发难度的理解以及个人的期望等因素影响。

趋势与预测

  • 新兴话题：可能会有更多关于如何改进glm - 4 - voice - 9b运行流畅度的讨论，以及围绕AI技术发展对社会影响的深入探讨。
  • 潜在影响：如果AI技术按照预测发展，可能会对人机交互方式、社交关系以及相关产业如娱乐、客服等产生巨大影响。

详细内容：

标题：关于 glm-4-voice-9b 在 12GB GPUs 上运行的热门讨论

最近，Reddit 上有一个关于“glm-4-voice-9b 现在可在 12GB GPUs 上运行”的帖子引起了广泛关注。该帖子包含了一个链接[https://llminfo.image.fangd123.cn/videos/1gddatq.mp4]，截至目前，已经获得了众多用户的热烈讨论，点赞数和评论数都相当可观。

讨论的焦点主要集中在以下几个方面： 有人测试了在 RTX 3060 12GB 上运行的情况，称其可以运行，但对于实时对话来说不够流畅。比如有用户分享道：“我在自己的 RTX 3060 12GB 上进行了测试。它能运行，不过老实说，在我的 PC 设置下，对于实时对话而言还不够流畅。”

对于运行效果，有人好奇具体表现，比如“Just curious, how so? Slow, choppy, both?”

也有用户分享了自己的经历，如“我在 Runpod 上未量化运行时，它经常会有 30 - 60 秒毫无生成，就像说了点什么之后就只产生某种噪音。不知道是什么原因导致的。”

关于语音模型的发展，有人认为在 3 年内会接近当前 ChatGPT 语音的水平，也有人认为 8 - 12 个月就可以，还有人担心未来社会会因男性对真实伴侣失去兴趣而崩溃，甚至有人讨论了未来机器人意识与生物身体结合的可能性。

在硬件选择方面，一些用户就不同显卡的性能和价格进行了讨论。有人建议不要购买非 RTX 显卡，而有人则在比较不同型号和价格，权衡利弊。

对于语音模型的功能，有人询问该模型是否限于女性声音，能否生成其他声音。还有人探讨了语音和讲话的区别，以及不同语音相关软件的特点和安装使用情况。

总的来说，这次讨论展示了大家对 glm-4-voice-9b 在 12GB GPUs 上运行的极大兴趣，以及对语音模型发展和硬件配置的深入思考。但对于语音模型的未来发展和最佳硬件选择，目前还没有达成完全一致的意见。未来，我们还需持续关注相关技术的进展，以获得更清晰的答案。