原贴链接

使用text generation webui时总是出错，或者要花3分钟才能回答我，真的超级慢。但是今天我受够了。所以我安装了Koboldcpp，一切都按预期运行。立即生效。没有乱七八槽的东西，不需要调整无数的设置，没有错误。真是太棒了。我提问，马上就得到回复。不用愚蠢地等几分钟。我几个月来一直在用错误的软件。现在你可能会说我不会用它。别管这个了。

讨论总结

原帖作者认为从Oobabooga转用KoboldCPP后在使用体验上有很大提升，比如KoboldCPP没有Oobabooga的错误、回复慢等问题。评论者们则从不同角度进行讨论，有的认为KoboldCPP确实很好，而有的则表示Oobabooga不错或者原帖作者存在问题，也有评论者分享了其他相关软件的使用情况和看法，整体氛围比较多元，既有支持也有反对的声音。

主要观点

  1. 👍 KoboldCPP是最好的，有自由/用户控制和抽象之间的良好平衡，开发者善于为新模型和技术添加支持，而且非常轻巧、不臃肿
    • 支持理由：原帖作者自身使用体验较好，立即响应、无错误等。
    • 反对声音：部分评论者认为KoboldCPP存在如设置分散等问题，或者不理解它好在哪里。
  2. 🔥 Koboldcpp相对Oobabooga在使用体验上有很大提升
    • 正方观点：原帖作者及部分评论者提到Oobabooga存在回答慢、有错误等问题，而Koboldcpp没有。
    • 反方观点：有评论者认为原帖中使用Oobabooga遇到错误是使用者自身问题而非软件问题，且不认为两者存在本质上的优劣之分。
  3. 💡 Oobabooga作为后端表现尚可，但需要进行用户界面改进才能成为像Automatic1111那样优秀的LLM相关软件
    • 正方观点：从Oobabooga和Automatic1111对比角度出发，认为Oobabooga有改进空间。
    • 反方观点：有评论者认为Oobabooga使用体验不错，无需改进。
  4. 💡 原帖很无礼，原帖作者可能缺乏使用软件的知识或认知能力，并且在贬低重要的开源项目
    • 正方观点：从原帖作者对软件的描述和态度方面进行批评。
    • 反方观点：无（主要是单方面批评原帖作者）。
  5. 💡 不喜欢KoboldcPP和Oobabooga相关软件的UI，推荐Open WebUI
    • 正方观点：自身对KoboldcPP和Oobabooga的UI体验不好，Open WebUI有界面干净等优点。
    • 反方观点：无（主要是表达自己的喜好和推荐）。

金句与有趣评论

  1. “😂 我不想贬低任何开源项目，但我也认为KoboldCPP是最好的。”
    • 亮点：表达了对KoboldCPP的认可同时也表明一种客观态度。
  2. “🤔 Ironically it did end up becoming the Automatic1111 of LLMs; it hasn’t updated in months and has been superseded by other projects.”
    • 亮点：形象地将Oobabooga类比为LLMs中的Automatic1111，指出其更新滞后被超越。
  3. “👀 With text generation webui always had errors or it took 3 minutes to answer me. It’s really super slow.”
    • 亮点：直观地描述了text generation webui存在的问题，从而对比出Koboldcpp的优势。
  4. “🤔 Oobbabooga是作者的名字不过？它不就是人们使用的“友好名称”吗。”
    • 亮点：纠正原帖可能存在的对名称的误解。
  5. “😂 KCPP is the goat.”
    • 亮点：用比较诙谐的方式表达对KCPP（KoboldcPP）的喜爱。

情感分析

总体情感倾向比较复杂，既有正面评价也有负面评价。主要分歧点在于KoboldCPP和Oobabooga谁更好，以及原帖作者的态度是否无礼。正面评价者主要是从自身使用KoboldCPP体验良好出发，负面评价者有的是因为维护Oobabooga，有的是觉得原帖作者贬低开源项目或者态度不好。

趋势与预测

  • 新兴话题：可能会进一步探讨不同软件在特定场景下（如编码方面、受VRAM限制场景等）的使用优劣。
  • 潜在影响：对相关软件的开发者来说，这些讨论可以促使他们改进软件的不足，如Oobabooga的UI改进；对用户来说，可以帮助他们根据自身需求选择更合适的软件。

详细内容：

标题：KoboldcPP 与 Oobabooga 引发的热议

在 Reddit 上，一则关于“KoboldcPP 是相较于 Oobabooga 在使用体验上的巨大飞跃”的帖子引起了广泛关注。该帖子获得了众多点赞和大量评论。原帖作者表示，使用 text generation webui 时总是出错且响应慢，但安装 Koboldcpp 后一切都变得顺畅高效。

这一话题引发了多方面的讨论。有人称赞 KoboldCPP 平衡了自由与控制，开发者积极支持新模型和技术，而且软件轻便不臃肿。但也有人表示在自己的系统上无法正常运行 KoboldCPP，可能是由于硬件不支持。还有用户提供了一些解决办法，如通过添加特定标志来调整设置。

有人认为 Oobabooga 作为后端还不错，但需要改进 UI；也有人认为它在某些方面表现出色，比如能自动加载设置。还有用户分享了自己在不同软件之间的使用偏好和经历。

例如，有用户说自己使用了各种相关软件，对于大型模型和部署的聊天机器人，会选择特定的软件。还有用户表示自己使用某些软件时遇到了错误和安装问题。

总之，对于 KoboldcPP 和 Oobabooga 哪个更好，大家各持己见，有人认为 KoboldCPP 更成熟，有人则认为 Oobabooga 有其独特优势，关键还是看具体的使用场景和需求。