原贴链接

在另一个帖子中，我提到了Perplexity AI的替代方案，最后我选择了搭配Qwen2.5 14b模型的Farfalle。结果令人印象深刻！“专家搜索”模式就像Perplexity一样，能在几秒钟内给我提供最新的直接答案。如果我需要更多细节，它会提供所有使用的资源。非常方便！你是否也在使用类似的东西呢？

讨论总结

原帖作者分享使用Farfalle与Qwen2.5 14b模型配合搜索的良好体验，评论者们围绕着不同AI模型的使用情况展开讨论，包括对Perplexica效果的不满、对Farfalle的尝试意愿、模型的设置方式、不同搜索工具（如Brave搜索）的体验，还有关于是否为RAG技术的技术讨论等，整体氛围较为理性、平和，大家在交流各自的经验和看法。

主要观点

  1. 👍 较小模型与搜索配合良好的原因与和RAG、CoT配合良好的原因一致
    • 支持理由：相关信息越多越有助于推断
    • 反对声音：无
  2. 🔥 认为Perplexica使用效果不好
    • 正方观点：使用体验不佳，结果较差
    • 反方观点：无
  3. 💡 对原帖中提到的概念不理解，希望原帖作者详细解释
    • 解释：原帖提到的一些概念和操作不清晰，希望得到更多信息
  4. 💡 将不在下拉列表中的模型设置为“custom”可使其工作
    • 解释：针对特定模型不在下拉列表中的设置问题给出解决方案
  5. 💡 该项目中的检索就是搜索引擎本身，所以是RAG
    • 解释：认为这里的检索机制符合RAG定义

金句与有趣评论

  1. “😂 Yep, smaller models work well with search for the same reason they work well with RAG and CoT – the more relevant information you put in their context, the better they can infer on it.”
    • 亮点：清晰解释了较小模型与搜索配合良好的原理
  2. “🤔 Durian881: Thanks. Going to try it. Was using Perplexica but it didn’t seem to work too well with Ollama on my Mac.”
    • 亮点：表达了对原帖提到的Farfalle的尝试意愿并指出Perplexica的使用问题
  3. “👀 Sky_Linx: Perplexica really let me down, honestly. It mostly gave me poor results.”
    • 亮点：直接表达对Perplexica的不满
  4. “🤔 I’ve been using Brave search for about a month since it has a built in AI that often answers what I want without needing to visit sites.”
    • 亮点：分享了Brave搜索的使用体验
  5. “😉 Sky_Linx: I gave Brave AI a shot, but for certain questions, I’m still finding that Farfalle gives me better answers—especially when using its "expert search" mode.”
    • 亮点：比较了Brave AI和Farfalle的回答效果

情感分析

总体情感倾向为中性，主要是大家在交流各自的使用体验和技术观点。分歧点在于对于项目是否为RAG技术存在不同看法，可能的原因是大家对RAG技术的定义和理解有所差异。

趋势与预测

  • 新兴话题：可能会有更多关于不同AI模型效果对比的讨论。
  • 潜在影响：有助于用户更好地选择适合自己需求的AI模型和搜索工具。

详细内容：

标题：AI 模型与搜索结合的奇妙效果

在 Reddit 上，有一篇关于“Using AI models together with search works really well, even with smaller ones!”的热门帖子引起了广泛关注，收获了众多点赞和大量评论。帖子中，作者提到自己选择了 Farfalle 与 Qwen2.5 14b 模型相结合，“Expert search”模式就像 Perplexity 一样，能在几秒内给出最新、直接的答案，需要深入内容时还能提供所用资源，非常方便。并询问大家是否也在使用类似的方式。

讨论的焦点集中在不同用户的使用体验和观点分析上。有人表示，较小的模型与搜索配合良好的原因在于，输入的相关信息越多，它们的推断效果就越好。还有人分享自己用了十二年业务语录进行 RAG 测试，觉得非常便捷，能节省查找旧提案以创建新提案的时间。有人提到用的大多是维基百科的内容，在询问本地模型关于一般主题时，会经常添加 RAG 步骤。

也有用户分享个人经历，比如有人之前使用 Perplexica 效果不佳，改用了其他的；有人使用 Brave 搜索，认为其内置的 AI 能回答自己想要的，但在某些问题上还是 Farfalle 的“Expert search”模式表现更好。

有人好奇如何设置不在下拉列表中的模型，通过交流得知可以指定为“custom”。还有用户就不同模型的使用和效果展开讨论，比如有人认为这就是 RAG，也有人认为不是，因为该项目的处理方式不同。有人提供了相关博客链接，大家纷纷表示很有价值。

核心的争议点在于这种结合方式到底属于何种技术，以及不同模型和搜索方式的效果究竟如何。但大家也有共识，那就是这种结合方式在一定程度上为工作和生活带来了便利。

总的来说，关于 AI 模型与搜索结合的讨论丰富多样，为我们展示了不同用户的体验和思考，也让我们对这一领域有了更深入的认识。