原贴链接

大家好，我正在寻求有关最佳检索增强生成（RAG）系统的建议，以帮助我更高效地处理和分析文档。我需要一个不仅能总结和检索相关信息，还能智能引用文档特定行以供参考的系统。理想情况下，它应能处理长达100页的文档，适用于多种文档类型（PDF、Word等），并能给出上下文准确且有用的引用。我使用过Lm Studio，但它总是只引用3个参考文献，并且没有给出我期望的准确结果。欢迎任何建议……

讨论总结

原帖寻求用于文档分析和智能引用的最佳RAG系统，评论者们纷纷给出自己的建议，包括推荐各种系统如Command - r 35 b、open - webui、Google Notebook LM等，还有一些关于提升RAG系统效果的技术建议，同时也有人指出没有适用于所有情况的最佳系统，选择会受多种因素影响，整个讨论氛围积极且干货满满。

主要观点

  1. 👍 Command r 35 b及其RAG提示模板可用于文档分析和智能引用
    • 支持理由：评论者使用该模板取得成功 - 它能引用行/文档
    • 反对声音：无
  2. 🔥 本地模型处理文档分析和智能引用任务存在困难
    • 正方观点：多数本地模型在处理这类事情时会遇到困难，特别是当对大型文档进行RAG操作时
    • 反方观点：无
  3. 💡 寻找最佳RAG系统应开展研发项目测试多个RAG管道
    • 解释：不同用例适用的最佳管道可能不同，可以通过RAGAS评估RAG检索结果
  4. 💪 Google Notebook LM在处理多来源长文档的特定问题上效果较好
    • 支持理由：能在结果中很好地引用源文档以避免LLM说谎，可基本消除幻觉并利用完整上下文
    • 反对声音：不适合处理高度敏感信息
  5. 🤔 定制系统是理想的解决方案
    • 解释：本地或付费服务的聊天助手为一般用例实现RAG系统，增加特定选项会损害系统健壮性和处理广泛场景的能力

金句与有趣评论

  1. “😂 我使用command r 35 b及其RAG提示模板在这方面取得了成功 - 它能引用行/文档”
    • 亮点：直接表明该模板在文档分析和引用方面的有效性
  2. “🤔 大多数本地模型在处理这类事情时会遇到困难，特别是当你对大型文档进行RAG操作时”
    • 亮点：指出本地模型在特定情况下的不足
  3. “👀 我认为这应该是一个测试和衡量多个RAG管道的研发项目”
    • 亮点：从理性角度提出寻找最佳RAG系统的策略
  4. “💡 一个用例的好管道可能对另一个用例不是最好的”
    • 亮点：强调了RAG系统适用性的差异
  5. “😎 Google’s RAG implementation is very good at more or less completely eliminating hallucinations and using the full context window”
    • 亮点：阐述了Google的RAG实现的优势

情感分析

总体情感倾向积极，大家都在积极分享关于RAG系统的知识和经验。主要分歧点在于不同系统的适用性，原因是文档类型、大小、提问类型等多种因素的差异会影响RAG系统的表现。

趋势与预测

  • 新兴话题：构建开源项目来满足RAG系统需求。
  • 潜在影响：有助于推动RAG系统的发展，使文档分析和智能引用更加高效准确，可能会在相关的文档处理领域产生积极的影响，如学术研究、商业报告撰写等。

详细内容：

《探索最佳的文档分析与智能引用 RAG 系统》

在 Reddit 上，有一个引发热议的帖子：“What’s the Best RAG (Retrieval-Augmented Generation) System for Document Analysis and Smart Citation?” 该帖子获得了众多关注，众多用户纷纷发表自己的见解。原帖作者寻求能够高效处理和分析文档、能准确智能引用特定文档行的 RAG 系统，希望它能处理多达 100 页的文档，兼容多种格式，并提供准确有用的引用。

讨论焦点与观点分析： 有人表示使用 command r 35 b 及其 RAG 提示模板取得了成功，能引用文档行。也有人认为大多数本地模型在处理这类问题时有困难。还有人提出，如果必须使用本地模型，添加一些向量嵌入和重新排序可能会有帮助，或者使用最终模型进行额外思考，判断所选结果是否真正回答了问题。有人推荐 open-webui，称其模型会有影响。有人提到 Qwen 2.5 表现不错。

有人认为应将其作为研发项目来测试和衡量多个 RAG 管道，因为不同的管道在不同的用例中表现不同。也有人指出没有适用于所有情况的最佳系统，这取决于文档格式、内容、集合大小和所提问题类型。有人分享使用 Google Notebook LM 取得了很好的效果，但提到其不适用于高度敏感信息。

有人建议尝试 dash_bro 提出的方法，包括基本和高级的增强方式，并提醒除非有报酬，否则不要做高级操作。有人正在构建开源的类似 notebookLM 的系统，虽然目前不能按行引用，但已在规划中。有人认为应将问题分为解析、索引和检索三个步骤。还有人推荐了 R2R、Danswer.ai 等系统，并分享了相关设置和模型选择的经验。

总的来说，关于最佳的文档分析与智能引用 RAG 系统，目前还没有一个统一的答案，需要根据具体需求和情况进行选择和优化。