原贴链接

有人在开发完全本地的类Perplexity软件吗？老实说，我不知道Perplexity在这里如何建立护城河。完全本地的LLM，能够访问网页浏览，并跟踪搜索历史以提供更多上下文相关的结果——有人在开发这个吗？

讨论总结

本次讨论主要聚焦于构建一个完全本地的、类似Perplexity的软件的可能性。参与者们探讨了这种软件的技术实现方式，包括使用本地大型语言模型（LLM）访问网页浏览和跟踪搜索历史，以提供更多上下文相关的结果。讨论中提到了多个具体项目，如“Perplexica”和“Pravah”，以及使用OpenAI API和Docker的便利性与挑战。此外，还涉及了Perplexity的竞争优势和是否拥有自己的网页索引技术。总体上，讨论展现了对于本地化、高效能搜索工具的兴趣和期待。

主要观点

  1. 👍 有人正在构建类似Perplexity的本地软件
    • 支持理由：提到了具体项目如“Perplexica”和“Pravah”，展示了实际的开发进展。
    • 反对声音：对于使用OpenAI API的项目，缺乏更改基础URL的选项感到不满。
  2. 🔥 该软件可能通过本地LLM访问网页浏览和跟踪搜索历史
    • 正方观点：强调了本地化带来的隐私和性能优势。
    • 反方观点：讨论了实现这一功能的复杂性和可能的硬件需求。
  3. 💡 Perplexity通过爬取和索引网页形成了其竞争壁垒
    • 解释：有评论者质疑Perplexity是否真的在进行自己的索引，引发了关于其技术壁垒的讨论。

金句与有趣评论

  1. “😂 Ok-Alternative3612：perplexica”
    • 亮点：直接提供了具体项目的链接，为讨论增添了实际参考。
  2. “🤔 emprahsFury：It is so frustratingly common for projects to implement the openai api and then not provide a way to change the base url.”
    • 亮点：反映了开发者在使用API时遇到的常见问题，引发了共鸣。
  3. “👀 FilterJoe：I’m not sure how many people are going to have the hardware necessary to run this entirely locally.”
    • 亮点：指出了本地化软件可能面临的硬件限制，引发了关于技术普及的思考。

情感分析

讨论的总体情感倾向较为积极，多数参与者对构建本地化、高效能的搜索工具表示支持。主要分歧点在于技术实现的复杂性和潜在的硬件需求。这些分歧可能源于对技术细节的不同理解和期待。

趋势与预测

  • 新兴话题：本地化软件的技术实现和优化。
  • 潜在影响：随着模型和软件的改进，本地化搜索工具可能在性能和用户体验上超越现有的在线服务，推动技术发展。

详细内容：

标题：关于全本地类 Perplexity 软件的热门讨论

在 Reddit 上，有一个关于是否有人在构建全本地类 Perplexity 软件的帖子引起了广泛关注。该帖子提出了对 Perplexity 优势的疑问，并探讨了全本地 LLM 结合网络浏览及搜索历史追踪以提供更多情境相关结果的可能性。此帖获得了众多的点赞和大量的评论。

讨论的焦点主要集中在以下几个方面： 有人提到了perplexica。有用户表示项目常使用 OpenAI API 却不提供更改基础 URL 的方法，令人沮丧。还有用户称从其设置来看，可以将 URL 指向本地 OpenAI ，甚至考虑指向 oobabooga。有人询问是否有相关应用，还是需要基于代码运行，得到回复称有 Docker 支持，比较容易上手，但也有人表示讨厌 Docker 会觉得很麻烦。

有人认为 Perplexity 是自己进行索引，也有人认为不是，存在争议。还有用户提到 Open webui 有网络搜索功能，并附上了截图。

另外，有人提供了一些相关的链接，比如https://github.com/jjleng/sensei?tab=readme-ov-file 、https://www.reddit.com/r/LocalLLaMA/comments/1dj7mkq/building_an_open_source_perplexity_ai_with_open/ 、https://github.com/brainqub3/meta_expert 等，指出有的项目不仅尝试超越 Perplexity ，还更像是研究助理代理。

有用户称刚设置了 Morphic ，对其处理研究的方式很满意，还提到容易用 Docker 部署。也有人推荐了https://github.com/jayshah5696/pravah，并表示会实现专业模式。

总的来说，关于是否有人在构建全本地类 Perplexity 软件的讨论热烈而丰富，各方观点和推荐的资源众多，为关注这一领域的人们提供了有价值的参考和思考方向。