我和我的团队已经构建这个(项目)有一段时间了,并且我们刚刚将其开源!它是一个个人AI助手,能学习关于你的事实并将其保存在知识图谱中。它可以使用这些“记忆”来回应查询并执行诸如发送电子邮件、准备演示文稿和文档、添加日历事件等带有个人情境的操作。它完全在本地运行,由Ollama提供动力,如果需要的话甚至可以搜索网络。(所有用户数据也保存在本地)。一个初始的基础图谱是通过你对个性测试的回答以及从你的领英、红迪(Reddit)和推特(Twitter)资料中提取数据来准备的 - 这给助手一些关于你的初始情境。知识图谱在Neo4j数据库中维护,使用我们从头构建的GraphRAG管道来高效地检索和更新知识。未来的计划包括语音模式、浏览器使用功能、自主执行操作的能力、更好的用户界面/用户体验(UI/UX)等等!
讨论总结
这是一个关于开源本地AI伴侣项目的讨论。一些人认可项目的创新性,如朝着正确方向发展、很酷、看起来有趣等。但也存在质疑声音,尤其是针对项目包含MBTI人格测试这一特性,认为MBTI是伪科学,影响项目的严肃性。此外,大家还关注项目早期的稳定性、功能集成(如与Facebook Messenger交互)、使用的模型、RAG是基于关键词还是语义驱动等多方面的技术细节,也涉及到系统兼容性、隐私等话题,同时还有人对知识图谱的利用方式存在疑问。
主要观点
- 👍 项目朝着正确方向发展
- 支持理由:朝着使用案例的正确方向迈进。
- 反对声音:无。
- 🔥 MBTI是伪科学影响项目严肃性
- 正方观点:MBTI是伪科学,用其区分内向和外向来提供建议存在逻辑漏洞。
- 反方观点:项目相关人员解释是为了让AI伴侣理解用户类型,但被指出存在逻辑问题。
- 💡 关注项目早期稳定性
- 解释:项目处于早期阶段,想知道是否存在较多漏洞。
- 💡 对项目功能集成情况好奇
- 解释:例如与Facebook Messenger的交互情况。
- 💡 对项目使用的模型感兴趣
- 解释:询问项目使用的模型以及RAG的驱动方式。
金句与有趣评论
- “😂 那是朝着我的使用案例的正确方向迈进。”
- 亮点:认可项目朝着正确方向发展。
- “🤔 YRUTROLLINGURSELF:Meyers - Briggs是伪科学;你们没有人是“INTP”之类的,所有这些都是无意义的废话;所以我真的很好奇,怎么可能……认真对待这个项目的其余部分呢?”
- 亮点:强烈质疑项目包含MBTI人格测试这一特性。
- “👀 Hey that’s pretty cool.”
- 亮点:简单直接地表达对项目的认可。
情感分析
总体情感倾向较为复杂。部分人持正面态度,认可项目的创新性和发展方向;部分人持负面态度,主要在对MBTI人格测试这一特性的质疑上,认为这一伪科学元素影响项目的严肃性。分歧点在于项目中MBTI人格测试是否合理,原因在于一方认为这有助于AI理解用户类型,另一方则认为MBTI本身是伪科学,且存在逻辑漏洞。
趋势与预测
- 新兴话题:知识图谱的利用方式可能会引发更多讨论,因为有评论者对其仍有很多疑问。
- 潜在影响:如果项目能够解决大家关心的技术问题,如稳定性、功能集成等,可能会对本地AI工具的发展产生积极影响,吸引更多人关注和使用。
详细内容:
标题:开源本地 AI 助手引发的热烈讨论
最近,Reddit 上一个关于开源本地 AI 助手的帖子引起了广泛关注。这个名为https://github.com/existence-master/sentient 的项目由一个团队开发,刚刚开源。
原帖介绍说,这是一个能学习用户事实并将其存储在知识图谱中的个人 AI 助手,可利用这些“记忆”响应查询、执行发送邮件、准备演示文稿和文档、添加日历事件等操作,且完全在本地运行,由 Ollama 提供支持,必要时还能搜索网络,所有用户数据也都保留在本地。通过用户对个性测试的回答以及从领英、Reddit 和推特等个人资料中提取数据,初步准备基础图谱。知识图谱在 Neo4j 数据库中使用团队自行构建的 GraphRAG 管道进行维护,以高效检索和更新知识。未来还计划加入语音模式、浏览器使用能力、自主执行操作能力、更好的用户界面和用户体验等功能。该帖子获得了大量的点赞和评论。
讨论焦点主要集中在以下几个方面: 有人认为这是朝着正确方向迈出的一步,比如 martinerous 希望能有基于屏幕捕获的功能,让助手学习执行从未做过的特定操作,并且在重要步骤中能完全可控。也有人像 epigen01 表示,目前标准模型在截图相关任务上表现不佳,期待未来一年能有所改进。therealkabeer 则提到未来考虑浏览器使用能力,或许可以通过某种浏览器集成和 vLLM 来实现,让模型生成初始步骤或计划,用户再进行调整。
对于项目中提到的 MBTI 人格测试,YRUTROLLINGURSELF 等用户提出了质疑,认为这是伪科学,并表示开发者应该谨慎对待,不要轻易涉足心理学或伦理学领域。therealkabeer 回应称团队是工程师团队,没有深入考虑这一点,会进行改进,该测试旨在帮助助手理解用户类型从而定制响应。
Massive-Question-550 询问了项目的稳定性、与 Facebook Messenger 的集成以及使用的模型和 RAG 驱动方式。therealkabeer 表示项目不太稳定但也不算太糟糕,Facebook Messenger 暂未集成,默认模型是 llama3.2:3b,GraphRAG 基于语义关系工作。
Business-Weekend-537 询问该工具能否用于本地 RAG,分享了自己拥有近 400GB 的谷歌驱动器文件夹,并表示希望能够从信息集合中生成和引用内容,还提及了尝试其他工具的经历。therealkabeer 表示正在研究相关功能,认为与谷歌驱动器的 RAG 管道可能比较复杂。
elbalaa 对没有提交历史表示失望,therealkabeer 解释之前在不同的私人仓库工作,提交历史暴露了敏感密钥。
sunshinecheung 询问如何在 Ollama 中切换到其他模型,therealkabeer 称此功能尚未实现。
Desm0nt 询问是否支持 OpenAI API,有人建议使用 Docker。
Pvt_Twinkietoes 对知识图谱的使用方式感兴趣,therealkabeer 提供了相关文档链接。
Unfocused-Laser604 表示有兴趣尝试,并询问是否能链接到 OpenAI API 。
在这场讨论中,有人对项目的创新表示期待,也有人对一些功能和设计提出了质疑和建议。但总体而言,大家都对这个开源本地 AI 助手的未来发展充满了关注和思考。
感谢您的耐心阅读!来选个表情,或者留个评论吧!