原贴链接

我搭建了自己的服务器并安装了Ollama，你可以免费使用它，基于

Llama 3.1 获取最新信息
Llama 3（海豚）用于无限制的AI
LLava（用于图像识别）

evaai.ngrok.app

如果有人想帮忙微调它，让更多人可以使用，或者捐赠以保持服务器运行，请给我留言

讨论总结

本次讨论主要围绕一个用户自建的本地AI服务器展开，该服务器基于Llama 3.1和Llama 3（dolphin）模型，提供图像识别功能，并邀请其他用户免费使用。讨论内容涵盖了服务器的使用条件、隐私保护、技术支持、社区参与以及潜在的改进方向。总体上，讨论氛围较为积极，用户们对自建AI服务表示赞赏，并提出了一些建设性的意见和建议。

主要观点

  1. 👍 用户自建了一个基于最新AI模型的服务器，并免费提供给其他人使用。
    • 支持理由：这种共享精神和技术能力得到了许多用户的赞赏。
    • 反对声音：有用户质疑服务器的隐私保护措施是否足够。
  2. 🔥 作者希望添加新的工具，如图像生成器，但需要进一步的研究和学习。
    • 正方观点：增加新工具可以提升服务器的功能性和吸引力。
    • 反方观点：有用户担心新工具的集成可能会带来更多的技术挑战和隐私问题。
  3. 💡 有评论者建议在公开界面中添加工具和功能，以便更多人学习和参与。
    • 解释：这种开放性的建议有助于社区的共同成长和技术普及。
  4. 🌟 讨论了如何通过公开的方式让更多人参与和学习，而不是私下交流。
    • 解释：公开讨论有助于知识的共享和技术的进步。
  5. 🚀 有用户建议加入The Horde，以利用众包计算网络。
    • 解释：这种建议旨在提高资源的利用效率和服务的可访问性。

金句与有趣评论

  1. “😂 muxxington：Strong move! Very kind of you to make it available to others instead of letting it lie fallow.”
    • 亮点：表达了对作者共享精神的赞赏。
  2. “🤔 Active-Dimension-914：thats the thing idk how, im learning along the way, I want to add image generator, maybe Stable diffusion?”
    • 亮点：展示了作者在技术探索中的诚实和开放态度。
  3. “👀 RegularFerret3002：Personal server plus app is the way to go.”
    • 亮点：强调了个人服务器和应用程序结合的未来趋势。
  4. “🌐 LambdaHominem：u may want to join The Horde, it’s a crowd source computing network so people without gpu can use llm/sd”
    • 亮点：提出了一个创新的资源共享方案。
  5. “🔒 1overNseekness：If you want to make it private and authenticate easily, you could run a cloudflare tunnel”
    • 亮点：提供了提高AI私密性和身份验证的具体建议。

情感分析

讨论的总体情感倾向较为积极，大多数用户对自建AI服务表示赞赏和支持。争议点主要集中在隐私保护和技术集成方面，部分用户对服务器的隐私措施表示担忧，而另一些用户则对新工具的集成持保留态度。这些分歧可能源于对技术安全和用户隐私的不同关注。

趋势与预测

  • 新兴话题：如何提高AI服务的私密性和安全性，以及如何更有效地集成新工具和功能。
  • 潜在影响：自建AI服务的发展可能会推动更多用户参与技术探索和社区建设，同时也可能引发对数据隐私和安全性的更深入讨论。

详细内容：

标题：用户自制本地 AI 服务器引发 Reddit 热议

近日，Reddit 上有一则帖子引起了众多网友的关注。一位用户声称自己制作了本地 AI 服务器，并表示大家可以免费使用，其网址为evaai.ngrok.app。此帖获得了较高的关注度，引发了大量的讨论和评论。

讨论的焦点主要集中在以下几个方面： 有人对这种行为表示赞赏，认为这是很大胆且友善的举动。但也有人提出了诸多疑问和担忧，比如如何添加工具、是否存在隐私问题、与其他类似服务的区别等。 有用户提到是否可以加入“ The Horde”，这是一个众包计算网络，然而有人表示不太喜欢这种资源共享的模式。 关于隐私问题，有人询问用户连接服务器的隐私如何保障，作者回应称与连接 OpenAI 的隐私情况相同，且不验证电子邮件，虽存储聊天记录但有删除选项。 有用户指出将其称为“制作自己的 AI”是合理的，因为设置本地 AI 需要大量工作和研究。 有人质疑这种服务的意义，认为与 ChatGPT 相比没有优势，而作者则表示免费、匿名以及为没有强大机器的人提供便利是其价值所在。

比如，有用户分享道：“作为一名计算机爱好者，我深知设置本地 AI 的复杂性。从硬件选择到解决技术难题，再到理解如何使用，这都需要耗费大量时间和精力。所以将其称为自制 AI 是完全合理的。”

也有人表示：“我刚开始对 LLMs 感兴趣时，下载 LM studio 后能很快使用，你能分享下你的困难吗？”

讨论中存在一定的共识，即大家都关注隐私保护和服务的实用性。

特别有见地的观点是有人指出，像大型公司也是基于已有的模型构建，这位用户创建基于开源 llm 的服务，也算是有所成就。

然而，也有一些负面的声音，比如有人认为这很愚蠢，存在数据收集和处理不当等问题。

总之，这次关于自制本地 AI 服务器的讨论，展现了大家对于新技术的好奇和担忧，也反映出在创新过程中面临的诸多挑战和需要解决的问题。