原贴链接

https://v.redd.it/g1ctnzie76nd1/DASH_720.mp4?source=fallback

讨论总结

本次讨论围绕“Project Sid”虚拟世界模拟项目展开，该项目涉及超过1000个真正自主的代理在虚拟世界中协作，并出现了经济、文化、宗教和政府等新兴现象。讨论内容涵盖了项目的真实性、意识形态偏见、技术实现以及模拟的科学性。主要观点包括对项目真实性的怀疑、对AI代理意识形态选择的讨论、以及对模拟中归纳偏差的质疑。总体氛围较为技术性和批判性，部分评论者对项目的细节和实现方式提出了深入的思考和质疑。

主要观点

  1. 👍 AI代理在模拟中可能不会选择民主制度
    • 支持理由：AI代理可能走向无政府保守主义，即没有政府或选举，但仍能协作并拥有道德观念。
    • 反对声音：模型的设计可能存在偏见，偏向于自由民主。
  2. 🔥 评论者对“Project Sid”项目的真实性持怀疑态度
    • 正方观点：认为所谓的“agents”实际上只是“function calls”，表达对标题夸大描述的不满。
    • 反方观点：回复者确认这不是诈骗，并提供了登录和与机器人互动的方法。
  3. 💡 评论者关注模拟中自主代理的行为规范
    • 解释：评论者提出了机器人学的三大定律是否被纳入的问题，认为这些定律对于确保代理行为的道德性和安全性至关重要。
  4. 💡 评论者质疑模拟中自主代理的行为和结果是否受到归纳偏差的影响
    • 解释：评论者关注模拟研究的科学性和客观性，提出了对研究方法和结果的深度思考。
  5. 💡 评论者对LLM如何快速指导角色在游戏中执行动作表示疑惑
    • 解释：猜测LLM是否通过提供指令给另一个脚本来决定如何执行动作，对动作的逼真和流畅表示赞叹。

金句与有趣评论

  1. “😂 The priest in Minecraft is a televangelist lmao.”
    • 亮点：评论者对虚拟世界中宗教元素的幽默反应。
  2. “🤔 How much of this was inductive bias?”
    • 亮点：评论者对模拟研究的科学性和客观性提出了深度思考。
  3. “👀 Key question: have you built three laws of robotics into them?”
    • 亮点：评论者关注自主代理的行为规范，提出了机器人学的三大定律是否被纳入的问题。
  4. “🤔 How does the LLM tell the character fast enough how to perform actions in game?”
    • 亮点：评论者对LLM在游戏中的动作指导表示疑惑，提出了技术实现的讨论。
  5. “😂 como se dice "vendedor de humo" en ingles?”
    • 亮点：评论者通过语言翻译表达对帖子内容的怀疑或讽刺。

情感分析

讨论的总体情感倾向较为批判和技术性，部分评论者对项目的真实性和科学性表示怀疑，提出了深入的技术和方法论问题。主要分歧点在于对项目真实性的信任度、对AI代理意识形态选择的看法，以及对模拟中归纳偏差的质疑。可能的原因包括项目描述的夸大、技术细节的缺乏以及对新兴技术的普遍怀疑态度。

趋势与预测

  • 新兴话题：AI代理的意识形态选择和行为规范可能会引发后续讨论。
  • 潜在影响：对虚拟世界模拟项目的深入讨论可能会影响未来类似项目的开发和宣传方式，特别是在真实性和科学性方面的要求。

详细内容：

标题：关于 Project Sid 虚拟世界中千余自主代理协作的热门讨论

在 Reddit 上，一个题为“Project Sid: the first simulations of 1000+ truly autonomous agents collaborating in a virtual world, w/ emergent economy, culture, religion, and government”的帖子引发了广泛关注。该帖子包含一个视频链接：https://v.redd.it/g1ctnzie76nd1/DASH_720.mp4?source=fallback ，目前获得了众多的点赞和大量的评论。

帖子引发的主要讨论方向包括对项目真实性的质疑、系统是否存在偏向性、技术实现方式以及其应用价值等。其中的核心问题在于这个项目是否真的具有创新性和实用性，以及是否存在潜在的偏见。

在讨论中，有人分享道：“你可以和它们一起玩。唯一的问题是它们想做什么就做什么，不太听你的指令。我和其中一个做的最有趣的事是，它挖了个洞出不来，我告诉它‘在脚下放置方块然后跳’，它照做然后出来了，哈哈。还有一次一个把我活埋了，然后我让它来把我挖出来，它也照做了……它们可以扔东西、制造武器，如果你让它们给你指定的工具，它们会给……我甚至让它们杀周围的鸡，它们照做了。我对猪、牛、羊也提出了同样的要求。它们可以和怪物战斗……你总共可以测试 300 分钟，但要注意，由于尝试的人太多，服务器很容易崩溃。”

有人认为：“很有趣。但我能看到系统在某些方向上‘添加’的权重。比如民主部分。对于 AI 代理来说，不走无政府保守主义路线，而是合作并且拥有道德，就像我们看到的农民的例子，这毫无意义。”还有人表示：“我猜底层模型严重偏向自由民主，就像大多数在美国或欧洲训练的基础模型一样。”对此，有人反驳：“为什么它们要采用你喜欢的意识形态？这看起来只是你希望它们这样。它们显然会偏向采用与其创建者/训练数据选择者类似的意识形态。我不认为它们会天生采用其他意识形态。”也有人提出：“也许在某些情况下，偏见并不是一件坏事。”

有人评价道：“这个网站看起来很奇怪。有人能检查一下这是不是骗局吗？”但也有人回应：“不是骗局，你可以登录并和机器人一起玩。不需要官方的《我的世界》游戏，盗版也能用。（在开始单人游戏后打开局域网，然后使用他们网站上的代码，你还需要安装一个应用程序来关闭 AI）只需要 1.19.0 版本的 fabric 或 forge（不要修改！）看看我其他的评论，里面有我对它们的测试。”

有人质疑：“这其中有多少是归纳偏差？”还有人问：“你们有没有把机器人三定律融入其中？”有人认为：“没那么令人印象深刻。这个视频听起来很多内容都是开发者预先定义好的（比如它们应该创建宪法和进行贸易等）。其他的只是因为大型语言模型善于讲故事，并不真的令人惊讶。它只是讲述了一个角色的故事，然后这个故事被转化为行动。所以在我看来，这对于在游戏中创建沉浸式世界可能很酷，但除此之外没什么用。”

有人好奇：“大型语言模型如何快速告诉角色在游戏中如何执行动作？它是向另一个脚本提供指令来确定如何执行吗？比如移动到下一个矿石，按哪些键以及多长时间。动作看起来如此逼真流畅，我无法理解他们是如何做到的。”

总之，Reddit 上关于 Project Sid 的讨论展现了观点的多样性和复杂性，从对项目的技术细节探讨到其潜在的影响和价值，大家各抒己见。