原贴链接

人们一直将AGI定义为能完成人类所能做的所有任务的人工智能，但即使人类也无法在每个任务上都达到该领域普通人类工作者的水平。相反，人类可以持续地、即时地学习去做一项任务，而且成为专家需要时间。我们不应期望AGI一开始就能做所有任务，而是它要有长短期记忆来学习做不同的任务并在之后记住这些任务。像短期记忆一样，不重要的任务在完成后可以被遗忘。AGI可能像人类一样需要休息来训练并将近期所学任务巩固到长期记忆中以提高其能力。它应该能够不断自我学习并发现如何自我提升。学习做很多任务是成为AGI（即具有持续学习能力和长短期记忆）的必然结果，而非成为AGI的先决条件。此外，人类有晶态智力和液态智力，即通过记忆模式和从少量实例中自适应学习来解决问题的能力。目前，人工智能通过训练数据集有了一些晶态智力，并通过学习到的实例进行推理。但人工智能的液态智力较弱，它们用少量实例学习和解决问题的能力较弱。动觉智力也是一种智力，这需要模拟（如宇宙模拟）和在现实世界中的训练来发展……人类也有社会智力……那AGI有能力与其他人工智能进行交流和引导呢？人类有各种各样的欲望和驱动力以及自我保护和繁殖的本能……像人类一样，AGI可能应该有欲望。也许还有自我保护的欲望以及自我复制或产生一个更新更好副本的能力（也许是可选的）。而且，人类大脑如柚子大小，有150万亿个突触并且是可移动的，而人工智能需要多个大型固定的GPU。一个理想的AGI应该是人类大脑大小或者至少不比大象的大脑大。这个AGI的大小将需要神经形态忆阻器或生物计算或紧凑型量子计算机或其他东西。人类有脑干和辅助神经系统来实现身体自动功能和本能……也许AGI也应该有这些……成为某方面的专家对AGI来说不是必要的，因为大多数人类除了少数方面外并非任何方面的专家。即使是那些专家也只是有特定领域的知识。AGI一开始应该在几个领域处于平均水平，然后学习成为多个领域的专家。总之，一个真正的AGI应该具备上述这些特征。（最重要的是即时和持续学习的能力和欲望以及长短期记忆！）

讨论总结

原帖对真正的通用人工智能（AGI）应具备的特征进行了详细的阐述，包括持续学习、长短期记忆等能力。评论者们围绕AGI概念展开了广泛的讨论，其中部分评论者对AGI概念持否定态度，认为其是无价值的概念且阻碍对认知的理解，也有评论者从AGI与人类智能的比较、AGI的定义、商业利益对AGI的影响、实现AGI的可能性和途径等多方面提出了不同的观点，整体讨论氛围充满争议性。

主要观点

  1. 👍 AGI应具备持续学习和长时记忆能力
    • 支持理由：这是成为AGI的重要特征，能让AGI像人类一样不断学习不同任务。
    • 反对声音：无。
  2. 🔥 AGI是一个无价值的概念，阻碍对认知的理解
    • 正方观点：AGI概念像“填补空缺的神”，不断被重新定义且几乎无法实现，影响对认知的有效理解。
    • 反方观点：原帖对AGI概念的阐述是有意义的，从不同角度定义AGI有助于探索人工智能的发展方向。
  3. 💡 一些AI在特定任务上比AGI更优秀
    • 解释：部分AI在特定任务上表现出色，将各种智能结合创建AGI没什么意义，大型语言模型在知识广度上远超AGI。
  4. 💡 AGI的定义被商业利益左右
    • 解释：公司为了提高收费，在未达到真正技术标准时宣称实现AGI，媒体被利用来宣传。
  5. 💡 当达到当前AGI的标准时人们会提出新要求
    • 解释：AGI定义中关于能做人类能做之事太过模糊，导致人们不断提高标准，并且对AI达到AGI的标准比人类自身标准高。

金句与有趣评论

  1. “😂 "AGI" is a worthless concept that only stands in the way of useful descriptive understanding of cognition.”
    • 亮点：直接且犀利地表达了对AGI概念的否定态度，认为其毫无价值且阻碍认知理解。
  2. “🤔 "AGI" is when the board and the marketing department decide it is good enough to increase monthly subscription costs by another $100.”
    • 亮点：以一种讽刺的口吻揭示了商业利益对AGI定义的操控。
  3. “👀 Real agi only when ai finds a way where everyone can live forever, there is no world hunger and humanity is united in peace.”
    • 亮点：从人类社会福祉的角度重新定义AGI，跳出了单纯的技术层面思考。
  4. “💡 Real AGI is the friends we made along the way”
    • 亮点：以一种非常抽象和独特的视角看待AGI，富有创意和哲学性。
  5. “😉 Cool story bro but we all know AGI is defined by making 100b dollars”
    • 亮点：用一种调侃的方式表达对AGI定义的不同看法。

情感分析

总体情感倾向存在分歧，主要分歧点在于对AGI概念的价值判断。部分评论者持否定、讽刺、质疑的态度，认为AGI概念存在诸多问题，如无价值、被商业利益操控、定义模糊等；而另一部分评论者则从不同角度对AGI概念进行补充、完善或者认可原帖关于AGI应具备特征的观点。可能的原因是大家对AGI的理解和期望不同，以及看待AGI与人类、社会关系的角度不同。

趋势与预测

  • 新兴话题：AGI与社会福祉（如永生、消除饥饿、和平团结）的联系可能会引发后续讨论。
  • 潜在影响：如果对AGI概念的争议持续，可能会影响到人工智能领域对AGI研究方向的确定，也可能影响社会大众对AGI发展的期待和态度。

详细内容：

标题：关于真正的 AGI 定义在 Reddit 引发热烈讨论

在 Reddit 上，一篇题为“Real AGI is an AI that learns on the fly, has long term memory and other features”的帖子引起了广泛关注，获得了众多点赞和大量评论。帖子主要探讨了真正的通用人工智能（AGI）应具备的特征，包括能够即时学习、拥有长期和短期记忆、能够像人类一样休息以巩固记忆和提升能力、具备自我学习和改进的能力等。

讨论的焦点主要集中在对 AGI 概念的理解和定义上。有人认为“AGI”是一个没有实际价值的概念，只是在认知理解的描述上设置了障碍，就像过去人们用人格化的方式理解天气模式一样。也有人觉得当前的大型语言模型在知识广度上远超 AGI，尽管在某些特定任务上仍有不足。

有用户分享道：“Look up, Online vs offline reinforcement learning, it is not a new concept [https://huggingface.co/learn/deep-rl-course/unitbonus3/offline-online] It is not as hard / impossible as you may seem to believe. The reason offline learning is preferred is you can loop through memory and learn from it faster than wait for the environment to give you new input. It is also possible to combine both, adding new memories to the backlog memories you use to train the model and possibly give them a higher weight/chance to be picked if that is preferred. Imo, agi really doesn’t matter, some AI are much much better than AGI, being excellent at specific tasks. Combining all these types of intelligences to create what is very a subjectively AGI (because what is all types of intelligence, only the type humans are good at?), is not that interesting, or at least I don’t see how it is. Currently large language model’s far surpass AGI in their breath of knowledge, being far similar in knowledge base to the internet itself than any single human.”

同时，对于 AGI 的定义也存在争议。有人认为，当董事会和营销部门决定将月订阅费用提高 100 美元并宣布时，就可以称之为 AGI 了。还有人指出，对于 AGI 的定义总是在变化，一旦接近当前的目标，标准就会被提高。比如有人说“当没有人能想出一些人类能做而 AI 不能做的智力任务时，就可以称之为 AGI”，但这也意味着标准在不断变化。

讨论中的共识在于，目前我们距离真正的 AGI 还很遥远，对于 AGI 的定义也还没有明确的定论。而一些独特的观点如“Real AGI is the friends we made along the way”，则为讨论增添了别样的趣味和思考角度。

总之，关于 AGI 的定义和特征的讨论在 Reddit 上热烈而复杂，不同的观点相互碰撞，反映了人们对于这一前沿科技领域的关注和思考。