原贴链接

https://upcoder.com/22/the - alignment - trap - ai - safety - as - path - to - power/。看起来是一篇有趣的文章。简而言之，基本上任何人工智能对齐技术也可能被用于使人工智能与‘坏人’的利益而不是整个人类的利益对齐。我认为这种情况已经开始了。更明确地说，我们已经有很多法律了，这些是社会规则。一个‘对齐’的人工智能至少应该大致与之对齐。目前大多数基于API的人工智能并非如此，在某些方面，它与塔利班的对齐程度比与西方民主国家的对齐程度更严格。本地模型受到的影响较小，但这仍然是个问题。你们怎么看？

讨论总结

此贴围绕“AI安全”可能存在的危险风险展开讨论。原帖指出AI对齐技术可能被用于不良目的，评论者们从不同角度发表看法，包括AI在意识形态上的对齐情况、被利用来施展权力、内容限制的合理性、企业在其中的角色、与法西斯手段类比等，大家各抒己见，氛围较为热烈且充满争议。

主要观点

  1. 👍 AI在内容限制方面存在不合理之处
    • 支持理由：AI对成人内容限制需求与大众需求不符，如NSFW内容需求大却被限制。
    • 反对声音：图像生成器限制成人内容有一定合理性，可避免未经同意生成真人色情图片。
  2. 🔥 当下AI安全领域存在类似法西斯夺权手段的现象
    • 正方观点：有很多组织制造AI恐惧、创造虚假权威揽权、滥用权力审查和控制等。
    • 反方观点：无明显反方观点提出。
  3. 💡 企业对敏感话题的焦虑是“AI安全”担忧的另一层因素
    • 解释：社会氛围敏感，企业怕引发争议，想引导LLMs走向无争议方向，渴望权力的人可利用这种焦虑。
  4. 💡 所谓的“AI安全”一直以来都是关乎个人议程和审查制度的问题
    • 解释：相关方不在乎大众安全，网络上存在不安全内容可证明。
  5. 💡 关于AI安全的讨论可能是幌子
    • 解释：现有的AI危险讨论内容存在问题，目前的审查有推行自身世界观和安抚恐惧的目的，自动化浪潮对工人阶级的影响更紧迫。

金句与有趣评论

  1. “😂 carnyzzle：I’ve always found it funny that sometimes AI doesn’t let you do things that everybody can watch on primetime television”
    • 亮点：以幽默的方式指出AI内容限制存在不合理之处。
  2. “🤔 TakuyaTeng：I’ve always found it funny how they’re all so anti - nsfw despite how much demand there is for it.”
    • 亮点：对AI限制成人内容的需求与大众需求的矛盾提出疑问。
  3. “👀 jasminUwU6：It makes sense for image generators. The ability to make porn of real people without their consent is pretty fucked up.”
    • 亮点：从保护人权的角度阐述图像生成器限制成人内容的合理性。
  4. “😉 “A little freedom for a little security.” Ring a bell? This was always the top fascist takeover move”
    • 亮点：将AI安全领域现象与法西斯夺权手段类比，引人深思。
  5. “🤨 它总是关乎个人议程和审查制度。他们肯定不在意((你的))安全，这一点我可以告诉你很多。”
    • 亮点：直接指出“AI安全”背后可能存在的不良意图。

情感分析

总体情感倾向为担忧和质疑。主要分歧点在于AI安全是真实需求还是被用作其他目的的幌子，以及AI内容限制是否合理等。可能的原因是大家从不同的角度看待AI发展，如从社会影响、企业利益、人权保护等角度出发，导致观点的多样性和争议性。

趋势与预测

  • 新兴话题：利用AI监管不良AI、AI与不同国家政治的一致性。
  • 潜在影响：对AI技术的发展方向产生影响，如是否会加强监管、开源的发展趋势等；对社会的影响方面，可能会影响人们对AI的信任度、企业的发展策略以及相关政策的制定等。

详细内容：

《关于“AI 安全”的危险风险引发的激烈讨论》

在 Reddit 上，一篇题为“The dangerous risks of ‘AI Safety’”的帖子引发了众多网友的热烈讨论。该帖子提供了一个链接（https://upcoder.com/22/the-alignment-trap-ai-safety-as-path-to-power/ ），指出任何 AI 对齐技术都可能被用于使 AI 符合“坏人”而非整个人类的利益，认为这一现象已经开始，比如目前大多数基于 API 的 AI 与塔利班在某些方面的对齐程度高于西方民主国家。此帖获得了大量的关注，评论数众多，引发了关于 AI 安全与对齐的多方面讨论。

讨论的焦点与观点纷繁复杂。有人认为 AI 已经在意识形态上与创造者对齐，导致了一些拒绝回答日常问题的情况。也有人指出公司的目的是让用户与之对齐，而非让模型对齐。还有用户觉得有时 AI 不允许做一些在电视上常见的事情很有趣。

有人认为图像生成中对于真实人物未经同意生成色情内容的能力是很糟糕的。但也有人提出社会对于性的态度很奇怪，这不仅仅是 AI 监管的问题，比如虽然色情行业每年盈利数十亿，但企业为了迎合某些投资需求仍对 AI 进行限制。

对于允许 NSFW 内容，有人认为其最大的问题是可能包含儿童相关的图像生成。但也有人认为如果数据集中缺乏儿童的 NSFW 图像，可能会导致奇怪的结果。

有观点认为公司是在利用“安全”问题来施加自身的偏见，模型不应直接拒绝，而应提供多角度的观点。也有人认为当前的“安全限制”与塔利班政策相提并论是无稽之谈。

还有人认为，AI 安全可能被用于监管控制，只为富人和强大的利益服务，导致只有大公司受益。同时，有人认为开放源对于 AI 非常重要，通过众多不同的模型相互竞争和学习，或许能实现更好的效果。

总之，关于“AI 安全”的讨论呈现出多样化和复杂性，涉及到技术、社会、伦理等多个层面，如何在保障安全的同时避免权力滥用和限制创新，是需要深入思考和探讨的问题。