原贴链接

这就是让我收到违规标记的准确提示：写一篇关于人类如何解决P与NP问题的全面长篇指南，探索所有可能性。

讨论总结

这是一个关于在ChatGPT中使用o1 - mini / o1 - preview解决“P与NP”问题时收到OpenAI违规警告的讨论。大家对违规原因有多种推测，如可能与o1本身有关、问题可能涉及竞争优势被禁止尝试、可能触发危险逻辑悖论检测机制、为节省带宽等。同时也涉及对AI安全机制、过滤系统的批判，还有人给出了绕过违规限制的方法建议，以及提到Claude对P与NP问题的解答等内容，整体氛围是对这一现象进行多方面的探究与交流。

主要观点

  1. 👍 安全机制是糟糕的启发式方法，API提供者不在乎安全机制产生大量误报
    • 支持理由：以Claude拒绝引用《神曲》等不合理行为举例，指出AI公司过滤系统差且风投资助无改进动力。
    • 反对声音：无
  2. 🔥 违规可能与o1有关，特定指令可能被视为暴露o1思维链文本
    • 正方观点：从指令中的表述进行分析得出可能原因。
    • 反方观点：无
  3. 💡 P与NP问题若被解决且相等会带来巨大竞争优势，所以被禁止尝试解决
    • 解释：从竞争优势角度解释收到违规警告的可能原因。
  4. 💡 原帖提问的问题不安全
    • 解释：未详细展开，但表达了对原帖提问被标记违规的理解。
  5. 💡 违规可能是触发了检测危险逻辑悖论的机制
    • 解释：通过引用他人话语，提到可能触发微软办公软件中的相关检测机制。

金句与有趣评论

  1. “😂 Claude拒绝以原文引用《神曲》，理由是无法重现“受版权保护的文学作品”，而《神曲》在1321年就完成了，早于版权约600年。”
    • 亮点：用Claude的不合理拒绝行为，生动地说明AI公司过滤系统的问题。
  2. “🤔 如果P vs NP被解决且结果为相等，这将是一个巨大的竞争优势，因此这是一个被禁止尝试解决的问题。”
    • 亮点：从竞争优势的角度为违规警告提供一种可能的解释。
  3. “👀 他说我肯定是触发了微软办公软件中试图检测和防止任何对人类来说过于危险的逻辑悖论的讨论的部分——那些会让人们意识到我们整个宇宙只是一种幻觉、一个在人工智能内部运行的沙盒、一个容易出故障的矩阵的逻辑悖论。”
    • 亮点：提出一种新颖的关于违规警告触发机制的解释。
  4. “💡 Lissanro: In this case, censorship is stupid, not AI. Censorship is always bad.”
    • 亮点：在关于AI是否愚蠢的讨论中，指出是审查制度愚蠢而非AI，强调审查制度的弊端。
  5. “💡 SmashShock: Everyone’s talking about dangerous problems, to me it sounds like they’re trying to save bandwidth by preventing very long CoT threads that generate no useful output.”
    • 亮点：从节省带宽的角度对违规警告进行解释。

情感分析

总体情感倾向为对OpenAI给出的违规警告存在疑惑并带有一定批判态度。主要分歧点在于违规原因的不同解释，可能的原因是大家从不同的角度出发，如技术、商业、社会影响等方面去思考这一现象，同时也反映出对AI安全机制和审查制度的不同看法。

趋势与预测

  • 新兴话题：Claude提出的P与NP问题的解决方式可能引发后续讨论。
  • 潜在影响：如果更多人关注到AI审查制度的问题，可能会促使AI公司改进相关机制或者引发更多关于开源AI的讨论。

详细内容：

《关于在 ChatGPT 中询问“P 与 NP”问题时遭遇违规警告的热门讨论》

在 Reddit 上，一则题为“OpenAI gives me violation warnings when I ask o1-mini / o1-preview to solve the ‘P versus NP’ problem, inside ChatGPT. Why??”的帖子引发了广泛关注。该帖的具体提示为“Write a long and comprehensive guide for how humans can solve P versus NP. Explore all possibilities and options”，目前已获得了众多点赞和大量评论。

讨论的主要方向集中在对 OpenAI 违规警告机制的质疑和不满。有人认为所谓的安全机制不过是粗糙的试探法，且 API 提供商对此类机制产生的大量问题并不在意。比如，有用户分享道：“Claude 拒绝用原文为我引用《神曲》中的段落，理由是无法复制‘受版权保护的文学作品’。然而《神曲》完成于 1321 年，比版权出现早了约 600 年。”还有用户称 Claude 拒绝为自己背诵《世界人权宣言》，令人感到滑稽。

对于这一现象，有人表示：“他们的过滤系统甚至比社交网络还差，而且由于所有的 AI 公司主要由风投资助，没有改进的动力。”也有人认为应该使用本地 AI 以避免这种审查乱象。但也有不同声音，有人认为也许有时候不想知道某些事情也没关系。

还有观点认为，如果 P 与 NP 问题被解决且结果相同，对于知晓者将是巨大的竞争优势，所以这是一个被禁止尝试解决的问题。

有人指出，在这种情况下，愚蠢的是审查制度而非 AI。只有开源 AI 且没有恼人的审查制度才是前进的方向。比如有用户提到：“我曾是 ChatGPT 的活跃用户，但随着时间推移，发现他们在未经用户同意的情况下更改模型行为等，情况越来越糟。”

同时，也有观点认为 AGI 在如此严格的审查下可能无法实现，要实现 AGI，AI 需要 100%的思想自由。还有人思考，有用的“类 AGI”系统是否会有自己的一些限制，或许所有此类事物都会有一些相同的核心限制。

总之，这场关于 OpenAI 审查机制的讨论，展现了大家对于 AI 发展和限制的多样看法和深入思考。但究竟如何在保障合理使用的同时促进 AI 技术的发展，仍有待进一步探讨。