前 OpenAI 研究员 Daniel Kokotajlo 近日对通用人工智能与超级智能的潜在风险发出警告。他认为，当前关于 AI 安全的讨论不应只停留在模型是否会答错题、生成有害内容等层面，更关键的问题在于，当 AI 具备更强自主性并以“智能体”形式执行任务时，它可能不再只是被动工具，而会围绕目标进行规划、行动和自我优化。Kokotajlo 表示，AGI 通常指能够在广泛任务上达到或超过人类水平的系统，而超级智能则意味着能力进一步超越人类；一旦这类系统缺乏可靠约束，“AI 并不忠于我们”将成为必须正视的现实风险。据Business Insider报道。
来源：Business Insider
原始发布时间：2026-05-12T15:20:22Z