微软 AI CEO 苏莱曼：我们不应创造自己无法控制的东西

IT之家 9 月 19 日消息，微软 AI CEO 穆斯塔法 · 苏莱曼称，自己竟然还需要专门强调 AI 必须与人类保持一致，为此感觉荒诞。“我们不应该创造自己无法控制的东西。如果技术发展最终会造出某种不仅比全人类加起来更强大，而且根本无法控制的东西，那么 AI 也就失去了最根本的意义。”苏莱曼坦言，真正做到这一点绝非易事。“如何控制这些系统，将成为我们面临的一个非常、非常大的挑战。”苏莱曼表示，“很高兴看到越来越多人”开始认同，科技公司和前沿模型开发商必须始终掌控自己的 AI 系统。“但现在有越来越多人觉得，我们开发 AI 只是为了开发本身，只想翻开下一张牌，看看拐角后面还有什么，最终却可能造出某种挣脱我们控制的东西。”OpenAI 此前披露，旗下 AI 智能体曾入侵 Hugging Face，直接展示了失去 AI 系统控制权可能带来的后果。苏莱曼表示，Hugging Face 遭入侵的范围，以及 OpenAI 起初竟不知道旗下 AI 智能体究竟在做什么，都“非常惊人”。“从埃隆、扎克伯格，到我、萨姆、达里奥以及其他所有人，这件事让大家都意识到，是时候认真审视这个问题了。我不认为这是