💡 OpenAI 首席科学家 Ilya Sutskever 谈对人工智能未来的担忧

据《麻省理工科技评论》，OpenAI 联合创始人兼首席科学家 Ilya Sutskever 表示：

他目前的首要任务不是构建下一代 GPT 模型或图像制作工具 DALL-E，而是找出如何阻止人工智能失控的方法。

他与 OpenAI 的同事 Jan Leike 一起组建了一个团队，专注于研究他们所谓的「超级对齐」（superalignment）。

「对齐」是一个术语，指让 AI 严格按照人类的意图执行任务，而「超级对齐」则表示应用于超级智能的对齐。

他们认为，「现有的对齐方法不适用于比人类更聪明的模型，因为它们从根本上假设人类可以准确地评估 AI 的行为」。

对「超级对齐」的探索才刚刚开始，Sutskever 表示，这需要研究机构进行广泛的变革。

Sutskever 还谈到，当 AI 失控的问题得以解决之后，那接下来呢？「在一个拥有更智能 AI 的世界里，人类还有生存空间吗？」

「有一种可能性，就是许多人会选择与 AI 进行某种形式的融合」他表示，「起初可能只有少数人愿意尝试，但随后可能会有更多的人跟随」。

文章来源：爱范儿