OpenAI 组建新团队来防范 AI 的「灾难性风险」

OpenAI 表示，随着 AI 模型的不断改进，为了最大限度地降低风险，将组建一个名为「Preparedness」的新团队。

该团队由麻省理工学院可部署机器学习中心主任 Aleksander Madry 领导，将帮助跟踪、评估、预测和防范多个类别的灾难性风险。

包括「个性化劝说」、「网络安全」、「化学、生物、放射性和核威胁」以及 AI「自主复制和适应」的能力。

OpenAI 指出，「Preparedness」团队还将制定和维护一套「风险知情发展政策」，该政策将详细阐述公司正在采取的评估和监控 AI 模型的措施。

文章来源：爱范儿