Google 制定「机器人宪法」，以确保不会伤人

本周，Google DeepMind 机器人团队公布了三项新进展，以此帮助机器人在自然环境中做出更快、更好、更安全的决策，其中最显眼的一项是该团队起草的「机器人宪法」系统——AutoRT。

Google 的数据收集系统 AutoRT ，可以使用视觉语言模型 (VLM) 和大型语言模型 (LLM) ，以此帮助机器人了解并适应工作环境。

该规定设立的目的，是要确保 AI 机器人在工作中不会伤害到人类；为此，DeepMind 对机器人进行了编程，对其关节处设限，如果其关节上的力超过一定阈值，就会自动停止工作，人类操作员通过此处的实体开关，随时让机器人停止运行。

「机器人宪法」的灵感源自艾萨克·阿西莫夫的「机器人三定律」：

第一定律：机器人不能伤害人类，也不能因不作为而伤害人类。

第二定律：机器人必须服从人类发出的命令，除非违反第一定律。

第三定律：只要不违反第一或第二定律，机器人就必须捍卫自己的存在。

这是一套「以安全为中心」的提示，使得机器人在高效工作的同时，又能保护人类的安全。

文章来源：爱范儿     作者：肖凡博