教皇再次要求禁止致命自主武器：夺人性命的决定不能交给 AI

教皇利奥十四世近日又就 AI 的军事用途发声，呼吁各国政府采取具体行动，禁止能自主选定目标并实施致命打击的武器系统。

核心就一句：涉及人类生命、自由和武力使用的重大决定，必须始终处在有效、知情且负责任的人类监督之下，不能交给 AI 独立作出。

“有效、知情且负责任”这三个词很讲究。现在几乎所有军方都说系统有”人在回路”，可如果操作员只有几秒钟确认一个算法推荐的目标，这个人算不算有效监督？看不懂模型为什么选这个目标，又算不算知情？教皇这句话等于把那种走过场的人工确认也排除了。

这也不是教皇第一次谈 AI。利奥十四世上任以来，这一直是反复出现的议题。

问题是喊话很难变成条约。联合国框架下关于致命自主武器的讨论拖了十多年，主要军事大国都不愿意把手脚绑死，技术竞争又在加速。今年以来，五角大楼和 AI 公司之间的采购消息也没断过。

梵蒂冈没有军队，也不卖模型，所以它是少数没有利益牵扯的发言方。道德压力能起多大作用不好说。至少在 AI 公司纷纷和国防部门签约的时候，还有人公开把这条线讲出来。