教皇用他的第一封通谕对人工智能发出了异常直率的警告，称人工智能必须“解除武装”，并剥夺将其变成统治、操纵和自动杀戮工具的逻辑。
- 教皇利奥十四世在其通谕《Magnifica Humanitas》中呼吁人工智能“解除武装”，将其潜力与核能进行比较，并要求仅为了共同利益而利用人工智能。
- 他警告说，人工智能已经在助长冲突、错误信息和“新形式的奴役”，并坚称将致命决策委托给机器是“不允许的”。
- 教皇敦促世界领导人放慢发展速度，建立强有力的法律框架，并确保人工智能服务于人类尊严，这呼应并加剧了梵蒂冈早些时候对自主武器和深度造假的担忧。
在 5 月 25 日发布的一份具有里程碑意义的文件中，教皇利奥十四世提出了《Magnifica Humanitas》，这是他担任教皇期间的第一份主要教学文本，也是关于人工智能、技术和人类尊严的全面宣言。他写道，人工智能现在必须“解除武装，从将其转变为统治、排斥和破坏工具的逻辑中解放出来”，并尖锐地将人工智能与核能进行比较——核能可以为所有人服务，但如果不加以控制，也可以毁灭整个社会。
通谕警告说，在地缘政治竞争和商业贪婪的推动下，全球“对日益强大的算法和广泛数据集的竞争”正在推动人类走向优化控制而非护理的系统。他认为，在这场竞赛中，当致命决策被委托给代码时，人工智能已经开始通过加速错误信息、扩大两极分化和降低战争心理阈值来加深全球冲突。
“任何机器都不应该选择夺走人类的生命”
利奥教皇最严厉的语言是针对战争和国家权力中的人工智能。他与弗朗西斯教皇领导下的梵蒂冈早期文件相呼应，谴责致命自主武器系统，这种系统可以“在没有直接人类干预的情况下识别和打击目标”，称其“引起严重的道德担忧”，并坚称“不允许”将不可逆转的致命决定委托给机器。
梵蒂冈之前关于人工智能的教学，包括《Antiqua et Nova》注释和方济各关于“人工智能与和平”的世界和平日致辞，已经将自主武器定义为一种“存在风险”，可能威胁整个地区甚至人类本身的生存。 Leo 明确以此为基础，指出“任何机器都不应选择夺取人类的生命”，并呼吁国际法禁止在战场或警务中充当事实上的自动刽子手的系统。
通谕还针对他所描述的人工智能驱动的“新形式奴隶制”，从对工人的不透明算法管理到剥削性监视和深度伪造色情内容，这些内容剥夺了人们对其形象和身份的控制。他警告说，这些动态可能会造成一个分层社会，在这个社会中，那些设计和拥有人工智能系统的人对那些仅仅被其测量、评分或模拟的人施加了前所未有的权力。
呼吁放慢速度并严格监管
Leo传达的信息并不是对技术的全面拒绝，而是要求人工智能的发展服从于人类尊严和民主控制，而不是相反。该通谕呼吁“强有力的法律框架、独立的监督、知情的用户以及不放弃其义务的政治环境”，并警告政府不能简单地将责任外包给工程师或平台首席执行官。
他敦促世界领导人“减缓”人工智能军备竞赛，特别是在军事系统、大规模监视和政治操纵等领域，这些领域部署有害能力的动机最为强烈。与此同时，他承认人工智能在医学和社会福利方面具有“巨大潜力”，只要它仍然是一种补充人类判断的工具，而不是取代医患关系或削弱疾病和脆弱时刻的面对面团结。
通谕最后邀请其他宗教、公民社会和技术专家不要将人工智能视为不可避免的命运，而是将其视为人类想要什么样的文明的一个有争议的选择领域。在利奥的框架中，问题不在于人工智能是否会改变世界，这已经在发生，而在于社会是否愿意在人工智能将其锁定在无人有意识选择的统治系统之前“解除武装”。