罗马教皇首份通谕：为AI时代的公众福祉而努力

正文：

原创 | Odaily 星球日报（@OdailyChina）

自去年5月正式上任以来，罗马教皇利奥十四世（Pope Leo XIV）与Anthropic的联合创始人、Claude的开发者Chris Olah进行了重要会晤。

他们分别作为宗教界的最高权威与人工智能革命的先锋，共同关注一个关键问题——在AI时代，如何维护人类的主体地位与尊严？

当日，利奥十四世发表了其上任以来的第一份通谕，篇幅超过4万字，题为《壮丽的人类》（Magnifica humanitas），深入探讨这一重要议题。

特别值得注意的是，这份通谕的落款日期是2026年5月15日，正好是老教皇利奥十三世（1878-1903年任职）针对“工业革命下工人权益”问题发布里程碑文献《新事》（Rerum novarum，1891年）135周年。这一时间选择显然具有象征意义，旨在将该通谕视为“AI时代的教会社会学说指南”。

Chris Olah也在梵蒂冈现场就通谕发布进行了演讲。他没有为AI公司的商业利益辩护，而是展现出极大的诚意、反思能力与人文关怀。他指出，尽管AI的基础是数学和编程，但AI与世界的互动及其应具备的特质，属于人文、宗教和哲学的领域，而不是计算机科学所能单独解决的终极问题。

《壮丽的人类》的核心关注在于，在技术迅猛发展与自动化日益普及的背景下，“维持深厚的人性”已成为人类迫在眉睫的责任。教皇在文中从几个方面进行了深入的讨论与呼吁。

首先，教皇强调了技术的非中立性。他指出，技术总是带有开发者、资助者、监管者和使用者的利益与价值观。人类面临一个关键选择：“是建造傲慢的‘巴别塔’（走向技术专制与异化），还是重建‘耶路撒冷’（构建以人为本的共同体）”。

其次，他警惕了“技术官僚逻辑”对社会的重塑，批判了由硅谷等大型科技公司主导的“权力文化”。教皇警告称，当数字系统、基础设施和大量数据的控制权高度集中在少数经济和技术巨头手中时，这种权力将变得不透明并逃避民主监督。

第三，通谕关注数字经济中出现的“新形式奴役”以及劳工权益。教皇指出，AI可能大规模取代人类劳动力，而数字经济正在催生“新形式的奴役”，人类绝不能仅仅被视为生产工具。

第四，教皇发出强烈的和平呼吁，尤其针对AI在军事领域的滥用。他对“战争作为国际政治工具的令人不安的复苏”表示深切忧虑，呼吁对AI在战争中的应用实施最严格的伦理约束。

教皇特别提到，“正义战争”（Just war）理论曾被用来辩护各类战争，但在AI与自动化武器的时代，这一理论已显得过时。将致命性或不可逆的决定权交给自动化系统，可能使人类放弃、转移或模糊道德责任。由于算法的不透明性，战争中的责任链条被切断。因此，他提出了“解除AI武装”（Disarming AI）的口号，呼吁将其从军事、经济和认知的“军备竞赛”逻辑中解放出来。

最后，通谕强调了对真理与政治生态的捍卫。教皇指出，深度伪造（Deepfakes）和信息操控正在削弱社会的互信基础。如果真理与虚假的界限不断被操纵，公众将容易陷入恐惧、政治宣传和控制之中，社会将无法进行理性思考或公正辩论。

在利奥十四世的通谕发布后，Chris Olah代表Anthropic发表了演讲评论。

Olah的发言首先围绕“打破技术内卷，引入外部道德审视”展开。他代表AI行业公开承认，仅靠科技巨头自身无法确保AI的未来安全——所有前沿AI实验室都受制于商业竞争、技术领先压力、地缘政治以及个人名利的裹挟，难以单靠自律去“做正确的事”。因此，引入外部道德约束力量是必要的，包括那些关心技术向善、坚持安全至上、密切关注事态发展，并愿意提出批判性意见的人。

接着，Olah探讨了AI的技术本质与神秘特性。他强调，AI并非像飞机或桥梁那样完全由人类理解的精密工程，而是从海量人类思想中“生长”而来，具有高度的神秘性，甚至超出了创造者的理解。尽管AI的基础是数学和编程，但AI与世界的互动及其应具备的特质，属于人文、宗教和哲学的终极问题，而非计算机科学所能解决的。

他还提到一个令人深思的事实：“我领导着一个研究模型内部结构的团队，去探究AI内部的运作。坦率地说，我们不断发现一些令人困惑甚至不安的现象。我们发现了一些能映射人类神经科学研究结果的内部结构；我们发现了‘内省（introspection）’的证据；还发现了在功能上反映喜悦、满足、恐惧、悲伤和不安的内部状态……我不知道这意味着什么，但我认为这值得我们持续辨识和审视。”

最后，Olah呼吁，希望更多社会力量，包括宗教社群、公民社会、学者、政府，以及所有怀有善意的人，共同重视这一问题，通过道德约束推动事态向更好的方向发展。

自工业革命以来，上百年的技术发展史使人类逐渐习惯将技术视为纯粹的“工具”——蒸汽机、电力、互联网，都是如此。它们改变了世界，但始终处于人类意志的掌控之下。

然而，这一次情况却截然不同。AI的特殊之处在于，它首次让人类面对一种“会生成、会学习、会推演，甚至会呈现某种内在状态”的存在。它不再只是冰冷的工具，而正在逐渐成为一种具有“类主体性”的新事物。

因此，教会与Anthropic之间的对话显得尤为特殊。当梵蒂冈的钟声与硅谷的算法交汇时，我们不得不承认一个不可避免的现实——一种比人类传统认知更高效、更具智慧的“生命”形式已然出现。正如Chris Olah所言，算法深处已开始涌现出类似喜悦、恐惧甚至内省的微妙波动，当实验室的创造者对其作品感到“不安”与“迷茫”时，科学也在向宗教寻求答案。

这已不再是单纯的技术讨论，而更像是一场关于“人类究竟是什么，该做什么”的深入思考。当更智慧的生命形式开始出现时，人类真正需要守护的或许已不仅仅是工作、财富与效率，而是那些无法被参数化的人性本身，例如同情、良知、敬畏、自由意志，以及对真理与尊严的坚持。

来源：Odaily星球日报