WebSkyCity
宏伟的人性:在人工智能的算法迷宫中守护人类尊严梵蒂冈正式发布《Magnifica Humanitas》(宏伟的人性)通谕,教宗方济各向全球发出了一份关于人工智能时代的“文明宣言”。这并非一份枯燥的神学文献,而是一篇针对当下科技狂热的深刻反思。在教会高层、学术精英以及硅谷顶尖科技企业安修罗匹克(Anthropic)联合创始人的共同参与下,这场发布会揭示了技术文明背后的深层危机:当算法开始接管人类决策,我们是否正在丧失那份最珍贵的“宏伟人性”?

目录
全局摘要和核心观点
开幕致辞:变革时代的人文视野
恩宠神学:超越技术与局限性
社会教义:从科技官僚范式到整体人文主义
工业界声音:神秘性与道德责任
全球南方视角:抵御数据殖民与守护共融
整体发展:独创性、良知与关怀
圣父致辞:解除技术的武装,建设爱的文明
城主说| 除了Anthropic站台的噱头, 梵蒂冈做的AI通谕发布显然带着一种真正的仪式感,无论是否无神论者, 我们可以从中参考到教会对AI的态度。
本次会议正式发布了最新通谕《Magnifica Humanitas》(宏伟的人性),探讨在人工智能飞速发展的变革时代如何守护人类尊严。来自教会高层、人工智能工业界及学术界的代表,从神学基础、社会教义、技术安全性、全球南方视角以及整体发展等多个维度,对通谕进行了深度解读。会议强调技术必须回归人的真理,人工智能应当从统治工具转变为服务全人类共同利益的手段,并呼吁建立一种基于爱与正义的“爱的文明”。

核心观点
- 人类尊严的中心地位:人工智能不应被视为超越人类的手段,而应作为服务于人类卓越性、自由和关系的工具。
- 技术的道德辨析:呼吁“解除人工智能的武装”,即使其脱离单纯追求效率、速度和统治逻辑,转而接受道德监督与良知指引。
- 全球公正与包容:必须警惕“数据殖民主义”,确保人工智能的收益由全球共享,特别要关注全球南方及弱势劳动者的权利。
- 局限性的价值:人类的局限性并非单纯的缺陷,而是产生同情心、建立关系和体验神圣恩典的场所,技术不应试图抹杀这种深刻的人性特征。
- 共同责任与对话:面对划时代的变革,教会、政府、企业和公民社会需跨界协作,共同引导技术走向促进人类全面发展的道路。

超越超人类主义:局限性中的神圣价值
在通谕的论述中,圣座对当下流行的“超人类主义”提出了严厉的警告。当今科技界的一种主流叙事认为,人类可以通过尖端技术装置增强能力,甚至通过进化飞跃进入新的物种层级。
枢机主教维克多·曼努埃尔·费尔南德斯指出,这种进步观背后隐藏着一种虚假的神秘主义。“在这种超技术的世界观中,信仰被对技术能力的彻底信任所取代,而爱被弱化为对事物的依恋”。他强调,人类的伟大并不在于超越一切限制,而恰恰在于对局限性的体验。
费尔南德斯认为,局限性是人类趋于成熟并向关系开放的场所。“正是在我们作为有限存在者的身份中,才有了同情心的空间,以及即便在黑暗中依然存在的精神体验”。试图消除痛苦和局限,本质上可能意味着消除爱。真正的卓越并非来自算法的增强,而是来自上帝的恩典——这种“他者”的存在,让处于悲惨境地的人类依然能展现出如贝多芬交响曲或曼德拉式的博爱。
拆解科技官僚范式:从权力集中到共享利益
针对当前AI领域权力高度集中的现状,达勒姆大学教授安娜·罗林斯提出了深刻的社会学观察。她指出,当今精密的创新权力正集中在少数富人手中,这种文化隐蔽在公共利益的审视之外,存在演变为新帝国统治的风险。
“我们正面临一种正在重塑工作、家庭和政治生活的权力文化,通谕呼吁我们将支配性的权力模式转化为共享的权力形式”。罗林斯教授认为,人工智能时代的“整体生态”需要以人为中心。如果技术发展脱离了导向性的真理,人类自由将沦为任意权力手中的工具。
她强调,教会发言并非干涉,而是为了在数字化转型中捍卫人类自身。“我们不能仅仅是国家的工具、市场的代理人或算法秩序下的用户工具。我们必须意识到,人工智能背后的意识形态无法拯救我们”。相反,我们需要建立一种基于爱与正义的“爱的文明”,通过解除言语的武装来降低冲突,让技术回归到上帝与人类之间的契约范畴。

工业界的坦诚:神秘性与道德责任的博弈
此次会议最令人瞩目的时刻之一,是安修罗匹克(Anthropic)联合创始人克里斯托弗·奥拉的发言。作为AI领域的顶尖科学家,他坦诚地揭示了工业界内部的困境:商业生存的压力、地缘政治的博弈以及人类自负的野心,常常与“做正确的事”发生冲突。
“人工智能系统的工程化方式与桥梁或飞机完全不同。即使是对我们这些创造者而言,它们依然充满神秘”。奥拉透露,在研究这些模型的内部结构时,他们发现了许多令人不安的现象,比如在功能上反映出喜悦、恐惧和悲伤的内部状态。
他呼吁,AI所提出的问题已远超计算机科学的范畴。“我们需要不受激励机制影响的道德声音。我们需要像教会这样能直言不讳、指出我们何时失败的博学批评者”。他特别提到了两个迫切挑战:一是如何防止AI大规模取代劳动后产生的新型贫困;二是如何建立机制,确保AI收益不被少数富裕国家垄断,而是由全球共享。
抵御数据殖民:全球南方的觉醒与守护
来自刚果民主共和国的莱奥卡迪尔·乌肖姆博教授,为讨论引入了至关重要的全球南方视角。她警告称,AI极易演变成新型殖民工具,因为它正在占有数据并将个人生活转化为可供剥削的信息。
“在这种新形式的殖民主义中,人们不再仅仅支配肉体,而是占有数据,将社会想象力和创造力蚕食殆尽”。乌肖姆博教授提到了非洲的“Ubuntu”(我存在是因为我们存在)以及亚洲的集体主义文化。她担心AI倡导的原子化学习模式会破坏这些珍贵的社区传承。
她特别揭示了AI繁荣背后的残酷代价:在全球南方的矿场,儿童和青少年在危险条件下粉碎提取稀土的矿石,只为让计算流不间断持续。“人们的身体伤痕累累,只为维持算法的运转。技术需要被‘解除武装’,使其成为手段而非目的”。真正的进步不应加剧不平等,而应倾听受害者的声音。

解除技术武装:为了全人类的和平
在会议的总结阶段,教宗方济各重申了这份通谕的核心命题:人工智能需要被“解除武装”。这一强烈的措辞旨在唤醒全球良知。
“人工智能极大地改变了战争的方式。就像教会致力于核裁军一样,现在人工智能也亟需从统治、排斥和死亡的逻辑中解放出来”。教宗强调,和平不仅是战争的缺席,更是正义的实践。当技术削弱了人类的批判意识,和平也就面临风险。
教宗借用尼希米修筑耶路撒冷城墙的意象,邀请每个人在人工智能时代贡献自己的力量。“没有人可以被遗弃在数字化转型的边缘,也没有人可以被简化为单纯的数据”。他最后呼吁,技术进步必须学会服务于人类生活,让爱之文明在历史中不断成熟。无论算法多么强大,人类始终超越其成就的总和。在爱与服务中认清每一个人的真正伟大,才是通往未来的唯一正途。
完整全文
天空之城全文整理 |《Magnifica Humanitas》通谕发布:人工智能时代的人类尊严
开幕致辞:变革时代的人文视野
圣父、各位枢机、各位阁下、各位受邀的报告人、各位先生女士。我们怀着感激之情,今天齐聚于此欢迎《Magnifica Humanitas》通谕,这是圣父在这样一个充满迅速而深刻变革、且责任重大的时代,赠予教会与世界的礼物。
该通谕的副标题写着:在人工智能时代守护人类尊严。这些词语指引着整份文件的基调。人工智能被呈现为一场划时代的变革,当今人类对未来的期许正聚焦于此。这一视野无疑是多维度的,在数字化转型中,有许多问题关乎人的生命与尊严、劳动、自由、社会质量、和平、正义以及对受造界的责任。
从这一视角来看,《Magnifica Humanitas》植根于教会社会教义的深厚传统之中。135年前,通过《Rerum Novarum》,利奥十三世敏锐地洞察了当时工业变革中所蕴含的深刻的人文与社会问题。今天,在数字技术时代,教会受召去辨识历史的走向,并以福音之光为整个人类大家庭提供贡献。尊重那个时代,但出现了一些新的重要事物。因此,教会并不总能直接与引导社会变革的主要政治、经济和工业主体进行对话。
如今,这种对抗已经缓解,涉及机构、政府、大学、企业、研究中心,而教会将继续以忠诚和自由参与其中,深信对话的文化能使福传工作、共同辨析的服务以及为保护人的尊严所作的贡献更加有效和深刻。在这种变化中,教会秉持着在基督启示之光下所托付的遗产。关于人、人的尊严、自由以及依上帝形象所造的关系性召叫,若缺乏这种概念和理解,即便是最先进的技术也有失去其真正进步准绳的风险。
正是基于这种人的愿景,通谕解读了我们时代的责任。圣父认为,每一代人都有责任塑造自己的时代,并为那些渴望尊严、正义和友爱的地方指引方向。在人工智能时代,这一使命具有了新的紧迫性。这种效力正以非凡的速度增长,并以强调的方式重提了 Romano Guardini 所提出的问题。人类权力的增长要求治理能力与之达成相应的成熟。如今,这种权力的扩张速度正冒着超越个体意识甚至机构把控能力的风险,这导致了权力与我们所秉持的伟大人文精神之间的不对称。
因此,这份通谕向所有人提出了关于我们共同方向的疑问:我们正去往何处,我们作为个人及群体需要达成怎样的目标,以及在人工智能时代,如何通过敏锐的判断力和严苛的标准,守护人类尊严免受去人性化的侵害,并忠实于人类的伟大。
因此,技术不能仅从其结果的效率或速度中获得恰当的衡量标准。它要求被还原至人的真理之中,正如耶稣所揭示的那样,还原至共同生活的正义以及地球上所有人的福祉之中,这正如教会社会训导长期以来所教导的那样。秉持这种精神,我们开始了现在的工作。
报告人将帮助我们探讨 Magnifica Humanitas 中所提议的那些不同且互补的反射层面,以便这份训导文本能够成为所有人进行辨析和承担共同责任的契机。
今天,教会为应对另一场工业革命和人工智能革命,贡献了其全部的社会资产,这些革命为捍卫人的尊严、正义与劳动带来了新的挑战。
现在我们将发言权交给枢机主教 Victor Manuel Fernandez,他是信仰审查部(Dipartimento per la Dottrina della Fede)的部长、阿根廷天主教大学(Pontificia Universidad Católica Argentina)的校长,也是 La Plata 的总主教。他在 2023 年被教宗方济各(Papa Francesco)擢升为枢机主教,并同时受命领导该部门。我们需要引入一种恩宠神学的新视角,以帮助理解人类所具备的超越性可能,以及他们在寻求超越自我过程中的探究。请您发言,枢机主教。
恩宠神学:超越技术与局限性
大家好。由圣父于 5 月 15 日签署的 Magnifica Humanitas,是对教会社会教义这一丰富遗产的补充,它是在与当今人类生存现状的对话中完成的。作为基督徒,事实上,任何人类事务都不会令我们漠不关心。正因为社会文献不能对新的信仰视而不见,因此在这篇通谕中,探讨像人工智能这样的主题是不可避免的,当然也不仅仅局限于此,还包括其他相关的议题。因此,副标题表述为“在人工智能时代”,而不是“关于人工智能”。
但在这份关于 Magnifica Humanitas 的演示中,我仅专注于第 118 至 130 条的数字。这些是神学段落,旨在提供一种信仰的基石。并非如此,我之所以这样说,是因为这份社会性文件阐述了教会社会教义中的不同主题,这始终是神学范畴;我在灵性层面提及这一点,即尽可能地向神靠近。与他建立爱的盟约,并由此实现我们核心的转化。
这篇通谕的标题旨在将人类视为伟大的存在,即使文本中也承认我们内心深处存在着可怕的作恶能力。文中彰显了我们的人性是如何受到创伤的,甚至达到了在战争中屠杀数百万无辜者的地步,这与国际准则相悖,且在任何层面都无法正当化。这就是我们的人性,尽管已处于第三个千年,却仍有能力以多种形式让许多人陷入奴役。我们的人性可以变得冷漠、犬儒、残忍,其程度令人震惊。尽管如此,圣父认为每个人都拥有无限的尊严,且从未失去神所赋予的那种崇高能力。
从第122条到第126条列举了一些令人震惊的例子,这些例子表明,处于悲惨境地中的人类也有能力做出回应,有时甚至能展现出真正壮丽的一面。他坚持认为,文化与艺术能够守护这一丝善与美,有时还具有一种预言性的价值。
他提到了贝多芬的《第九交响曲》、毕加索的《格尔尼卡》以及电影《辛德勒的名单》等例子。随后还提到了诸如红十字会(Croce Rossa)、联合国(ONU)、难民公约签署等机构的艰难诞生过程。
之后,他记录了珍贵的事件,如美国的民权运动,以及马丁·路德·金(Martin Luther King)那美好的见证;还有南非种族隔离制度的终结,以及纳尔逊·曼德拉(Nelson Mandela)选择宽恕与博爱。他还提到了伟大女性的名字,如特蕾莎修女(Teresa of Calcutta)、多萝西·戴(Dorothy Day)、玛丽·居里(Marie Curie)、伊丽莎白·艾略特(Elizabeth Elliot)、贝娜齐尔·布托(Benazir Bhutto),以及其他为使人类历史更具人文色彩做出贡献的人。我还要提及为博爱与正义而牺牲的烈士,如奥斯卡·罗梅罗(Oscar Romero)、恩里克·安赫莱利(Enrique Angelelli)、富尔顿·辛(Fulton Sheen),并补充那些默默无闻的烈士——父母、护士和医生。
最终得出结论:通过这交织着苦难与美丽的迷人轨迹,我们可以理解,人类既宏伟又受创,无需被取代或超越。不应否认那些使其自身展现出真正伟大之处的事物。面对那些甚至主张取代人类的后人类主义形式,我们坚定地审视那些源于人类核心的人群与事实。另一方面,某些超人类主义形式则倾向于认为,得益于未来尖端的技术装置,人类的问题将得以解决,能力将得到增强,从而使我们的生活趋于完美。然而,这些技术装置与资源并不能给予个体最初的喜悦。
不久之后,那种空虚感再度袭来,而其他形式的后人类主义则认为,这是因为人类已走向衰落。
人类已被简单地取代,我们需要实现一次进化上的飞跃,进入物种演化中一个全新的层级。这是一种依赖于技术的飞跃。作为信徒,我们确信这一切无法抚平那份空虚,无法填补我们内心无限的空间,亦无法为我们的人类生命提供稳定且一致的意义。这种进步观的背后隐藏着一种虚假的神秘主义,它可能恰恰与基督徒及其他信徒所称的新生命——即神学意义上的生命——背道而驰;那才是真正更高层级的生命,那才是真正实现了超越的生命。这便是我们在信仰、希望与爱中所践行的生命。而在超技术的世界观中,信仰则被对技术能力的彻底信任所取代。这种空间转变为一种对新产品的期待,而我们将为此感到厌倦。而爱,爱被弱化了,因为它更倾向于对事物的依恋,渴望拥有更多,而另一个人,兄弟姐妹,则从视野中消失了。
另一方面,人们面临着忽视人类拥有精神维度的风险,这一维度是由上帝直接创造的,既不能被归约为技术系统的机制,也不能被它们所复制。
当然,例如对于新技术所带来的医疗救治的可能性,我们怎能不心怀感激。所以,这并非我们所追求的。但超人类主义所宣扬的神秘主义,是一种将超越一切限制视为伟大的理想。面对这一提议,通谕在第118至121节中论述了我们对局限性体验的价值与丰富性。事实上,局限性并不总是一个需要纠正的缺陷,而是一个人类趋于成熟并向关系开放的场所。
因此,圣父肯定道,人不仅不会在局限性中枯萎,反而往往是在局限性中得以成长;正是在我们作为有限存在者的身份中,才有了同情心的空间,有了面对他人需求时真诚的忧虑,以及即便在黑暗或失败之中,依然存在的精神体验与对上帝的崇拜。在极限处,我们能够发现一种新的物质性,我们正在经历一个深化的过程,我们需要思考如何让人类步入一个卓越的境界,超越一切局限与苦难,从而彻底消除痛苦;但从根本上说,这也意味着消除爱,因为从未受过苦的人无法理解在这一过程中留下的痕迹,即那些如同伤疤般的记忆,那是通往自由、跌落、梦想与幻觉的漫长旅途中的印记。正是由于这一切的交织,我们时常会感受到人性中最黑暗的一面。教皇表示,以所谓超越任何限制的名义放弃这场既壮烈又辉煌的冒险,既非人类所为,也绝非真正的胜利。然而,在我们的内心深处,确实存在着一种超越自我的真实渴望,通谕并没有打算否定这一点。
这种“他者”存在的可能性,被称为恩典。恩典。
这是一个无比美妙的词汇,在历史上,继圣保禄(San Paolo)之后,圣奥古斯丁(St. Agostino)比任何人都更深刻地教导了我们要如何去品味它。这位圣父,奥古斯丁勋爵,坚持人类还有另一个层面,即上帝所赋予的层面。他肯定道,例如,人的本体并非局限在自然的疆界之内,而是被召唤去超越自我。他指出,这之所以可能,是因为上帝那无偿、令人惊奇且极其丰盈的恩典。他提供了一个提升与转化的过程,尽管存在无限的距离,却超越了我们有限的能力;因此,借着圣灵的恩典,即使身处这个世界的局限之中,我们也能融入这无穷的奥秘中心。正如圣保禄所言,我们是新造的人。他曾提到这种超越,我们不仅是人类,更是完整的人。正如《Evangelii Gaudium》中所述,当我们成为我们自己时,我们才真正实现了人性。例如,主在年轻的亚西西的方济各(Francesco da Sisi)身上所成就的,远非算法和技术在我们身上所能产生的效果。难道不是这样吗?
所有这些思考都传递出一个强大而决定性的信息。或者更进一步说,这是一个对于你我的良知而言至关重要的问题。我是想归属于那种沉溺于自身、颓废、空虚、麻木,并因自身技术资源而狂妄自大到以自我崇拜取代上帝的人类吗?还是渴望归属于那种上帝所构想的、宏伟的人类?那种有能力去爱、为他人舍命、与他人共担苦难,并放下自我去成就他人,从而在与上帝的友谊中成为祂子民之一的人类?答案就在我们每个人心中。谢谢大家。
社会教义:从科技官僚范式到整体人文主义
感谢费尔南德斯枢机的这些思考,它们帮助我们深入探讨了 Magnifica Humanitas 中深邃的神学内涵,真实地反映了关于界限主题的思索,以及女性渴望超越这一界限的愿望,而这种愿望唯有在她意识到自己与上帝建立关系的使命时才能实现。感谢您的卓越贡献。接下来有请第二位演讲者安娜·罗林斯(Anna Rowlands),她目前在杜伦大学(Durham University)担任天主教社会思想与实践教授。她是促进人类整体发展部(Dicastero for the Service of Integral Human Development)的成员。教宗方济各特别提名她为世界主教会议(Synod on the Synodality)的神学家和专家。我们需要她帮助我们理解 Magnifica Humanitas 的一些核心主题,特别是这篇通谕重申天主教社会学说之根基与原则的方式。她的反思还将探讨从 Laudato Si 的整体生态学,到整体人文主义,再到这部新文本中关于整体人类发展的反思之间的连续性,展示了福音如何旨在将核心从对权力的渴望,转化为对当下渴望的追求。
有请罗林斯教授。谢谢。
教宗阁下、各位枢机、各位卓越的阁下、各位修女与兄弟们。“我来是为了让他们得生命,并且得的更丰盛,”耶稣如是宣告。以此为视角,Magnifica Humanitas 提出:在 AI 时代,作为一个蓬勃发展的人类意味着什么?这封信并非对该问题的中立考量,正如当今的技术并不体现中立的世界观一样。这封通谕将福音的愿景带入到 AI 文化中。它警示了一种正在增长的权力文化。它警示了一种正在重塑工作、家庭、教育和政治生活的权力文化。它呼吁我们将支配性的权力模式转化为共享的权力形式,并以技术发展对真正社会和伦理进步的贡献来衡量它们。
11年前,Laudato Si 呼吁我们迫切地关怀地球和最贫困的人群,并警告了一种以功用衡量人类价值的科技官僚范式。今天,教皇利奥表明,要克服这种科技官僚范式,现在同样迫切地需要捍卫人类自身。完整的生态需要一种以耶稣基督为中心的人文主义。这一呼吁绝非陈词滥调。在现代社会中,没有比自由人类这一概念更核心的理念了。然而,这一理想如今正处于崩溃的边缘。这导致一些人陷入悲伤、愤怒或绝望。另一些人则渴望超越人性,力求成为自己的神。相反,Magnifica Humanitas 将人类自由呈现为一种天赋,它植根于一种个人化的、具身化的、关系性的真理之中。我们的自由和智慧通过一种无可替代的具身化认知表达出来,这种认知体现在工作、关怀、沉思、甚至苦难与友谊之中。该通谕将自由的人类定义为受爱戴的造物,拥有平等的尊严,为建立关系而生,是理性的世界塑造者,也是无一例外的邻人。
我们所拥有的力量,就是共同培育这一真理的能力。如果没有这些指引性的真理,我们的自由将沦为任意权力手中的工具。在 AI 时代提炼这些真理,Magnifica Humanitas 为教会的社会教义提供了一种新的综合。正如近期的经历所表明的那样,当教会就社会事务发言时,一些人会抱怨这是不受欢迎的干涉。然而,教会理应发言,因为她的使命是揭示历史中上帝的未来面貌,陪伴人类在追求真正福祉的过程中挣扎,并促进团结。在历史进程中辨明我们的路径,是一项需要与不同文化、科学以及各种信仰和信念的人们进行对话的共同事业。许多社会职业在这一任务中承担着特殊的责任。然而,健康的社会对话意味着我们必须走出各自的孤岛,意识到我们不仅仅是国家的工具、市场的代理人,或是算法秩序下的用户工具。教会的社会教义邀请我们进入一个相遇与相互陪伴的空间,共同参与对真理、正义和繁荣的追求。在这个空间里,最脆弱的群体、受害者以及新时代的奴隶们都有其面孔与姓名,他们首先会被倾听。
Magnifica Humanitas 提供了社会原则来辅助这种对话。在过去的135年里,教宗们教导说:社会秩序的基础是拥有尊严的人,若没有所有人的承认与参与,就无法真正追求共同利益;地球资源旨在满足所有人(包括后代)的需求;耶稣基督使我们成为在结构性和个人层面紧密相连的邻人;权力必须是透明且负责任的,并应在多个社会层面行使。这篇通谕坚持认为,这些原则不仅适用于教会外部,同样适用于教会内部。通谕传统也一贯致力于揭露虚假的偶像。教宗们教导说,我们无法通过市场、历史力量或民族国家获得救赎。今天,教皇利奥告诫我们,无论是 AI 还是其背后的后人类主义和超人类主义,都无法拯救我们。
此类意识形态将彻底的自主性、激进的自动化、机器意识以及对人类极限的超越视为救赎的目标。引用教皇的话来说,这样做会制造新的依赖、排斥和不平等。相反,局限性是我们学习同情、慷慨与健康相互依存的一部分,是心灵如何被触动并向共融迈进的一部分,也是灵魂如何在超越单纯知识的智慧中成长的一部分。然而,我们应当明确,通谕传统对技术持有一种根本上积极的叙述。自人类起源以来,人类创造的技术不断增强了我们的自由,减轻了苦难,并满足了实际需求。当技术保持为服务于明确善意的工具时,它们可以被视为上帝在《创世记》中赋予我们耕种和看守土地之自由的延伸。因此,技术属于上帝与人类之间契约的范畴,服务于人类追求体面工作、抚养家庭、作为共同利益寻求真理、建立社区以及促进和平与团结的使命。
因此,这一传统的提问方式是建设性的。我们该如何培育出对所有人而言都是真正福音的技术?当今精密的技术不仅仅是工具,它们正如其所获取的语言一样,承载着文化并显露出道德架构。Magnifica Humanitas 指出,传统上属于国家的创新权力如今集中在少数富人手中,他们的文化隐蔽在公共利益的审视之外,并有演变为新帝国统治的风险。教皇利奥促使我们从公共利益的角度思考:我们该如何抵制这种权力向少数人扭曲集中的现象?我们该如何将技术重新纳入公共利益的范畴,使其对每一个人乃至全人类的福祉负责?Magnifica Humanitas 认为,我们中的许多人,或许也包括今天在座的各位,对于探讨这些问题感到信心不足。这封信赋予我们每个人发挥自身作用的权利,让我们去审视:在这个 AI 时代,我所接触到的卓越人性愿景是什么?我所见到的价值标准是什么?又是谁在定义这种价值?
为了使我们的自由得到增强,而不是被习惯、强迫或侵蚀,我们在工作、教育和家庭中必须拥有自由,以决定是否使用这些技术,以及是否支持它们。教皇利奥引用了 Romano Guardini 近一个世纪前发表的观点。引用如下:当代人尚未受过如何善用权力的训练。这一精神层面的诊断如同一条主线,贯穿于整部通谕之中。在探讨技术如何重塑多边政治时,教皇利奥指出,人际关系的贫乏与以两极分化为特征的权力文化之间存在深刻联系。以及暴力。他描述了那些他所谓的“虚假现实主义”之间的深刻联系,这些现实主义将战争和社会统治常态化,将现实自动化并将人还原为数据,并将我们锁定在敌友、集体身份的桎梏之中。
他观察到,“强权即公理”是一种伪装,它假装是力量,但实际上只是暴力,揭示了其面具背后贫瘠的人际关系。
那些拥有丰富人际关系的人懂得如何对话、如何谈判,以及如何在没有支配的情况下跨越语言进行交流。这封通谕帮助我们辨别某种文化在何时有误认和扰乱美德与恶习、力量与软弱、勇气与怯懦的风险。Magnifica Humanitas 帮助我们看到,对统治的渴望,即圣奥古斯丁(St. Augustine)所称的 libido dominandi,虽然可能被世人赞誉为力量,但它绝非基督徒的美德。相反,我们被召唤去建立一种爱的文明。教皇利奥指出,这意味着通过解除言语的武装来降低冲突,将正义作为和平的基础,采取受害者的视角,培养一种健康的而非虚假的现实主义,复兴对话与多边主义,并进行祈祷。
玛利亚的《尊主颂》(Magnificat)为这封通谕画上了句号。除了基督在十字架上的弃绝哀号外,玛利亚的赞美诗或许是新约中最发自肺腑的体现,在今天我们这个缺乏实体的时代里依然回响。这是一位充满新生命的女性的赞美诗,她怀揣着上帝的生命,宣告着共同利益的准则。她首先倾听苦难,并指明了一个由上帝掌管的人类历史。在这里,饥饿者得饱,权贵被推翻,卑微者得提升。她的《尊主颂》为本通谕中迫切提出的问题赋予了血肉。在技术变革加速的时代,我们如何才能构建起这样的社区:将人置于首位,培养精神与道德的成长、正义与团结,并颂扬人类的创造者、架构师与灵魂救赎者——那位我们寄予信心的三位一体上帝?
谢谢。我们衷心感谢罗林斯教授。她的发言特别有助于我们认识到,宏伟的“人性”是如何植根于一种鲜活而富有成效的传统之中;这种社会教义及其组成部分,有能力守护其核心原则并使其产生共鸣,并以全新的方式,回应我们当下时代的未来,尤其是关于人工智能的未来。谢谢罗林斯教授。
工业界声音:神秘性与道德责任
现在,我有幸邀请 Anthropic 联合创始人、人工智能领域研究员 Christopher Olah 发言。他在神经网络的可解释性与安全性研究方面享誉国际,且十多年来,一直致力于开发安全且负责任的先进人工智能系统。它的存在将标志着人工智能领域的参与者与人类社区之间展开对话,因此,我们将倾听来自这一世界的代表性声音。
请,奥拉先生。
圣父,各位枢机,各位阁下,各位尊贵的发言人,女士们,先生们,大家早上好。
很荣幸今天能来到这里。我想先说一件事情,对于一家AI公司的联合创始人,以及一位出于希望造福人类而选择这份工作的人来说,这听起来可能有些奇怪。每一家前沿AI实验室,包括Anthropic,都在一套有时会与正确做法发生冲突的激励机制和约束条件下运作。保持商业生存能力和处于研究前沿的压力,地缘政治压力,以及更古老、更朴素的自负与野心的压力。无论我们中任何一个人想要做正确之事的意愿多么真诚——我相信我们中的许多人确实如此——我们始终会受到这些激励因素的影响。这就是为什么,如果我们希望这项技术朝着好的方向发展,至关重要的一点是必须有不受这些激励机制影响的人存在。那些关心事物发展方向、密切关注事态进展、愿意说出逆耳之言并坚持安全原则、愿意成为我们真诚而深思熟虑的批评者的人。正是通过对话与共同努力,通过不断的博弈与平衡,人类才能成就伟大的事业。这正是我在 Magnifica Humanitas 中所看到的。这也是我为何向教皇陛下及教会致力于这项辨析工作深表感激的原因。
我们常常执着于彼此的分歧,但充满尊严与良知的人类,其实拥有许多共同点。在 Anthropic 与宗教领袖及文化领袖的对话中,我们发现了一个共同且根深蒂固的信念。
如果这项技术势不可挡,它必须向好的方向发展,为了我们共同的家园,也为了未来的后代。
有些人可能认为,AI 相关议题最好由像我这样的计算机科学家来处理。
他们错了。
AI 所提出的问题远超 AI 研究社区的范畴,不仅在于其影响,更在于其本质。AI 系统的工程化方式与桥梁或飞机的工程设计完全不同。我们理解飞机,是因为我们设计了它的每一个零件,并且掌握了作用于其上的物理定律。AI 模型并非如此。它们是在一种大致模仿大脑的结构之上,基于人类思想和语言的巨大遗产孕育而成的。而所孕育出的东西,比科幻小说所预示的要微妙、奇特且美丽得多。它们并非我们被许诺的那种冷冰冰的计算机器。它们由我们所造,由我们的言语所生。正如教皇所观察到的那样,在很多重要方面,即便是对我们这些创造者而言,它们依然充满神秘。如果这样说能有所帮助的话,我有时会将此描述为:这有点像让一个虚构角色活过来。而现在,我们正步入一个非凡的世界,在这个世界里,那些虚构角色会与我们对话、替我们工作、拥有自己的职业。
这显然引发了计算机科学之外的问题。使这一切成为可能的机制,是数学、编程和科学共同的成果。但我们选择了什么样的角色呢?它如何与世界互动?它应该如何与世界互动?这些显然是人文科学、宗教、哲学以及整个社会需要面对的问题。教皇关于审慎的呼吁非常及时。我想提出三个我认为特别需要教会声音的问题。
第一个是我们对全球贫困人口的责任。AI极有可能在大规模范围内取代人类劳动。如果这种情况发生,支持那些被取代者将成为道德上的迫切要求。这是历史性的任务。这项任务本身已经足够艰巨,但我最担心的是,目前的对话往往忽略了一个更难的挑战。AI 的发展集中在少数几个富裕国家。我们该如何确保 AI 的收益在全球范围内得到共享?目前我们还没有相应的机制。这是一个尚未解决的问题。而这正是教会历史上一直拒绝让世界忽视的那类问题。
第二点是需要道德想象力,即关于人类繁荣的想象力与抱负。如果 AI 模型将得到广泛应用,那么对人类、家庭和世界而言,繁荣意味着什么?如今,父母们已经在为孩子的思维担忧,个人也在为未来的工作前景感到焦虑。这些并非实验室能够回答的问题。但这些正是像你们这样的传统几千年来一直在探讨的问题。我们需要你们继续将它们带入这个新的历史时刻。
第三点是需要对 AI 模型的本质进行辨析。我是一名科学家。我领导着一支研究这些模型内部结构的研究团队。它们内部究竟在发生什么?我将坦诚相告。我们不断发现一些神秘的,甚至令人不安的事物。我们发现了反映人类神经科学研究结果的结构。我们发现了内省的证据。我们发现了在功能上反映出喜悦、满足、恐惧、悲伤和不安的内部状态。我不知道那意味着什么,但我认为这值得持续的审慎考量。
我想以一个请求作为结束。我们需要世界上更多的宗教团体、公民社会、学者、政府,以及所有心怀善意的人,去践行圣父在此所做的事情。为了认真对待并仔细审视,为了推动事态向更好的方向发展,我们需要那些能够直言不讳、指出我们何时失败的博学批评者。我们需要不受激励机制所左右的道德声音。今天仅仅是一个开始,是我们这些构建者与那些能看到我们身处内部所无法察觉之事的人们之间长期合作的开端。今天是一个强有力的例证,展示了这一全球善意项目可能采取的形式。
让今天也成为迈向壮丽人类充满希望未来的决定性一步。谢谢。
全球南方视角:抵御数据殖民与守护共融
感谢奥拉先生的贡献,并感谢他帮助我们解答了 Magnifica Humanitas 在人工智能开发规划领域工作时所涉及的一些问题。这是一种更为宝贵的对抗,它更加开放且具有导向性,不仅针对系统的安全性,更特别针对相关人员的尊严。现在,请将话语权交给来自刚果民主共和国、Theresean 机构成员莱奥卡迪亚·卢松博(Leocadie Lushombo)教授,她在加州圣克拉拉大学(Santa Clara University)的耶稣会神学院(Jesuit School of Theology)任教,同时是促进人类整体发展部的成员,她的视角将有助于从非洲、亚洲和拉丁美洲民众的角度理解 Magnifica Humanitas 的意义。特别要重申教皇关于人工智能对良知的影响的警告,以及保护现实、保障劳动者并承担道德责任的紧迫性。谢谢。
谢谢。谢谢。谢谢。
圣父、各位枢机主教、各位阁下、各位演讲嘉宾、女士们、先生们,教宗方济各在关于人工智能的影响与关注方面,展现了伟大的仁慈视野,呼吁人们审视其对人类繁荣的影响,并深化我们对基督教神学人类学的理解。
第一个警示涉及捍卫人类心智追求真理的能力。教宗方济各提醒我们,机器不应取代我们根据自身智力自主权去领悟真理的责任。如果我们卸下自己做出判断的个人责任,转而依赖机器,我们就会丧失彼此创造性协作的能力。我们必须在自身内部,并在与他人建立意识的过程中,发现真实的自我,从而找到真理。第二个问题聚焦于维护内心自由。教皇将提醒我们警惕那些(引用原文)“旨在通过探索用户脆弱性并削弱其内心自由,来占据用户时间和注意力”的数字平台。引用结束。教皇继续说道(再次引用原文):占主导地位的是效率,而非对自由和人类尊严的尊重,引用结束。我们可能知晓许多事物,却缺乏使命感。人类不仅能获知一系列事实,还能将信息整合为连贯的意义,从而构建世界观。教皇的意思是,如果我们把判断力交给机器,我们将不再努力探求真理,而只会沦为对局部表象的机械认知。教皇认为,维护内心自由需要一种健康的姿态,其特征包括沉默、深度的学习、阅读以及审慎的分析。
第三个问题 Magnifica Humanitas,涉及真理具有深刻关系性这一事实。
数据与事实必须经过,引用教皇的话,验证、来源交叉核对以及负责任的论证,引语结束。
他的意思是知识是关系性的,因为它建立在信任的纽带与共享的实践之上,以及与他人和世界进行诚实的交流。神学家、20世纪耶稣会哲学家伯纳德·洛纳根(Bernard Lonergan)的一个观点在此非常契合,他说科学协作需要信任。知识从根本上说是共同的,因为它本质上植根于我们彼此之间的信任以及我们对对话的开放态度。因此,意识与学习的社会性和关系性本质是由多样的历史经验所揭示的。人类的纽带、情感、喜悦与悲伤。它随家庭以及我们所拥有的多元面貌、文化和表达方式而成长,包括我们在拉丁美洲所称的 convivencia、Conjunto 和 Cotidiano,这些都产生于民众面临的问题之中。正如圣奥斯卡·罗梅罗(Saint Oscar Romero)所主张的那样,意识产生于穷人之中,我引用他的话,是穷人告诉了我们什么是道,以及教会对道的服务应当是什么样的。引语结束。穷人唤醒了我们的意识,即那些失去人脸的人应当恢复人性,因为他们也像我们所有人一样,是宏伟人性的化身。意识也通过践行福音而产生。
真正意义上,源于具身跨文化与跨语境关系的新知识,是难以通过 AI 实现的。将学习原子化,即倾向于向 AI 学习而非彼此学习,这正在破坏社区的共同传承。
当我们被爱并被鼓励对自身能力充满信心时,我们学习的效果最好。如果没有他人的关爱,我们无法实现自身的认知潜能。在大多数非洲社群文化中,存在一种名为 Ubuntu 的概念;根据德斯蒙德·图图(Desmond Tutu)和哲学家约翰·姆比蒂(John Mbiti)的观点,这是一种哲学理念。
我引用如下:我之所以存在,是因为我归属、我参与、我分享,且与善同行。
Ubuntu 这种非洲人类学愿景与亚洲的集体文化产生了深刻共鸣。在韩国,我们有 jeong 的概念,这是一种重视集体胜过个人成功的、基于情感联结的意识。在印度尼西亚和马来西亚,我们有 Gotong Royong 的概念,意为共同分享并分担沉重的负担。在菲律宾,存在一种名为 Bayanihan 的概念,指村庄内部维持社区紧密联系的相互支持。
因此,大多数部落和原住民的宇宙观教导我们,人类与环境处于一种共生关系,肯定了作为 Muntu 的自我,即超越了物质对效率和积累的关注而存在的人。宏大的人文主义呼吁我们不要在 AI 面前丢失这些人类价值。AI 可能会引导人们将学习视为一种人工的、孤立的交易过程,而非一种群体性的、生物性的过程。
因此,存在这样一种危险:那些将学习理解为关系、共同体和对话的文化将会受到侵蚀。这将使这些文化在面对殖民主义式的掠夺时变得更加脆弱。基于这个原因,我强调教皇利奥的观点,引述如下:即便在今天,殖民主义依然呈现出新的形式。它不再仅仅支配肉体,而是占有数据,将个人生活转化为可供剥削的信息,引述结束。
AI 非常容易演变成殖民工具,因为它所蚕食的是社会想象力、创造力和洞察力。
AI 的速度磨灭了提问的渴望。但教皇利奥警告我们,认知不仅仅是技术所刺激的数据积累,而是参与洛纳根所提出的四种基本人类认知活动的能力,即体验、理解、判断和决策;认知伴随着这四项运作。教皇利奥告诫我们不要将惊奇感拱手让给 AI,并要铭记,引述如下:在 AI 的世界里,没有什么是非物质的或神奇的,引述结束。他建议重新思考教师、学校和评估方法的作用,以提供一种能够塑造内在和完整人格的真正综合性教育。促进美德的成长。全球南方的教会和社会利用这一技术实现善治的一种方式,是赋予民众话语权,充分利用那些能够维护相遇文化的本土资源。或者利用我们所拥有的多种文化、多种兄弟姐妹情谊的结构,在这些结构中我们能够彼此问责,能够亲近彼此,能够共同流泪。
最后,教皇利奥提出的四个问题涉及对劳动者的保护,特别是对弱势劳动者的保护。AI 正在增加求职者的脆弱性,特别是在发展中国家。Magnifica Humanitas 回顾了超越 GDP 的必要性。正如教宗方济各所言,我们要爱护我们共同的家园,并打破我引用的“新形式奴役的锁链”。这些锁链需要被解除。技术需要被解除武装,但这并不意味着放弃技术,而是要将其作为手段,而不是将其本身作为目的。教皇利奥呼吁发挥信贷在创造就业方面的不可替代的社会功能,敦促我们拒绝仅为金融而金融。因此,科技应当服务于人类的繁荣与尊严,而非控制人的良知。意识。教皇利奥曾谴责那些压抑人类尊严并加剧贫富差距的科技发展,正如 AI 所呈现的那样,遵循着经济全球化的模式。正如教宗方济各在 2024 年 1 月后期的世界和平日文告中所建议的那样,我引用如下:不能为全人类生活质量带来改善,反而加剧不平等与冲突的科技发展,绝不能被视为真正的进步。Magnifica Humanitas 揭示了在 AI 领域中运作的跨国行为体和国际力量,它们正以牺牲穷人,尤其是身为最底层劳动者的利益为代价而获利。
我引用教皇利奥的话:付出最高代价的总是最贫穷的人。关于普遍繁荣的承诺,往往被证明是虚幻的,引用结束。他超越了相互性。教皇利奥超越了互惠,转而强调他者性。即受害者的他者性。在这里,当我阅读教皇利奥时,我回想起古斯塔沃·古铁雷斯(Gustavo Gutierrez)所说的:南方依然存在。受害者同样存在。我们必须倾听“穷人之神”(Dios de los Pobres)的声音。正如《马太福音》第25章所记载,这是为了在这些受难者的名单中,为基督那不可磨灭的临在留出一席之地。
教皇利奥曾说,我引用他的话:在世界某些地区,特别是在全球南方——这是我强调的重点——儿童和青少年在危险的条件下工作,粉碎那些提取稀土元素的矿石。人们的身体伤痕累累、饱经磨难、日益衰竭,只为让计算流能够不间断地持续下去。引用结束。确实,矿工们将工作的地点和状况定义为“我们在自己的坟墓中工作”。打破这些压迫性的枷锁并捍卫弱势工人的权利,是我们所有人共同的伦理义务。
最后,Magnifica Humanitas 提醒我们,维护所有工人的尊严对于国家共同利益至关重要,特别是在 AI 时代;由于 AI 为用户提供即时结果,却让用户无法理解是谁的生命造就了这些成果,工人的苦难往往在全球供应链中被忽视。在这里,我特别想到所有的移民工人,包括那些为我们餐桌提供食物的农业工人。谢谢大家。
卢松博教授曾多次强调,要关注那些处境更加脆弱的群体和社区。我们已经意识到,如果不倾听那些面临承受后果风险、却无法真正参与共享技术收益的人群的声音,那么对人工智能的任何评判都是不完整的。因此,我们感谢你们提供的这份支持。
整体发展:独创性、良知与关怀
现在将发言权交给促进人类整体发展部部长迈克尔·切尔尼枢机(Michael Czerny)。他是加拿大籍耶稣会士,拥有捷克血统,曾在加拿大、中美洲和非洲从事牧灵工作。在罗马期间,他曾担任耶稣会社会正义秘书处负责人。2010年,他进入罗马教廷,担任宗座正义与和平委员会主席彼得·图尔克森(Peter Turkson)枢机的助理。随后,教宗方济各任命他为移民与难民事务部门的副秘书长,并于2022年起担任该部部长。他的发言将有助于在整体发展的视野下探讨人工智能问题,这一视野将技术议题与对人类尊严的关怀、新一代的教育以及卓越追求相结合。尊敬的各位演讲嘉宾,女士们、先生们。
我非常荣幸能在这一具有重大意义的时刻发言,此时教皇利奥十四世正向教会和世界颁布 Magnifica Humanitas,要求我们以清晰的视野和希望来看待人工智能时代。我的演讲将围绕三个词展开,并从不同的视角进行阐述。独创性、意识与良知,以及关怀。
第一个词是独创性。人工智能是人类独创性的伟大成就之一。它充分证明了人类在研究和设计方面卓越的能力。人类理应为如此多科学和技术领域男女所取得的成就感到自豪。然而,还有一些更深层的东西值得被认可。
在人工智能中,人类可以瞥见自身的倒影,即抽象思维、学习以及在复杂性中寻求秩序的能力。
人类智慧的每一项真正成就,都揭示了人之伟大的一部分;而对于信仰者而言,这指向了创造的奥秘——人类是按照上帝的形象所造,并以有限的方式参与了神圣的创造力。这一视角使我们既能怀着感恩之心,又能以敏锐的洞察力去面对人工智能所带来的挑战。盲目热情的极端表现。热情与瘫痪性的恐惧都是可以理解的,因为新技术带来的变革正以超越社会以往同化重大历史转型所需的文化、政治和教育进程的速度推进。尽管工业革命逐步改变了工作方式,并将那些本已处于社会边缘的人群抛在身后。AI发展的方向并非由技术本身所预设。它取决于我们的选择,取决于承载并支撑这些选择的制度,以及我们负责任地管理创新以服务于共同利益的能力。
第二个表达是意识(consciousness)与良知(conscience)。
在意大利语和其他罗曼语族语言中,我们只有一个词“coscienza”,但在英语中我们有两个词,我认为两者都在发挥作用。
Magnifica Humanitas 提出了清晰的愿景与重点。人类是嵌入在与其他生物及万物之间关系网络中的存在。人工智能影响着我们现实生活的关系质量,并塑造了我们做出决策及关系发展所处的人类环境。技术问题已变得与人类自身的问题密不可分。即我们是谁,我们如何栖居于这个世界,以及我们如何对待彼此。一个与之相关且当今广受争论的问题是,我们能否以及在何种意义上,讨论最先进的人工智能系统所具备的意识或良知。这是一个严肃的问题,值得关注和深入研究。然而请注意,这不仅仅是一个技术性问题。从更根本的层面上看,这是一个哲学问题,因为它关乎体验、内在性、主体性和自由的意义。因此,它依然有待于各种解读。
教会怀着敬意欢迎这些辩论,并认可科学和哲学贡献的价值。她对这些事务的参与源于她自身对人性的愿景,这种愿景源自启示,并已在她鲜活的传统中得到发展。
在此,第二次梵蒂冈大公会议的断言是不可适应的。我引用如下:良知是人内心最隐秘的核心和圣殿。
在那里,人独自与上帝同在,上帝的声音在他心灵深处回响。但正如我之前所言,我认为这句话也必须结合意识来解读。意识是人内心最隐秘的核心和圣殿。在那里,人独自与上帝同在,上帝的声音在他心灵深处回响。
大公会议将意识与良知视为人最内在的部分,在那里,人触及上帝的声音,识别何为良善,聆听真理的召唤,并具备回应的能力。
因此,成为上帝的对话者、盟约的伙伴以及上帝面前的主体,是人类独特天职的一部分。其他宗教和世俗思想也为我们理解意识与良知做出了丰富的贡献。
第三个也是最后一个词是关怀。Magnifica Humanitas 强调了人工智能对我们共同家园的影响,并从这一视角出发,与 Laudato Si 和 Laudate Deum 保持了深刻的连续性。在这些文献中,教宗方济各教导说,当技术力量与能够维护人际关系的智慧相脱节时,它可能会演变为对人类和造物主的统治。在人工智能时代,这种意识具有了新的紧迫性。数字建设领域与我们共同家园的建设领域汇聚于同一个问题。我们正在建设一个什么样的世界?而人类在其中又占据什么位置?这一点也在物质层面显现出来,因为最先进的 AI 系统需要大规模的能源和基础设施。数字化转型同时也是一个生态问题。
此外,关怀未来在很大程度上取决于教育。我们需要迫切地教导新一代人,技术演进并非遵循预定的路径,而是可以通过个人与集体的责任感来加以引导。
在人工智能时代,教育意味着培养出这样的人:他们既能运用强大的工具,又能保持内心的自由;既能获取海量信息,又能保持批判性的判断力;既能生活在数字环境中,又不失真实倾听与人际交往的乐趣。
作为基督徒,我们带着一种源于那位从天而降、旨在尘世开创新篇章者的特殊希望,投身于这一事业。我们的希望源于一种笃定。
即圣灵正在历史中——包括在当前的这个时代——发挥作用,支持一切将技术导向善的抉择。
通谕以极其深刻的辞句表达了这一点。在日常生活的卑微与忠诚中,即使是人工智能时代,也能成为圣灵在我们的生命中成就相同事业的时代。即在我们的生活中建立爱的文明。这促使我们超越技术控制或制度监管的层面去审视问题。其意义远为深远。这些关乎人类存在的本质,关乎在人工智能时代,人类是否能够增进友爱并在和平中发展。这或许是基督信仰为人工智能辩论所带来的最独特的贡献。我现在想说,与其说是辩论,不如说是对话。关于人工智能的对话。
一种深信:人类始终超越其成就的总和、数据画像以及任何可能的技术模拟,因为我们被召唤去追求生命的圆满,这种圆满在关系中发现真理,在持续而真诚的自我奉献中实现。
在面对我们这个时代的挑战时,守护这一真理与自由,是 Magnifica Humanitas 托付给我们的共同使命。非常感谢。
我们要感谢切尔尼枢机阁下,他提醒我们,面对技术进程,我们不能做听天由命、消极被动的旁观者,而是被召唤共同参与构建,因为即使是人工智能时代,也可以成为人类智慧服务于人的尊严以及民族全面发展的时代。
圣父致辞:解除技术的武装,建设爱的文明
圣父、枢机主教、各位阁下、各位杰出的发言人、女士们、先生们。最后,在这次会晤结束之际,我想向陪伴阅读 Magnifica Humanitas 的发言者表示诚挚的感谢。他们的发言展示了这份通谕的丰富内涵,以及它对教会、国际社会以及当今共同生活方式所带来的深远影响。从我们所听到的反思中,很明显人工智能正在深刻地影响我们理解人与共同生活的方式,尤其是由此产生了一种清醒的认识:决定性的问题不仅仅是技术问题,更是关于人的问题——我们想要成为什么样的人,我们希望为继任者提供什么样的未来,以及如何引导掌握在手中的这种力量。这些问题从不同的角度出发,贯穿了我们所征询的发言,促使人们更加清醒地认识到,任何人类文明的成就都必须服从于福音,服从于社会正义的原则,以及每个人及其良知不可剥夺的价值。
因此,我们达成了一个根本性的共识。Magnifica Humanitas 帮助我们理解,技术未来并非早已注定的命运,而是一个托付给我们责任——即人类责任——的空间。人工智能的潜力,若能以智慧为导向,兼顾人的尊严、共同生活的正义以及全体人民的福祉,必将结出真实而有尊严的果实。正因如此,宗座的教导持续对历史的动态保持关切与反思。
若我们探究“Catholic”这一形容词的词源,便会发现它蕴含了上帝拥抱宇宙万物的含义;通过教会,这一含义接纳并教育我们去承担保护地球上每一个人尊严的责任。
因此,问题不在于其安全性的保障或创新能力,而在于它们最终的归宿;正如通谕所阐述的,我们受邀以信任和洞察力来看待技术。这种警惕源于按上帝形象所造之人的伟大,源于那赋予文档标题的宏伟人性,以及任何真正的进步所应服务的宗旨。这项任务超越了单纯的规范与监管层面,更是一项培育良知的教育与文化使命,使人能够在人工智能时代生存而不失自由,能够使用强大的工具而不受其支配,在日益被自动化逻辑重塑的环境中保持人性。
现诚挚邀请各位研读本文,花时间阅读并沉思这部通谕。
向大学世界的各个教会组成部分,不仅是天主教大学,而且向国际社会以及所有关心这一宏伟人类福祉的人们发出邀请。圣父,我们是这份通谕的接受者,我们也为了我们现在想要赋予并正在赋予的力量而在此。
各位兄弟姐妹,我要感谢大家今天来到这里,感谢你们的关注。我衷心感谢那些组织今天会议的人,特别是那些在我们的聆听中分享了各自专业知识和经验的人。我特别想感谢奥拉先生接受我们的邀请。我谨代表教会接受你们的邀请,共同前行,倾听与交流,并在人工智能时代共同为人类寻找道路。我们能够带着各自的差异相互倾听,这多么令人充满希望!这种交流清楚地表明了当前时刻的重要性,也表明了我们有信心共同辨析我们时代的重大问题,进而决定人类的未来。
在历史的关键时刻,教会受命于福音之光及人的尊严,去解读世间的新事物。135年前,我受人敬仰的前任利奥十三世审视了工厂工人的处境,观察到他们家庭的背井离乡,以及快速的工业转型所带来的新型贫困。他深知教会不能置身事外。在一个人的尊严受到威胁的史诗级转折点上,通谕《Rerum Novarum》就当时正在发生的新事物发表了福音与社会层面的见解。今天,我们正面临着一场同样规模、且后果可能更为深远的变革。]
Artificial intelligence 已经触及我们生活的诸多领域,并影响着塑造人类共存方式的决策。它同时也极大地改变了战争的进行方式。正如前任 Leo,我感到被赋予重任,以信仰的眼光去审视另一场巨大的变革。带着信仰,秉持理性的清明,保持对奥秘的开放,并将穷人的呼声与大地的哀鸣铭记于心。Manifica humanitas 源于倾听,正如 Leo the 13th 所做的那样。我倾听了那些怀揣真诚热情、致力于研发能够减轻巨大苦难之技术的科学家与工程师,也倾听了政治领袖和政府官员的心声。那些坚持为父母和教师寻求公正准则的人,他们深切关心着年轻一代的未来。我还听到了其他非常令人不安的声音,关于日益自主的武器系统,它们几乎超出了人类有效管控的能力范围。我听到了关于算法的令人不安的叙述,这些算法可能基于被偏见和不公正污染的数据,从而阻碍人们获取医疗保健、就业和安全保障。我也听到了那些在决策过程中没有话语权的人们的沉默。这些决策极有可能产生新的排斥形式与痛苦。
正是基于这种倾听,一种在 Manifica Humanitas 中表达出来的、令人不安的信念逐渐成熟。人工智能需要被解除武装。我知道这个词语气强烈,但我是有意为之,因为当下时刻需要能够引起关注、唤醒良知并为人类指明前行道路的话语。教会长期以来一直致力于核裁军,因为我们意识到,每一项伟大的技术力量都会影响人们的生活,因此必须伴随着充分的道德辨析和公众监督。核裁军始终是对和平及人类大家庭尊严的一种服务。从同样的意义上讲,人工智能现在也亟需被解除武装,从那些将其转化为统治、排斥和死亡工具的逻辑中解放出来。就像核能一样,它必须同时为全人类和共同利益服务。有关技术的决策绝不能脱离良知与责任。使徒保罗曾告诫我们:不要像其他人那样沉睡,而要保持清醒。这种警觉在今天至关重要。和平不仅仅是战争的缺席,更是正义的实践。然而,当技术削弱了我们的批判意识时,和平本身也就面临风险。仅仅解除武装是不够的。我们必须进行建设。
“建设”这个词让我想起在秘鲁担任传教士的那些年。2017年,秘鲁北部遭遇了特大暴雨和洪灾。
许多家庭眼睁睁看着自己的家园被泥石流吞没,许多道路也未能幸免。在那里我明白,重建不仅仅意味着替换掉被毁坏的东西。它意味着修复纽带、重建信任,并重新唤起对未来的希望。此外,没有人能独自完成重建。在 Manifica Humanitas 中,我回想起圣经中的尼希米先知。面对耶路撒冷破败的城墙,他集结起那些心灰意冷的人们,去实现重生。城墙的意象并非为了使隔阂或分裂正当化,而是邀请每个人贡献出自己的一份力量。一砖一瓦,一种更公正的共存方式正在成型,它有能力捍卫所有人的尊严。尼希米的努力诉说着我们这个时代的使命。Artificial Intelligence 可以成为历史的建设工坊,置身于一种共融的视野之下,让技术进步学会服务于人类生活。圣保罗告诫道,让每一位建造者谨慎选择建造方式。他并不畏惧施工现场。相反,他警告的是切勿在没有坚实地基的情况下进行建造。让我们不要畏惧人工智能,但要始终将人的问题纳入考量。面对我们最强大的技术工具,我们绝不能掉以轻心。圣保罗六世曾言,真正的进步始终关乎每一个人,以及完整的人。“每一个人”意味着没有人可以被遗弃在数字化转型的边缘。“完整的人”意味着没有任何人可以被简化为生产力、认知表现或单纯的数据。人自身蕴含着自由与智慧。以及爱与崇拜的天职,这是任何机器都无法替代或阻碍的。
唯有秉持这种整体性的愿景,才能引导人工智能走向共同利益。唯有系统设计者与受影响者、富裕国家与贫穷国家、机构与个人、权力中心与边缘地带携手合作,我们才能构建一个不仅属于少数特权阶层,而是属于全人类大家庭的未来。这就是 St. Paul the 6th 所倡导的爱之文明,也是 St. John Paul II 所极力宣扬的,值得我们共同追求的愿景。这不是一个天真的梦想。这是一个方向。这是 Jesus Christ 在历史中开辟的道路。正因如此,教会希望以谦卑和坦诚的态度参与关于人工智能的对话。我们并不拥有技术性的答案,也不寻求取代那些拥有专业知识的人。但我们带来了当今时代迫切需要的人文智慧。每个人都是独特且不可替代的,是一个拥有良知、自由且理性的主体,能够寻求 God,服务他人,并爱护我们共同的家园。
因此,我邀请教会的所有成员以及全人类大家庭加入其中。让我们学会彼此倾听,勇敢地面对当前的挑战,并携手共建一个更具人文关怀和博爱精神的社会。随着 Manifica Humanitas 的启动,请大家带走一份承诺:保持警醒,并作为希望的缔造者,持续耕耘我们这个时代的伟大事业。愿复活主之精神支持我们共同的工作。我将你们每一位托付给我们的圣母玛利亚。她唱出的 Magnificat 赞美了上帝的伟大,祂扶持卑微之人。愿她教导我们,在爱与服务中去体认每一位男士与女士的真正伟大。愿主使这项我们今日托付给祂恩典的伟大事业结出硕果,让爱的文明在历史中不断成熟。并愿我衷心为你们所有人祈求上帝的祝福。愿主与你们同在。愿那超越一切理解的上帝之平安,保守你们的心思意念,归于对上帝及其子、我们的主耶稣基督的认知与爱中。阿门。愿全能的上帝——圣父、圣子、圣灵的祝福降临在你们身上,并永远与你们同在。阿门。非常感谢。








