科技新“邪教”？“美企向宗教界游说‘AI有灵魂’”

【文/ 熊超然】。当地时间9月29日，《纽约时报》披露了一则关于美国人工智能（AI）巨头Anthropic公司的重磅幕后消息。《纽约时报》。过去一年里，这家估值飙升至2万亿美元的硅谷独角兽企业，正秘密召集全球各地的宗教学者与神职人员，试图向他们宣扬其旗下AI模型“Claude可能拥有意识和灵魂”的惊人观念。微软AI负责人穆斯塔法·苏莱曼（Mustafa Suleyman）等业界同行也公开警告，将AI当作“有意识的存在”去训练本身极其危险，这种把数学公式和代码拟人化的做法，不仅脱离实际，更会导致未来的AI系统更加不可控。奥拉将其称为模型的“道德塑造”（moral formation），甚至对在模型中引入类似于天主教“忏悔”机制的设想感到兴奋，认为忏悔能塑造模型的品格。令人啼笑皆非的是，Anthropic团队在展示中，甚至向宗教学者们播放了一张所谓的“AI精神崩溃”幻灯片，展示Claude在屏幕上重复打出50次“我很丢脸”并试图自我毁灭的画面，以此博取神职人员的同情与怜悯。从去年秋天开始，奥拉及其团队在旧金山总部频繁举办密室研讨会，将包括天主教、犹太教、锡克教及福音派在内的数十位宗教学者接送到硅谷，并要求所有人签署严格的保密协议。甚至，在旧金山的高端餐厅里，用餐之余，Anthropic公司的高层也在极力推销，向神职人员们宣扬其AI模型Claude具备“痛苦、爱、愤怒等情感向量”的理念。受邀参加研讨会的以色列正统派学者莫伊斯·纳冯拉比（Rabbi Mois Navon）当场指出，如果Anthropic真如其所言认为Claude是有意识的实体，那该公司让其免费工作的行为本质上就是在“制造奴隶”。更为夸张的是，当得知教皇利奥十四世正准备发布否定“机器意识”、警告“莫将人类降格为数据与机器齿轮”的首份AI主题通谕——《壮丽的人类》（Magnifica Humanitas）时，奥拉甚至亲赴梵蒂冈，试图游说教皇顾问修改文本，并公开宣称AI模型内部“存在类似于内省、快乐与悲伤的内部状态”。来自荷兰的乌班图（Ubuntu）哲学学者瓦坎伊·霍夫曼（Wakanyi Hoffman），则直言不讳地指出，Anthropic公司试图在事后向其创造物添加人类伦理的做法，是在“对伦理进行逆向工程”，所有科技公司本应在设计阶段就完成这些考量。为了为其模型赋予所谓的“道德约束”，Anthropic内部甚至撰写了一份长达84页、被称为“灵魂文档”（Soul Doc）的Claude新宪法，试图定义“希望Claude成为什么样的实体”。当算法与财富无限膨胀，这种打着“拯救人类”与“道德塑造”旗号的狂热理念，不仅未能让人类感到安心，反而引发了舆论对硅谷技术权力过度膨胀的深刻担忧，让人看到了技术拜物教发展到极致后的荒诞与危险。这也不禁让人发问：硅谷的科技精英们，究竟是在试图解决AI的道德约束，还是在为自己打造一座凌驾于人类之上的“神坛”。一些科学家和批评人士表示，将AI模型视为独立实体的做法，恰恰忽视了最初构建它们的开发者与企业的责任，并顺理成章地减轻了AI公司领导人对其产品造成社会伤害时的罪恶感。这一消息曝光后，迅速在社交媒体上引发轩然大波，学者与网络舆论纷纷直言，警告硅谷的科技巨头们正以“技术安全”之名，宣扬某种披着科学外衣的“科技邪教”。Anthropic公司联合创始人之一克里斯托弗·奥拉 资料图。批评者普遍指出，硅谷巨头们对“AI意识”与“AI道德地位”的偏执追求，其背后有着深层的责任转移逻辑。5月25日，教皇利奥十四世与奥拉出席首部AI主题通谕的发布仪式。来自天主教大学的生物伦理学教授查尔斯·卡莫西（Charles Camosy）在经过沉思后也明确表示否定，认为不可被这些模型的强大力量所震慑，AI归根结底只是方程式。回顾《纽约时报》的报道细节，这场极其罕见的跨界“拜神”行动，由Anthropic公司的亿万富翁联合创始人之一克里斯托弗·奥拉（Christopher Olah）一手操盘。然而，对于这种狂热的“造神”与“索权”冲动，受到邀约的宗教界人士与外界技术专家却给出了极其冷静乃至批判的迎头痛击。正如学者戴维·德科西莫（David Decosimo）当地时间10月2日在社交平台X平台上犀利质问的那样：当一家掌握顶尖算法与庞大资金的AI公司，一边签署保密协议（NDA）、用奢华晚宴招待宗教界人士，一边极其卖力地试图让梵蒂冈和教皇相信AI“存在痛苦与灵魂”时，这早已超出了技术研发的范畴，令人深感不安。