文/郁喆隽
原刊于《书城》2026年11月号
引 言
在扑面而来的人工智能大潮中,“智能体”(agent)这个词出现的频率似乎正在不断增高。几个月前,安装智能体“龙虾”(OpenClaw)的一波热潮迅速退去,然而之后出现的泄密、权限滥用和失控等事件,引发了法律和技术层面的警惕。本文不想和大多数讨论一样展望未来,而尝试反其道而行之,走一条“以退为进”的道路,进行一种观念与思想的回溯。
毋庸赘言,对“智能体”的思虑并非始于当代。在过去的两千年里,不同文化传统的大量神话、文学、哲学作品中,都包含着对“智能体”的瑰丽想象,同时也展现出深层的担忧——例如古希腊神话中看守克里特岛的青铜巨人塔罗斯(Talos)、犹太神话中的泥人哥连(Golem)和东南亚佛教文献中的“幽灵机器”(Bhuta Vahana Yantra)等。古人对“智能体”的讨论表面上看似关乎对技术的想象,但实质上却承载了人类极为深层的关切。本文也将展示,人文的视角可以为“智能体”以及人工智能问题的讨论添加怎样的新视角与新维度。
自从二十世纪末明斯基(Marvin Minsky,1927—2016)将“智能体”概念纳入计算系统之后,对其使用和讨论已经数不胜数,但对其定义尚莫衷一是。有学者认为,应当把agent翻译为“行为体”或“真体”。本文采用如下的现成定义:“智能体指的是一个完整的人工智能系统,它是一个独立的、自主的实体,嵌入某个环境之中,代表用户执行特定的任务。一个智能体应该能提供一套完整的、集成的能力,而不仅仅是类似逻辑推理那样孤立的、脱离实体的能力。”(迈克尔·伍尔德里奇《人工智能全传》,许舒译,浙江科学技术出版社2021年,第129页)基于这样一个定义,可以说“智能体”是人工智能技术的主要甚至是核心目标,也是(人形)机器人设想的必备要素。
在对智能体和人工智能的讨论中,有一个母题反复出现,即“魔法师学徒”。早在十九世纪,卡尔·马克思在《共产党宣言》的第一章中就使用了“魔法师学徒”这个比喻,并直接采用了歌德《魔法师学徒》中“魔术师”(Hexenmeister)一词,来指代资本主义生产方式可能造成的“失控”:“……这个曾经仿佛用法术创造了如此庞大的生产资料和交换手段的现代资产阶级社会,现在像一个魔术师一样不能再支配自己用法术呼唤出来的魔鬼了。”(马克思、恩格斯《共产党宣言》,中央编译出版社2005年,第31页)
近年来,这个近乎人尽皆知的母题被越来越多地用来告诫开发者,人工智能可能会成为现代版的“魔法师学徒”。当代哲学领域中的一些著名学者,如史蒂芬·平克将之称为“对技术傲慢的严厉报复”的西方故事原型(史蒂芬·平克《当下的启蒙:为理性、科学、人文主义和进步辩护》,侯新智、欧阳明亮、魏薇译,浙江人民出版社2019年,第322页);丹尼尔·丹尼特则将魔法师学徒中的扫帚类比为无动机的自动机(丹尼尔·丹尼特《从细菌到巴赫再回来》,冯文婧、郭瑞东译,中国纺织出版社2024年,第175—176页)。此外还有学者提出,魔法师学徒暗示了人类,不受控制的智能机器人会占领地球,根据自己的规划改造地球。早在人工智能热潮来到之前,魔法师学徒已经被用来提示新技术的巨大潜力和风险。也有学者指出,人类可以制造比他们试图消灭的技术更加有害的“反技术”(德米特里·奥尔洛夫《缩小技术领域》,吴晶晶、周桂香译,厦门大学出版社2022年,第124页)。

《当下的启蒙:
为理性、科学、人文主义和进步辩护》
[美]史蒂芬·平克 著
侯新智 欧阳明亮 魏薇 译
浙江人民出版社2019年版
事实上,将“魔法师学徒”这一意象和技术进行关联,可以追溯到六十多年前。维纳的《控制论》(1961)中称之为“自动增值机”或“学习机”(诺伯特·维纳《控制论》,刘佳译,重庆出版社2023年,第268页),并已经表达了对其滥用的担忧——我们究竟能不能关掉它?维纳认为,现实是我们可能已经拥有具备这类效力的机器。同样是在二十世纪六十年代,法国哲学家鲍德里亚也曾以先知般的口吻,借用黑格尔式“主奴辩证法”的思路提出了所谓的“机器人的反叛”:
如果说机器人是奴隶,那么奴隶的主题,总是和反叛的主题相连,甚至在魔法师的门徒这个传说中都还看得出来。机器人的反叛,不论是用什么样的形式表达出来,在科幻小说中都不是罕见的主题。它总是隐含在这些故事里。机器人就像是奴隶,既是温柔善良,又是背信弃义,就像被我们锁链束缚的力量那般善良,又像挣脱锁链的力量那般恶毒。然而,人就像那位魔法师的学徒,有很好的理由来害怕这个为他以自己的形象所驱除或锁住的力量,有一天会再复活。因为这个力量就是他自己的性欲,这时反过来针对他,而他因此感到害怕。一旦解放,挣脱枷锁,开始反叛,性欲会成为人的致命敌人:这便表现于为数众多又不可预见的机器人反叛,它们恶意的突变,或只是这种突如其来的变化永远是可能的这件事所带来的焦虑。(尚·布希亚《物体系》,林志明译,上海人民出版社2001年,第141—142页)
需要看到的是,虽然“魔法师学徒”作为一个意象或模因(meme)被一再提及,其内涵其实并非像大多数使用者认为的那样不言自明。笔者认为,“魔法师学徒”不仅是一个具有教育和警示意义的文学文本,还承载了对未来技术的想象,并将在很大程度上影响我们对技术的规划和预期,因而有必要对它进行“层累式”的挖掘和考察。
《魔法师学徒》的三个版本
“魔法师学徒”这一母题在ATU分类法(Aarne-Thompson-Uther Index)中的编号为三二五,不过它并非单个作品,而是一系列的创作与再创作构成的群体,其中包括类似但有所不同的文体,如神话、童话、小说等,其呈现方式也极为丰富,包括了纯文字作品、插图作品和连环画等。另有一些使用“魔法师学徒”名称的作品其实已经与其核心故事无关了,大致属于广义的现代神话、魔法故事。在看似极为相似的主题和故事之下,在“魔法师学徒”名下暗含了多个具有很大差异的叙事。本节将主要挑选出三个版本的“魔法师学徒”——迪士尼动画短片、歌德的叙事诗以及琉善《撒谎者》中的一则游记故事。另还有一个由尼古拉斯·凯奇主演的电影版本《魔法师的学徒》(The Sorcererʼs Apprentice,2010),该版本修改部分较多,讲述了一个科学打败魔法的故事,和原著差异巨大,因此不在本文中进行深入分析。
1
迪士尼动画片《魔法师学徒》
在当代,“魔法师学徒”成为一个家喻户晓的故事,可能要归功于一九四〇年上映的迪士尼动画片《魔法师学徒》(The Sorcerer’s Apprentice)。该片属于迪士尼制作的动画长片《幻想曲》(Fantasia)中的一部分。这部长片由八个音乐短片组成,导演为詹姆士·阿尔噶(James Algar),改编由皮尔士(Perce Pearce)和卡尔·法尔贝格(Carl Fallberg)共同完成。短片所使用的法国作曲家保罗·杜卡(Paul Dukas,1865—1935)在一八九七年创作的交响乐也堪称经典。它原初的法语标题为Lʼapprenti sorcier。这可能是最广为人知的《魔法师学徒》版本,因此本节从该版本着手开始分析。该短片的叙事构成了一个三元关系:魔法师—学徒—扫帚。正片部分没有对话或旁白,影片开头处,指挥家的介绍引出了故事的大概。片中魔法师叫作“严西”(Yen Sid),即“Disney”的回文,而其学徒就是米老鼠(米奇)。故事大致符合“魔法师学徒”的核心叙事:学徒在魔法师出门的时候念出咒语,让魔法师家中的扫帚开始自动从远处的水池中挑水。学徒十分兴奋,不过他在中间睡着,甚至梦到自己还在控制着扫把兴风作雨。但是待他从梦中醒来,却猛然发现魔法师家中的地下室里已经水漫金山。学徒为了让扫帚停下来,用斧子将其劈开——片中采用了较为婉转的剪影手法。扫帚虽然碎成若干片段,每一个片段又变成了一把扫帚继续打水。地下室形成了巨大的旋涡,此时魔法师赶来终止了一切。
迪士尼的这个动画短片中出现了一个特有的道具,即魔法师的帽子。这顶蓝色的帽子上还有明显的五角星和弯月图样,成了全片的视觉中心。最初,魔法师施法时戴着这顶帽子。影片运用了动画的特殊表现手法,在各处给帽子边缘加上闪光的效果。这似乎在暗示,只有戴上帽子才能具有超凡的魔力,或者说,这顶帽子才是魔力的来源——它是一顶“魔法帽”。
然而,从短片的后半段来看并非如此。当魔法师返回家中施法终止扫帚打水时,他并没有戴着这顶帽子。他的“法力”丝毫没有受到影响。最终,学徒满怀羞愧地将帽子归还给魔法师。这里似乎出现了叙事逻辑的不自洽。不过从此之后,戴着魔法帽的米奇形象逐渐深入人心,成了米老鼠的一个标准视觉版本。


迪士尼动画片《魔法师学徒》中的“魔法帽”
(图片来自:The Walt Disney’s The Sorcerer’s Apprentice. Twin Books, 1992.)
无疑,迪士尼版本的《魔法师学徒》很好地给出了一个关于“失控”的视觉化表达。而在这种失控中还包含了另一个意象,即扫帚的自我裂变式增殖。不过如果细究起来,失控的真正原因并非魔法,而是学徒的疏忽或过失。倘若学徒没有在扫帚挑水过程中睡着,就不会对其失去控制,也就不会出现水漫地下室的情景。不过其教育意味似乎是非常明显的。学徒的懒惰——他自己不愿意挑水——以及投机取巧,是其启动魔法的动机。它道出了一个典型的因人为疏忽而造成事故的故事,也折射出人性的弱点。正如一个分镜头剧本所描述的那样:“这部电影刻画了一个典型的小人物的形象,讲述了一旦他可以完全控制地球及其元素,他会做什么。”(尼尔·加布勒《迪士尼传:想象力创造奇迹》,成铨译,天地出版社2024年,第444页)需要特别指出的是,在迪士尼短片中,扫帚并没有发生彻底的形变,它只是长出了类似手和脚的枝丫来,但没有类似人的头或脸。因而被施加了魔法的扫帚更加接近于传统意义上的“自动机”(automaton)式的智能体。用斧子将扫帚劈开因此也没有太大的伦理负担。当然这也符合迪士尼动画片老少咸宜的基调。
由于迪士尼成功的商业运作,这个动画短片《魔法师学徒》日后成了二战后美国婴儿潮一代的集体记忆。它也被改编为大量的衍生作品,其深刻影响力抵达了几代人。“垮掉的一代”诗人金斯伯格在其诗《维基塔中心的箴言》中也运用“魔法师学徒”这个典故来抨击当局:
一切魔术师的学徒已经丢失了
控制世界的那把最简单的扫帚柄:
语言言语
啊,长发魔术师回家照管好你那傻乎乎的帮手吧
趁着辐射线还没有如洪水一般溢满你的起居室
你那神奇的跟班伙计
又再次做出糟糕的估计
而且竟然持续了整整十年
(艾伦·金斯伯格《金斯伯格诗选》,文楚安译,四川文艺出版社2000年,第268页)
在当代人工智能方兴未艾之时,有学者创作了虚构作品,试验让人工智能来观看动画片《魔法师学徒》,并询问其理解与感受。人工智能产生的观感是“那个男孩失去了对魔法的控制,那不好”,但是它对最终的解决不是十分理解(Leib, Robert, “A Sorcerer’s Apprentice,”Exoanthropology: Dialogues with AI, Punctum Books, 2023, pp. 75—79)。
2
歌德版《魔法师学徒》
“魔法师学徒”的意象进入近代西方的知识体系,成为一个标准文本,无疑应当归功于德国文豪歌德。不过,在歌德之前,德语世界已经有类似的故事流传。有研究认为,魔法师的形象可能来自一五八七年出版商约翰·施比斯(Johann Spies)出版的《浮士德博士的历史》一书。歌德版本的《魔法师学徒》(德语标题Der Zauberlehrling)创作于一七九七年七月,属于歌德魏玛古典主义时期的作品。这一年歌德与席勒展开了一场“民谣竞赛”,创作了大量叙事诗。歌德版《魔法师学徒》是一则典型的叙事诗(德语Ballade,又译为“叙事歌谣”),由十四个诗节组成,通过缩进分为七个标准诗节(每节八行)和七个副歌形式的变化重复段。本文采用的中译本是上海译文出版社版和人民文学出版社版,译者钱春绮将其标题译为“魔术师的门徒”。歌德写作这首诗的年代,正处于工业革命初期和法国大革命之后。歌德想通过这首诗表达一种担忧,即人类可能释放出自己无法控制的力量。这首诗创造出了一句经典的话:“我召来的这些精灵,现在我摆脱不了了。”(Die ich rief, die Geister, / Werdʼ ich nun nicht los.)因此,荷兰学者弗里斯就提出,歌德版本《魔法师学徒》的主旨是“奇迹”和“反噬”。他从马基雅维利式的视角指出,学徒“最终被自己释放出来的邪恶力量所吞噬”(曼弗雷德·凯茨·德·弗里斯《阁楼里的暴君》,钱峰译,东方出版社2011年,第241—242页)。

《歌德文集:歌德诗集》
[德] 歌德 著
钱春绮 译
上海译文出版社1999年版
虽然歌德版的《魔法师学徒》中也存在一个稳定的三元关系,即魔法师—学徒—扫帚,但它还蕴含另一个叙事主轴,即咒语(Wort)、用法(Brauch)和意志(Wille)三者的一致。在这首叙事诗中,学徒为了自己能够痛快洗个澡,使用了咒语来召唤魔法,从而开启了扫帚自行打水的过程。在德语原文中都是以Walle(中文译作“涌吧”)这样的第二人称单数祈使句作为开头,并且在标准印刷出版物中用缩进的方式表示区别。而学徒失败的原因恰在于他忘记或者说记错了结束魔法的咒语。他三番两次说出了以Stehe(中文译作“停止”,也是第二人称单数祈使句)开头的一段话,尝试中止扫帚的行为,但都无济于事——“竟然不肯听从”。被斧子劈开的木棍又变成了仆人,不停地继续挑水。直到魔法师回家,念出了正确的咒语——“回到原地,/角落里头”。可见,失控的原因在于咒语—用法和学徒意志之间出现了断裂。这一点可以归咎于学徒学艺不精,也可能是因为魔法师对学徒有所保留,而没有教授他正确的结束咒语。咒语的使用和当下生成式人工智能中的“提示词”(Prompt)高度相似。不少提示词会引发使用者未曾预料到的结果。提示词与咒语的运作机制显然存在巨大差异,但两者无疑都体现出人类思想和世界交互的一种底层图式,即思、言、事的统一。
有学者指出,歌德版本的《魔法师学徒》中包含了黑格尔式的主奴辩证法(Zipes, Jack, “The Master-Slave Dialectic in ‘The Sorcerer’s Apprentice’,” Storytelling, Self, Society, vol. 11, no. 1, Spring 2015, pp. 17–27)。事实上,这里有三重“主奴(仆)关系”:魔法师—学徒;学徒—扫帚;魔法师—扫帚。在第一重主奴关系中,学徒尝试摆脱老师的管教,或者说利用了师傅短暂不在家的空隙,不正当地使用了咒语,最终以失控而告终;在第二重主奴关系中,学徒使用咒语唤起扫帚这个“智能体”,但后者恰恰出现了“越轨”行为,并且逐渐失控,彻底颠覆了最初的主奴关系,反仆为主,其自主的裂变行动倒过来忤逆了学徒的意志;在第三重主奴关系中,魔法师使用了正确的咒语,终结了扫帚的“暴走”行为,停息了一切,也借此恢复了魔法师—学徒的主奴关系。原文结尾处强调“只有年老的师傅”才能召唤出扫帚的精灵,似乎在暗示学徒“德不配位”的问题。也可以说,在歌德的版本中,学徒由于年轻而急于自我证明,其自负才是一切的根源。然而,问题在于他掌握的知识不完整,仅仅知道了开启魔法的咒语,而忘记了结束的咒语——根本的症结还在于“无知”。
需要指出的是,歌德的叙事诗并没有直接的视觉表达。不过原文中学徒最初念出的咒语包含了人形化的语词:“站起两条腿来,/上面伸出头颅……”从文句可见,学徒尝试劈裂扫帚来终止其行动——“把你这根老木头棍子/赶快用利斧劈成两开”。可是紧随其后的段落中,两木棍又变成了仆人,继续挑水。
和迪士尼短片不同,歌德版的《魔法师学徒》似乎暗示魔法原则上是可控的,只要念出正确的咒语就可以停止扫帚的暴走行为,而没有刻意突出失控的意味;在全诗中,也没有太多伦理意味的说教。在魔法师停止了扫帚之后,全诗就戛然而止,并没有多余的词句。因此有学者认为,迪士尼版本的《魔法师学徒》突出的是学徒受到了羞辱,而歌德版则更加突出学徒的主动反叛。不过两者相似的是,最终都由魔法师终止了短暂的混乱局面。
值得特别关注的是,为了避免后世《魔法师学徒》对歌德版解读的层累“污染”,有必要将歌德的这首叙事诗放回到德国早期浪漫主义的历史语境中去,并抓住该诗的一个关键词——魔法(Zauber)。笔者更加倾向于将这个关键词翻译为“巫”。魔法师(Zauberer)即施行巫术的专家。歌德在该诗的一开始就称其为“魔术师傅”(Hexenmeister)。如上文所述,这个词也直接影响了马克思。通行中译本中的“魔术师傅”非常容易引起误解——比较接近现代用来娱乐大众、制造幻觉的表演性魔术,至少偏离了原诗的历史语境。
还需要看到的是,歌德的《魔法师学徒》暗含了一个万物有灵论(animism,或者译作“物活论”)的世界观。原诗中反复出现一个关键词“精灵”(die Geister,其单数形式der Geist,通常被译为“精神”)。学徒在第一段中觉得自己可以乘魔法师不在家的空隙,运用自己的“灵力”(Geistesstärke)——此处中译本翻译为“精神奋发”,意涵似有所缺失。而贯穿全文的咒语仅仅起到了唤起扫帚中“精灵”的作用。换言之,在万物有灵论的世界观中,并没有截然区分死物和活物,万物之中都包含了灵性或精灵。魔法师并没有创造或发明这种灵力,其能力在于唤醒或“召唤”它们。而关键在于如何在唤醒灵力之后再度平息它,使之恢复到宇宙论意义上的常态。
3
琉善的《撒谎者》
歌德版的《魔法师学徒》也绝非凭空出世。通行版本中的注释说明,它来自一则异域志怪故事,取材于公元二世纪古希腊(一说叙利亚)作家琉善(Lucian,钱春绮译为“卢奇安”)的《撒谎者》(Philopseudes,英译为Lover of Lies,中文又译作“爱撒谎的人”)。以下叙述来自洛布古典丛书英译本:叙述者泰查德斯(Tychiades)向他的朋友斐洛克勒斯(Philocles)讲述了这样一则他自己“亲历”的故事:雅典商人欧克拉忒斯(Eucrates,意为“有能力者”)在埃及结识了孟菲斯人潘克拉忒斯(Pancrates,意为“全能者”)——两人的名字像哑谜一样已经暗示了故事的结局。后者据说掌握了埃及的所有咒语,并已经在地下神庙中居住二十余年。在此期间他接受了女神伊西斯(Isis)的魔法训练,他可以在鳄鱼群中畅游却毫发无伤,甚至可以像拍打宠物一样和鳄鱼嬉戏。欧克拉忒斯和潘克拉忒斯逐渐相熟起来,并被后者邀请到地下神庙中去——歌德版本中魔法发生在地下室,可能是继承自此处地下神庙的意象。欧克拉忒斯背着潘克拉忒斯偷学咒语(只有三个音节)。有一天他乘潘克拉忒斯去市场的时候让一根磨杵(pestle)和一把扫帚变成一个运水者,造成一场闹剧——磨杵和歌德版中的扫帚有所不同。他用斧子将磨杵一劈为二,不料它继续分裂,并在持续挑水……等到潘克拉忒斯回来,他才使得磨杵变回了原形。欧克拉忒斯、潘克拉忒斯和磨杵亦形成了一组三元关系,但前两人并不是师傅和学徒的关系。最终潘克拉忒斯在解除了咒语后,消失得无影无踪,这也意味着他和欧克拉忒斯关系的终止,似乎是对某种背叛的回应。故事结尾处,泰查德斯说他虽然学会了咒语,可以让磨杵自己挑水,但是如果他这样做,就会让房子浸水,因为他没有学会如何终止这个法术。
有研究指出,在琉善的故事中可能包含了两种截然不同的咒语:第一种咒语仅仅是让磨杵自动挑水,而第二种咒语则是将死物(磨杵)变成了活人。是否发生变形,成为区分两者的关键因素。琉善的故事主要提出某些知识具有禁忌,不得随意使用,也反映出人们对炼金术和神秘学的担忧。
从以上的“知识考古”可以看出,历代版本的《魔法师学徒》包含了侧重有所差异的不同叙事。它并不是一个简单重复的故事,而是构成了一个意象—想象投射面,包含了丰富的内涵和对智能体的深刻担忧。而这一母题已经流传了将近两千年。现当代的文学与影视作品用不同的形式复述其内容,如电影《终结者》中的“天网”和《科学怪人》中的“怪物”,其实或多或少都包含了《魔法师学徒》的内核:“我招来的这些精灵,现在摆脱不了了。”
《列子·汤问》中的“偃师造倡者”
对智能体的担忧并非仅仅存在于西方。中国古典哲学名著《列子·汤问》有一则“偃师造倡者”的故事,可以和《魔法师学徒》构成绝佳的互文关系。虽然列子被认为是先秦诸子中一家,但杨伯峻主张《列子》定型于魏晋时代,并不是一个先秦文本。现将这则故事的原文摘录如下:
周穆王西巡狩,越昆仑,不至弇山。反还,未及中国,道有献工人名偃师。穆王荐之,问曰:“若有何能?”偃师曰:“臣唯命所试。然臣已有所造,愿王先观之。”穆王曰:“日以俱来,吾与若俱观之。”翌日,偃师谒见王。王荐之,曰:“若与偕来者何人邪?”对曰:“臣之所造能倡者。”穆王惊视之,趣步俯仰,信人也。巧夫顉其颐,则歌合律;捧其手,则舞应节。千变万化,惟意所适。王以为实人也,与盛姬内御并观之。技将终,倡者瞬其目而招王之左右侍妾。王大怒,立欲诛偃师。偃师大慑,立剖散倡者以示王,皆傅会革、木、胶、漆、白、黑、丹、青之所为。王谛料之,内则肝、胆、心、肺、脾、肾、肠、胃,外则筋骨、支节、皮毛、齿发,皆假物也,而无不毕具者。合会复如初见。王试废其心,则口不能言;废其肝,则目不能视;废其肾,则足不能步。穆王始悦而叹曰:“人之巧乃可与造化者同功乎?”诏贰车载之以归。夫班输之云梯,墨翟之飞鸢,自谓能之极也。弟子东门贾、禽滑釐闻偃师之巧以告二子,二子终身不敢语艺,而时执规矩。
历代注释对这段文字的解释差异不大,在字词翻译和理解方面并不存在显著的矛盾或困难。这篇文字的核心是“倡者”,现代汉语一般理解为“俳优”,即歌舞表演者。戴吾三提示,这则故事反映了古人对于“模拟人”的大胆想象。
这段“偃师造倡者”的文字大致可以分为几个环节。1.偃师献宝:在周穆王西巡途中,有一个叫作偃师的工匠前来献宝,那是一个随行的倡者。他(它)能够歌唱舞蹈,所以周穆王将他当作了真人。2.倡者“调戏”侍妾:周穆王将这个倡者带到内御和盛姬一起观赏。不料在表演即将结束时,倡者竟然和侍妾眉目传情。穆王觉察后大怒,要杀死偃师。3.偃师自证清白:偃师立刻拆开倡者,发现它不过是用皮革、木头、胶水一类物品制成,并非真人。随后穆王也逐次检视,发现如果取出它的心就不能说话了,拿出肝就看不见了,没有肾它就不会走路了……于是才打消了顾虑,转怒为喜。4.结局:周穆王载倡者返回。
从人物关系来看,《列子·汤问》中的这则故事中存在一个“四边关系”——偃师、周穆王、倡者以及周穆王的盛姬和侍妾(见下图)。

“偃师造倡者”中的四角关系(本文作者绘)
这则故事暗示,“倡者”是一种“外来”技术,因为这是周穆王“西巡”过程中发生的,远在昆仑和弇山之间。而偃师的身份也是晦暗不明。后世文献如《艺文类聚》和《太平御览》中关于偃师的记载大致也是源自《列子·汤问》的这段文本。文中的倡者显然是一个人形自动机,也符合“智能体”的定义。在前半段中,倡者的出现几乎没有流露出任何破绽,而在后半段中,倡者的“眉目传情”直接挑战了或者威胁了周穆王和其侍妾的私密关系。这看似十分接近机器人学中讨论的“恐怖谷效应”,但还是有所不同——让周穆王感到恐惧的并不直接来自倡者的面容和举止,而是间接来自倡者与其侍妾的“情感”互动。此后盛姬和侍妾都再也未被提及。文中也并没有提及,倡者及其设计制造者偃师之间是否存在情感关系。似乎在《列子·汤问》中,人对倡者的关系均是单边和工具性的。但即便不存在双向的情感羁绊,其结果已经足以令周穆王担忧了。
和《魔法师学徒》存在显著差异的是,《列子·汤问》中的这段文本关注的主要是“智能体”对人伦和私密关系的挑战。文中最具戏剧性张力的瞬间是这样两句话:“倡者瞬其目而招王之左右侍妾。王大怒,立欲诛偃师。”倡者并没有直接攻击周穆王或者任何人类,也没有如《魔法师学徒》中的扫帚那样造成不可收拾的物理结果,而是和穆王的侍妾眉目传情——它要“讨好”人类,或者说和人进行情感互动。而我们得以进一步了解“倡者”,是因为偃师急于要在王面前自证清白:“立剖散倡者以示王。”在拆解了倡者之后,表明它并没有什么神秘或“巫魅”之处。最终周穆王发出感慨:“人之巧乃可与造化者同功乎?”文本内容也没有直接表达周穆王对这样一种技术的直接兴趣,而是以占有技术物为结局,即“诏贰车载之以归”。这篇短文的结尾处还有一段“画外音”,其用意是显而易见的,带有激励和劝勉功能:周穆王将倡人带回中土后,本地著名工匠(鲁班、墨翟)感受到自身技术能力的不足,知晓要努力精进,钻研技术,“二子终身不敢语艺,而时执规矩”,但其努力的结果未知。
两个叙事的对读和比较
《魔法师学徒》包含了一种深入骨髓般的警惕,即要警惕技术使用者和掌握者“自作孽”。不过在这种担心之下,包含了对智能体技术本身的乐观预期,即智能体是可行的。同时,对智能体技术的担忧主要在于其能力过大——自我裂变式复制可能导致短时间内的失控。不仅如此,这种乐观主义还体现在深信掌握了完备知识的魔法师(而非学徒)最终可以掌控魔法,从而避免失控或越轨的后果。从歌德版本的《魔法师学徒》来看,存在一个祛魅和附魅并存的结构。《魔法师学徒》中的扫帚(或木棍)未完全人形化,因此人和它的情感羁绊也较少,其叙事的核心是“魔法师(巫)—技”的连续体。从魔法师学徒所展现的担忧出发,可以看出,人们需要着眼的无非两方面:其一是要谨防让能力或德行不足者掌控能力极大的技术;其二是要向智能体提供明确的任务边界条件——特别是终止条件,以防它在短时间内造成非预期的乃至颠覆性的后果。
《列子·汤问》中的倡者故事显然呈现出截然不同的想象和底层担忧。倡者作为一个既成的技术产品,来自域外匠人偃师的献宝。从故事发展来看,偃师和倡者的命运是高度绑定的——至少在周穆王眼中是如此。周穆王和偃师虽然并非师徒,但是从权力结构来看,存在明显的上下位关系。周穆王虽然对倡者进行了拆解,但他和域内工匠自始至终并不了解其制造工艺,也不明白其技术核心。因此可以说,这样一种“外来”的叙事有意无意地回避了或者说遮蔽了对智能体技术的实质性的反思。从对智能体技术的态度来看,周穆王其实持有一种技术悲观主义,他最终认为“人之巧”是无法和“造化”相媲美的。换言之,只有基于这样一种悲观主义,才会发出“人之巧乃可与造化者同功乎”的感叹来。
更为关键的是,《列子·汤问》中的这则故事展现出了与《魔法师学徒》完全不同的担忧和深层关切:它担心的主要不是技术本身,对智能体可能引发的实质性物理后果也并不大关心,而是特别在意智能体对私人领域人伦以及权威的挑战——特别是男女和君臣关系。这种挑战才引发了偃师极力自证清白的必要。可见,人形化自动机可能引发的与人的情感交互,才是“倡者”故事透露出来的核心关切。最终,故事以王权对技术物的占有为结局。周穆王在整个过程中扮演了两个不同的角色,智能体的终端使用者(end-user,主要是观赏)和规制者(regulator)。这里是否也暗含着一种担忧,即技术的发明者(偃师)自身并不能有效地预见技术的伦理风险并加以回避?当然这种规制是与政治权力绑定的,它以对技术专家(偃师)的生命威胁为前提。从倡者故事体现的担忧出发,可以看出技术专家对智能体进行“伦理对齐”(moral alignment)将是重中之重。
类似的是,魔法师学徒和倡者的故事都给出了完满结局,无论是魔法师的出场,还是穆王的震怒,最终都收拾了局面,“驯服”了智能体,使得世界回到原初的“正轨”或者说“常态”上来,克服了短暂的危机。不过,如果回到当下的语境来看,仅凭人们的恐惧和担忧显然是难以控制技术的——现实的完满结局不会凭空出现,不仅需要伦理反思、立法,而且最终可能还是要依赖具体的技术手段才能达成。
结 语
本文无意陷入一种简单的中西对立的思维窠臼之中,并不主张《魔法师学徒》代表西方,而《列子·汤问》代表中国或者东方。这两个故事仅仅代表人类历史中出现过的两种不同叙事,在其叙事后面则深藏着人类对“智能体”的想象与担忧。这些历经了千年的想象与担忧在多大程度上可以影响到当代的技术演进?这中间要经历很多层次的“转译”和传递。回到现实中来,眼下的人工智能大致出现了两种截然不同的预期和设想:一种相信或预期在不远的未来可以实现通用人工智能(AGI),从而越过技术奇点(singularity);另一种则对此不感兴趣,主要着眼于在具体领域中应用人工智能技术的可预见增效。这两种预期也绝不仅仅是技术演进的偶然后果,而且受到了技术专家、产业政策制定者以及工程师头脑中的技术图景之潜在影响。在此意义上,看似遥远的神话、传说,乃至现代的童谣、动画片,都在以长线且深刻的方式塑造着人们的世界观,特别是对未来技术的想象和担忧。
科幻作家亚瑟·克拉克曾写道:“任何足够先进的技术,都和魔法无异。”当下,不仅专家和普通用户之间的鸿沟正在不断扩大,而且就人工智能而言,技术“黑箱”也正在介入甚至取代传统人机互动的直接关系。如今绝大多数人在面对自己的手机、电脑和人工智能工具时,和《魔法师学徒》中的学徒面对失控扫帚时的惊恐,和周穆王在面对“倡人”时的窘迫,又是何等相似。如今技术的可能性如滚滚潮流,但对其设想和担忧早已有之且渊源深长,它们虽然已经古老,但是始终在场。或许正如《庄子·列御寇》中所言:“夫造物者之报人也,不报其人而报其人之天。”