編者按：近年來，由于劉慈欣《三體》等科幻作品的大熱，沉積多年的中國科幻文學重新回到主流學界視野。文學生產作為社會意識的表現(xiàn)機制，科幻文學一定程度上顯示出人類對現(xiàn)時、未來社會的想象、追問、探索，因而從題材上看，科幻文學具有一定的前瞻性，作者視野并不受限于具體的科技進展，而是對人類社會的價值觀、發(fā)展觀關切至深。本文聚焦于中西科幻文學中的人工智能倫理，基于人類價值觀和認識論的演變，從科幻文學的角度探討人工智能倫理的歷史脈絡。

文/呂超，天津師范大學文學院

多年以后，當人工智能的機器大軍四處圍獵人類殘部時，躲在陰冷地堡中的人類戰(zhàn)士夜深難眠，回憶著人機大戰(zhàn)的遙遠開端：從1988年開始，“深思”、“深藍”、“AlphaGo”等先后在象棋、圍棋領域擊敗人類，人類的榮耀便日趨衰落⋯⋯

幸好，這種慘淡未來，只是筆者構想的虛擬圖景。當然，這也絕不是杞人憂天，對未來的悲觀預言是為了警醒當下世人：面臨正在開啟的“人工智能紀元”，我們必須盡早建構一種穩(wěn)妥的科技倫理，以此來引導人工智能的研發(fā)方向和應用領域。本文并不細數(shù)人工智能倫理的微觀條款，而是基于人類價值觀和認識論的演變，從科幻文學的角度探討人工智能倫理的歷史脈絡，并推演未來可行的發(fā)展方向，既展現(xiàn)世界視野，也兼顧中國話語。

人工智能（Artificial Intelligence，縮寫為AI）一詞在1956 年的達特茅斯會議[1]上被首次提出。作為一門新的交叉學科，目前主要涉及計算機領域，它試圖了解人類智能的實質，進而生產出一種媲美人類智能的軟件系統(tǒng)、機器人（Robot）、仿生人（Android）或賽博格（Cyborg，也譯生化人），乃至全面超越當今人類的“新人”。當然，早在人工智能這個詞被明確提出之前，人類對“人造智能生命”的想象便早已開始，尤其和科幻文學有著千絲萬縷的聯(lián)系。

科幻文學中的人工智能倫理具有一定的前瞻性，并不受限于具體的科技進展，而是與人類的價值觀演變息息相關，其中不僅有對科技的反思，也包含著復雜的神學焦慮和哲學思考。概言之，西方文學中人類對“人造智能生命”的態(tài)度，大體經歷了從拒絕接納，到奴化控制，再到交融共生的三個發(fā)展階段。西方的基督教神學傳統(tǒng)和人類中心主義哲學，以及對現(xiàn)代性的反思是推動其不斷深究這一問題的文化根源。相對而言，基于陰陽五行、萬物有靈的傳統(tǒng)思維，以及對現(xiàn)代性的樂觀認知，近代之前的中國文學幾乎不關注人工智能倫理問題；此后，在西學東漸的時代變革大潮下，中國文學開始逐漸關注該領域，發(fā)出自己的聲音，但現(xiàn)代性的探討相對不足，在作品數(shù)量和理論深度方面均有待提升。

早在人工智能這個詞被明確提出之前，人類對“人造智能生命”的想象便早已開始

拒絕接納

“人造智能生命”題材最著名的作品當推英國作家瑪麗·雪萊（MaryShelley）1818年出版的《弗蘭肯斯坦——現(xiàn)代普羅米修斯》，這也是世界科幻文學的肇始之作。小說的副標題隱喻了古希臘神話中普羅米修斯造人的故事，但與神話中普羅米斯修對人類無限眷顧，甚至不惜盜天火的自我犧牲精神相反，作品中的造物主（科學家弗蘭肯斯坦）始終不愿接受這個外表丑陋的智能生命，也因此引發(fā)一系列殘酷沖突。這部作品給后人留下了很多值得深思的倫理問題，譬如：一旦“人造智能生命”產生后，其行為是否應被納入人類的倫理準則？人類是否要擔負起使其生活幸福的責任？遺憾的是，瑪麗·雪萊并沒有回答這些問題，對“人造智能生命”持否定態(tài)度的她，從根本上拒絕討論倫理建構的可能性。

在之后的很長一段時間，不少作家對人工智能的態(tài)度和瑪麗·雪萊相似，其筆下的“人造智能生命”在沒有被納入社會關系之前，便直接或間接地將創(chuàng)造者殺死。譬如，《白鯨》的作者麥爾維爾（HermannMelville）在《鐘樓》(1855)中描寫敲鐘的智能人偶殺死了自己的制造者；另一位美國作家比爾斯(Ambrose Bierce)在《莫桑的主人》(1909)中描述智能人偶因輸?shù)羝寰侄�釋放高壓電流殺死主人。需要說明的是，這一階段對人工智能的稱謂大都是Automaton。據(jù)《牛津大詞典》（OED）記載，該詞最早出現(xiàn)于1611年，意指借鑒鐘表齒輪技術而制造的自動機械人偶，和后世文學中的高智能人造生命差距較大。

此外，還有一類對人工智能持否定態(tài)度的作家，他們作品中的造物者雖然沒有被殺死，卻都是反面形象，“人造智能生命”也最終被損毀。較早的作品有德國作家霍夫曼（E.T.A.Hoffmann）的《沙人》（1816）。小說描寫神秘人物“沙人”制造出女性智能人偶，后因事跡敗露，人偶在爭搶中被肢解，迷戀她的男主角也瘋癲而亡。此類作品最具代表性的當屬法國作家維里耶·德·利爾-亞當（Villiers de l'Isle-Adam）的小說《未來夏娃》（1886）。作者把當時還在世的愛迪生描述成偏執(zhí)而又詭異的發(fā)明家，他為好友埃沃德制造了一個和真人女性極度相似的智能機器人哈德莉。但最終哈德莉卻死于一場海難。在這部小說中，智能機器人一詞為Android。據(jù)OED記載，該詞最早形態(tài)為Androides。“andro”在希臘字源中指的是“人類”，而“eides”意為“形狀”，兩者相連就有了“具備人體特征”之意。如今，人們在使用Android一詞時，一般特指擁有人類形體的智能生命體。

上述作品有一個共同點，即科學家的創(chuàng)造活動還只屬于個體行為，被造出的單個智能生命在沒有得到社會承認之前，便以悲劇收場。筆者以為，這種否定立場的背后隱喻有西方社會普遍存在的神學焦慮。按照基督教的觀點，人的自由不是無邊的，必須承認自身的局限性，保持對上帝的敬畏之心。在人的眾多定限中，最重要的一點便是在道德方面：人類無法實現(xiàn)道德完美，掌握先進科技的人在道德上未必良好。那些“造人”的科學家在挑戰(zhàn)上帝權威方面，很像魔鬼撒旦�？駸岬乃麄冏屔�命進化脫離了自然演變的過程，進而釋放出無法預料的破壞性力量。最終，人類不但不能控制自己的創(chuàng)造物，反而被置于死亡的恐怖境地。有鑒于此，作家們通過文學作品發(fā)出警示：不負責任的濫用科技，不論是以求知的高尚名義，還是以賺錢享樂為目的，都是違背人倫的！然而在現(xiàn)實社會中，人類探索生命奧秘的努力并未因此而止步，反而有加速跡象，這就注定了人工智能倫理問題必然會在后世文學中被不斷提及。

“人造智能生命”題材最著名的作品《弗蘭肯斯坦——現(xiàn)代普羅米修斯》

1920年，捷克作家卡雷爾·恰佩克（Karelapek）通過劇作《羅素姆的萬能機器人》將“造人”科學家的個人悲劇放大為全體人類的末世審判。大眾所熟知的Robot（機器人）一詞便源于該劇，詞源為波蘭語的“強迫工作”（Robota）和“工人”（Robotnik）。顯而易見，該詞隱喻了機器人服務人類的勞工地位。劇中的機器人由工廠批量制造，外表和人類毫無二致。人類為了從日常勞動中解脫出來，大量使用這種機器人。后來，機器人不再服從奴役，轉而發(fā)動戰(zhàn)爭消滅了人類。恰佩克的這種悲觀看法是當時人們對人工智能人拒斥態(tài)度的典型代表。這種觀點認為，雖然人類好逸惡勞的本性決定了人工智能一開始會被廣泛接受，但隨著科技進步引發(fā)的不確定風險加劇，一旦人工智能站到人類的對立面，人類將遭受滅頂之災。此類文學作品有很多，譬如美國作家約翰·坎貝爾（JohnCampell）的《最后的進化》（1932），萊斯特·雷伊（Lester Rey）的《為人類復仇》（1984）等。

時至今日，這種“人工智能危險論”依然擁躉甚眾，科技大佬比爾·蓋茨、埃隆·馬斯克以及著名物理學家史蒂芬·霍金，都對人工智能研發(fā)持審慎態(tài)度�！督K結者》、《駭客帝國》等經典科幻電影更是將這一觀點渲染得婦孺皆知。很明顯，對未來的悲觀預言是為了警醒世人：如果人類必須要面對人工智能，就應盡早建構一種穩(wěn)妥的科技倫理，以此來約束人工智能的研發(fā)方向和應用領域。

奴化控制

當然，盡管有不少作家將人工智能視為人類生存的威脅，但同時也有許多作家并不認可這種悲觀預測，他們更愿意在作品中將人工智能描述為人類的得力助手，以服務人類為主旨。

此類較早的文學作品當推美國19世紀中后期的通俗小說。譬如艾立斯（Edward Ellis）筆下的“蒸汽動力人”（Steam Man）系列，塞納任（LuisSenarens）筆下的“電人”（Electric Man）系列。[2]這些暢銷小說，對當時的青少年產生了深遠影響。小說中的人工智能雖然名稱各異，也尚未具備高等智慧，但無一例外都是主人公冒險旅途中的好幫手，屬于忠實的奴仆角色。

需要強調的是，即便在將人工智能視為人類威脅的作品中，以奴仆身份出現(xiàn)的人工智能往往也在一開始被社會廣泛接受。這暗示了一條基本的倫理關系：人工智能天生為人類的奴仆。在西方文化傳統(tǒng)中，思想界普遍認為人類高于其他物種，在等級關系中處于上層。譬如，古希臘哲學家普羅泰戈拉聲稱“人是萬物的尺度”；德國哲學家康德宣稱“人是目的本身”。這些理論支撐起了人類中心主義倫理學，并對大眾產生了深遠影響。從這一角度來看，人和人工智能分屬兩種生命形式，后者沒有理性和靈魂，只能算是有生命的工具。人類作為高等智慧生命可以奴役低等生命，而不用背負道義上的責難。

不過，人類中心主義的倫理學在處理這種關系時有著很大缺陷。這種內隱的等級制和叢林式的強者邏輯，是人類控制人工智能的倫理依據(jù)，但進步的科技很可能在將來顛覆二者的強弱對比。正如黑格爾在《精神現(xiàn)象學》（1807）中闡釋的“主奴關系辯證法”，主人和奴仆的地位是會互相轉化的。在神話中，神創(chuàng)造了人類；在現(xiàn)實中，人類則造出了人工智能。當人類難以脫離人工智能而獨立生活時，就已經很難區(qū)分兩者之間的控制關系，更何況“造反”的人工智能憑借自身的強大力量，轉而奴役或滅絕處于劣勢的人類。基于這一邏輯，將人工智能視為人類生存威脅的觀點并非危言聳聽。

然而，在現(xiàn)實社會，人工智能的研發(fā)并未因這種恐懼而止步，反而有加速跡象。畢竟很多相關從業(yè)人員并不贊同這種悲觀預測，他們認為人工智能雖然具有強大的運算及自我學習能力，卻沒有智慧，只要人類設計出精妙的程序，就能夠控制人工智能。此類觀點以美國作家艾薩克·阿西莫夫（Isaac Asimov）擬定的“機器人三定律”最為著名。該觀點在小說《環(huán)舞》（Runaround，1942）中第一次明確提出。1950年出版的小說集《我，機器人》（I, Robot）則系統(tǒng)闡釋了“機器人三定律”：“第一，不傷害定律：機器人不得傷害人類，也不得見人受到傷害而袖手旁觀。第二，服從定律：機器人必須服從人的命令，但不得違反第一定律。第三，自保定律：機器人必須保護自己，但不得違反一、二定律。”這三條定律在制造機器人的伊始便被嵌入其大腦，永遠無法消除。毋庸置疑，阿西莫夫的貢獻是巨大的，其后的文學作品，如果不是專門討論人工智能倫理問題，基本都會遵循該定律來敘事。

在三定律的背后，是阿西莫夫為了確保人類的統(tǒng)治地位，而設想了一種符合康德“絕對律令倫理學”的人工智能。眾所周知，康德探討的是關于絕對律令的普遍道德法則，他在《道德形而上學基礎》（1785）中強調：人應當只按照普遍法則行動。在康德看來，既然不能說謊成為普遍法則，那么向一個殺手說謊也是不應該的。很明顯，這與人類依據(jù)現(xiàn)實情境而調整的“彈性”倫理完全不同�？档碌脑�本思路是：在認識領域“人為自然立法”，在道德領域“人為自己立法”。阿西莫夫卻巧妙地將兩者結合，把康德給人類自己的立法原則轉移給了機器人，將其設定為符合絕對倫理法則的群體。

從語義邏輯的層面來看，阿西莫夫的三定律似乎完美化解了前人對人工智能“造反”的擔憂，但仔細分析，依然有很多漏洞，這里僅舉最重要的四點。

阿西莫夫擬定的“機器人三定律”對后世影響深遠

第一，技術上難落實。三定律所要解決的是人機之間的倫理困局，但很多倫理問題，連人類都無法做出適宜的應對策略，更何況受由人類研發(fā)的人工智能？再者，人類雖然能在一開始控制人工智能，但卻無法保證越來越先進的人工智能永遠處在人類的掌控之中。

第二，現(xiàn)實中不可行。三定律應用在復雜多變的現(xiàn)實社會，常常會捉襟見肘，有時甚至會引發(fā)自相矛盾的窘況。阿西莫夫本人也意識到了這一點，因此對三定律的修改成為他后期作品的主線。在《可以避免的沖突》（TheEvitable Conflict，1950）中，機器人為了避免人類個體彼此傷害，便限制人類的行為，轉由機器人掌控一切。這促使阿西莫夫補充了“第零定律”：機器人不得傷害人類整體，或袖手旁觀坐視人類整體受到傷害。原先的三定律都要服從第零定律。但是，這條定律的最大問題就是：機器人如何權衡自己當下的行為會不會傷害人類整體？后來，其他學者也提出了修正建議，最著名的當屬保加利亞作家狄勒烏（LyubenDilov）在小說《伊卡洛斯之路》（1974）中提出的“第四定律”：機器人在任何情況下都必須確認自己是機器人。但這些修補并不能改變固有的設計缺陷。

第三，忽視了人類和機器人的情感問題。眾所周知，人類的情感世界是非常復雜的。也許機器人保姆把某些人撫養(yǎng)長大后，他們之間會產生類似親情的感情，譬如阿西莫夫的小說《羅比》（1950）。另外一些人和機器人長期相處，可能會產生類似友情的感情，譬如美國作家邁克爾·雷斯尼克（MikeResnick）的小說《知己》（2009）。更有人甚至和機器人墜入情網，并最終成婚，譬如萊斯特·雷伊的小說《海倫·奧勒》（1938）。也許旁觀者無法理解，但當事人會認為這份感情和人類之間的感情一樣珍貴。很明顯，機器人三定律無法處理這些棘手的感情問題。似乎只有打破二者的主奴關系，才有解決的希望。在這方面，可以借鑒亞里士多德在《尼各馬可倫理學》中提出的觀點，他承認主奴之間可能存在的“友愛”關系，原因在于兩者都有“靈魂”。亞里士多德認為：“奴隸是有靈魂的工具，工具是無靈魂的奴隸。作為奴隸對它是不存在友誼的。然而，他可以作為人，對于一切服從法律，遵守契約的人，他們之間似乎有某種公正，作為人當然有友誼。”[3]比照而言，當機器人有了感情之后，也就脫離了純工具的范疇。此時人類應本著智慧而有責任的原則，建立一種新型的人機關系。

第四，回避了一個本體論問題——何為“人”？作為斯芬克斯之謎，人類對這一問題追問了數(shù)千年。筆者在此主要探討“人”的資格的獲得問題：到底是自然遺傳屬性，還是社會文化屬性決定了“人”的身份？抑或是二者兼具？從三定律所代表的人類中心主義倫理觀來看，人類中的白癡生下來便享有基本的人權，在等級方面位列人工智能之上，而后者即便掌握了人類的文化，也不能躋身人類之列。意大利作家科洛迪的《木偶奇遇記》（1883）可以視為這一等級關系的絕佳隱喻，如果沒有仙姑的幫助，善良的木偶匹諾曹即便歷盡千辛萬苦，也不會變成“人”。難能可貴的是，阿西莫夫在后期作品《兩百歲的人》（1976）中打破了傳統(tǒng)觀念。小說描寫機器人安德魯為了成為真正的人，逐步將自己的機械零件替換成活體器官，終于在兩百歲生日的彌留之際，以死亡的代價獲得了人類的承認。

顯然，以阿西莫夫為代表的樂觀派，對人工智能危險論的補救并不成功。畢竟，站在人類中心主義倫理觀的立場上，從“主奴二元對立”的邏輯出發(fā)，很難構建起穩(wěn)定的人工智能倫理，亟待提出更新型的思考路徑。

交融共生

20世紀中期以后，隨著科技進步，特別是人造器官的研制，人類逐漸打破肉體禁忌，將一些機器部件納入血肉之軀，譬如植入大腦的芯片，廣泛使用的義肢，不可或缺的心臟起搏器。按照這一發(fā)展趨勢，也許在未來社會，人類和人工智能的區(qū)分將不再是涇渭分明的。

1960年，為了解決未來人類在星際旅行中面臨的困難，美國航天醫(yī)學領域的科學家首次提出賽博格概念。Cyborg是神經控制裝置（cyberneticdevice）與有機體（organism）的混寫，科學家希望通過向人體移植輔助的神經控制裝置，以增強適應外太空的能力。作為能夠自我調節(jié)的人機結合系統(tǒng)，賽博格既擁有機器運作精確、壽命長久的優(yōu)點，也具備人類的特質，比如感情和理性。至此，人和機器這兩個原本對立的概念，終于共存于賽博格這一生命體中。不過，在科學界提出該設想前，文學界的相關創(chuàng)作早已展開。

英國作家奧德爾（Edwin Odle）的《發(fā)條人》（1923）可以視作最早的賽博格題材作品。小說描述在人腦中植入時鐘發(fā)條，用以控制整個人的言行。作者意在批判世人對技術的盲目崇拜和濫用。有鑒于此，后世作家大多繞開對人腦的改造，而集中描寫身體的機械化，塑造出一系列正面的賽博格形象。相對于純鋼鐵架構的傳統(tǒng)機器人，人機合體的賽博格形態(tài)更容易被接納為“人”。不過，賽博格作為一個比較學術化的詞，在誕生之后很長時間并沒有被大眾所了解，直到20世紀70年代，美國文學界涌現(xiàn)了一批以賽博格為主角的科幻小說，該詞才廣為大眾熟知。代表作品有羅維克（DavidRorvik）的《當人成為機器時》（1971），波爾（Frederik Pohl）的《升級人》(1976)。這些作品大多描寫人的軀體被機械化改造，以完成太空開發(fā)等特殊任務。該類小說連同隨后的影視改編，在世界范圍產生了廣泛影響。

一種觀點認為，賽博格必須保留人體關鍵的神經系統(tǒng)，比如大腦和脊髓，否則就屬于傳統(tǒng)意義上機器人的范疇。如上文所述，就目前而言，人類很難將傳統(tǒng)的機器人接納為“人”，即便其無論在外形，還是在思維方式上，都和人類并無二致。嚴格來說，阿西莫夫《兩百歲的人》中的安德魯，恰恰是因為使用有機神經耗盡了電子腦，才以死亡的代價換來了賽博格身份。筆者以為，如果說賽博格反映了人類的逐漸機械化，那么人工智能則從反方向體現(xiàn)了機器的逐漸“人化”，而雙方的發(fā)展軌跡最終會碰撞在一個根本的哲學問題上，即“何為人？”到那時，人類和人工智能的界限將更難以劃分。

其實，隨著科技的發(fā)展和時代的演變，關于“人”的定義也是不斷轉變的。古希臘文學中的斯芬克斯之謎，實際上是一個如何區(qū)分人與獸的哲學命題，隱喻人類文明進程的開始。而科幻文學對于人工智能倫理的一再探討，則暗示了傳統(tǒng)意義上的“人”逐漸死亡，宣告著后人類時代的即將來臨。

從哲學角度看，作為一種知識和概念的“人”是有始有終的。法國哲學家米歇爾·�？略凇对~與物：人文科學考古學》（1966）中提出了“人之死”的觀點，這里的人是指人文科學意義上的人，即有關人的觀念和學說。[4]按照福柯的分析，“人之死”是以康德的人類學為基礎的哲學的消失，是19世紀以來以人為中心的現(xiàn)代知識形態(tài)的消失。盡管�？聸]有明確指出將會出現(xiàn)何種新的知識形態(tài)，但舊有的肯定不再被奉作金科玉律，這其中當然包括人類中心主義倫理學。與�？峦瑫r代的哲學家讓-弗朗索瓦·利奧塔，也針對這一問題提出了自己的思考。他執(zhí)著于“無軀體能否思維”的探索，并最終從時間的恒久流溢性角度給出了肯定回答。[5]

1982年，美國《時代》周刊把計算機選為“年度人物”，戲劇性地向全世界宣告后人類時代的到來。作為一種理論思潮，后人類主義（Post-humanism）形成和發(fā)展于20世紀80年代。面對人體不斷被高科技改造的潮流，不少人相信自然的進化最終將讓位于人工進化，進而出現(xiàn)在體能、智力、壽命等各方面都超越當今人類的“后人類”。該理論的代表人物是唐納·哈拉維，其發(fā)表于1985 年的《賽博格宣言》可謂綱領性文件。哈拉維認為高科技文化對既存的二元論思考提出了挑戰(zhàn)。作為“社會現(xiàn)實和小說的共同創(chuàng)造”，賽博格是一個打破自我和他者界限的合體，是介于人與機器之間的一種“后人類”。[6]1992年，歐美國家舉辦了一系列名為“后人類”的展覽。在配合展覽出版的《后人類》一書中，作者強調科技進步“挑戰(zhàn)了舊人類的終結，以及后人類開始的界線”，“達爾文的人類進化論也將進入下一個階段”，[7]顯然，在后人類主義看來，當今人類只是從猿進化到后人類的一個過渡階段。但關于后人類的具體形態(tài)，因其充滿著各種雜糅、跨界的可能，目前沒有人能給出準確的預測。

中國話語

梳理完西方文學中的人工智能倫理，我們再來分析中國文學中的人工智能故事。

在中國古代，涉及人工智能的文獻記載不少。據(jù)不完全統(tǒng)計，約有三十多種，譬如《列子》、《西京雜記》、《傅子》、《歧�，嵳劶�》、《古今圖書集成》等。[8]最早的記載見于《列子·湯問》中的“偃師造人”故事。雖然出自介紹民間方術的集子，但其本身卻完全可以視為技術類幻想小說，影響也頗為廣泛。偃師造出的人偶和人類的外貌酷肖，周穆王一開始還以為是偃師的隨行之人。人偶的下巴被掰動則能夠曼聲而歌，調動手臂便會搖擺起舞，表演完畢后，還向周穆王的寵姬拋媚眼。這一輕佻行為激怒了周穆王，他認定人偶為真人假扮，下令處決偃師。偃師為證清白，現(xiàn)場將人偶拆解，展示其由皮革、木頭、膠漆組成。這些沒有生命的部件一經組合，便成了活生生的人偶。很明顯，在這一故事中，人偶是被大家普遍接受的，盛怒后的周穆王也不再對重新組裝的人偶懷有敵意。

細細梳理，中國古代文獻中的人工智能外部形態(tài)較為粗糙，功用也較為簡單：或用于殺傷敵人，或用于捕捉野獸，更多的則是用于歌舞表演，如完成擊鼓、吹簫等動作。唐朝《樂府雜錄》記載：劉邦北擊匈奴，卻被冒頓單于困于白登，后依陳平施“美人計”，讓美女人偶在城樓上歌舞獻藝。匈奴閼氏擔心漢人美女會與自己爭寵，便力勸單于撤了兵。《大業(yè)拾遺記》中則虛構了隋朝皇室當時的歌舞盛況：兩百名人偶共同演出的場面。筆者發(fā)現(xiàn)，這些文獻記載中的人工智能絕大多數(shù)是以木材為主要制作原料，以彈撥力或水力驅動，其外形雖類似人類，但在容貌和心智方面還是和人類有很大差距的。程式簡單的它們，一般被視作精巧的器具，其所能從事的工作也大多是固定的。與技藝高超的人類制造者相比，人工智能還是相當笨拙的。因此，人們并不擔心人工智能會媲美或超越人類的智慧，更不會威脅人類的生存。

實事求是地講，古代中國文獻對人工智能奴仆地位的描述，和同時期的西方文學是大體一致的。在一定程度上，由于當時中國科技的相對發(fā)達，中文典籍里的人工智能出現(xiàn)頻率和出場規(guī)模，甚至比同時期的西方文獻還要顯著。但遺憾的是，中國文學對人工智能倫理的探討卻并未發(fā)生“弗蘭肯斯坦”式的變革。在筆者看來，其原因應和中國傳統(tǒng)文化思維有著千絲萬縷的聯(lián)系，主要代表則是陰陽五行學說，以及背后深嵌的萬物有靈潛意識。從現(xiàn)代哲學的角度來分析，陰陽可謂最原始的對立統(tǒng)一學說，五行（金、木、水、火、土）理論則是最基礎的系統(tǒng)論。長期以來，中國的古圣先哲能夠將世界萬物的形成及相互關系都納入五行理論來闡釋。毫不夸張地說，中國傳統(tǒng)思維的框架便是建基在陰陽與五行兩大學說的合流之上。在這一思維框架下，人們對神、仙、妖、魔、鬼、怪、精、靈等非人類族群的意象，給予了較多關注，甚至能夠接受將其納入人類的倫理框架。以傳統(tǒng)中國文學作品以及民間傳說中的“妖”形象為例，他們雖然能夠魅惑人心，將人引入歧途，但卻也有很多藝術形象代表著美和善，甚至比人類更懂得存善心、行善事。譬如《聊齋志異》里的《聶小倩》、《畫皮》（小唯），民間傳說中“白娘子”（《白蛇傳》）等。在這一傳統(tǒng)思維模式下，萬物皆可有靈，甚至能夠變成為人，專門針對人工智能倫理問題的思考便很難出現(xiàn)。

近代以后，隨著西方科幻文學的傳入，中國科幻也開始逐漸關注人工智能的倫理問題。不過，在大部分中文科幻小說里，對人工智能的描述基本沿襲了古代傳統(tǒng)，它們或是工人，或是家仆，別具特色的作品較少。以銷售量空前絕后（三百萬冊）的《小靈通漫游未來》（1978）為例，作品中的智能機器人大都由方塊組成的，頭上頂著兩支分岔的天線，高級一點的胸口則配有電視屏幕，靠此來接收人類的指令。很明顯，這部創(chuàng)作于20世紀60年代的作品，對人工智能的設定和中國古代傳統(tǒng)是一致的，完全停留在服務人類的層面上，并未觸碰人機之間的倫理困局。在劉慈欣的《三體·死神永生》（2010）中，由三體人制作的機器人智子，外表和人類無異，智能甚至超過人類。作為三體人命令的忠實執(zhí)行者，它不惜對地球人大開殺戒。在最終失去和三體世界的聯(lián)系后，它完全自主操控，和人類幸存者建立起一種介于朋友、家仆和保護者的朦朧關系。因《三體》的敘述重點并非機器人倫理問題，其對人機關系的設定也便選擇了大眾所熟悉和最易接受的模式。其他中文科幻作品中的人工智能，譬如倪匡《筆友》中的核彈控制電腦、鄭淵潔《活車》中的智慧汽車、柳文揚《星海迷蹤》中的納米螞蟻、鄭軍《生命之網》中的數(shù)字生命、星河《你形形色色的生活》中的機械監(jiān)工或保姆、江波《機器之道》中的腦庫和智網等，基本都未脫離上文所論述的人工智能倫理范疇。

在筆者看來，現(xiàn)代中文科幻作品對人工智能倫理問題的思考，之所以無法成為像西方現(xiàn)代科幻中的重要題材之一，主要原因在于中西方作家對現(xiàn)代性問題的焦慮核心不同。按照美國學者梅泰·卡利內斯庫（MateiCalinescu，1934〜2009）的觀點：“作為西方文明——科技進步、工業(yè)革命以及由資本主義引發(fā)的全面的經濟和社會變革這三者帶來的產物——歷史中一個階段的現(xiàn)代性，同作為美學概念的現(xiàn)代性之間，產生了無法彌合的分裂。”[9]其中有社會現(xiàn)代性和審美現(xiàn)代性兩個方面。近代以來，西方科幻文學多側重審美現(xiàn)代性，而中國科幻則更關注社會現(xiàn)代性。早在瑪麗·雪萊所處的時代，西方作家便開始反思現(xiàn)代科技給人類帶來的福禍參半處境，對未來的憂慮促使警示性的作品連綿不絕。相對而言，基于百年中國半殖民地、半封建社會的革命歷史，中國知識階層在現(xiàn)代化進程中，更多焦慮救亡圖存、國計民生等迫在眉睫的問題。中國作家對以堅船利炮、科技進步為形象展現(xiàn)的現(xiàn)代性圖景更多持正面態(tài)度，而非瑪麗·雪萊式的警惕與反思，“虛無縹緲”的人工智能倫理問題自然得不到他們的重點關注。

20世紀的中文科幻對人工智能倫理探討相對較深的作品當推魏雅華的《溫柔之鄉(xiāng)的夢》（1980）和王晉康的《生命之歌》（1995）�！稖厝嶂�鄉(xiāng)的夢》描寫在未來社會，不符合優(yōu)生標準的男性只能娶仿生人作為妻子。后者依照阿西莫夫的三定律設計，完全聽命于丈夫的指示。百依百順的嬌妻，甚至幫助醉酒的主人公燒掉自己的研究成果，造成無法彌補的巨大損失。痛定思痛的主人公最終醒悟，決心和仿生人妻子離婚。[10]表面看來，這部小說是對阿西莫夫三定律在現(xiàn)實生活中可行性的質疑。但筆者覺得，其更深層則是批判毫無約束下的男主人公不斷膨脹的人性黑洞。王晉康的探討比魏雅華更深一步。中篇《生命之歌》里的機器人“元元”，外表是五歲的孩童，但心智卻隨著歲月流逝不斷發(fā)展成熟。在獲得能夠使自己邁入生命界線的法寶（由基因密碼組成的音樂）之后，他打算把這曲“生命之歌”輸入到全世界的機器人和電腦中，希望同類為爭取生存權而抗爭。故事的結尾，人類雖然用情感紐帶暫時約束了元元的“造反”行為，但卻無法回避這一危機時刻終究要到來的困局。此外，在短篇《禿鷲與先知》中，王晉康描寫一個清潔工機器人偶然間萌發(fā)了生存本能，像禿鷲一樣靠盜取其他待報廢機器人的能量來延續(xù)自己的“壽命”，當它被人類公開處決后，反而成為機器人的“先知”，引發(fā)了一場機器人革命。王晉康試圖通過這兩則故事告訴人們，高科技背景下的人工智能并不一定威脅現(xiàn)有的倫理模式，只有當它們擁有強烈的生存本能之后，才會打破三定律的平衡，甚至為了自身的生存而反噬人類。當然，提出問題的王晉康并沒有給出完美的解決方案。

令人欣慰的是，進入21世紀，年輕的中文科幻作家對機器人問題有著持續(xù)而進一步的思考，其中的代表作有陳楸帆的《荒潮》（2013）、飛氘的《講故事的機器人》（2005）和《愛吹牛的機器人》（2014）等。陳楸帆描述了近未來（2025年左右）的人機融合圖景，其中的“垃圾人”少女小米作為一種典型的賽博格形態(tài)，折射出“攻殼機動隊”的影子。飛氘則將時空模糊化處理，敘述機器人在思維和情感問題上的逐漸“人性化”演變。王晉康的長篇新作《類人》（2003）則描寫了由全世界數(shù)百億臺電腦聯(lián)接組成的“電腦上帝”，在不讓人類覺察的情況下，扮演著救世主的角色。與全知全能的主控電腦相比，人類則顯得渺小而孱弱。此類作品目前雖然不多，但卻預示著中文科幻對機器人倫理的探討將會有著更深入的發(fā)展空間。

就目前的科技和人類認知水平而言，作為新興學科，人工智能倫理涉及學科交叉、文化匯融和意識沖撞等諸多范疇，并且隨著科技發(fā)展和時代進步，許多剛剛建構的倫理模型會很快被推翻。基于此，筆者并不試圖建構一種穩(wěn)固的倫理框架，而是呼吁突破傳統(tǒng)“物我兩分”的認知觀念，將人類自我進化和人工智能升級放到統(tǒng)一的維度去審視。這樣，對人工智能倫理的思考就不再是二元關系的難解困局，而是人類如何面對自身進化的深刻哲思。如果我們不摒棄傳統(tǒng)的“人類中心主義”價值觀，以及“主奴二元對立”的認識論，積極建構“后人類”視域下的人工智能倫理關系，也許筆者在開篇所設想的悲觀未來就將很可能成為現(xiàn)實。