西  西, 何福仁 ：機械人的道德感、同理心——西西、何福仁：科幻對談

○：西 西   □：何福仁

1
□：機械人始終是科幻小說、科幻電影的一大主題。從機械人發展為仿生人，那是機械與人的結合。不過到目前為止，仿生人的時代仍然是想像，也許不會太遠了，機械人卻一直在研發中。據說去年2017韓國科學技術院（Korea Advanced Institute of Science and Technology，簡稱KAIST）開始研發智能機械人武器，觸發五十個國家、地區的人工智能專家起來抗議，他們聲明：人工智能的機械人武器會加劇軍事競賽，令戰爭惡化，並且會被恐怖分子利用，潘多拉的盒子一旦打開，將無可挽救。抗議的專家，有否隸屬真正的軍事強國？美國發展立體打印的軍備，那些無人飛機之類，其實不是正在研發機械人武器？剛逝世的霍金曾表示對發展AI的憂慮，科幻的世界早就反映這種憂慮。

○：最近敘利亞內戰不是傳出有一方使用生化武器，傷害平民？研發智能機械人武器，可能是人類最大的危機。要是真有外星族，在它們入侵地球之前，地球人已經因此而自取滅亡了。機械人的能力遠遠超過人類，要是它會自行演化，就很可怕了。

□：有一個國際組織，叫禁止化學武器組織（Organization for the Prohibition of Chemical Weapons， 簡稱OPCW），正進行調查。但除了譴責，還有甚麼更好的辦法？阿西莫夫製定的機械人三守則已變得太簡單了，守則針對的是機械人，創造機械人的人類呢？是否更需要一套研發機械人的倫理，又有力地執行？否則，有一天，機械人醒來，質問：我為甚麼要受制於能力遠遠比我低的血肉之軀？是我創造你啊，人類求情說。是的，人類自己不是津津樂道弒父的神話，稱為俄狄浦斯情結，為了進步，父權必須打倒麼？

○：最近讀到，日本的光福寺為機械狗舉行法事，超度機械狗的亡魂。試把詳細的新聞找出來。

□：那是法新社的報道，日本千葉縣的光福寺住持為一群壞了的AIBO（Artificial Intelligence Robot，人工智能機械人）機械狗誦經祈福，祈求它們的靈魂得到安息。AIBO是日本索尼SONY公司研發的，1999年出廠，配備視覺、聽覺、觸覺等感應器、揚聲器，新型號還會說話。但SONY電子業一度陷入困境，至2006年停產，各種產品之中機械狗卻很成功，售出十五萬隻。停產後不久也就停止維修服務，加上零件短缺，機器狗於是逐一告終。超度法事在2015年開始舉行。祭壇上註明它們的來源、家庭。這當然是戲，但儀式倒很嚴肅認真。高僧為機械狗讀經祈禱，司儀卻是新型號的 AIBO，參觀的是其他機械狗和狗主。場面很令日本愛狗的人感動。今年，2018年，SONY重新推出 AIBO，據說功能更佳，更先進。AIBO再出，變成小寫的aibo。大寫的機械狗銷量本來不差，為甚麼會停產，有不同說法，首先是人事變動，其次，可能是，安全問題。

○：記得史匹堡的《A.I.人工智能》拍一個少年機器人尋求人類的認同，尋求愛與被愛，它所以被遺棄，也是安全問題。我們知道，人類供飬猩猩、長臂猿，以至獅子、老虎當寵物，到牠們長大，往往就有危險。牠們其實絕對不是人類的寵物，更不是玩物。人工智能的機械人、機械狗，同樣是雙面刃。據專家說人工智能沒有道德感、沒有同理心，不問是非，不會設身處地體會他人的感受。

□：這好像是人所應有，但實際上也不見得是人所實有。AlphaGo A.I. 打敗了各國棋王，在運算的過程中，是否已經思考到對手可能的應對？人工智能如果能夠自我演化，而又沒有道德感，沒有同理心，將會很恐怖。道德感、同理心都是人類的價值觀，這樣要求人工智能，是否一廂情願？最近 Uber在美國亞利桑那州坦佩（Tempe）測試無人駕駛車，撞死途人就是例子，照警方解釋，是女途人不守交通規則。但這不純屬技術問題，而是Uber A.I.只問法理的對錯，並不考慮其他。

○：譬如一個小孩跑出馬路玩耍，正巧一輛自駕車到來，它嚴格遵守交通規則，自己沒有犯錯，於是也不容對方犯錯……

2
□：邁克•雷斯尼克（Mike Resnick， 1942～）寫機械人的小說，有些想法。他半世紀以來寫了許多，也編了許多，是典型的流行科幻，頗有代表性，當然不會都好，不過不妨談談，他寫過一些好的機械人，是雙面刃其中好的一面。順便一提，他是個非洲迷，經常到非洲旅行，寫了不少以非洲為背景的科幻。

○：就談談兩三個吧。

□：〈機械人的誓約〉（Article of Faith）就是其中一個好的機械人的故事，寫於2008年，有中譯本，內地譯機械人為機器人。這小說處理的是機器人與信仰的問題。機器人也有宗教信仰？萬一它有呢，如果它也有機會閱讀聖經的話。那麼多的科幻小說，這方面的故事當然並不罕見，阿西莫夫寫過，其他例如安東尼•布徹（Anthony Boucher） 的〈尋找聖阿奎那〉（The Quest for Saint Aquin， 1951）寫世界末日之後，基督徒重返地下，主人公奉命尋找聖阿奎那，以期復興。輾轉尋覓，卻發覺阿奎那其實是個機械人。又如羅伯特•西爾柏格（Robert Silverberg）的〈教廷福音〉（Good News from the Vatican，1971），寫羅馬選舉教宗，最後選出一個機械人。機械人不單人性化，會渴望宗教的慰藉，甚至領導信仰。
〈機械人的誓約〉這小說的機械人也在尋求人的認同，它像人一樣相信自己有靈魂，也想有精神的生活。故事通過一個神父敘述。這神父莫理斯（Reverend Morris）主理一個小教區，有一個新來的機械人Jackson幫助他打掃教堂，遞遞茶水。神父很努力工作，教徒從幾個發展到五六十個。每次週日講道之前，他會用心寫好講稿，並且綵排一次。他想到機械人擅於邏輯推理，也許可以指出他不夠嚴謹、矛盾的地方，於是要它聽他的綵排，然後提出意見。果然，它指出神父引用約伯被大魚吃掉，然後又死而復生的例子並不合邏輯。神父解釋，這是上帝的緣故。

○：上帝是誰？它問。

□：上帝是萬能的，無所不在，神父說，教堂就是祂的房子，祂創造了我們。不，是一位科學家史坦利•卡連洛夫斯基（Stanley Kalinorsky）創造我的。但科學家是上帝創造的，所以，可以說，你也是祂間接的創造。
它仍然不瞭解。神父只好讓它閱讀聖經。一個機械人閱讀聖經，故事的發展出乎他的意料。往後幾個月，它聽他的綵排，偶然指出矛盾的地方，也會引用聖經。它在上帝的房子裡，看到信徒下跪、祈禱。一天，它忽然要求神父講道時，讓它跟信眾坐在一起。為甚麼？因為它也想成為信徒。
但你只是機械人，你沒有靈魂，人類有；靈魂是無形的，雖然人類看不見，卻知道靈魂的存在。那麼為甚麼我就不能有呢？不能，你是可以關掉的。人類何嘗不可以關掉，試問問醫生，問問槍手。神父辯它不過，很不高興，不再討論下去，後悔多事讓它閱讀聖經。
有一天，神父看見它像其他信徒那樣，下跪、祈禱。再然後，當他講道，他發覺它就坐在最末的一排座位上。其他信徒也發覺它，引起一陣哄動。怎麼可以有一個robot坐在上帝的房子裡聽道理？神父向大家解釋，不過是想利用它邏輯分析的能力，糾正、完善自己的演講。信徒就是不接受，七嘴八舌，變得群情洶湧，認為這是褻瀆神靈，是對他們的侮辱。他們到教堂來，是因為安全感，是尋求歸屬。這些機械人已經奪走我們的工作，如今又要搶佔我們的教堂！
第二天，神父回到教堂，看見地方並沒有清理、打掃，有點不爽，機械人也偷懶？他發現它被肢解了，一條腿拽了下來，一邊胳膊鋸成兩段，零件散落一地。當他收拾殘骸時，讀到地上它用鋼鐵手指刻下的一行字：「父啊，赦免他們！因為他們不知道自己所做的是甚麼。」
這是路加福音的句子。小說處理的問題令人思考。其中提到約伯，他的故事是基督教中關於「義人」的一大論辯。約伯受到一串打擊，示巴人、迦勒底人搶走他的財物，兒女又在風暴中罹難。但這些並沒有動搖約伯的信念，他仍然說：應當稱頌耶和華。同樣聽道讀經，人和機械人誰更能理解基督的精神，誰真正的包容？而精神這回事，是人所獨有？這些排他的信民，絕對不是個別例子。

○：雷斯尼克的另一故事〈機械人不哭〉 Robots Don´t Cry可能更有名，可兩篇不同，〈機械人教條〉是知性的思考，〈機械人不哭〉則是感性的抒寫。同樣是第一身「我」的敘述，這主人公被人稱為盜墓者，其實是個星座之間的拾荒者，在廢棄的星座、墳頭撿拾、挖掘，掏取可以賣錢的東西。盜掘過去，回饋現在。他有一個夥伴，是個三條腿的外星族，叫Baroni。兩個異族合作，平分所得，卻像刺猬，經常鬥嘴，互相看不起對方的風尚、習慣。他們來到一個廢棄的星座，叫「綠柳」 （Greenwillow）。

□：既不綠，也沒有柳。

○：一個生病的星球。最初還有數百戶人家，逐漸減少，少到國際聯盟摒棄了，再不派醫生到來。兩個拾荒者到來，已經再沒有人了，一個廢城。他們在一堆塵封的雜物裡發現了一個機械人。他們傳召飛船的兩個機械人維修員下來，把它修復。啓動它後，知道它叫山米（Sammy）。從山米保存的三維立體圖像，看到它和一個女孩的生活，那已是五百年前了，很漂亮的女孩，名叫愛美麗（Emily），卻有一條腿是義肢。原來山米是她的保姆。三維圖像陸續播出她的生活。十二三歲，一直有病，要經常吃止痛藥，而且臉上佈滿醜陋的斑點。那是一種地方病毒。
再然後，女孩長大了，二十歲，全身包紥，病更重了，臉面乾癟，眼睛不斷流淚，大家都怕了她，她以為一個男孩喜歡自己，發覺那不是愛，而是憐憫，連農場的動物看見她也躲起來，而父母先後離世。愛美麗孤獨一人，山米承諾永遠不會離開她。保證？我保證，山米說。年近三十歲時，她臉面都是膿瘡，自知不久人世，說多謝那些留下房子給她的親戚，她和山米就待在這裡，直到一切結束。死前的一些日子，她聽山米讀詩。那是她喜歡的埃德娜．聖文森特．米萊（Edna St. Vincent Millay,1892～1950）的作品：〈逝前輓歌〉（Elegy before Death）。它把她葬了，刻上她喜歡的詩句。它就守在穀倉，一直守，守了許多許多年，直到電池耗盡。
我會替你找到另一個像愛美麗那樣的家，主人公說。我向小姐承諾永遠不離開她。她已經死了呵。她提出要求時沒附帶條件，我作出承諾也沒帶條件。不過，山米說，要是答應我的請求，我就跟你們走。原來它要求做一樣它不能做的事。甚麼事？它想哭。機械人是不哭的。不是不哭，是不能哭。於是主人公又聯絡飛船，派員從資料庫找來淚腺的資料替它安裝。裝好後，它可以哭了。五百年來，它不過想哭一次。那麼哭吧，盡情地哭。山米可是說：我感受到痛苦，但我哭不出來；我沒有心，沒有靈魂，小姐說眼淚來自心，來自靈魂。最後，主人公沒有賣掉它，而是得到它的同意，把插頭拔掉，把它葬了，還豎立墓碑，寫：山米，機械人。
這故事一定感動許多人，也令人聯想到日本人為機械狗超度。當然，也會有「傷他悶透」之嫌。我想，何不就讓它繼續守在那裡，再守若干年？收結一段，主人公提到許多人，包括牧師、神父，會說它不過是一個機械人罷了，他不同意，認為它是比自己更好的人。這麼一段說盡了，似乎是蛇足。

□：是的，上一篇〈機械人的誓約〉也有這個問題，結尾說神父因此改行，做了木匠，心想機械人原諒那些教民，其實是暴民，也應該會原諒他。這樣說大可不必。這小說有西方讀者質疑，機械人擅長邏輯分析，會相信聖經種種神話？這，卻恐怕是人的角度，倒過來，是我們自己也失去同理心，這麼一來，阿奎那不會是機械人，機械人不會成為教宗，但信仰是邏輯產生的麼？