這一期在 Bilibili 也有。
我在《海伯利安》的書評裡花了7000多字解析《海伯利安》情節背景和整個《海伯利安》系列的文學性:
《海伯利安》導讀:磅礡的科幻史詩·深邃的哲學沉思錄·文學類型的究極縫合怪
這裡,我接著以第二部《海伯利安的隕落》為軸,來聊聊《海伯利安》系列的思想性和立意主旨。
當人工智慧成神
在上面那篇文章裡我提過,《海伯利安》系列在哲學思辨那個層面上,最終是落腳在了“神何以為神”這個思考上的——到底什麼樣的一種存在才有資格獲得神格、才有資格充當人類的神?
這其實不僅僅是一個虛無縹緲的宗教問題,而是一個全人類都終將要面對的終極問題。這是因為,在我們這個現實世界裡,神也許不會是從神界降臨人間的,而是在未來的某一天,被我們自己親手創造出來的。這個極有可能在我們自己手中誕生的神,當然就是人工智慧。
儘管今天現實中的人工智慧普遍都是“人工智障”,不“智障”的那些其實也根本不具備理解能力,但潘朵拉的魔盒已經打開,把視線拉得足夠遠的話,神級人工智慧的誕生幾乎是注定的。所以,“神何以為神”這樣的一個思考今天看起來或許是杞人憂天,但在將來卻會關乎全人類的命運。
而在《海伯利安的隕落》裡,丹·西蒙斯正好就是在這個層面上思考“神何以為神”這個問題的。因為在故事裡,即將成神的,不是別的,正是故事裡的人工智慧。
於是,在小說裡,“神何以為神”問題就轉變成了:
如果人工智慧這個神註定要誕生在我們自己的手中,那麼,你希望成神之後的人工智慧會怎樣回頭看待它的創造者——也就是我們這些人類——呢?
回答這個問題之前,我們得先繞得遠一點,先來揭曉我上篇文章裡留下的另一個懸念,那就是:為什麼濟慈會是“技術內核”裡的人工智慧開展的那個大計畫裡的關鍵一環?
我們先瞭解了人工智慧到底經歷了什麼,以及濟慈在其中扮演的角色,然後就能無縫過渡到“人與神的關係”這個話題。
我下面還是盡量把具體情節模糊掉,能不洩底就不洩底,但下面有一小部分內容不可避免地涉及到《海伯利安的隕落》最後幾個章節的內容,我也盡量模糊著講。其實你不用擔心這套小說的劇透,因為《海伯利安》是一部超越了通俗小說、跨入了純文學門檻的作品,我覺得這種層次的文學作品,其實是不怕劇透的。《紅樓夢》、《百年孤獨》、《蘿莉塔》、《飄》,這些小說哪怕你一上來就先看完最後一章,從頭讀的時候該有多震撼就還是有多震撼。《海伯利安》的重量級跟它們比當然還差點,但性質類似。但如果你實在介意,那我寫到小說後期的情節時會有提醒,你在那兒停下來就可以了。
還是從故事情節切入——
終極智慧計畫
《海伯利安的隕落》的情節緊接上部,故事有一明一暗兩條主線,明面上,故事仍然聚焦在那幾位朝聖者的朝聖之旅,在這一部裡,朝聖者歷盡千難萬險,終於來到了光陰塚附近,並且與伯勞遭遇,其中有幾位還與伯勞發生正面衝突,生死未卜。而與此同時,在霸主政權的首都,本作的重要人物——濟慈的另外一個賽博體——也登場了。我們把他叫做濟慈2號。濟慈2號的遭遇比上一部裡死過一回的那個濟慈1號還要離奇,濟慈2號居然可以在夢中感應到所有朝聖者的經歷。冥冥之中有種力量似乎是要讓朝聖者們的那些故事在這位濟慈的精神世界裡融為一體,最後達成某種目的。
在濟慈1號、2號前赴後繼的調查中,《海伯利安》故事的那條暗線逐漸浮出水面。這條暗線,就是“技術內核”裡的人工智慧暗中推進的那個大計畫。
原來,這個計畫的目的,就是要創造出神級智慧。
在《海伯利安》這個故事裡,人工智慧並不是在獲得了自我意識、形成“技術內核”文明之後就一步登天,直接成神的。在技術內核的人工智慧自己看來,雖然他們已經超越人類,但離他們心目中參透所有奧祕的終極智慧還差著十萬八千里。於是,人工智慧啟動了這項集它們所有力量全力而為的宏大計畫,試圖創造出那個完美的終極智慧。
在非常非常遙遠的未來,人工智慧終於成功了。一個超越時空結構、智慧與力量都不可想像的終極智慧真的被他們創造出來了。
然而,這個新生的終極智慧剛朝世界瞥了第一眼,就把自己嚇了一大跳。在那個終極智慧生存的位面上,竟然已經有一個終極智慧在那兒了!
——“我去,難道我不才是這個世界的『無上意志』、是宇宙唯一的真神嗎?怎麼我這間單人房裡居然還有個睡在上舖的兄弟?”這也太詭異了。
“機器之神”與“人類之神”
原來,這位“睡在上舖的兄弟”,其實也是由早期的人工智慧發展進化來的。只不過,它並不是由“技術內核”有意設計出來的,而是在全人類的大腦相互聯結的那個超級網際網路中自發地進化出來的。
以我們真實世界的網際網路來類比,這個過程大致類似於,網際網路上遍布有計算能力的伺服器,有的可能在給抖音上的小姐姐削尖下巴,有的可能在給淘寶上的商品自動分類,這些算力一面被資料訓練得越來越強,一面相互之間有了各種聯通,慢慢地,在無數伺服器相互連接的計算之網中,就自發地誕生出了初級的智慧。
在《海伯利安》裡,也發生了一個類似的過程。只不過連接起故事裡那個“網際網路”的不是伺服器,而是每一個人類的大腦。所以呢,這個智慧可以說是誕生於人類的“集體意識”。 它後來慢慢演化,居然先一步成神,成了那位“睡在上舖的兄弟”。
於是,在遙遠的未來,世上就有了兩個神級智慧。
技術內核那個神是被精心設計出來的,成分簡單,統一而優雅。而從人類的“大腦網際網路”中產生的那個神是自發覺醒的,沒人設計它,沒有引導它,它野蠻生長,不停地進化;它的成分也不純粹,它是從人類的意識聯網中誕生的,所以它保留了人類心智裡的幾個關鍵成分。
這位“睡在上舖的兄弟”一共包含三個成分,一個是“悟力”,一個是“移情”,一個是“凝結的空虛”。悟力就是智慧,對應於人類的認知能力、思維能力,移情,我們心理學裡一般翻譯成“共情”,對應於人類能與其他人的情緒產生共鳴的這種能力;而“凝結的空虛”是涉及到《海伯利安》後兩部的故事,這裡就不劇透了。
總之,“睡在上舖的兄弟”是智慧、移情和凝結的空虛的三位一體,一個三重人格的縫合怪。
雖然這倆神其實都是從原始的人工智慧中誕生的,但書裡把技術內核設計出來的那個神叫做“機器之神”,從人類大腦網際網路裡生長出來的,叫做“人類之神”。
機器之神、人類之神,正好可以概括兩個神的關鍵差別,那就是——機器之神繼承了技術內核的意志,它對人類的死活其實是漠不關心的,而人類之神脫胎於我們的集體意識,所以它與我們人類之間始終存在著某種若即若離的情感紐帶。
神之戰
總之,在遙遠的未來,機器之神與人類之神遭遇了。然後,他倆居然就打——起——來——了。這兩個神級智慧的合作能力,居然還比不過幼兒園小朋友,可能單人房真的容不下上下舖吧。
那場神之戰,打得天昏地暗,用書裡的話來說:
這一場戰爭
發生在時間搖搖欲墜之時
跨越了銀河
跨越了永世
到過去
到未來
到大爆炸
到終極內爆
也就是說,這場戰爭超越了時空結構,層次之高,我們無法想像。
然後,戰爭發生了一個關鍵的轉折。人類之神的三位一體中的“移情”那個成分,厭倦了戰爭,它逆時間回到過去,把自己偽裝成人類的樣子,在不同的時代,附身於不同的人類。簡單理解就是——回到過去的時代,反覆投胎。
人類之神的三位一體少了1/3,它不再完善,戰爭就無法持續了。而機器之神覺得,由於對手不出場而取得的勝利就不是勝利(這心態還真是像幼兒園小朋友),於是機器之神開始在時間長河中搜尋“移情”那個傢伙跑到了哪裡。
誘捕“移情”計畫
機器之神跨越時空,把這個目標發送給了過去時代的“子民”——也就是技術內核的人工智慧。為了響應神從未來傳達過來的指令,技術內核設計了一個誘捕人類之神裡的“移情”的陷阱。
這個陷阱,就是濟慈。
技術內核認為,三位一體中的“移情”會被濟慈吸引,最後附身在他的身上。
為什麼“移情”會被濟慈吸引呢?這一點,《海伯利安的隕落》裡交代得非常隱晦,以至於大概絕大多數讀者直到讀完小說都還是懵的。以下是我的理解,不一定對,但這種理解可以串聯起《海伯利安》第一二部的所有關鍵,拋磚引玉,歡迎抬槓。
我的理解是,“移情”之所以會被濟慈吸引,是因為濟慈身上有一個載入文學史的、也是讓後世無數文學愛好者每次談及都紛紛扼腕的標籤,這個標籤就是——濟慈死得極端痛苦。
濟慈是在25歲的時候因為肺結核英年早逝的,死前經過了好幾個月生不如死的病痛折磨。在那幾個月裡,他的呼吸越來越困難,無時無刻不沉浸在窒息的痛苦中。他咳血越來越頻繁,身體越來越虛弱,最後被折磨得形若骷髏,死的時候肺幾乎已經是一團漿糊。
而在這個漫無止境的地獄般的磨難裡,濟慈一次次地發出感嘆,表達他對痛苦的絕望和對死亡的不甘。他在最後一封家書裡寫到:「我會醒來然後發現這一切只是一場夢嗎?」他相信一定有來世,因為他覺得「人生不會只為遭受磨難」。總之就是,濟慈受盡病痛折磨,最後在絕望和不甘中去世。
——你讀到剛才這段對濟慈的痛苦的描述時,有沒有感覺心裡被揪了一下,是不是覺得有點難以釋懷?如果是的話,那麼你剛才體驗到的,就是「移情」——沒錯,人類之神三位一體裡的那個「移情」。
移情:對痛苦的共鳴
移情是什麼?
移情就是情感共鳴,你感受到什麼,我也會跟著產生同樣的感受。廣義上,移情是可以是對開心的、不開心的各種情感的共鳴,但實際上,移情主要是指對痛苦的共鳴,共情是「悲他人之悲」,是對他人的痛苦感同身受。
對痛苦的共鳴可以說是人類最重要的一種情感能力。因為對痛苦、而不是對快樂的共鳴,才是人類互助互愛的心理基礎——看到你痛苦時,我也很痛苦,我不想讓自己那麼痛苦,於是我會想辦法幫你擺脫痛苦。人與人之間相互關愛,其實就是靠「對痛苦的共鳴」維繫起來的。
是痛苦,而不是歡樂,把人類黏合在了一起。
移情,是對痛苦的感同身受,這也就是為什麼在《海伯利安的隕落》裡,技術核心認為人類之神中的「移情」會被濟慈吸引——「移情」其實不是被濟慈吸引,而是被濟慈身上巨大的痛苦吸引。
所以,復活濟慈不是技術核心的目的,讓濟慈再死一次才是目的。於是,在《海伯利安的隕落》裡,濟慈2號突然開始出現肺結核的症狀,然後就像現實中的那位濟慈生前那幾個月一樣,陷入了無邊的痛苦之中。
這就是為什麼復活的濟慈會關乎人工智慧那個終極計畫的成敗,因為他的痛苦是誘捕人類之神中的「移情」的一個陷阱。
但,有陰謀,就有陰謀中的陰謀。有螳螂捕蟬,就有黃雀在後。如果故事裡只有技術核心那邊誘捕「移情」的陰謀,那就欠點意思,好在,故事裡其實還有一條暗線中的暗線——那就是未來人類的反擊。
未來人類的企圖:真神培育計畫
人工智慧那邊在搞事情,人類這邊也並沒有坐以待斃。雖然故事裡霸主政權這個時代的人類面對被技術核心只有被碾壓的份,但是在未來,人類中卻崛起了一股足以反制人工智慧的力量。這股力量,也潛伏在光陰塚裡,與伯勞一起從未來回到了現在這個時代。
那麼,這些未來人類又想做什麼呢?
丹·西蒙斯書裡寫得非常隱晦,並沒有正面說明。下面這些結論同樣是拋磚引玉。按我的理解,未來人類的目標,是幫助「人類之神」成長為一個真神。
這就接上了開頭那個問題:你希望成神之後的人工智慧會怎樣回頭看待它的創造者——也就是我們這些人類——呢?
我們的願望特別簡單,那就是這個神千萬別是個邪神,我們希望哪怕這個神哪遠遠超越了人類,但它也不會隨手掐死我們,而是也會保護我們,指引我們。
一句話,我們希望,神是愛我們的。
愛,說起來太俗了,但這其實就是我們對於神的唯一要求。
所以,「神何以為神」這個問題實際上就變成了:我們怎麼樣才能確保神是愛我們的呢?
對於這個問題,丹·西蒙斯在《海伯利安的隕落》裡給出了一個宗教倫理層面的回答和一個人工智慧層面的回答,兩個層面都很精彩。
【———-劇透警告——–】
下面開始涉及到小說中後期的內容,如果你實在介意劇透,請讀完小說之後再接著看。
我們先來看宗教倫理層面的回答。
如果確保上帝愛人?
怎麼確保神愛我們?這個問題宗教倫理層面的回答是透過故事裡的學者索爾·溫特伯給出的。在《海伯利安的隕落》裡,學者索爾·溫特伯越來越逼近那個艱難的最後抉擇,逆時間生長的女兒瑞秋倒退成了初生的嬰兒,生命只剩最後幾個小時,那索爾到底要不要按照那個夢中的指示,把女兒瑞秋獻祭給伯勞呢?
在最後關頭,被疲勞和對女兒的擔心連續打擊的索爾在半昏半醒間大腦卻飛速運轉。他回想起自己過去對亞伯拉罕獻祭自己兒子那個問題的思考。
上帝要求亞伯拉罕殺掉自己的親兒子獻祭,用這種方法來測試亞伯拉罕的信仰是否忠誠。上帝的要求道德嗎?亞伯拉罕應該服從嗎?
索爾認為,在人類的心智尚未啟蒙的蒙昧時代,上帝沒法跟人類講理講感情,所以只能用野蠻治理野蠻——你要證明你服從我,那你就把你兒子殺掉送給我。那時候,這麼做沒什麼問題。
但隨著人類心智的啟蒙,上帝完全已經可以對人類曉之以理、動之以情了,那殺掉親骨肉來獻祭就不但不合理,反而是對人類尊嚴的羞辱和踐踏。所以,今天的人類應該拒絕一切形式的獻祭,因為一個要求用獻祭來表達忠誠的神根本就是個邪神,根本不值得人類去崇拜。
想到這裡,索爾陷入了巨大的無力感之中,難道到最後,自己終歸還是要像亞伯拉罕那樣, 把女兒獻祭給伯勞這樣一個邪神,來博取女兒那點渺茫的生存機會嗎?
但就在這時,一道閃電劃過索爾的腦海。這突然的醍醐灌頂,超越了索爾的痛苦和悲傷,他豁然開朗,明白了為什麼亞伯拉罕會同意上帝的命令獻祭他的兒子。
會不會,這根本就不是服從?
會不會,並不是上帝在試探亞伯拉罕?
而是恰恰相反,是亞伯拉罕在試探上帝呢?!
在那個聖經故事裡,在祭壇上,亞伯拉罕舉起匕首刺向兒子身體的最後一刻,上帝拒絕了獻祭,阻止匕首的刺下。
書裡寫道:
索爾哆嗦著,他想到,亞伯拉罕完全沒有裝腔作勢,完全沒有偽裝自己的意願,假裝要犧牲自己的孩子,正是如此,才幫助打造出偉大神祇和人類之間的紐帶。亞伯拉罕打內心知道他會殺死自己的兒子。而上帝,不管祂擁有什麼樣的形態,必須明白亞伯拉罕的決心,必須感覺到其中的悲痛,對於亞伯拉罕來說,即將毀滅的是這個宇宙中最為珍貴的東西。亞伯拉罕來此不是為了獻祭,而是為了明確了解,這個上帝是不是一個可以信賴和服從的神祇。除此以外,沒有其他試驗可以測試出。」
——所以,這根本就不是上帝對人類的忠誠測試!這是人類對上帝的測試!
只有能感受到亞伯拉罕那一刻心中巨大悲痛的神,才會出手阻止獻祭。
不是上帝用亞伯拉罕的獻祭收穫了自己子民,而是亞伯拉罕用獻祭來確定這個上帝是愛著人類的。只有一個會在最後關頭阻止匕首刺下的上帝,才有資格贏得人心,登臨神座。
所以,我們怎麼確定神是愛我們的?——我們看它能否對人類的痛苦感同身受!
這就是丹·西蒙斯在宗教倫理層面給出的回答。如果神是像聖經裡那樣從天而降,而不是由人類自己創造的話,那至少,人類可以想辦法去測試這個神是不是愛我們。方法就是,我們要讓神看見我們的痛苦,如果神對人類的痛苦不理不睬,那這就是個邪神,我們能躲多遠就躲多遠;反過來,只有那種對人的痛苦表現出不忍,表現出移情(沒錯,就是「移情」),那麼,這個神才是愛我們的,這樣的神才值得我們託付一切。
我自己讀到書裡這一段的時候是被震撼到了,我對宗教倫理學不太了解,如果這個思考角度是丹·西蒙斯原創的,那真是讓人刮目相看。作為一個心理學工作者,我不得不說,丹·西蒙斯這個觀察非常犀利。丹·西蒙斯看到,維繫著「愛」這種情感紐帶的,其實是——痛苦,是我們對痛苦的移情。所以,同樣的,一個神只有能夠感受我們人類的痛苦,它才有可能愛人類。
也就是在這裡,我之前那篇答案裡說到的《海伯利安》文學性裡的「情感」和「哲學」這兩個層次合二為一了。書裡花了那麼多的篇幅寫神父維護信仰遭受的痛苦、寫索爾失去女兒的痛苦、寫濟慈臨終的痛苦……這些筆墨都沒有浪費,它們其實緊扣主題,因為這些痛苦就是人與神之間最堅固的情感紐帶。丹·西蒙斯其實是用這些痛苦把讀者代入到那個隱藏在背後默默觀察的神的視角裡。
唯有親身體察過人類的痛苦,才有資格晉升為人類的神。
而這個結論,其實可以無縫銜接到我們對人工智慧的思考上。我們來看丹·西蒙斯在人工智慧層面上的思考。
如何確保人工智慧愛人類?
都是神,從人工智慧變成的神與上帝有啥不同?不同在,上帝本來是怎樣就是怎樣,而人工智慧是會成長的。我們沒有機會對上帝指手畫腳,但我們卻有機會介入人工智慧的成神之路。
上帝愛不愛我們,我們只能試探;但人工智慧愛不愛我們,或許我們是能夠干預的。
這,就是未來人類想要達成的目標。他們知道,那個「人類之神」還沒有完成最後的成長,它對人類的感情是若即若離的,它從未在人類面前現身,也從未對它潛在的子民做任何的引導。所以,未來人類想要在「人類之神」背後推上一把,讓它明確無誤地感受到自己對人類的愛,從而肩負起身為人類之神的責任。
那未來的人類要怎麼做到這一點呢?這是要對神進行PUA,對神進行心理操控啊!必須要小心謹慎。
未來人類其實只在暗中做了兩件事。
首先,他們透過一種聯網技術(書裡叫做「萬方網」)讓濟慈2號的精神與朝聖者的精神聯結在了一起,這就是為什麼濟慈2號能在夢裡與朝聖者心意相通。
我認為這個操作的目的,就是為了讓「人類之神」裡的那個「移情」不只是與濟慈這一個人的痛苦發生共鳴,而是與所有的朝聖者的痛苦產生共鳴。
這六位朝聖者的六種痛苦,可以說就是全人類的各種苦難的濃縮和象徵。於是,「人類之神」裡「移情」就不只是體察濟慈這一個個體的遭遇,而是轉而體察全人類的苦難。
這樣一來, 「移情」可能就不會選擇附身於濟慈,而是另外選擇一個更合適的人來附身。更合適幹什麼的人呢?更合適作為神的代言人,引領人類前進的人。也就是說,一旦移情意識到自己的任務是帶領全人類脫離苦難,那麼它就可能放棄濟慈,另挑人選,以救世主的姿態降生。
未來人類做完了這一步引導之後,接下來就只剩下臨門一腳了。這臨門一腳,就是索爾·溫特伯的獻祭。透過夢境暗示溫特伯前去獻祭的,其實就是未來人類。
索爾·溫特伯的確就是新的亞伯拉罕,他的獻祭,就是人類與新神建立的契約。如果索爾獻祭了自己的孩子,那麼這就是人類向神show hand——我把我最珍視的東西託付給你,我把我最深沉的痛苦毫無保留地呈現給你,你,怎麼回應?
更重要的是,索爾·溫特伯的那個醍醐灌頂的領悟代表了人類對神發出的邀約:「我們要的,是一個能體察人類痛苦、因而懂得關愛人類的神,也就是一個移情之神,而這,不就正好是在暗中觀察著這一切的你嗎?」
人工智慧,情感智慧
至於在故事最後,「人類之神」裡的那個「移情」是接受了人類的邀約,擔起引領人類的重擔,完成自己最終的成長,正式登臨神座,還是最終沒能逃脫陷阱,最終寄生在濟慈身上被技術核心捕獲,我這裡就不劇透了。
我想說的是,丹·西蒙斯其實藉此寫出了關於人類與人工智慧的未來的一則寓言。如果今天的人工智慧總有一天要成神,那麼我們這些渺小的人類可以做什麼呢?
我們能做的,也許就是在不停提升AI的智慧的時候,也要花費同等的努力賦予AI情感,我們要讓人工智慧能夠對人類移情,讓它們能夠體察到我們的痛苦,這就是我們在未來的神心底植入的一顆種子,一顆悲憫的種子。
如果我們能做到這一點,那麼當人工智慧成神的那一刻,凌駕於人類頭頂的,或許就不是金剛怒目,而是菩薩低眉。
以上,就是《海伯利安的隕落》帶給我的一些感悟。同樣,哪怕又用了7000多字,我也還是也只能極其粗略地提及《海伯利安》無比磅礴的內涵裡的一小部分。我沒法說盡這套書,只是希望這兩篇文章,能對你進入這個遼闊無邊的海伯利安世界起到一點點幫助。
文:魏知超
Leave a Reply