李公明︱一周書記：在人工智能時代……生存，還是毀滅？

《智人之上：從石器時代到AI時代的信息網絡簡史》，[以色列] 尤瓦爾·赫拉利著，林俊宏譯，中信出版社，2024年9月版，349頁，79.00元

讀尤瓦爾·赫拉利（Yuval Noah Harari）的《智人之上：從石器時代到AI時代的信息網絡簡史》（原作名: Nexus: A Brief History of Information Networks from the Stone Age to AI，2024；林俊宏譯，中信出版社，2024年9月），竟然有一種痛快淋漓之感。尤瓦爾·赫拉利的思想鋒利如刀、這部書的論述風格鋒利如刀，論述議題的嚴重性和緊迫性已經容不下躲閃、退縮——在人類的AI時代，民主社會與極權社會將何去何從、人類的命運是死是活？！

Yuval Noah Harari， Nexus: A Brief History of Information Networks from the Stone Age to AI，Random House，2024

今年9月10日，全球同步發行該書的三個版本：英文原版和中文繁、簡體版。這是開始閱讀該書的時候值得關注的信息——“信息”就是該書的第一關鍵詞，沒有理由不首先關注“全球同步”“三個版本”這樣的信息。那就從書名的“信息”入手吧。原書名“Nexus”在中文簡體版改為“智人之上”，繁體版則是直譯“連結”。看起來應該是“智人之上”更吸引眼球，但是更應該注意到，“連結”才是該書的核心概念——作者在書中一再說到本書的論述焦點就是信息、核心概念就是網絡、聯結和力量。

然后是來自該書封面的信息。有網友注意到英文版和中文簡體版的封面的那只鳥是有區別的，英文版的那只鳥沒有戴帽子，中文簡體版的戴了帽子。有人找到中文簡體版關于多了一頂“帽子”的據說是官方的解釋：這頂帽子是為了給第一章“信息是什么？”中那只叫謝爾·阿米的軍鴿增添角色感，同時象征著“故事”……于是回到該書第一章，除了軍鴿謝爾·阿米，作者還談到諾亞方舟故事的那只鴿子、1915年中東戰爭的加沙戰役中傳遞信息的一扇百葉窗，于是就進入了該書的主題：媒介、情境、信息和真相之間的復雜關系……

還有就是來自一本匯集了國內二十多位名家推薦語和重磅導讀文章的小冊子的信息。我是在讀完全書之后才讀到這本小冊子，發現只有一位導讀者關注和介紹了在書中有大量篇幅論述的人工智能與國家的兩種未來可能性的問題。這是偶然的還是帶有某種必然性的信息？現在讀到的這個版本里面承載的信息已經超出了預期——從信息政治學的視角論述了兩種不同的信息網絡類型，關于希特勒這樣的獨裁者如何壟斷信息、監控社會、荼毒生靈，在該書里有不少案例分析和深刻的剖析。由此想到作者說“人類遇到的問題歸根結底是個網絡問題。講得更明確一點，這是個信息問題。信息是維持網絡聯結的黏合劑”（序言）。

作者在“序言”對該書的研究思路和主要內容作了比較清晰的論述。本書第一部分概述人類信息網絡的歷史發展進程，通過研究幾個范例來探討各個時代人們在建立信息網絡時所面臨的關鍵困境，以及在解決這些困境的時候如何塑造出截然不同的社會，有些沖突的成因實際上是由于信息網絡的類型不同。其中第四章的重點是談論錯誤信息的問題，以及維持各種自我修正機制（例如獨立司法、同行評議期刊）的好處與壞處。第五章討論的是分布式信息網絡和集中式信息網絡，前者使信息沿著許多獨立渠道自由流動，后者揭示了如何將所有信息集中在一個核心樞紐。

在第一部分的歷史研究的基礎上，第二部分“非生物網絡”討論的是人類正在打造的新信息網絡，重點關注人工智能興起的政治意義。作者認為人類正在創造一個全新的信息網絡，卻從來沒有認真研究其影響：這是一種從生物到非生物信息網絡的轉變，從依靠碳基的人腦來處理信息、做出決策到由硅基計算機主宰新信息網絡運作的轉變。當硅基芯片創造出永遠不用睡覺的間諜、永遠不會遺忘的金融家和永遠不會死去的暴君，人類社會的經濟與政治會發生怎樣的改變？本書的第三部分“計算機政治學”探討了不同類型的社會如何應對非生物信息網絡的威脅與承諾。因此第九章討論的是民主國家如何處理非生物信息網絡的興起，第十章則探討了非生物信息網絡可能如何影響極權主義，比如人類獨裁者將如何恐嚇人工智能、審查人工智能高深莫測的處理程序，或者避免人工智能起身奪權？最后的第十一章談論的是這套新信息網絡如何左右全球民主與極權社會之間的權力平衡，說白了就是人工智能會對哪一邊更有利？進而就是世界會不會分裂成人與非人彼此敵對的集團，所有人是否都會成為失控的人工智能的獵物？人類能不能團結起來捍衛共同的利益？

從整個研究框架來看，我感到赫拉利是在三個層面上分別建構起對應性的“聯結”敘事：在歷史與未來層面上以信息為核心敘事的回顧與前瞻，“這本書的歷史部分對于我們理解當下和展望未來至關重要。人工智能的興起可以說是歷史上最大的一場信息革命。但要真正理解這場革命，就必須與過去的信息革命做比較”（序言）；在社會制度層面上，民主與極權制度下的不同信息網絡類型的運作與影響，“……人們常常會把它們視為兩種相對的政治與道德體系，但本章希望能改變這種討論方式，通過梳理歷史，將民主與獨裁視為兩種相對的信息網絡類型”（106頁），以及在新信息網絡層面上人類與非人類的博弈——問題看來很嚴重：“像我們這樣的碳基生命，還有沒有機會理解和掌控新的信息網絡？”（序言）在這三個不同層面中，從頭到尾都貫穿著強烈的歷史感，同時在投向未來的目光中也充溢著緊迫感和責任感。這與作者作為研究中世紀和現代軍事史的歷史學家跨越到信息網絡研究的身份自然有關，但是更重要的因素來自他的歷史觀和價值觀。

關于歷史觀的問題，赫拉利認為“歷史真正研究的并不是‘過去’，而是‘變化’。歷史能告訴我們什么是不變的、什么是變化的，以及事物又是如何變化的。這不僅與信息革命，而且與其他類型的歷史變革都息息相關”；而且在歷史的變化中會提供警告：“研究近現代的獵巫行動……也能提供一個嚴正的警告，讓我們知道如果賦予人工智能更大的權力來掌控20世紀的社會，可能會出現怎樣的問題。”（序言）當然他絕不是那種歷史決定論者，他反復申明“本書并不是說研究過去就能預測未來。我后面還會反復強調，歷史不是確定的，未來將由我們所有人在未來幾年所做的選擇而塑造。我寫這本書全部的意義在于，希望我們通過做出明智的選擇，防止最糟糕的結果。如果未來真的無法改變，還去討論未來豈不是浪費時間？”（序言）最后這句是大實話，只是有點扎心。稍微有點安慰的是，“如上所述，歷史不是確定的，至少在未來幾年里，我們智人仍然有能力塑造我們的未來”（同上）。

價值觀問題在書中也是很自然就流露出來。比如“一說到明智，大部分人會認為就是能‘做出正確的決定’，但所謂‘正確’是有價值判斷的，不同的個人、文化或意識形態就會有不同的想法”（序言）。再下來，在關于納粹主義與信息網絡的關系上，赫拉利的價值批判鋒芒畢露、極為犀利。“大規模網絡卻會使用各種虛構故事與幻想將成員聯結在一起并創造秩序。舉例來說，我們過去就是這樣走向了納粹主義，納粹主義形成了格外強大的網絡，并由極具迷惑性的想法加以支撐維系。正如喬治·奧威爾的那句名言：‘無知就是力量。’”“納粹主義的政權基礎，就是一些令人痛苦的幻想和毫無羞恥的謊言，但這在歷史上實在稱不上特殊，也不代表它們注定崩潰。納粹主義可以說是史上人類創造出的最強大網絡。……到21世紀，過去希特勒等人沒做到的，很可能會由一些新的極權主義政權接手完成：創造出一個無所不能的網絡，甚至能夠阻止后代去嘗試揭露其中的虛構與謊言。我們不該以為這些網絡的基礎因為都只是些虛構妄想就注定會失敗崩潰。想要避免這些網絡的最終成功，我們自己將不得不付出艱苦的努力。”（序言）

從“信息是什么？”這個問題入手，赫拉利通過論證必須反對天真的信息觀——即認為信息就是對現實的呈現、掌握的信息越多就越能找到事物的真相并且必定使人類受益，提出了關于“信息”的定義：“所謂信息，就是能夠將不同的點聯結成網絡，從而創造出新的現實。”（13頁）這里他還有補充的說明：這個定義可以包括信息就是現實的呈現的觀念，而把信息的重點放在“聯結”就可以處理那些并非要呈現現實的信息。關鍵的問題就是“信息都會聯結形成網絡，而這才是信息真正的基本定義特征”（15頁）。由此而把“信息”的“聯結”作用放在人類歷史進程的重要位置上，進而在書中也以不少篇幅揭露了民粹主義如何利用信息作為一種破壞民主的力量，還談到了唐納德·特朗普和巴西前總統雅伊爾·博索納羅作為民粹主義政客如何以虛假信息煽動民粹主義情緒。他們的支持者如何呼吁公眾信賴像特朗普或博索納羅這樣的領袖，將他們描繪成上帝的使者和人民的代言人。赫拉利指出“民粹主義者最奇妙的一項主張是只有他們才能真正代表人民。……如果只有民粹主義者才能代表人民，自然所有的政治權力就應該歸于民粹主義政黨。如果是其他政黨贏得選舉，可不代表那個政黨贏得了人民的信任、有權組建政府，而肯定是勝選被偷走了或人民被欺騙了，投票結果并沒有表達出人民真正的意志”（115-116頁）。最后他指出“像特朗普這類政治人物以及匿名者Q這類運動的崛起，有著21世紀10年代末期美國所特有的政治背景”（序言）。

把深入地探討民粹主義與面向人工智能時代的困惑與危機聯系起來，這是該書很有現實針對性和深刻性的一個方面。赫拉利說，“我想強調的一點是，人類目前正在面臨生態崩潰、全球戰爭、技術失控等生存挑戰，但民粹主義卻在此時侵蝕著我們對大型機構制度與國際合作的信任。民粹主義者不相信復雜的人類機構制度。他們的建議就像法厄同神話與《魔法師學徒》給我們的啟示一樣：‘相信會有神祇或偉大的魔法師介入，讓一切恢復正常。’如果我們接受了這種建議，從短期來看，控制我們的可能就是那些對權力欲望旺盛而且是其中最糟糕的一群人，從長期來看，控制我們的可能就是新的人工智能霸主。還有一種可能，隨著地球變得不再適合人類生存，我們會發現自己根本無處可去。……我們如果不想把權力交給某個魅力領袖或是高深莫測的人工智能，首先就得更加了解‘信息’究竟是什么，了解信息如何協助建立起人類網絡，了解信息與真理、真相以及與權力的關系。”（同上）

以不同的信息網絡類型來區分民主制度與極權制度，這是貫穿在全書各種議題中的一條主線，表明了信息政治學作為對以往政治學研究的一種富有闡釋力的重要修正和補充。第五章“抉擇：民主與極權制度簡史”的確就是一篇以信息網絡為中心的兩種制度簡史。例如關于民主政體從概念到實際運作的論述步步深入，把自由選舉、多數獨裁、權利保護機制、人權與公民權等等概念、理論和運作都解釋的很清晰。同時他承認仍有一些問題無法在這里得到解決，我們需要明白的是“人權與公民權都是存在于主體間的約定，是人類的發明而非發現，是出于歷史的偶然，而不是出于普遍的理性。不同的民主政體所列出的權利清單就可能有所不同。”（112頁）。

赫拉利的研究表明獨裁信息網絡的第一個特征在于高度集中，“把所有信息都集中在自己手里，想要由自己來做所有決定，徹底控制人民生活的一切。這種由希特勒等人實行的極端獨裁統治，就被稱為極權主義（ totalitarianism ）。”（106頁）這是從信息研究的角度切入的定義。獨裁信息網絡的第二個特征在于認定權力是絕對正確的，不允任何挑戰，因此羅馬的宣傳總是把歷任皇帝視為神圣的化身。“就算尼祿做出顯然糟糕到極點的決定，羅馬帝國也沒有強大的自我修正機制能夠揭露錯誤，推動更好的做法。”“總而言之，獨裁政體是一種集中式的信息網絡，而且缺乏強大的自我修正機制。相較之下，民主政體則是一個分布式的信息網絡，并且擁有強大的自我修正機制。”雖然在民主信息網絡里也會有一個中心樞紐，政府機構也會收集、儲存大量的信息，但是民主政體還有許多其他信息渠道，連接許多獨立節點。（同上）。

在這里，“自我修正機制”在赫拉利的信息與網絡研究中是一個核心概念和研究議題，他善于深刻地把這個概念、議題鑲嵌進政治學、宗教學和歷史學的研究視角和概念范疇之中，使之具有概念的建構性和闡釋力。比如，“把民主定義為擁有強大自我修正機制的分布式信息網絡，就會與民主等于選舉這種常見的誤解形成鮮明對比。選舉是整套民主工具包的核心成分，但并非民主的全部。要是沒有額外的自我修正機制，選舉就很容易被操弄。而且就算選舉完全自由公正，光是這樣也不足以保證選舉就是民主，因為民主絕對不是‘多數獨裁’”（109頁）。

作為反面的研究案例的是宗教經典和教會權力機構對待自我修正機制的態度。赫拉利指出：“就信息技術而言，自我修正機制與宗教經典截然相反。宗教經典總說自己不可能有錯誤，自我修正機制則愿意接受自己的錯誤。……由于它（指天主教會）宣稱自己絕對正確，因此它無法承認自己在制度上的錯誤。天主教會雖然偶爾也愿意承認有些成員犯錯或有罪，但嘴上還是會說這個機構本身完美無缺。……根據天主教教義，《圣經》的絕對正確與神的引導必能勝過人類的墮落，因此就算教會的個別成員可能會犯錯、可能有罪，天主教會這個機構也永遠正確。”（96頁）我們小時候看過一部阿爾巴尼亞電影，很喜歡模仿的一句臺詞是“墨索里尼，總是有理！永遠有理！”。事實上，在教會內部還是存在自我修正和制度變化。正如作者說的，“雖然教會未曾正式承認，但隨著時間的推移，教會也慢慢改變了自己的制度架構、核心教義和對經文的解釋。如今的天主教會，反猶與厭女的色彩已經比中世紀與早期現代歐洲淡化了許多。教皇方濟各對原住民文化的包容程度遠高于教皇尼古拉五世。這就顯示了一種機構制度的自我修正，是對外部壓力和內部反省的回應。然而，對天主教會這樣的機構來說，即使真的有所自我修正，它也不會承認，更不會為此慶祝。”（98頁）

從歷史回到現實、面向未來，赫拉利提醒我們：“下一波信息革命正蓄勢待發，而這將是民主與極權新一輪競爭的基礎。計算機、互聯網、智能手機、社群媒體與人工智能，都對民主提出了新的挑戰。現在能發聲的不只有更多過去被剝奪權利的群體，還包括所有聯結網絡的人甚至是非人類個體。到21世紀20年代，民主政體再次迎來與過去類似的挑戰：如何在維系社會秩序的前提下，讓如洪水般涌來的新聲音加入公共對話。……與此同時，對于仍然想把所有信息都集中起來的極權政權，新科技也帶來了新希望。……隨著人類邁向21世紀的第二個25年，一項重大問題就是民主政權與極權政權如何面對目前信息革命帶來的威脅與契機。這些新的科學技術，究竟會讓某種政權勝出，還是會讓世界再次分裂？而隔開雙方的不再是鐵幕，而是一道硅幕。”（161頁） 究竟鹿死誰手，這是人類命運攸關的歷史時刻。現在必須嚴肅地說，在人工智能時代，“生存，還是毀滅？這是一個問題”。

最后想起理查德·J. 埃文斯在《第三帝國的到來》的序言中關于納粹帝國的必然性與偶然性的論述：它既非歷史的必然，但也不能說是偶然發生的。從歷史哲學來看這是永遠可以爭論的問題，但是如果把歷史的鏡頭回放到1934年，退役軍官、德國總理府前高級文職官員埃爾溫·普朗克（Erwin Planck） 對馮·弗里奇將軍說的那句話就更有現實意義：“如果你只是袖手旁觀，那么總有一天厄運也會降臨到你的頭上。”（理查德·J. 埃文斯《第三帝國的到來》，賴麗薇譯，九州出版社，2020年， 41頁）

在面向兩種信息網絡類型的不同前景的時刻，這句話應該讓所有人都聽到。