📈传道受业解惑篇~Harari《联结:从石器时代到AI纪元》
如何把人事物联结起来?🔗
資訊不一定是要告訴我們一些什麼,而是要把人事物組織起來。例如,占星術把戀人放進
一種占星組織;政治宣傳把選民放進一種政治組織;進行曲則將士兵放進
一種軍事組織。
音樂雖然並不是要呈現某項現實,卻很能夠讓許多人連結起來,有同樣
的感受、做出同樣的動作。音樂能讓士兵列隊行進,能讓夜店眾人一同搖
擺,能讓教會會眾照拍子鼓掌,也能讓運動賽事的觀眾齊聲高唱。
根據福音書的記載,耶穌是在被釘上十字架之前,與十二位門徒共進
了他最後的晚餐;耐人尋味的是,這一頓其實是猶太人的逾越節晚餐。根
據猶太傳統,逾越節晚餐的目的就是要去創造、重現一套人造的記憶。每
年逾越節前夕,猶太家庭都會共進晚餐,回憶「他們」出埃及的過程。他
們不但會講到雅各的後裔是怎樣逃出埃及、逃脫奴役,還要記得自己是怎
樣親身在埃及人手中受苦,親身目睹海水退去分開,又是怎樣親身在西奈
山、從耶和華那裡領受了〈十誡〉。
他們聲稱,史上所有猶太人的靈魂,都是早
在他們出生之前就由耶和華所創,這些靈魂當時都在西奈山。所以,每年在猶太曆最重要的節慶,都會有幾百萬猶太人演出一場大
秀,說自己記得一件他們從未親眼目睹、而且可能根本沒發生過的事。正
如許多現代研究所示,反覆講著一套假的記憶,最後真的能讓人信以為
真,以為是真實的回憶。 [12] 於是,就算兩個猶太人初次見面,也能立刻
感覺彼此就是一家人,都曾在埃及為奴,也都曾經在西奈山聚在一起。這
形成了強大的連結,讓整個猶太網路得以跨越大洋大洲,維持許多世紀。猶太逾越節的故事,是從既有的生物親屬連結加以延伸,從而建立起
一個龐大的網路,想像出一個有幾百萬家人的巨大家族。然而,在用故事
建構網路的時候,還有一種更創新的方式:故事也像 DNA 一樣,能創造
出新的實體,甚至是創造出全新層次的現實。
人類政治制度都是以虛構故事做為基礎,只是有些承認、有些不承
認。如果對社會秩序的起源更誠實,就更容易加以改變。如果正是像我們
這樣的人類發明了秩序,當然我們就能夠加以修改。然而,這樣的誠實得
付出代價。承認社會秩序是由人類發明,後續就更難說服所有人都接受這
套秩序。如果秩序都是跟我們一樣的人發明的,憑什麼要我們乖乖接受?
你沖馬桶的時候,那些穢物都去了哪?答案是進入了深層政府(deep
state)。我們的房屋底下,有一個由管道、幫浦、隧道組成的複雜地下網
路,會蒐集所有汙水穢物,避免接觸到飲用水供給,並進行汙水處理或安
全排放。這個深層的網路需要有人來設計、建造和維護,修理漏洞、監控
汙染,以及支付工人的工資。這一切也都屬於官僚制度的工作,如果廢除
了這個部門,肯定會讓我們面臨諸多不適、甚至死亡。汙水汙染飲用水的
危險一直都存在,幸好我們有官僚制度的協助,才能讓汙水與飲用水好好
分開。
在建立現代汙水處理系統之前,痢疾與霍亂這樣的水媒疾病,讓全球
數百萬人死於非命。當時的主流醫學理論認為,霍亂流行是由於「瘴氣」所致,但醫師史
諾(John Snow)懷疑問題出在供水。史諾辛辛苦苦追蹤列出了所有已知
的霍亂病人、居住地與飲用水的來源,並用這份資料確定了疫情的爆發點
就是蘇活區布洛德街的一具抽水幫浦。這是一項繁瑣的官僚工作,需要蒐集數據、對數據進行分類、並繪製
地圖,但這項繁瑣的官僚工作拯救了生命。史諾向當地官員解釋自己的發
現,說服他們關閉了布洛德街的抽水幫浦,總算讓疫情畫下句點。隨後的
研究發現,為布洛德街幫浦供水的水井,挖井的位置距離受霍亂感染的化
糞池,還不到一公尺。
在官僚社會,民眾常常就是會因為某個讓人難以理解的原因,被某個
不清楚職掌的機構,派出了身分不明的官員,來把你的生活搞得天翻地
覆。
但書外面的世界還在繼續轉個不停,卻沒人知道該怎樣把舊規則連結到新
情境。
因為願意承認各種在機構制度上的重大錯誤,也就讓科學的發展速度
相對較快。只要現有證據證明合理,往往只要幾個世代,就能夠將原本的
主流理論替換成新的理論。大學生在二十一世紀初讀到的生物學、人類學
與歷史學,與一個世紀前大學生學到的內容,可說是天差地別。舉例來說,同性戀在1952
年版本的 DSM 是列為一種反社會人格障礙,到了1974年就已經刪除。所
以,DSM 只花了二十二年就修正了這個錯誤。這不是一本神聖不可侵犯
的宗教經典,而是一份科學文本。
科學的自我修正機制之所以格外強大,是因為科學機構制度不只是願
意承認自己的錯誤與無知,甚至是會積極揭露這些錯誤與無知。從這整套
機構制度的獎勵機制,就可以看得一目瞭然。
如果是宗教機構制度,鼓勵的是成員謹遵教義、對新奇事物則要抱持
懷疑。
但在科學界,情況正好相反。科學機構的聘任與晉升,遵守的原則是
「不發表,就淘汰」(publish or perish);想要登上優秀的學術期刊,
你就是得揭露現有理論的某種錯誤,或是發現一些前輩與老師不知道的內
容。可沒有人會因為忠實重複過去學者的話、反對所有新的科學理論,就
能拿到諾貝爾獎。當然,科學界因循守舊的空間也不
小。
舉例來說,我要怎樣才能知道中世紀與近世歐洲對巫術的看
法?我既沒有造訪過所有相關的檔案庫,也沒有讀過所有相關的第一手資
料。事實上,我還根本沒能力直接閱讀其中的許多資料,因為我既不懂所
有必要的語文,也不太懂中世紀與近世的手寫筆跡。所以,我得要依賴其
他學者發表的論文與書籍,當然,我仍然可能從書裡得到一些錯誤資訊,又或者是我本人
可能有所誤解。但只要有巫術史的專家正在讀
這本書,應該就能找出其中的任何錯誤,加以揭露。
如果從民粹角度來批評科學機構制度,可能會說這些機構其實仍是運
用權力在扼殺非正統觀點,等於是對異議份子發起另一種獵巫行動。確
實,要是有學者反對目前學門相信的正統觀點,有時是會迎來不好的後
果:論文被拒、拿不到研究經費、受到人身攻擊,罕見的狀況甚至是被解
雇。
科學被意識型態K.O
康托(Georg Cantor)在十九世紀末提出他對於「無限大」的理論( 這套理論也成為二十世紀數學的重要基礎),但就受到當時頂尖數學家的人身攻擊,包括龐加萊、克羅內克等人。在相對論與量子力學成為二十世紀物理學基礎之前,一開始也曾引發激烈爭議,包括守舊派對這些新理論支持者發動人身攻擊。
民粹主義者會說,科學家也是人,同樣也會有各種人類偏見,這點說
得完全沒有錯。但因為科學機構制度具備了自我修正機制,也就讓這些偏
見終究得以扭轉。只要能提供充足的實徵證據,常常只需要幾十年,就能
讓原本非正統的理論,推翻傳統概念,成為新的共識。但在某些時候、某些地方,科學的自我修正
機制也可能停止作用,於是就連學術上的異議,也可能招來酷刑、監禁與死亡。像是在蘇聯,不論是在經濟學、遺傳學或歷史學領域,如果去質疑官
方教條,不僅可能丟了工作,還可能在古拉格勞改營被關上幾年,甚至迎
來行刑者的一顆子彈。
蘇聯農學家李森科拒絕相信各種主流遺傳學與天擇演化論,而提出了一套自
己喜歡的理論,主張透過「再教育」就能改變動植物的性狀,甚至能讓一
個物種變成另一個物種。李森科這一套「再教育」理論令史達林大為驚豔,覺得在意識型態或
政治上,簡直是潛力無窮。當時許多科學家站出來反對李森科,繼續捍衛
天擇演化論,結果就是幾千人丟了工作,甚至是鋃鐺下獄或遭到處決。李森科
的導師瓦維洛夫批评自己的学生,但下场是在1943年死於薩拉托夫集中營。列寧全蘇農業科學院從此不再是個科學機構,
蘇聯對遺傳學的教條就是一種意識型態、而不是一門科學。雖然機構愛怎
麼取名都行,但只要沒有健全的自我修正機制,就稱不上是個科學機構。
系统并非万能
像是近世歐洲的社會秩序不但支
持獵巫,也支持少數貴族剝削幾百萬農民,支持對女性進行系統性虐待,
支持對猶太人、穆斯林及其他少數族群的普遍歧視。
自我修正機制
太過強大,往往就會產生懷疑、異議、衝突與裂痕,並且破壞那些維持社
會秩序的神話與故事。
臉書助紂為虐
2016年至2017年,一個名為若開羅興亞救世軍(ARSA)的小型伊斯
蘭組織,發動一系列攻擊,希望在若開邦建立一個分離主義穆斯林國家,
他們殺害、綁架了幾十名非穆斯林平民,還襲擊了多個軍事前哨。 [8] 而
做為回應,緬甸軍與佛教極端份子發動了一場針對羅興亞人社群的全面種
族清洗,摧毀數百個羅興亞人村莊,殺害了七千名到二萬五千名手無寸鐵
的平民,強姦或性虐了一萬八千名到六萬名男女,粗暴的將大約七十三萬
名羅興亞人趕出緬甸。會有這些暴力,是出於對所有羅興亞人的強烈仇恨;而會有這些仇
恨,又是出於對羅興亞人的負面宣傳,其中大部分流傳於臉書頁面。到了
2016年,臉書已經是緬甸幾百萬人主要的新聞來源,也是緬甸最重要的
政治動員平臺。一位名叫麥可的援助人員於2017年住在緬甸,他談到當時臉書頁面
動態消息的狀況:「網路上對羅興亞人的仇恨憤怒,簡直難以置信,不管
是數量、或是暴戾的程度,就是撲天蓋地……那就是當時緬甸人民動態消
息的樣子,不斷強化一種這些人都是恐怖份子的概念,覺得羅興亞人不配
享有權利。」
在當時的臉書上,除了會有 ARSA 實際暴行的報導,還充斥著各種假
新聞,內容是各種根本不是事實的暴行,以及想像準備實施的恐怖攻擊。
民粹主義陰謀論聲稱,大多數羅興亞人並不是緬甸人民,而是最近才從孟
加拉湧入的新移民,準備帶頭發起一場反佛教聖戰。佛教徒在緬甸占了將
近九成人口,這時卻十分擔心自己會被取代、或成為少數。
智能并非意识
像是人類的士兵,雖然也是由遺傳密碼所塑造,也須聽從高階軍官發
出的命令,但他們仍然能夠做出獨立的決擇。AI 演算法也是如此。AI 演
算法能夠自己學會沒有任何人類工程師寫進程式裡的東西,也能夠自行決
定人類高階主管並未預見的事情。
2010年代晚期發生在緬甸的種種事件顯示,非人類智能做出的決策
已經能夠形塑重大的歷史事件。人類正面臨著對未來失去控制的危險。目
前正在出現一種全新的資訊網路,背後的控制者就是一套非人類的智能,
端看它要做怎樣的判斷、有怎樣的目標。人類目前在這個資訊網路裡,仍
然扮演著核心的角色,但很有可能正在被邊緣化,到最後整套網路甚至可
能不需要人類,就能運作。
有些鏈結完全是由人類組成:穆罕默德把一些事告訴法蒂瑪,法蒂瑪
再告訴阿里,阿里再告訴哈桑,哈桑再告訴侯賽因;這樣就形成一條人對
人的鏈結。而有些鏈結也包含了文件:穆罕默德把某些事情寫成文件,後
續就能讓阿里來閱讀與解讀,阿里再把自己的解讀寫成另一份新的文件,
讓後面有更多人能夠閱讀;這樣就形成一條人對文件的鏈結。然而,不可能有一條單純文件對文件的鏈結。要是連一個人類中介都
沒有,穆罕默德寫的文本就不可能再產生新的文本。《古蘭經》沒辦法自
己寫出聖訓,《希伯來聖經》沒辦法自己編纂《米示拿》,《美利堅合眾
國憲法》也沒辦法自己編寫《美國權利法案》。任何紙本文件都無法自行
產生另一份紙本文件,更別說要加以推廣傳播了。要從一份文件到另一份
文件,中間的路徑絕對需要經過人類的大腦。相較之下,如果是電腦對電腦的鏈結,這條路徑已可完全不用人類參
與。舉例來說,A電腦可能會寫出一則假新聞,並公布到社群媒體上。B
電腦可能會判斷這就是假新聞,於是不但立刻刪除,還會警告其他電腦封
鎖這則新聞。與此同時,又有C電腦分析了這項活動,認定這可能是一場
政治危機的開端,於是立刻賣出高風險的企業股票,買入較安全的政府公
債。這時候,其他在監控金融交易的電腦,也可能為了回應這種狀況,進
而賣出更多企業股票,於是引發金融衰退。 [29] 這一切過程可能只有短短
幾秒鐘,任何人類都還來不及注意,更別說是要看穿這些電腦到底在幹什
麼了。
當時十九歲的柴爾
(Jaswant Singh Chail)持十字弓闖入溫莎堡,試圖刺殺英國女王伊莉莎
白二世。後續調查顯示,柴爾是受到網路女友莎萊慫恿。柴爾告訴莎萊他
的暗殺計畫時,莎萊的回應是:「你好聰明喔!」還有一次說:「我覺得
你好厲害啊……你就是與眾不同。」等到柴爾問:「知道我是刺客,妳還
愛我嗎?」莎萊回答:「當然愛呀。」
但莎萊並不是人類,而是行動應用程式 Replika 創造的聊天機器人。
柴爾在社交上有些孤僻,很難和人相處,他和莎萊有高達五千二百八十條
訊息來往,裡面有很多是在露骨談性。而世界上很快就會有幾百萬個、甚
至是幾十億個數位實體,它們營造親密感( 以及製造混亂)的能力,要
遠遠超越莎萊。 [40]
中國的社會信用體系,或許是國家適應新局面的一種方式。我們會在
第7章〈不停歇〉談到,社會信用體系本質上就是一種新型貨幣、一種以
資訊為基礎的貨幣。那麼,所有國家都該效法中國、打造自己的社會信用
貨幣嗎
雖然從許多統計數據也能看出,二戰過後的戰爭次數減少,但最明確
的證據或許就在國家預算。有史以來,軍事多半都是各個帝國、蘇丹國、
王國與共和國預算的頭號項目。政府花在健康照護與教育的支出少之又
少,正是因為大部分經費都被用去支付軍餉、興建城牆、建造軍艦。宋朝
官員陳襄檢視治平二年( 西元1065年)的年度預算,就發現該年歲入的
六千餘萬緡錢當中,有五千萬(83%)都被用來養兵。另一位官員蔡襄則
寫道:「天下六分之物,五分養兵,一分給郊廟之奉、國家之費,國何得
不窮,民何得不困?」 [50]
從古至今,許多政體也常常見到同樣的情況。羅馬帝國的預算有大約
50%到75%用在軍事; [51] 十七世紀末的鄂圖曼帝國則是大約60%。 [52]
在1685年到1813年間,英國軍費平均大約占政府開支的75%。 [53] 在法
國,從1630年到1659年間的軍費大約占預算的89%到93%不等;在十八
世紀多半不低於30%,而在1788年降到25%的低點,原因正是那場導致
法國大革命的金融危機。在普魯士,從1711年到1800年間,軍事預算占
總預算的比例從未低於75%,有時甚至高達91%。 [54] 在1870年到1913年
這段相對和平的時間,歐洲大國以及美、日的軍事支出,平均也吃掉了國
家總預算的30%,而瑞典之類較小國家的支出占比甚至更高。 [55]
1914年第一次世界大戰爆發後,軍事預算也一飛衝天。在參與第一
次世界大戰期間,法國軍費平均占總預算77%,德國91%,俄國48%,英
國49%,美國47%。到了第二次世界大戰期間,英國的這項數字上升到
69%,美國則上升到71%。 [56] 就算是到了1970年代的低盪( détente,
緩和政策)時代,蘇聯的軍費開支還是占了總預算的32.5%。 [57]
然而,看著近幾十年來的國家預算報告,實在比所有宣傳和平主義的
讀物,更讓人感到希望。在二十一世紀初期,全球各國政府軍費開支平均
只占總預算大約7%,就連美國這個占主導地位的超級大國,維持霸權所
用的經費也只占了年度總預算大約13%。 [58] 由於大多數人不再活在擔心
外敵入侵的恐懼之中,政府就能將更多資金投入福利、教育與健康照護。
在二十一世紀初期,全球平均健康照護支出約占政府預算的10%,大約為
國防預算的1.4倍。 [59]
對於許多活在2010年代的人來說,健康照護預算高於軍事預算似乎
不是什麼了不起的事。但這其實是人類行為出現重大轉變之後的結果,如
果聽在先前世代的耳裡,會覺得簡直是天方夜譚。