[心得] 《連結》讀後心得：哈拉瑞談 AI 資訊革命

《連結》讀後心得：六個重點看懂哈拉瑞新書談 AI 資訊革命 《人類大歷史》作者帶我們從石器時代到AI紀元 圖文好讀 https://readingoutpost.com/nexus/ 有些書可以刷新我們的世界觀。有些書用嶄新的方式闡述一個重要議題。有些書啟發我們 對未來的深刻思考。如果，有一本書可以三者兼具，那就是哈拉瑞的最新著作《連結》。 這本書在說什麼？ 《連結》的作者是哈拉瑞（Yuval Noah Harari），他是全球知名的歷史學者和哲學家， 也是暢銷書《人類大歷史》系列的作者。他擅長以流暢、深刻、充滿洞見的敘事方式，探 討人類社會、科技和歷史的關係，是我最喜歡的作者之一。他的書對我都有長遠的影響。 這次他透過宏觀的視角，從人類史前時代到當今的 AI 時代，探討了資訊網路如何形塑人 類社會的發展。像是印刷革命雖然帶來各種科學發現，但也帶來了獵巫與宗教戰爭。報紙 與廣播雖然有利於民主，但也遭到極權者的濫用。至於工業革命，也帶出了帝國主義與納 粹主義這樣的災難性實驗。現在，AI 的出現更帶來了新的挑戰，特別是在真相、權力和 自由之間的拉鋸戰。 這本書最讓我震撼的是，如果我們要看懂「未來」的 AI 發展，我們就必須先從「過去」 的人類資訊歷史開始理解起。如果你對科技、歷史和社會變革感興趣，或是你特別關心 AI 趨勢，這就是一本幫你「鑑往知來」的好書。 接下來我就分享為了理解這本書，我整理出來的六個重點。 一、從石器時代到資訊革命 哈拉瑞指出，整個人類歷史就是一個「資訊網路」（Information Networks）的歷史。 想像一下很久很久以前，在石器時代，人們沒有電腦、手機，甚至連紙和筆都沒有。他們 只能靠嘴巴講話，把各種知識用「說故事」的方式傳遞傳遞給別人。當時，他們用這種「 口耳相傳」的方法，建立了一個小型的「資訊網路」，範圍大概就一個部落幾十個人，了 不起上百個人。 後來，人類發明了寫字的方法。他們開始在石頭、樹皮上刻字，記錄事情，可以把更多的 資訊保存下來。這時候，部落的領導者們就發現了，他們可以用這些記錄來管理更大的部 落，也就是一整個國家，這種人就變成了國王或皇帝，組成了國家政府，建立起一個更強 大的「資訊網路」。 如同作者指出：「資訊是讓人類社會運作的黏著劑，正是透過虛構故事和幻想，人類建立 了合作的網路，並且累積了力量。」書中以基督教的《聖經》和猶太教的《希伯來聖經》 的起源故事，說明了資訊能藉由故事的傳遞創造出一種「全新的現實」，影響之後世世代 代的人類文明。 接著，隨著國家變得更大、規則更多、組織更複雜，就演變出了大家常抱怨的官僚系統。 但是作者提醒我們，官僚系統是一種必要之惡，因為它創造了「秩序」。人們相信了由說 故事而組成的民族與國家，人們也需要官僚系統來讓一切的運作保有秩序。 時間快轉到現在，我們身處的數位網路時代，只要透過電腦和手機，就能立刻上網和全世 界的人分享資訊，讓我們和別人建立起更大的合作網路。相反地，數位網路也讓虛假資訊 、極端思想和歧視言論以驚人的速度傳播，對社會帶來負面的影響，讓人們難以分辨真相 。 隨著資訊更流通、更龐大，這個世界對於我們「個人」而言也變得前所未有的複雜。在未 來的 AI 時代，這個現象只會變得更嚴重。數位網路和 AI 就像一把雙面劍，用得好可以 造福社會，用得不好也會帶來巨大的麻煩。 二、資訊的雙面刃特性 資訊是一種力量，而這種力量可以被不同的人以不同的方式使用。當資訊掌握在善良、有 同理心的人手中，它就能帶來正向的改變。 比方說，醫生會利用醫學資訊來研究新的療法，幫助更多人恢復健康；科學家利用數據來 找出解決環境問題的方法；老師則透過網路分享知識，讓更多學生可以獲得學習資源。這 時候，資訊就像是一股推動人類進步的力量，創造出一個讓人類生活變得更好的現實。 但是，如果資訊落入極權者手中，情況就大不相同了。這些人可能會利用資訊來操控輿論 ，監控每個人的行為，甚至剝奪個人的自由。 例如作者就舉了納粹和史達林的案例，指出一個極權政府會如何使用各種資訊，來追蹤人 民的生活，限制他們接觸外界資訊的自由，營造出一個充滿謊言、恐懼、不信任的社會環 境。這時候，資訊就成為了極權者用來控制和壓迫人民的武器，創造出一個令人窒息和受 苦的現實。 哈拉瑞認為，像是古羅馬和秦帝國，早在兩千多年前就已經運用書寫系統來建立官僚體系 ，透過資訊掌控人民的生活，維持他們的統治。 因此，作者指出：「資訊的本質既不單純是好事也非壞事，它是一種能夠創造新的現實的 力量。」透過資訊，我們建立了共同的信仰和價值觀，形成了社會合作的網路。但同時， 資訊技術的革命也會打破原有的平衡，改變社會運作的方式，可能往好的、也可能往壞的 方向前進。 三、資訊並不是愈多愈好 有些人可能會認為，只要我們掌握足夠多的資訊，就能找到世界上的真理和答案。所以資 訊應該愈多愈好、愈透明愈好，只要資訊夠多、真相就會愈明朗，總有一天所有的事情都 能迎刃而解。這一派的人認為，得只要有足夠的科學研究，就能解決所有問題，從治療疾 病到消除社會偏見。 然而，作者提醒我們，這是一種「天真的資訊觀」。這種觀念忽略了資訊的真正作用。資 訊的目的並不是單純去呈現「真相」，而是將不同的人事物「連結」在一起，創造出全新 的現實。 就像是占星術並不是科學，卻能把戀人們放進「星座的組織」，讓他們覺得自己與對方有 某種神秘的連結。再看看政治宣傳，它透過資訊，讓選民覺得自己和某個政黨有共同的價 值觀，凝聚成一個「政治的組織」；軍隊裡面的軍歌，則把士兵們團結在一起，形成一個 「軍事的組織」。 這些資訊不一定有呈現出什麼真相，而是為了把人們連結和組織起來，讓彼此產生一種共 鳴。資訊的價值並不完全在於它是否是真相，而在於它如何組織和影響我們的行為。 如同作者在書中所說：「雖然天真的資訊觀以為只要有了強大的資訊科技，就必然能對世 界有更真實的理解，但事情實在沒那麼簡單。如果我們不付出額外努力，讓天平往有利於 真理真相的方向傾斜，隨著資訊增加得愈多愈快，就可能讓相對稀少而昂貴的真實資訊， 被淹沒在相對常見而廉價的資訊之中。」 這就是為什麼我們需要對資訊保持謹慎，不能簡單地認為「資訊愈多愈好」。 四、AI會造成非人類智慧的挑戰 書中也探討到，現在 AI 人工智慧的蓬勃發展是一種全新的「資訊革命」。 人類歷史裡的石板刻字、印刷術、廣播技術，充其量都只是一種「傳遞資訊的工具」，創 造出資訊的還是人類。可是自從「生成式AI」出現之後，一切都將變得不一樣。這些 AI 能夠撰寫文章、創造音樂、編寫程式碼，它們自己就是「資訊的創作者」。而且它們正以 我們難以想像的速度，「加入」人類的資訊網路當中，甚至「取代」掉原本人類創作資訊 的角色。 因此，作者就指出，AI 最大的威脅不在於人類的智慧會導致自我毀滅，而在於 AI 這種 「非人類智慧」可能會創造出我們無法提前預見的問題。 AI 是一種完全不同於人類思維方式的智能，它不受人類情感、道德和價值觀的限制，這 讓它在處理資訊和解決問題的時候表現出超高的效率。然而，也正是這種「非人類」的特 性，使得 AI 可能作出一些人類無法理解，甚至無法預測的決定，並且可能等我們發現時 ，已經為時太晚。 這不是未來才會發生的事情，而是現在進行式。現在的 AI 已經開始掌控許多人類社會的 關鍵決策，書中引用大量案例說明事情的嚴重性，從銀行貸款的核准到公司雇用員工，甚 至是司法系統判決是否將某人送進監牢。 像是被用來判斷誰能夠得到貸款的 AI，會根據你過往的數據做出決定，但它背後的演算 法和訓練資料卻可能存在著偏見。AI 可能無意中歧視某個族群或性別，讓一些人無法獲 得貸款的機會。更糟的是，因為 AI 的決策過程非常複雜，人類很難理解它為什麼做出這 樣的決定。 書中也舉了許多科技案例，像是 Facebook 和 YouTube 的推薦演算法。人類設定了「提 高使用者的參與度」的目標，結果演算法為了達到這個目標，發現那些會讓人感到憤慨、 驚世駭俗、謊言連篇的內容參與度最高，所以就大力推薦這些有害的內容。隨後引發的社 會悲劇和對人類的有害影響，在書中有更多的論述。 作者警告：「AI 有潛力成為新的網路，形成一個可能不利於人類的『虛構世界』。」真 正的世界末日可能不像是科幻電影演的那樣，什麼機器人攻擊人類之類的。更有可能的是 ，高度複雜的 AI 系統操縱著我們的生活，控制著我們的選擇，影響著我們的價值觀。它 不是單純取代人類的智慧，而是創造出一個全新的現實，讓我們陷入其中，無法自拔。 正因為這樣，我們不能抱持天真的資訊觀，認為只要有足夠的資訊，AI 就會自動做出正 確的選擇。如果我們對 AI 的運作原理和它的限制視而不見，就可能讓它變成一種人類「 無法控制的力量」，給人類社會帶來難以預測的危險。 五、資訊在民主制度的好處與隱憂 書中對於資訊和政府制度的討論也非常發人深省。 以我們最熟悉的民主制度來說，很多人常見的誤解，就是以為「民主等於選舉」。這是一 個錯的觀念。很多極權國家也有選舉，但那只是選一個儀式感而已。 民主到底是什麼？作者對民主制度的定義是「擁有強大自我修正機制的分散式資訊網路」 。 也就是說，在一個民主社會中，資訊能夠自由流動，人人都有發聲的機會，不同觀點可以 相互討論和挑戰，並且糾正對方的錯誤。這種自我修正的機制，能夠讓社會在不斷的實驗 和錯誤當中學習，找到最符合公共利益的方向。正因為資訊是分散的，不會被少數人所壟 斷，所以民主社會才能夠反映多元的聲音，避免極權帶來的壓制。 例如在民主國家裡，媒體、司法、社群網路、獨立組織都扮演著監督政府的角色。當政府 出現問題時時候，媒體和人民會發起討論和批評，迫使政府進行自我修正。像是在新聞報 導揭露貪污腐敗的事件後，社會輿論會推動相關部門進行調查，讓真相可以公諸於世，確 保政府透明的運作。 但是，「大量的資訊」也可能成為民主的隱憂。 隨著網路和社群媒體的興起，資訊的傳播速度和量級都達到前所未有的程度。問題在於， 當資訊太多而缺乏過濾和審查的時候，真相往往會被淹沒在大量的錯誤資訊和噪音中。如 果沒有足夠的自我修正機制，這些資訊反而可能導致社會混亂，讓人們迷失方向。 例如在社群媒體上，假新聞和陰謀論經常以驚人的速度傳播。這些錯誤資訊透過煽動情緒 來吸引注意力，往往會比經過調查核實的真實資訊更受關注。當人們被這些虛假資訊誤導 時，社會的自我修正機制便被削弱，民主的討論也失去了基礎，不再彼此信任，甚至可能 被利用來操縱民意。 如果一個民主社會不能保持「自我修正」的能力，那麼大量的資訊將成為民主最大的威脅 。如同作者的提醒：「如果要說民主的死亡，一種情況是人民沒有了言論自由，那麼另一 種情況就是人民已經失去了傾聽彼此的意願或能力。」我們必須盡力避免情況演變成這樣 。 六、資訊對極權主義的影響 作者指出，資訊對極權主義產生了巨大的影響，甚至可以說是極權政權的「武器」。極權 主義者利用資訊來操控人民的思想，控制社會輿論，並且強化他們的權力。他們監控人民 的行為，還透過篩選、操縱資訊，建立一個符合自身利益的「虛構現實」，讓人民難以接 觸到真實的世界。 書中舉了希特勒和史達林利用資訊來鞏固政權的經典例子。他們掌握了廣播、報紙、電影 等各種資訊媒介，將宣傳內容灌輸給大眾。他們製造各種謊言，煽動群眾的仇恨和排外情 緒，宣揚自己的意識形態。這些資訊不但扭曲事實，還誘導人民接受偏激的思想，甚至支 持政府的暴行。 在極權者的手中，資訊網路帶來的不是智慧，而是秩序；這套資訊網路沒有找出關於人類 的普遍真理真相，反而是創造出一種新型的人類。例如前蘇聯的蘇維埃人就被諷刺為： 「 一群奴性、悲觀、不信任他人的人類，不論多荒謬的指令都會被動遵守，也對自己造 成的結果漠不關心。」 書中的論述讓我最驚訝的一點，並不是極權者掌握 AI 之後就變得所向無敵。反而是這種 做法也有一個潛在的危險：AI 演算法可能反過來控制了極權者。 為什麼會這樣呢？作者提醒我們，擋極權者使用 AI 來監控社會時，AI 是根據大量數據 和演算法進行決策的，甚至可以比極權者本身更有效率地執行任務。這看似是極權者手中 最強大的武器，但它背後隱藏的風險在於，AI 會逐漸成為一個「自我運行」的機器。 極權者可能最初設定了一個目標，例如維護國家安全或打擊異議人士，但 AI 可能會按照 「非人類的方式」來達到這個目標，做出一些極權者都無法控制或預見的決定。這就導致 極權者被自己創造的工具反過來控制，無法掌握全局。 例如 AI 演算法給極權者一個建議，要他殺掉身邊看似最忠誠的國防部長，因為這個部長 有造反的可能。請問他要殺、還是不要殺？如果他決定不殺，等於是還不夠相信 AI，結 果可能真的被部長造反。如果他決定要殺，那就等於被 AI 操縱了。同樣的道理，可以延 伸到更多層面。 最後，極權者可能失去對社會監控的主導權，反而被 AI 演算法的運作給影響。作者警示 道：「人類如果要對抗 AI，裡面最弱的一環大概就是獨裁者。AI 如果要奪取權力，最簡 單的方法並不是逃出製造科學怪人的實驗室，而是要趕快去討好那幾位偏執的獨裁者。」 後記：人類抉擇的關鍵時刻 《連結》這本書提醒我們，現在正是人類面臨抉擇的關鍵時刻。未來並不是一條固定的道 路，我們仍然有機會透過明智的選擇來避免最糟糕的結果。當我們看懂資訊網路在人類歷 史中扮演的角色，才能更清楚地知道未來應該何去何從。 如同作者所說：「資訊網路既可以賦予我們力量，也可能引領我們走向自我毀滅。」我們 不能過於樂觀，放任不管讓資訊網路自行發展；我們也不能過於悲觀，因為資訊網路的進 步的確會促進人類社會的進步。關鍵在於，要對資訊保持清醒的反思，運用它來創造對人 類社會有益的未來。 總結來說，這本書提倡的核心思想是：「想要打造更有智慧的網路，需要的只是我們放下 天真與民粹的資訊觀，摒棄想要絕對正確和不犯錯的幻想，並且認真投入一項困難但平凡 無奇的工作：為各種機構制度打造強大的自我修正機制。」接受錯誤、修正錯誤，遠比永 遠堅持正確來得好。 就如同民主社會的修正制度一樣，也要替 AI 建立一套可以「自我修正的機制」。也就是 說，我們需要不斷反思和監督 AI 系統，設立監管機制，來確保它們的運作符合人類的利 益，而不是反過來操控我們。我們必須確保強大的力量能受到制約，能做出自我修正。 我非常推薦你找這本書來讀，你會發現「原來一本好書可以帶來這麼多的啟發」。就像我 當初讀完作者的《人類大歷史》系列之後，受到巨大的震撼，用全新的視角看待這個世界 ，然後就徹底愛上了閱讀。「讀喜歡的書，直到愛上閱讀」，這本書會讓你愛上閱讀的速 度更快一點。 -- 書評部落格「閱讀前哨站」 https://readingoutpost.com/｜一個愛書人的閱讀筆記 Podcast「下一本讀什麼?」 https://readingoutpost.com/podcast/｜我的說書頻道 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 1.164.99.7 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/book/M.1729392231.A.BAA.html