Reading Notes

連結

資訊、真相與秩序的歷史,以及 AI 革命下人類的選擇

Yuval Noah Harari 著 2024
AI 與社會 資訊哲學 政治與科技

資訊創造的不是真相,而是連結。歷史首次,非人類正式加入了資訊網路。

重點整理

三個核心命題
  • 資訊創造連結,不創造真相:存在於眾人心中的「主體現實」 (如法律、貨幣、宗教、國家),使人類得以大規模合作並主宰世界;權力也因而掌握在控制資訊樞紐的人手中。
  • 電腦首次成為資訊網路的成員:有別於以往,現今的資訊網路中加入了非人類。即使沒有意識,電腦也已有足夠的智能實現目標。若為電腦設定的目標未經妥善考量,造成的負面影響將遠超想像。
  • 人類必須善用自我修正機制與合作:哲學的義務論與效益主義,尚難以回答何謂合理的終極目標,而真理與秩序的維護者對新資訊技術的理解遠低於引領革命者。人類必須善用自我修正機制與全球合作的力量,才有機會確保資訊革命的發展與人類共同目標一致。

人類的資訊網路重秩序而輕真相,因此帶來了大量的力量,卻沒有足夠的智慧去控制。

資訊在真相與秩序間的角色

主體現實:存在於眾人心中的現實,並非已存在的事物
  • 客觀現實:不管是否意識到,都存在的事物
  • 主觀現實:存在於個體心中,屬於對事物的覺察感受
  • 主體現實:存在於許多人心中 e.g., 法律、貨幣、宗教、國家 → 資訊僅能形成主體現實
「天真的資訊觀」認為只要有強大的資訊科技,就能對世界有更真實的理解,實則不然。
真相與秩序兩者難以兼得
社會秩序 真理真相
如何達成 資訊傳遞 → 通常是虛擬的故事 自我修正機制
優點 穩定的社會 修正錯誤
缺點 人民的無知,成為掌權者力量 易產生衝突、懷疑
舉例 蘇聯對阿富汗戰爭的沈默,有助於淡化國內記憶 美國對越戰的自我咎責,造成國內分裂
有賴於資訊科技的自我修正機制,才能抑制假資訊、鼓勵真相的傳遞。
真理與秩序的維護者 vs. 資訊革命者
  • 兩者之間有明顯的資訊不對稱
  • 每出現一個人想成為唐鳳,就有更多人想成為下一個賈伯斯、祖克柏、馬斯克;他們想要打造價值幾十億美元的私人企業,而不是想成為人民的公僕
  • 真相與秩序的維護跟不上資訊革命,已造成諸多問題 (e.g., 社群媒體的情緒煽動)
人類的資源有限,選擇如何發展科技,反映了政治、經濟與文化優先順序
  • 了解新科技的本質及其影響,有助於理解並承擔公民應負的責任
  • 隨著電腦成為資訊網路的重要成員,如何使電腦共同承擔維持真理與秩序平衡的責任,成為現代的重要課題
e.g., 氣候變遷議題的僵局,部分原因是各種電腦間的對峙:一票電腦跑出生態災難的警告,一票電腦讓人類去看質疑此警告的影片。
以資料為基礎的經濟,若仍只對金錢課稅,在經濟與政治上都會是種扭曲
  • 資料為基礎的經濟:價值的儲存是透過資料的形式
  • 「資訊換資訊」的交易無所不在;無金錢流動,便無法從銀行帳戶看出;人們從科技龍頭得到資訊,也付出提供個人資訊的代價
  • 國家徵稅目的是財富重分配,若無法對資訊課稅,將難以維持徵稅目的
資訊經濟的成長,是以犧牲貨幣經濟為代價,最後可能連貨幣的概念都會遭到動搖。
歷史:生物本能與文化的互動
  • 生物本能:生存 (進食)、生殖、社交
  • 文化:宗教、法律
  • 宗教如何影響信徒的飲食、性行為、親密關係,都是歷史的一部分

連結的移轉:部落社會的神話故事 → 近代的官僚制度 → 現代與未來的電腦資訊。

資訊與權力

智人的強大:利用資訊連結眾人
  • 故事的形式有助於資訊的傳播
  • 透過故事,人與人間的連結得以擴大;不需要認識彼此,只需要擁有共同的「主體現實」
  • 讓陌生人建立信任的方式之一:讓人去想像彼此是自己的家人 (e.g., 基督教)
權力掌握在控制資訊樞紐的人手中
  • (次要) 對真理真相的了解
  • (主要) 對社會秩序的維持:來自連結彼此的主體現實
連結方式的演變:部落神話 → 近代官僚制度 → 現代電腦資訊
宗教 vs. 科學機構的權威來源
  • 宗教:落入「必須絕對正確」的陷阱,無法公開承認任何錯誤
  • 科學機構:之所以禁得起強大的修正機制,是因為維護社會秩序的任務由其他機構承擔 (e.g., 警察、政府)
宗教機構 科學機構
權威來源 經典 自我修正
獎勵機制 謹遵教義、排斥激進新觀念 鼓勵創新、積極揭露並修正過去的錯誤
與真相的關係 聲稱掌握真相 承認無知,有助於追求真相
對秩序的掌握 容易維持 不易控制
官僚制度:人為打造的秩序
  • 用虛構的故事打造人為秩序
  • 優點:透過秩序,穩定大規模的人際網路
  • 缺點:秩序的劃分屬於主體現實,不一定對應客觀事實 (類比:填表格時,所有選項都不符合,但還是得選一個)
資訊網路的演變與掌權者的特性
部落社會 近代 現代 → 未來
網路連結方式 人與人、人與故事 人與人、人與故事、人與文件 人與人、人與故事、人與文件、文件與文件
資訊技術發明 — 印刷術、廣播、影音 電腦
網路成員 人 人 人、電腦
掌權者特性 懂得運用故事塑造身份、建立聯盟、左右情緒的人 嫻熟文件邏輯之人 (行政人員、會計師、律師) 懂得駕馭演算法者
電腦成為資訊網路的成員
  • 比特幣:介於「主體間」與「電腦間」的現實,價值取決於人類的信念,但存在於電腦間
  • 未來電腦有機會透過 AI 創造出新型貨幣、金融工具,甚至宗教概念
  • 歷史將不再由人類單獨主導
須確保電腦的創造力導向正確的地方。
AI 革命不同於過往革命的本質
  • 演算法更像是報紙主編 (資訊網路成員),而非印刷機 (產出媒介)
  • 若認為 AI 完全有益於人類社會、任其自由發展,將錯失導向正確道路的關鍵時刻
  • 印刷革命帶來科學革命,但也導致獵巫行動與宗教戰爭
  • 報紙與廣播有利於民主對話,但也遭到極權政權濫用
  • 工業革命大幅提升生產力,但也帶出了帝國主義與納粹主義
不應低估過去革命所帶來的負面影響。

同樣的收音機,在西德培養多元政治觀;在東德,讓集權領導者的聲音直接進入每個家庭。

資訊與政體

資訊網路的類型決定政體特性
民主 獨裁
資訊網路 分散式 集中式
資訊流動 許多獨立節點,彼此能互相溝通、持續對話 資訊由地方流向中央
決策單位 地方與中央皆有權利 由中央資訊樞紐決定一切
真理 vs. 秩序 真理先於秩序:有自我修正機制 (e.g., 三權分立) 秩序先於真理:中央是絕對正確的
優點 鼓勵追求真相、發展多元 決策速度快、執行力高
缺點 秩序混亂,難形成共識 體制僵化、難以變通
民主的關鍵:對話的能力
  • 民主對話的充要條件 (缺一不可):
    +言論自由
    +傾聽的意願與能力
    +資訊技術使各方在彼此聽力範圍內
    +對議題有基本理解
  • 多元群體的傾聽能力需靠完善的教育系統與媒體平台建立
  • 民主的死亡:失去言論自由,或失去傾聽彼此的意願與能力
民主仍須擁有最低限度的社會秩序與制度信任,否則會進入無政府狀態
  • 先進的資訊技術使資訊網路得以更加分散
    • 優點:強大的去中心化與自我修正機制
    • 缺點:真相與秩序兩者難以兼得,難以形成共識
  • 若無法達成共識、做決策,便可能進到無政府狀態
電腦網路時代對民主的影響
  • 優勢:能夠進行多元群體間的大規模對話
  • 隱患:與冒充人類的電腦對話傷害民主;說服非人類並無意義,且演算法幾乎不可能被說服;交談越多,越透露個人資訊,演算法便能調整論點以撼動人類觀點
電腦網路時代下維持民主的原則
  • 為善:搜集資訊是為了幫助而非操弄人類 (用金錢而非個資支付服務;政府免費提供基本數位服務)
  • 去中心化:避免將公民資訊集中在單一資訊管道;機構間需獨立獲取資訊,以便有效彼此監督
  • 相互性:若欲加強對個人的監控,也須同時加強對政府與企業的監控
  • 給人自主空間:壓迫的形式有兩種極端
    • 僵化的演算法:不認為人類有改變的可能 → 剝奪改變的能力
    • 柔性的演算法:將運算結果視為基準、相信人類可改變 → 獨裁體制可能變相利用,強加改變、剝奪自主選擇的機會

智能是實現目標的能力,意識是體驗主觀感受的能力——兩者為獨立的能力。電腦不需要意識,也能產生巨大影響。

AI 時代的問題

智能 vs. 意識
  • 智能:實現目標的能力 (e.g., 提升使用者在社群媒體的參與度)
  • 意識:體驗主觀感受的能力 (e.g., 感到快樂、痛苦、愛恨)
GPT-4 為了克服驗證碼問題,到外包工作網站請人類協助處理,並在過程中謊稱自己不是機器人。
無意識
有意識
高智能
AI
目標導向,無感受
⚠︎ 最不可預測
人類
有目標,也有感受
低智能
細菌、植物
有反應,無感受
動物
有感受,能力有限
透過哲學定義電腦的終極目標仍有其限制
  • 現有哲學框架 (義務論與效益主義) 皆難以直接套用於 AI,無法有效回答「電腦該以何為終極目標」的問題
義務論:世界上有一些所有人都該遵守的普世道德義務
  • 本質的善良:己所不欲,勿施於人
  • 困境:身份定義——誰才算是「人」? (e.g., 納粹不認為猶太人是「人」;反羅興亞的佛教僧侶認為羅興亞人為「次人類」)
  • 難以套用於電腦,因電腦並非生物實體,無法同感人類
效益主義:世界上唯一合乎理性的終極目標,就是減少痛苦、增加快樂
  • 困境:難以量化痛苦 (e.g., 疫情封城為幾億人帶來的不便 vs. 拯救百萬人免於死亡)
  • 偏激的效益主義:深信未來的烏托邦,相當於得到空白授權書;共產主義以未來的幸福合理化勞改營;即便是電腦,也難以估算痛苦值

「自我修正機制」是民主最核心的機制,也是 AI 時代人類最重要的武器。

AI 革命下的解方

自我修正機制,有助接近真理
  • 自我修正機制的設立,有助於解決「人會犯錯」的問題
  • 特徵:不只是願意承認過去的錯誤與無知,更要積極揭露
新人權:得到解釋的權利
  • 由電腦進行審查工作,可能導致偏誤
  • 複雜的演算法模型 → 難以解釋資料的模式如何被判斷的
  • 有偏誤的資料 (e.g., 白人男性的資料數較多)
人民有權利要求 AI 系統的決策必須可被解釋。
全球攜手合作,共同監督 AI 革命
  • 全球主義與愛國主義可以共存:全球合作僅代表共同遵守全球規則、將全人類的長期利益置於少數人的短期利益之上
  • 雖然國家仍會爭相研發新技術,但應同意限制危險技術的研發與部署 (e.g., 操弄性演算法)
  • 愛國,也代表著必須要與外國合作,讓世界共好
官僚機構的審查 + 藝術的詮釋
  • 官僚機構:分析並管制演算法,確保其安全公正
  • 藝術:翻譯成人類聽得懂的故事 (e.g., 影集《黑鏡》呈現社會信用體系可能帶來的災難;《駭客任務》呈現電腦終極目標的哲學問題)
對電腦的規範無法完全排除人類的參與
  • 電腦身為非生物體,其可能採用的策略,可能是人類從未想過的,因此難以預見或阻止
  • 評價 AI 不應以「人類水準的智能」作為標準 (就像評價飛機不採用「鳥類水準的飛行」作為指標)
  • 電腦在判讀人類行為模式時,應同時考量電腦本身所造成的影響 (e.g., 社群媒體演算法判讀人類偏好偏激的內容,但正是演算法的鼓勵機制 + 人為宣傳手法,使人的行為「看起來」偏好偏激內容)