從人工智慧到社交媒體的爭議，反映科技演進與社會世變愈來愈快。ChatGPT、Threads、Vision Pro上市，都象徵了生成式人工智慧（GAI）、社群網路（social network）和元宇宙（metaverse）的技術普及，科技研發與產銷成為大國競爭重要的一環。
當科學家與工程師研發出愈來愈強勁的科技，我們卻又對其風險感到憂心。大規模失業、機器取代人力、社交媒體壟斷資訊、新型武器輪流出場，難道人類的未來只有一片灰暗？
由AI、社媒到武器的科技恐懼
暢銷書如 Chris Miller 的《晶片戰爭》指出美中貿易戰逐漸轉向高科技的比拚，地緣政治勢力變化之時，科技儼如兵家必爭之地。而輝達（Nvidia）的AI晶片更成為股票市場和輿論的一時焦點，CEO黃仁勳2023年在台大畢業典禮致辭的一句「奔跑吧，別緩行！為獲取食物而奔跑，或為了不被當作食物而奔跑」，點破了激烈競爭和人人自危的焦慮感。
在轉向元宇宙業務之後，Meta又有新的產品 Threads 面世，許多人拿來與現有的社群媒體比較，討論是否該「移民」到新平台；Twitter在易手後由象徵自由希望的藍色小鳥變成代表未知的 X，許多人也討論到祖克伯與馬斯克間的高下之爭。而來自中國的TikTok被指干預美國社會成為國安風險，仍有可能被迫出售或禁止在美業務。
另一邊廂，俄烏之戰已經成為持久戰，兩國之間潛在的核彈危機、地區內多所核電廠的未來，成為世界關注的潛在風險。以巴之戰引起中東地區性戰爭，更帶來敍利亞政局變天，到處都有新的武器上陣，從無人機、智慧飛彈到機器人，刷新了大家對戰爭的想像。
哈拉瑞《連結》：資訊連結人類，又帶來分裂
以色列歷史學家哈拉瑞（Yuval Noah Harari）在新書《連結》中提出，人類建立資訊網，在歷史上主要是為了維持秩序、於真相之中找出平衡。當人類的網路正被非生物網路取代，平衡也面臨破壞。我認為書中重點有三：
第一，資訊用來連結網路。資訊該是網路的接合劑、是情境所定義的，而與真相、知識、智慧不一定有關，如同音樂令人感同身受，更如DNA，目的不是呈現內容，而是協調身體各個部分，時有錯誤也沒關係，反而能演化與推動創造。智人之所以成功，貴在能利用資訊，將許多人連結起來。因此哈拉瑞分析資訊有4大特點：資訊網比個人重要；秩序與真相是對立的；連結才是資訊的作用；網路失去連結會瓦解。
比如故事是人類社會中最早有用的資訊，因為說故事比說道理容易，而這些故事不一定是真的，亦有可能是建基於不平等的狀況而來。故事、品牌、信仰，也有莫名的內在關係，比如當大家接受並相信了《聖經》中耶穌的故事，便形成了具規模和影響力的網路。有些故事還能創造出第三層現實，比如國家和貨幣。
故事作為資訊科技，協助人類成為最強大的物種，但也要注意其限制。例如相信文件或書籍完全正確就是一種誤解，一來抄寫複製文本難免有失誤，二來解讀文本會有不同看法，在新的社會情境也可能連結出別的意義。獵巫行動也與印刷術流播有關，因為印刷品創造出新的資訊圈，亦同時傳播了有誤或雜有幻想的資訊。
哈拉瑞認為當電腦能自主追求目標、自行做出決定，便會改變人類的資訊網路結構，成為資訊網的新成員。因為以往的文本如《聖經》、《古蘭經》或《美國憲法》無法自行生成內容，必需要人類的大腦來製作和傳播。當AI有能力篩選、解讀、創造內容，可以讓電腦影響語言，就改變了人類的世界觀、公共對話與民主。人類主導文化的地位，將由電腦負責編造當中的一部份，隨著時間過去，甚至能創造出前所未有的事實。
第二，人類可能分裂成不同的陣營。各國政府和企業正在研發人類史上最強大的科技，AI能處理資訊、自主決策又能創造想法，將可能帶來前所未有的挑戰。未來有三種劇本：一是世界末日式的機器人造反，二是AI力量大幅加劇人類的既有矛盾，三是新的AI領主與所有人類對立。雖然不少科學家和科技創業家都曾表示擔憂，甚至認為AI有機會滅絕人類，但是哈拉瑞認為不太可能，反而是後面的情況更可能發生，兩者都是人類之間的對立，甚至賭上所有生物的演化。
哈拉瑞指出，各國正在發展自己的AI模型，可能產生與舊冷戰東西國家之間鐵幕類同的分野。他認為未來可能形成以資訊科技為界線的矽幕（silicon curtain），對立的兩大數位帝國陣營漸行漸遠，現在是人類從趨同走向趨異的歷史關鍵點。同時以資料為原材料的AI產業，只要工程師創造合適的演算法，那麼便掌握世界。那麼便會形成資料殖民主義，令貧富差距拉闊，資訊網路化成資訊繭，而每個繭自成一國、互不相關。
除了步入新帝國時代之外，另一個挑戰可能是升起另一種矽幕。雖然哈拉瑞認為神話故事與官僚制度成就了人類的資訊網路，但當AI有自主能力扮演此類角色，會帶來好處與威脅，演算法甚至能成為造王者。也許日後的分歧不在民主與極權，而是所有人類與演算法領主之爭，人類的一切都被監控，反過來人類對矽幕的另一邊卻一無所知。
第三，民主優勢在糾錯機制。哈拉瑞認為AI更像是外太空來的智慧，甚至極強大的資訊處理能力能取代極權政府，而能否極權統治取決於資訊科技，一旦資訊流通封閉、制度僵化，就可能為數億人造成苦難。獨裁者也有可能成為演算法的傀儡，讓AI成為權力中心。
獨裁最大的缺點是缺乏自我修正機制，相較資訊集中的獨裁網路，民主政體則是分散式的資訊網路，決策盡可能下放給個人，或以集體的名義進行公共對話。相對的，民主政體保護的是人權與公民權，又對中央集權有所限制，並能自我修正。雖然這些機制沒有哪項真的萬無一失，但人類制度本就不是萬無一失。人類機構能夠承認無知與錯誤，在AI面前更形重要。
開放批判來回應科技挑戰
簡言之，新資訊科技面世總促成重大變革。有了書籍便有教會，有了電報便有史達林式機構，背後都代表了人類的資訊網路。古代無法實施大規模民主，今日的大眾媒體、新聞自由使民主可行，這些既擴大了民主的可能性，又助長了上世紀的獨裁。也許更重要的是反思過去十多年來因為網路與社群媒體帶來的種種議題，如何避免過度曝露隱私，又可以善加利用網路工具，邁向新的連結方式。
當然，科技繼續演進可以是解決辦法，亦可能打開另一個潘朶拉的盒子。我們也要小心，AI可能是人類發明出最強大的工具，不一定充滿智慧和真相，也與真理真相不一定有關。假如AI強大到可以誤導或操控獨裁者的話，人類更該靈活應對。比如聯合國通過〈人工智慧治理框架〉、歐盟訂立〈人工智慧法案〉，都是嘗試定立AI的國際監管標準。
面對自主自動的AI，我們該容許犯錯，但也該保持開放態度與批判精神，期望建立自我修正機制，來協調科技與世變的關係。
分享圖文請註明出處，未經本站同意不得轉載
瀏覽次數：885
