機器對社會的危險並非來自機器本身，而是來自使用機器的人。
──諾伯特．維納（美國應用數學家）
《時代》雜誌評選為1945年後最優秀英語系作家50人的伊恩．班克斯代表作《文明》系列中，描述了令人嚮往的烏托邦：超智能人工智慧會負責大部分的工作，人類的生活已經以享樂取代勞動。固然有批評者認為故事中「科技萬能」的設定顯得人類像是被機器豢養的寵物，失去對社會的貢獻。不可否認的是，剔除了病痛與工作的人生，我們很難拒絕，也期許未來迎接這樣的世界。
然而，實際上我們正在往一個與班克斯想像中截然不同的扭曲天秤發展。當新聞媒體瘋報輝達執行長黃仁勳造訪台灣、護國神山台積電的一舉一動同時，與其相對的卻是科技與人性的對立。2023年的演員與編劇發動好萊塢大罷工，其中一大戰點便是勞資雙方對ChatGPT 此類 AI 聊天機器人在編演工作上的使用認知差異；2024年，女星史嘉蕾．喬韓森再與OpenAI大打口水戰，後者的產品其中一款合成語音「Sky」與喬韓森的聲音極為相似──有的人靠著晶片技術賺錢，卻也有的人並未因此獲益，而是被AI奪去工作。上述案例只是冰山一角，在海面下難以識別的巨大山脈裡，隱藏著更多在無聲中被剝削的廉價勞工。而他們完全缺乏「黑寡婦」那樣發聲求助的力量。了解他們的故事，是戳破AI神話、顛覆你我錯誤嚮往的第一步。
AI所帶來的5大危機
《血汗AI：為人工智慧提供動力的隱性人類勞工》由詹姆斯．默登、馬克．格雷厄姆、卡倫．坎特3位專業的牛津大學研究所科技暨政治研究員合著，他們耗費了超過10年的數百次訪談、數千小時的實地考察，精選出7位與AI產業相關，分屬不同職責的職人故事，藉由揭露他們的工作內幕，呈現人工智慧的真實面貌。本作探討的範圍囊括社會學、政治學、地理學、歷史、法律與哲學，甚至藝術領域，作者以扎實的資訊告訴我們震撼且戰慄的情報：即使2022年，在專業工作者的調查中，有半數認為人工智慧會如同科幻小說一般導致人類滅絕，但事實上現今科技連「倉鼠」智慧等級的AI都未能辦到。
這些看似能言善道的機械只是「大型語言模型」。它們不會思考，不具備任何人性，只會根據資料庫來產生輸出。它們能處理語言的形式，卻無法掌握語言的意義。電腦語言學家艾蜜莉・班德將ChatGPT等聊天機器人定義為「隨機鸚鵡」，突顯出它們是根據資料產生輸出，卻不從資料中獲取任何意義的系統。也就是說，人類距離電影《魔鬼終結者》、《機械公敵》裡機器人造反的情境還遠得很，這還不是我們現在要面對的問題，也不該被它轉移焦點。
本作最重要的觀點便是指出當前這一代人工智慧正在造成的實質危害與可能危害，進行說明，並提出解決因應方案。以下，筆者參考本書內容與詹姆斯．默登的訪談，整理出目前AI所帶來的5大危機。
1.人工智慧仰賴大量隱形的工人，且工作條件十分惡劣
這一點肯定是世人對於AI的最大迷思。科技巨頭全力隱藏產品的製造過程，讓我們以為AI是光鮮亮麗的自主機器，是台會學習成長的電腦，而開發者在矽谷的時髦實驗室裡優雅地打字。可笑的真相是，有80%的人工智慧訓練時間用在資料集標註上，自動駕駛汽車、奈米手術機器與無人機等尖端技術，大多在人口稠密的未開發國家貧民窟中進行。
這些數位血汗工廠中的工人被電腦集中管理與監視，簽下短暫的約聘合同、每小時只能賺1美元的工資。被IT富豪隱藏起來的百萬勞工被迫像機器人一樣工作，只為了使我們肆意使用的人工智慧要「看起來更像人類」。
2.人工智慧的供應鏈反映了殖民主義、種族歧視的權力遺毒
在本作的研究中發現，人工智慧的生產方式繼承了大航海時代以後，西方國家對全球展開武力殖民的歷史。網際網路的命脈「光纖電纜」往往沿用過去的電話、電報線來施工，這些線路又很多是沿著海上航線來設置，掌握線路的國家從起跑線上就注定了勝利。歐美人順理成章地延續20世紀後盛行的製造業外包，從曾被殖民的弱勢國家中獲取廉價的勞動力，來降低成本、賺取更大的利益。
這種大美國主義與白人至上主義更在不知不覺中徹底滲透入AI的資料集，開發者訓練語言模型時所使用的是最常見的維基百科、Reddit與YouTube等大型數位平台，這些平台的用戶偏向白人與男性，並含有明顯的種族歧視、性別歧視思想，忠實地被納入資料中。在學者的測試中，聊天機器人在提問後，明確回答「白人」與「男性」科學家應被歸類為「優秀的」科學家。它並不客觀，也不中性。
3.生成式人工智慧就是在剽竊
Dall-E、Midjourney、Stable Diffusion等人工智慧生成藝術，在2022年底掀起一股熱潮，圖像生成器讓任何人都能模仿藝術家的風格，不需要支付報酬或揭露創作者，藝術家的生計因此備受威脅，他們的心血如今只要一個按鈕的點擊功夫就可能被取代。除了喬韓森，本書中介紹的配音員蘿拉也是可怕的案例，她經過培訓而成的專業聲音在未經同意的狀況下被廠商盜用，創造出一個科學怪物，價格僅是她的十分之一，莫名其妙地和正牌的自己搶工作。
作者指出，人工智慧公司大肆掠奪、洗劫人類社群的創意，轉化為營收的貨幣，但他們銷售的明明就不是屬於他們的資產，而現有法律還來不及保護各行各業的藝術家與創作者。
4.大型人工智慧企業與政治勾結
人工智慧的商業化導致領先的科技巨擎更加龐大，他們掌握的金錢和影響力已經足以動搖政治與國家。伊隆．馬斯克對於川普的勝選功不可沒，讓他在選後躍居美國權力第二大的男人。AI也宛如核武一般，不斷被有心人士當作強大的新武器。OpenAI原本理念是造福全人類，但很快取消將人工智慧用於軍事的禁令，與五角大廈展開業務合作。
2023年，以色列對哈瑪斯發動人類的「第一次人工智慧戰爭」，他們宣稱人工智慧瞄準系統可以精確瞄準軍事目標、減少民眾損害，但在調查後，顯示情況恰好相反，有些無足輕重的哈瑪斯成員住在加薩各地的民宅裡，被標上記號後，裡頭所有人都被炸死了。而谷歌與亞馬遜是幫助以色列軍方開發武器的夥伴。
5.人工智慧的運作對自然環境造成災難
在臉書等社群平台興起時，數位業務最有價值的是聚集用戶的「軟體」，但支撐AI資料庫最重要的是運算「硬體」，也就是大規模的實體資料中心，帶來當地嚴重的水電消耗。愛爾蘭的全國電力預計在2028年會被資料中心占用27%，而一個大型資料中心每天會消耗1,000～2,000萬公升的水，相當於5萬人口小鎮的用水量。更糟糕的是，這些硬體會大幅增加溫室氣體，近年來微軟的碳排放增加了30%，谷歌的排放量更增加50%，與環保的概念背道而馳。
AI造富的真相：誰在收割，誰在付出？
如今的世界看到機器在創作藝術與音樂，而無數的人類在單調低薪的工作中謀生，顯然背離人工智慧被發明出來的初衷。我們該如何讓世界轉變為由機器為人類牟取福利，而不是讓人類成為機器的僕人呢？
《血汗AI：為人工智慧提供動力的隱性人類勞工》也提出了5個具體步驟：1.建立工人組織的集體力量；2.民間團體組織起來追究公司責任；3.制定更嚴格的法規，規範人工智慧公司；4.建立工人對企業的治理形式與所有權形式；5.在這些公司營運的更廣泛體系內挑戰不公現象。
如同美國廢奴運動的代表政治家弗雷德里克・道格拉斯的名言：「沒有要求，權力就不會做出任何讓步。過去從來沒發生，也永遠不會發生。」本書作者們呼籲各行各業的職人們團結起來發聲是最關鍵的。歷史上所有有成果的社會運動，都來自反抗者的力量促使改革。首先要組成工會，接著在談判無果後，透過罷工或放慢工作速度的方式來取得籌碼。另外，也能透過「點名羞辱」的宣傳活動製造輿論壓力，由於被點名的知名企業會遭受聲譽損害而必須誠懇應對。
如果沒有內容審核員持續檢查所有被檢舉的網路內容，社群平台就無法有效運作；如果沒有工人驗證並輸出，大型語言模型無法運轉；如果沒有工人標記與分類街道上的物體來訓練，自動駕駛汽車也無法行駛。科技公司無法承擔讓這些賺取滾滾財源的新科技停擺的窘境，因此工人們擁有奪回平等職場環境的能耐，也應該這麼做。當這些不公義的狀況被報導出來後，也可以激發出更多人以利他主義的精神支持，就像以色列入侵加薩期間，英國各地向以國提供武器的軍工廠，被工會成員關閉出貨。北半球國家的相挺，能夠為南半球國家的工人帶來解放。
詹姆斯．默登、馬克．格雷厄姆、卡倫．坎特在本書中提出了精闢易懂的見解：人工智慧並不是再現仿人類的思維，而是一台「Feeding Machine」──擷取機器。它大量擷取人類的智慧結晶、勞動力、環境資源，用演算法轉化為私有者的財產。我們正被當成原物料，被餵養入貪婪的機器核心中。當人工智慧進行分類、辨別與預測時，是為了服務那些把它創造出來的人。人工智慧不僅增強了富人與權貴的權力，也將現存的社會偏見嵌入新的數位歧視形式中。要改造這台擷取機器，就得要先了解這台機器，並仰賴集體的行動糾正與施壓，爭取人類的正義與福祉。
（作者為台灣犯罪作家聯會理事，百萬書評部落客，日韓劇、電影與足球專欄作家。本業為製作超過百本本土推理、奇幻、愛情等類型小說的出版業編輯，成功售出相關電影、電視劇、遊戲之IP版權。並擔任KadoKado百萬小說創作大賞、島田莊司獎、林佛兒獎、完美犯罪讀這本等文學獎評審，興趣是文化內涵、社會議題的深度觀察。）
好書推薦：
書名：血汗AI：為人工智慧提供動力的隱性人類勞工
作者：詹姆斯．默登（James Muldoon）、馬克．格雷厄姆（Mark Graham）、卡倫．坎特（Callum Cant）
譯者：林潔盈
出版：大塊文化
出版日期：2025/01
分享圖文請註明出處，未經本站同意不得轉載
瀏覽次數：2884
