《連線》科技雜誌共同創辦人、趨勢專家凱文．凱利（Kevin Kelly）日前訪台，公開分享對人工智慧發展的三大觀點：
第一，凱利認為智慧產品的能源使用與效率是個問題。現在人工智慧的運算約佔全球耗能1％，因此現有的矽晶片計算和電腦架構在未來都必須改變，否則應付不了這樣耗能的成長。
第二，凱利指出人工智慧的發展需要監管，但要避免過早的不成熟監管。由於我們目前仍然不知道人工智慧的好壞，我們需要慢慢地對它進行監管，不宜過早限制。
第三，凱利也認為新創公司如OpenAI有可能成為人工智慧的主宰者，因為他們利用創新公司的優勢，不顧財務盈虧，可以先行啟動計劃成為贏家，會將目前在人工智慧領域領先的科技巨鯨比下去。
而在《科技需要什麼》一書中，凱利將技術體（technium）定義為一種自主且不受人類控制的技術進化系統，像生命體一般，有其必然的發展趨勢，由簡單不斷朝著更複雜、更多樣化和更高效的方向發展，從智人早期使用的敲打石器，發展至現代的人工智慧、基因工程。
簡而言之，對於人工智慧的四個觀點，便是「必然但耗能」、「不過早監管」、「創新企業領頭」、「自主而不受人控制」。
人工智慧背後，全賴自然資源支持
關於第一點──耗能，在一年多以來已引起不少討論。但從更廣闊的氣候正義角度來看，人工智慧有比晶片和電腦耗電更大的問題，就是整個科技行業對地球資源的大量開採和搾取。
《人工智慧最後的秘密》作者克勞馥（Kate Crawford）是微軟的資深首席研究員，也是大學教授和研究人工智慧近20年的專家。她的書從過度搾取地球資源、取盡勞動和時間、有違倫理的數據、分類問題、表情錯判、國家監控6個角度分析，揭示人工智慧背後權力與資本的運作。
人工智慧系統仰賴環球的資源開採、物流、能源和供應鏈來支撐，這一切經常被大眾所忽略。克勞馥亦指出，人工智慧是巨大的機器（megamachine），從工業生產、勞動、數據中心、海底電纜、物流到運輸，都有其環境代價。人工智慧運算機器所需要的稀有金屬，如鋰電池的鋰，以及用作光學、電子和磁器部件的17種稀土元素──鑭、鈰、鐠、釹、鉕、釤、銪、釓、鋱、鏑、鈥、鉺、銩、鐿、鑥、釔和鈧，都可能在開採行為中破壞附近環境、帶來礦工傷亡，而利益全由遠方的少數人所把持、獲取暴利，甚至會為第三世界間接帶來戰爭和饑荒。可以說，除了電力之外，玻利維亞鹽湖和剛果礦井中的礦物也是支撐人工智慧的重要基柱。克勞馥認為其碳足跡已可媲航空業，而且在未來仍會一路增長。因此，比起凱利對人工智慧過度耗電的憂慮，整個科技行業對地球資源的開採和搾取，也許問題更廣更大。
人工智慧不夠智慧，也靠人力勞動所造就
同時，克勞馥著重勞動在人工智慧中的重要性，指出：是大量手動標記、修正的「微任務」支持，才讓人工智慧系統看起來好像很聰明。這些勞動也關於如何最大效率地利用時間，用科技來控制勞工如何做、何時做以及重複地做，把工作場所變成規訓的圓形監獄、泰勒主義的流水線。
克勞馥以亞馬遜作為案例，雖然勞動者被稱為「夥伴」（associates），然而「效率、監控和自動化的邏輯，當今都一致轉向以運算的方式來管理勞工」。倉庫中搬運貨箱到運輸帶的速度不容討論，不少勞工因此產生工傷。除了物流工作之外，亞馬遜土耳機器人（Amazon Mechanical Turk）的任務平台背後，也使用領著低於最低工資、具有科技專長的外包人員來負責機器做不到的事。這種「假自動化」靠著層層剝削而來，使工作者與工作成果分離，從空間和時間分離，並更容易受剝削。
人工智慧背後的勞工密集工作，由科技監控逼迫，使用者往往只看到最終流暢的成果，卻忽略背後其實有著大量的人力。而這只是人工智慧涉及的第一層人力問題。另一層與「人」相關的議題，則是在設計人工智慧時，菁英如何去定義、劃分，並將這些工具應用在政治和商業之中。
不中立的人工智慧，正在重新改造世界
克勞馥以「地圖集」（Atlas）作為人工智慧的比喻，因為人工智慧以不同方式來觀察和連結世界，也彰顯了產業的野心。就像地圖一樣，人工智慧用特定的信念與觀點來建構，以一種特定的方式來衡量和定義世界，而且是由少數人所決定，來監視人類的行為、交流和勞動。人工智慧也像地圖一樣，改變人類觀看事物、重新勾勒 （remapping）、介入（intervening）和理解世界的方式。而這整個體系僅由世界上主要的數間科技巨鯨主宰，由他們來決定什麼是知識、溝通和權力。
克勞馥又論討到資料與分類的問題，忽略了資料的隱私性和分類的政治性。前者的問題在於大量訓練人工智慧模式的圖片和文字中，有不少未經授權、不合倫理的資料集，人們理所當然地以為一切都是數據，可以為了科技進步的要求而使用。比如來自囚犯的資料、來自社群互動的公開資料、來自線上圖庫的大量照片等等。此外還有不少是隱瞞用戶而發掘的資料。
更重大的問題是，不少大學的倫理委員會並不禁止如此的人工智慧技術研發，只當成應用科技的研究，忽略了潛在對人的影響。如何理解、擷取、分類和命名資料，基本上是一種創造和控制世界的行為。一方面來說，以生物和文化作為事物的本質和排序可能是危險的，而不合理的分類常會成為壓迫的來源；另一方面，機器學習系統按照其設定來建構世界，定義什麼是常態、異常、差異和他者，這也限制了我們如何理解世界。
克勞馥認為，分類的問題在於會陷入一個「循環邏輯系統」（systems of circular logic）。由於人工智慧仰賴數據，經由提取、測量、標記和排序的數據，本來帶有某種世界觀、認知偏誤或技術性偏誤，可能放大現時的不公平，進而強化了歧視。比如圖片辨識技術中對種族和國族身分的分類，是按照外表來量化分類，卻忽略了背後的社會、文化、政治和歷史關係。
順著分析分類的問題，克勞馥否定了艾克曼（Paul Ekman）人類表情普遍共通的假設。後來的文獻指出，從臉部表情推測內心情緒狀態其實難以定論，而且不同文化環境也會影響情緒表達，因此人工智慧能自動辨識情感的假設其實是有問題的。但是由於軍事經費支持開發，企業也依此來建立數位視覺資料和自動化分析，使艾克曼假設成為基本情緒分類的標準。
此外，克勞馥指出人工智慧經已快速應用在僱用、教育和警政系統，其中亦包括史諾登（Edward Snowden）揭發的稜鏡醜聞。她分析美國的人工智慧產業依賴國防和聯邦研究機構資助，又需要使用者的資料和無償勞動，而利益卻集中在少數私有企業中。因此她反駁前文提及的凱利，認為人工智慧不只是由私人企業的創新推動，它不但利用公共資助的研發成果為私人企業獲利，同時也重新定義世界，亦為政治集中權力。
我們大可不必服從，而是連結抵抗
雖然凱利指出人工智慧有其自主性和必然性，但是人工智慧其實是政治、經濟和社會力量互為影響的結果。我們不要盲信人工智慧的商機與競爭，而忘記它所帶來的後果，它與環境、權力和正義攸關。我們面對新科技重要的是不要盲從必然、全盤接受科技帶來的影響、並以更廣闊的角度來反思其代價。
假如我們都認識到人工智慧不在雲端，目前它某方面與人工仍難以切分、不夠智慧、也不中立。它仰賴的是「實體架構、脈絡環境和占優勢的政治」，因為運算需要實體的能源、礦物稀土、勞工、資本，乃是科技、資本和權力糾結而成的產物。人工智慧帶來的影響並不是技術問題。因此克勞馥呼籲對勞工、氣候和資料正義的連結，視人工智慧成為政治、經濟、文化和科學的力量，大家該連結並與之抗衡。
分享圖文請註明出處，未經本站同意不得轉載
瀏覽次數：2278
