近日科技新聞中，最令人關注的是全球科技業大老聯名發出一封〈暫停大型人工智慧實驗的公開信〉（Pause Giant AI Experiments: An Open Letter）。全文不過590字，卻引起軒然大波。
這封信的聯署者，除了數十位科技產業界的創辦人之外，有來自麻省理工學院、牛津、劍橋、哈佛和東京大學的人工智慧或相關學科學者聯署，名單中更有達300位來自世界各地的教授、美國國家學院的成員等等，比起2017年由同一機構「未來生命研究所」發起的另一封〈人工智慧原則〉公開信更受注目。這也讓許多民眾再次對人工智慧感到恐懼：如果連科技巨頭、飽學之士都要求暫停人工智慧發展，是否這個技術對人類真的有害？
他們反對人工智慧嗎？
沒有！我認為，這封公開信的討論已經遠超於大國博弈、地緣政治和企業競爭的慣常議題，而是關係到人類社會前途的四大重點：
首先，信中沒有說應該要停止人工智慧技術的研究與開發，而是提出目前的AI競賽已經失控，連開發者也無法預測、理解和管控其系統。信中呼籲的是要開發商暫時退一步，在未來6個月別開發比GPT-4更高階版本的學習系統，以免墜入危險。假如開發商不願暫停，政府應該介入。
其次，信中強調：人工智慧會為社會帶來前所未見的風險和災難性後果，可能出現不合符人類價值觀的壞處，包括引致大規模失業，並且可能讓地球進入「後人類時代」。
至於信中真正反對的，其實是「沒有管制的人工智慧技術開發」。發起人提議應由獨立的專家監督，訂定規劃與管理AI技術的協議，令其成為「更加準確、安全、可理解、透明、穩健、一致、值得信賴和忠誠的先進系統」，從而利用人工智慧帶來豐盛的人類未來。
與此同時，人工智慧的開發者須與政府合作，包括制定監管、審計和認證系統、對人類危害的責任系統、研究安全人工智慧的公共研究資助等等，以制度化的方式回應人工智慧對經濟和政治的衝擊。
換言之，這一批專家相信人工智慧可能帶來威脅，但也直言：政府的角色和人如何參與，是人工智慧發展中重要的一環。我們既要研發讓人工智慧服務人類，亦要深入研究如何安全地使用它。
小心被壟斷的人工智慧
而人工智慧專家、東京大學工學研究所的松尾豐教授，於《了解人工智慧的第一本書》中一再強調：該技術前景明朗，但要小心兩項風險：被軍事戰爭所利用、被少數人壟斷。意大利經濟學者馬祖卡托（Mariana Mazzucato）也指出，由資本家把持的專利可能會扯創新發明的後腿，比如在藥廠壟斷下，部份藥物貴到一般人無法負荷。結合兩者的分析，套用在如今的人工智慧議題上，也需要小心開發者會獨佔人工智慧帶來的知識與財富。
馬祖卡托在《萬物的價值》一書中解釋，1970年代後，市場傾向金融化實體經濟，無論是機械電子化、精簡人工、金融投資與創投機制，都是為了提高股東所得，迫使相關者以效率為本來搾取價值，而非市場中口口聲聲的「創造價值」。就連Open AI的首席執行官阿特曼（Sam Altman）在訪問中都曾表示，擔心營利會影響公司的開發方向，故此以非營利為目標。
同時，馬祖卡托也批判現有主流經濟學，除了缺乏價值討論、以市價當做價值之外，更忽略了政府的核心角色。她於另一本《打造創業型國家》書中便指出，一般經濟理論矮化了政府的公共價值，但政府其實可以在創新上有更具體積極的角色，而不該只靠新創企業來協助創新。正如這封公開信所指出，政府終須在人工智慧的開發中扮演中介角色，確立開發者可做和不該做的規則。我們且看看各國政府會如何回應這一波人工智慧的衝擊。
集思廣益有助於人工智慧的走向與發展
簡而論之，我們要明白人工智慧技術是人為的，並非價值中立，背後有開發者的種種身影。問題也許不在於Chat GPT和其他對話機器人，而是資本主義價值系統決定了就業和個人所得，扭曲了商品和勞工的市價，改變價值系統才是改變社會問題的方法。假如要暫停開發的話，必先釐清人工智慧的價值系統，反思它在資本主義和科技巨鯨面前的工具理性，界定科技巨鯨與政府法律的角色。
不管這次公開信的討論結果怎樣，我們會否因為恐懼而徹底放棄？或是讓自己走上產業壟斷、全民失業、軍事化的風險？或是真的創造出與人工智慧並存的美好未來？有討論總比不討論好。多談些問題，研究些解決方法，不畏難求易，比起空談科技決定主義，合理多了。
分享圖文請註明出處，未經本站同意不得轉載
瀏覽次數：2943
