2024年3月21日，聯合國大會（UN General Assembly）通過第一份名為《掌握發展安全、可靠與值得信賴人工智慧的機會以促進永續發展》（Seizing the opportunities of safe, secure and trustworthy artificial intelligence systems for sustainable development）的決議（為行文方便，下稱「聯合國人工智慧決議」）。
在各國或區域組織正積極發展人工智慧相關管制法案的氛圍下，此決議可被視為是聯合國建立其人工智慧治理框架（AI Governance Framework）的里程碑。有鑑於此，本文將討論人工智慧下的人權爭議、聯合國決議的主要內容與其意涵，以凸顯此決議在現今全球人工智慧治理浪潮下的意義與重要性。
人工智慧的人權爭議
人工智慧是當今各國最熱門且重視的議題。許多國家如美國、日本、中國、俄羅斯、英國、法國、印度與南韓已紛紛將人工智慧視為是重要產業發展項目。此外，眾多國際知名企業如Google、Facebook、Uber也紛紛投入大量資金於人工智慧的開發、設計與製造。人工智慧全球競賽（global artificial intelligence race）的形勢儼然成形。
然而，人工智慧科技的高速發展，也對人權帶來新的衝擊與挑戰。人工智慧是演算法、硬體（計算速度）及巨量資料結合的科技產物，但其運用仍存有一定的風險，進而可能侵害基本權利與自由。例如，人工智慧可能因演算法「黑盒子」的作用，欠缺透明性，使人難以理解其如何做成決策，從而導致系統作出偏差與不公平的決定，使人失去對人工智慧系統的信任。同時，欠缺透明度也可能增加究責的困難度，導致難以確認相關系統的損害責任。
此外，已有不少研究指出，人工智慧的不當使用可能對基本權利產生不可逆轉的危害，甚至造成無差別性的侵害，例如將人工智慧系統用於大規模監控計畫。相關研究提及被侵害的權利與自由，包含隱私權、數據保護權（如私人生活領域的尊重與個人數據保護）、平等權（禁止歧視原則）、表意自由權、集會自由權以及結社自由權等等。其中最常被提到的就是隱私權被侵害的疑慮。
其次，對原處於社會劣勢地位的弱勢群體（vulnerable groups）來說，人工智慧的不當使用也可能加深其不平等的處境。例如再次烙印與強化既有性別、種族、 貧富（收入）上的不公平對待或歧視。
聯合國人工智慧決議的主要內容
基於權利保障的觀點，為防止人工智慧因誤用或濫用時對基本權利或自由帶來的不可逆危害或風險，在各界呼籲與努力下，聯合國大會在2024年3月21日通過第一份有關人工智慧的決議。該決議的主要內容如下：
-
確保所有人享有線上和線下的同等權利
此決議強調所有人在線下（offline）環境中的權利，在線上（online）環境也應被同等保障。同時，在人工智慧系統的生命週期（AI system’s lifecycle）中，包含前期設計、設計、開發、評估、測試、部署、使用、銷售、採購、使用和淘汰等階段，都應符合人權保障的標準。因此，決議要求聯合國會員國、企業與利害關係者應重視測試、風險管理、檔案編制和人工監督等管制措施的功能。此外，不當或惡意地設計、開發、部署和使用人工智慧系統（如欠缺適當保障措施或不符合國際法），可能會造成無法實踐《聯合國2030永續發展議程與其永續發展目標》（UN 2030 Agenda for Sustainable Development and its Sustainable Development Goals）的風險。決議也要求聯合國成員國和利益關係者避免或停止使用未遵守國際人權法、或對人權構成不當風險的人工智慧系統。
-
縮小數位落差
由於各國技術發展處於不同的發展階段，發展中國家在技術創新上經常面對專業與資源的挑戰。為使人工智慧的發展可讓所有人受益，且擴大所有國家（特別是發展中國家）在數位轉型上的參與，以避免惡化數位經濟的不對等，此決議要求已發展國家和發展中國家應在國際法的基礎上，尋求具有可操作性、靈活性、適應性以及包容性的方法，使已發展國家和發展中國家能進行相關合作，讓發展中國家亦能在人工智慧發展中受益，以減少數位落差（digital divide）且提高數位素養（digital literacy）。
-
強調公私部門應善盡人權保障的義務
現今已有越來越多公私部門使用人工智慧演算法蒐集、分析及使用個人資料與數據，且產生諸多治理風險。因此，該決議在國際人權法的基礎上，強調國家在人工智慧領域保障人權義務與企業責任的重要性。決議也鼓勵聯合國會員國、企業、市民社會、研究機構和媒體，應積極發展安全、可靠、值得信賴的人工智慧管制和治理方案。例如制定相關政策和法規，以促進與優良人工智慧系統和技術的競爭，相關措施如為小企業和技術人才創造新的機會；並通過關鍵投資、特別是對發展中國家的投資，使其在人工智慧的市場中取得公平競爭的機會。
-
實踐聯合國永續發展目標
《聯合國2030永續發展議程與其永續發展目標》包含消除貧窮、減緩氣候危機及促進性別平權等17項核心目標以及169項細項目標。在聯合國人工智慧決議中，多處強調人工智慧發展必須符合這些標準。例如在減少數位落差議題上，決議強調為消弭存在於國家間或國家內部之間人工智慧的數位鴻溝，政府應制定有關安全、可靠和值得信賴的人工智慧系統的標準，以促進數位轉型和平等分配相關的利益，從而實現與聯合國永續發展相關的目標。
建立全球人工智慧治理的基礎框架
2024年3月21日的聯合國人工智慧決議，並非一次突發事件，而是聯合國整合其近年有關人工智慧治理立場的成果。若觀察聯合國機制回應人工智慧議題的發展，自2017年起，聯合國人權理事會（UN Human Rights Council）、聯合國人權高級事務專員辦公室（UN High Commissioner for Human Rights）、聯合國經濟社會文化權利委員會（UN Committee on Economic, Social and Cultural Rights）、聯合國兒童權利公約委員會（UN Committee on the Rights of the Child）、聯合國極端貧窮與人權特別調查官（UN Special Rapporteur on Extreme Poverty and Human Rights）、聯合國表意自由特別調查官（UN Special Rapporteur on Freedom of Opinion and Expression）、聯合國種族主義、種族歧視，仇外心理和相關不包容行為的當代形式特別調查官（UN Special Rapporteur on Contemporary Forms of Racism, Racial Discrimination, Xenophobia and Related Intolerance）以及聯合國年長者享有所有人權之獨立專家（UN Independent Expert on the Enjoyment of All Human Rights by Older Persons）已陸續提出報告，警示人工智慧演算法系統對不同群體可能帶來不利影響。在前述發展的基礎上，聯合國大會通過此一決議，象徵了聯合國會員國之間對人工智慧的管制已形成一定程度的規範共識。
從聯合國人工智慧決議內容來看，可發現此決議企圖從程序到實質的層面，建立以人權為導向（human rights-based approach）的全球治理框架，以回應人工智慧發展下的種種議題。
此一發展對目前人工智慧的治理進程有一定的意義與重要性。首先，此決議宣示聯合國已正式參與人工智慧管制的競賽，且試圖扮演一定的領導角色。近年來，區域組織或各國以制定新法或是修改資料保護法規等方式，回應人工智慧的管制需求。如2023年6月歐洲議會通過《歐洲議會和理事會統──人工智慧規則與修改聯盟若干立法的規則》（Regulation of the European Parliament and of the Council Laying down Harmonized Rules on Artificial Intelligence）草案。2023年12月歐盟執委員會以及歐盟會員國代表對草案內容達成政治性協議，更在此基礎上進行後續的立法工作。2024年3月，歐盟執委會下的人工智慧委員會（Committee on Artificial Intelligence）提出《人工智慧、人權、民主及法治框架條約》（Artificial Intelligence, Human Rights, Democracy and the Rule of Law Framework Convention）的最終版草案。除歐盟外，其他國際組織如經濟合作與發展組織（OECD）、全球人工智慧夥伴關係（Global Partnership on Artificial Intelligence）、國際電信聯盟（International Telecommunication Union）及國際標準制定機構（如ISO/IEC和IEEE）也陸續提出人工智慧的相關規則。
2017年，美國國會通過《人工智慧未來法案》（Bill of FUTURE of Artificial Intelligence Act of 2017）。2019年，美國國會提出《2019年演算法課責法》（Algorithmic Accountability Act of 2019）草案。2020年，美國政府頒布《人工智慧權利法案》（AI Bill of Rights）。在南韓，其國會自2020年起陸續通過《智慧資訊框架法》（Framework Act on Intelligent Information）和《人工智慧研發、產業促進及倫理責任法》（Law on Research and Development, Industrial Promotion, and Ethical Responsibility of Artificial Intelligence），目前正在研議審查《促進人工智慧產業發展及建立可信賴人工智慧框架法》（Act on Promotion of AI Industry and Framework for Establishing Trustworthy AI）。
但值得注意的是，在人工智慧高速發展且尚有許多地方值得探究且學習的不確定因素下，上述組織或國家所提出或通過的倡議或法案並無法真正有效地面對人工智慧所帶來的所有挑戰，以及辨識且最低程度地減少所有可能的風險。要能真正理解人工智慧所可能帶來的風險，必須要有廣泛利益關係者與群體（不僅是各國政府、還包含開發與使用人工智慧的企業與相關人群）的參與。相較於上述組織，聯合國扮演著至關重要的角色，其能利用其跨國組織的特性，招集最多國家、企業與相關社群的參與，在聯合國永續發展的目標下，持續地推進人工智慧的發展。
其次，此一決議有其規範性的指導效應。決議通過時，美國駐聯合國大使Linda Thomas-Greenfield女士接受媒體專訪時表示，此決議將成為全球各領域（如軍事與經濟）討論人工智慧管制時的規範基礎，同時也將成為聯合國相關組織如國際電信聯盟、聯合國教育、科學及文化組織（UNESCO）和人權理事會在相關工作上的指導原則。此外，該決議也將指引當前《全球數位協定》（Global Digital Compact）的談判方向。除上述效應外，在目前全球人工智慧立法的形成過程中，該決議也象徵著聯合國將扮演監督的角色，敦促各國發展與人工智慧相關的法規，並在規範討論的過程中，提供一定程度（或最低程度）的規範指引。
基於上述的發展與討論，本文認為，在人工智慧管制方案正處於百花齊放之際，聯合國人工智慧的決議是當前全球人工智慧治理（Global AI Governance）發展上的關鍵點。在可預期的未來，將引領更多的對話與討論，凝聚更多在全球人工智慧治理方案上的規範共識。
（作者為國立清華大學科技法律研究所助理教授。）
分享圖文請註明出處，未經本站同意不得轉載
瀏覽次數：2394
