2024年7月15日，全球微軟使用者傳出哀號，他們的Windows電腦不是當機、藍屏，就是不斷重啟。微軟事後發出公告表示，是因為第三方軟體平台更新，影響全球近850萬部Windows設備。
當然，電腦當機影響的不止於數位世界，一時之間全球各種航空、金融、傳媒及醫療緊急服務受阻，比如英國和澳洲有電視台就短暫停止廣播，德國柏林機場一度暫停所有航班服務，而香港的赤臘角機場和新加坡樟宜機場亦有不少航空公司不得不臨時改用人工登記，全球一共有數千航班被取消。新加坡有部份停車場無法運作、車輛卡住難以登出，電子支付也同樣受阻。有些服務至今都還在修復中，而所造成的經濟損失也尚待詳細調查報告。
在萬事電子化的今日，光是一台個人電腦當機就可能為生活帶來諸多不便。這次事件也讓我們意識到，本來一部部獨立運作的電腦，連上全球網路後當然可以帶來便利，卻也可能正因為這樣而造成慘重損失。英國《衛報》就有評論指出，這次大當機讓我們看見要推動「無現金社會」的隱憂。僥倖目前還沒有收到來自國防武器、太空站或核子設備的事故報告，但未來是否還有什麼我們沒想到的災害，可能成為我們在推動全球智慧化、自動化時的風險？
以下，想借用一本討論「AI連結之後」的學術書來說明：我們今天遇到的還只是電腦大當機，如果未來人工智慧連結網路、機器人與人類，一旦某個環節出錯，問題或許會比現在更嚴重許多。
當人工智慧互連之後，一個錯誤可能造成造成全面錯誤
《AI聯結的社會》作者群是19位來自日本的人工智慧專家／法學專家，全書討論正在形成中的全球聯機人工智慧網路，會帶來倫理難題、社會風險與法律責任。
套用書中慶應義塾大學教授高橋恒一的話來說，研發AI如同開車，要確保油門、方向盤和剎車三者缺一不可，也就是：該研發創新的時候要衝鋒陷陣，該放慢轉彎避開的地方要小心注意，法律和倫理則要準備好在適當之時剎車。
所謂「AI 網路化」指的是第四次工業革命的數據社會，將通訊網路與物聯網接通，並與AI連結，來分析和活用這筆大數據。日本專家認為，在這樣的趨勢下，AI與其他系統、AI與人類會形成一個網路，而相關的產品和服務將改變社會。由此，AI不再是個體的AI，不只由個別的開發商設置，而是不同系統相互依存和自主學習而來，形成非常複雜的狀況。AI網路化可以帶來益處，但也有影響和風險。AI網路一旦出現局部問題，也可能因為如此大規模連結的複雜系統，導致惡性競爭、連鎖的對立反應、問題互相疊加，帶來難以預測而且即時的整體後果。
其次，書中提到背後的風險可以分為「功能風險」和「制度風險」。所謂功能風險是AI網路的功能出現意料之外的狀況，比如受到駭客攻擊、在不正常操作下帶來的問題，更因為機器之間的連結而殃及池魚。讀者可以試想：假設今天你住在一個「智慧家庭」，家裡從飲水機、冰箱、大門到電動車都由一套智慧系統控制。系統運作良好時，你可以輕鬆獲得乾淨營養的飲水與食物，不必帶鑰匙也能出門，自動駕駛的車子會安全把你送到目的地。但如果某天故障，我們可能無法開水龍頭取水來喝、冰箱有食物卻無法打開、要連結網路叫外賣也做不到，想出門購物卻發現電子密碼鎖無法啟動、電動車也毫無反應……這就是所謂的「功能風險」。
至於制度風險，則是指導致用戶或第三方權利受損，當中又可以分為事故風險、犯罪風險、消費者權益風險、私隱與個人訊息風險、與人的尊嚴或自主性相關的風險、與民主或政治機構相關的風險等等。比如當你習慣從網路上由AI推薦給你各種新聞、新知、購物資訊等等，若AI刻意操縱訊息，你的決策就會受到左右，從而失去了個人的自主性。因此有必要訂立與大數據和AI相關的競爭法、知識產權法，來限制某些獨大的開發者，來保持平衡。
書中還有一個有趣的討論：現在有自動駕駛功能的車輛越來越普及。原則上，在自動導航功能中，如果發生交通意外，系統會優先保護自身車主，但這就可能會危害到他人的安全。若兩輛自動駕駛的車子發生碰撞，也許雙方車主都有部分責任，但待釐清的新問題是：如果交通意外是來自AI系統的相容性問題、訊息交流誤差，那麼自動駕駛軟體的設計者、導航供應商、汽車生產者、以及其他可能的相關者，到底要負多少責任？就像在這次微軟大當機的事件裡，微軟或CrowdStrike是否要賠償旅客錯過飛機航班的時間成本？又各自該負多少責任呢？
創新與競爭下的AI治理
日本專家們認為，AI網路化目前正處於搖籃期，需要在創新研究和市場競爭的前提下以非限制性、非束縛性的辦法治理，並且確保平衡數據價值、流通價值、經濟成本、學術自由、人權尊嚴、保護隱私。力求AI網路中的透明性、可控性、安全性、隱私性、安全保護體系和公正性，在使用者、供應商和開發商之間形成恰當的關係。因此作者之一、時任大阪大學社會技術共創研究中心教授福田雅樹，便於書中列出我們應該遵守的8項「智聯社會」（wisdom network society）原則：
- 所有人都可以受惠；
- 保障個人的自主性及人的尊嚴；
- 保立革新性研究開發的持續與公平競爭；
- 堅持可控性和透明性；
- 利益相關方的參與；
- 兼顧虛擬世界與現實社會；
- 通常超越空間的協調合作實現活力的區域社會；
- 通過分散合作解決全球性問題。
此外，這一群作者更提來自日本的《面向國際討論的 AI 開發指南》來指引日後科技開發，要點包括：
-
AI開發的原則該以連動、透明性、可控性、安全性、安全保護體系、私隱性、倫理性、使用者輔助和說明義務等為9大原則；
-
開發理念要以人類為中心，要普惠所有人、非限制性、公平競爭、公開研發、尊重社會價值、確保技術中立性；
-
各國政府、國際機構、開發者和公民社會等各持份者之間保持對話；
-
此文件從日本的研究者、產業界和使用者群體協作而來，由日本國內的AI網路社會推進會議於 2017 年發佈，現時仍是個草案，期待與國際交流而進一步改進，而且要不斷重新審視指南、調整內容。
最後，我想引用作者之一的話作結。日本人工智慧專家、東京大學教授江間有沙指出：「聯網和離開網路，都可能成為反思自己的工作和生活、重新思考現在的社會的契機」。希望讀者、經理人、決策者都能從這次微軟大當機事故中找到反思機會、重整基礎設施、釐清責任歸屬、做好風險管理。也希望可參考書中提及來自日本的開發原則和基本理念，從功能性與制度性風險入手，思考該如何連結、什麼可以離線。比如可以考慮訂立更佳的電腦分階段更新安排，或設立「電源斷路器」（circuit breaker）式的熔斷機制，以免大規模電腦當機的骨牌效應，阻止日後可能觸發更大的危機。
分享圖文請註明出處，未經本站同意不得轉載
瀏覽次數：632
