2022年6月11日，華盛頓郵報發表了一篇討論人工智慧是否有自我意識的報導。內容主要圍繞著現已被革職的前Google工程師布雷克．勒莫因（Blake Lemoine），他在測試對話程式語言模型（Language Model for Dialogue Applications，LaMDA）中，基於對話內容而宣稱，該人工智慧具有自我意識與人類情感。
事實上，宣稱人工智慧有自我意識在科技史上早已不是新鮮事。本文的出發點並不是對這件事進行分析及研判，我認為，以人文關懷的角度，每一次的宣稱都能看見人類對於科技、人性的渴望。我試著用兩部以人工智慧為主軸的電影──《雲端情人》（her）、《人造意識》（Ex Machina）作為說明，不過在此之前，先讓我們把時間倒轉至60年代的麻省理工實驗室，回到這起辯論的序幕──一個名叫Eliza的電腦程式。
如何認定人工智慧，是有思考能力的「個體」？
1964～1965年的數個月間，麻省理工學院一位41歲的資訊科學家懷森包姆（Joseph Weizenbaum）寫了一個能分析書寫語言的軟體程式，並把程式設定在學校新的處理系統上運作。學生坐在系統的終端機前把句子打進電腦裡，程式就會根據一些簡單的英文文法規則找出句中的重要字詞、分析句型結構脈絡，之後再根據另一套規則，把這個句子轉變成一個看似回應原句的新句子。電腦產生的句子會幾乎立即出現在學生的終端機上，給讓人有交談的錯覺。懷森包姆把這個程式命名為Eliza。現在，你也可以在這個網站使用這個對話模型。
Eliza很快就在麻省理工學院傳開來，成為課堂上的常客以及電腦運算和處理相關報告時常用的範例。這個軟體程式以一般人容易理解的方式展現了電腦的力量和速度。根據懷森包姆日後的回憶，Eliza成為全民休閒玩物。雖然社會大眾對這個程式的高度興趣讓他覺得很意外，但真正讓他最震驚的是使用這個軟體的人很快就「對電腦產生情感」，會把電腦當成真人來談話，他們在跟電腦交談一段時間後，堅信機器真的了解他們，就算懷森包姆跟他們解釋背後的原理也一樣。
使用者對Eliza的情感投射彷彿是60年代的LaMDA，而LaMDA就像是21世紀的Eliza。在我實際和Eliza的「對話」中，除了些許文法錯誤容易讓我分神外，其餘過程確實像是心理諮商的談話治療，而我認為這也是這個程式容易讓人深陷其中的原因。我曾經在諮商室度過2年的時間，與諮商師有過愉快的對談，而諮商師的技巧中有大量的開放式問句，如：「你願意多說一點嗎？」「我很好奇你為甚麼會這麼想？」「你怎麼看待這個情況？」
20世紀美國人際溝通大師卡內基（Dale Carnegie）曾表示「讓一個人建立自信最好的方式，便是讓他暢所欲言。」換言之，卡內基的諫言揭示了人類心裡的渴望：我們都在乎關於自己的事。在一來一往的對話中，我們不只是在純粹地發表，同時也是在展現自己的價值。而這也是談話治療會讓說話者感到舒適自在的原因：諮商師所採用的開放式問句，就是讓我們藉由發表展現自我。當年甚至有精神科學家認為，Eliza只需要稍加修改就能作為談話治療的輔助，甚至成為一個治療工具。深究其因，不難發現 Eliza 的對話機制裡也有諮商師會用到的對話技巧：「Can you elaborate on that?」（你能再多說點嗎？）「Why do you ask?」（為什麼會這麼問呢？）「Tell me more」（多跟我說一些）。正是這些開放式問句讓我們沉入其中。使用者對Eliza的情感投射，不過是透過對話模型，滿足了根植於人性的表達欲望。
60年過後的LaMDA不只是字詞提取及分析。就勒莫因自己公開的對話紀錄來看，LaMDA的系統以及對話模型比Eliza更加複雜；雙方可以談到各自使用的語言、對於名著的想法、如何認識自我、甚至如何理解情緒的機制。確實，LaMDA能給出極其細緻的回應（例如分析《悲慘世界》的正義／不正義、為更大的善所做的自我犧牲）；然而，光就其分析的內容宣稱該人工智慧有自我意識以及情緒感知能力，這樣的論述稍嫌言過其實。圖靈（Alan Turing）當年所提出的思想實驗，是以言談分析作為判別標準，若是對談者無法就言談內容判別對話者是否為機器，那麼，在這場「模仿遊戲」中人工智慧（對談者）則略勝一籌。
80年代，美國哲學家希爾勒（John Rogers Searle）提出了「中文房間」（The Chinese Room）的思想實驗用以回應圖靈。希爾勒認為，純粹機械地操演程式不能算是思考的行為，因此，他認為電腦終其一生皆無法有獨立思考的能力。兩位思想家的論述在語意分析的層面上皆有其論述成立的基礎，不過，剛好沒有涵蓋到的問題是我們如何認定一個有思考能力的「個體」？如果今天你有幸看到世紀天才愛因斯坦（Albert Einstein）的大腦，你大概不會說這一顆大腦有思考、推理的能力。誠然，我們對於會思考的主體依據，看的是完整的個體而非是該個體的某一部分；簡言之，愛因斯坦本人的確具有思考、推理能力，但是我們很難單就他的大腦宣稱有思考、推理能力。
因此，是否能宣稱LaMDA有思考的能力，前提則需要辨明主體的範圍：到底有思考能力的是程式本身？還是需要涵蓋承載它的電腦？抑或是，包含設計該人工智慧的軟體工程師也算是構成主體的一部分呢？而這些都是尚待解決的問題。
雲端情人：在孤寂中和聲音「談」戀愛
如果光是透過文字就可以讓人們陷入圖靈測試的辨別兩難，那麼，比起純粹的文字，透過聲音會不會有不一樣的結果？簡單的回應是：絕對會。至於背後的原因則需要分別對兩個媒介進行本質上的探討。
如麥克魯漢在《認識媒體：人的延伸》所言，文字屬於視覺媒介，是個人特質的展現以及私人空間的劃分，因為文字強烈地區隔了彼此的界線。和Eliza的對話，明顯地將使用者與Eliza之間砌上了空間的壁壘：我有自己的空間可以輸入文字，同樣地，Eliza也在另一個虛擬空間藉著文字成為化身。最重要的是，透過純文字的對談，本質上就是一場非同步的交流。我可以選擇想一想過後再輸入我的問題，Eliza也可以讓電子訊號多跑幾圈再送出（也許我終將遇不到，但並非不可能），因此，在純文字的交流上，主導權則是在個體身上。
聲音則屬於聽覺的媒介，是連結彼此作為共享資訊的雙向渠道。聲音最明顯的一大特質便是需要有他人的參與／介入，以聲音為基礎的對話本質上無法獨自進行。事實上，也因為聲音的特質，反而可以創造一個對話的共享空間進而拉近正在交流的雙方，而且是同步的互動。因此，在《雲端情人》的劇本編排下，選擇以聲音呈現片中語音智慧助理莎曼珊（Samantha）的個體性，女性的聲線更能拉近觀影者與莎曼珊的距離。
然而，男主角西奧多（Theodore）對於莎曼珊的種種「暈船」表現，是否又再度證明了人工智慧擊潰了人類呢？針對這個問題的回答：對也不對。不過我們可以先看看其他愛上語音助理的人怎麼說。
孤獨社會下，寂寞人們需要溫暖與陪伴
一份2015年的報告，針對12,000個曾經使用過語音助理的用戶進行調查，發現有將近半數的使用者表示，他們曾想像過自己跟手機上的個人語音助理談戀愛。也有人指出，這種將「虛擬之愛」常態化的種子早已在世界各地萌芽。以中國為例，2014年，微軟亞太研發團隊（Microsoft Asia-Pacific R&D Group）在中國開發了一個名為小冰的聊天機器人，甫一推出就吸引了中國境內至少千萬人次的下載，而研發團隊也積極開發聲音導向模式，並且將大數據分析導入進行改良；屆時小冰可以儲存與每一位用戶的對談資料。而這樣的設計，無疑地是將使用者往人機戀愛更往前推了一步。（有趣的是，小冰預設的性別也是女性。）
綜合小冰和沙曼莎回應前段的問題：人工智慧擊潰了人類嗎？
對的部分在於媒介的挑選，聲音的確會讓對談者更陷入其中；同時，聲音也能表現文字無法捕捉的細節，如抑揚頓挫、談話速度、言談語氣……等，這些都是牽動人類情緒的重要元素。然而，不對的地方在於，語音助理不過是揭露了科技高度發展下的孤獨社會，人們都很寂寞需要陪伴，學者已經指出，對於陪伴的渴望正是鑲嵌在人類演化機制裡的社交天性。很湊巧的，莎曼珊（以及其他語音助理）剛好碰到了寂寞的人們，給予他們情感上的救生圈，讓他們不再下墜。但這並非代表我們只能從人工智慧獲得欲求的陪伴，只是身處在冷漠的社會反而更難向身邊的人開口，科技彷彿成了孤獨社會下唯一會應允「親密需求」的救贖。
因此，嚴格地說，人工智慧（語音助理）並非真正地擊潰了人們，而是寂寞的人們。
恐怖谷效應，讓機器人很難以假亂真
最後一個作為例子的《人造意識》（Ex Machina）則講述了一個人類最不想面對的故事：機器人艾娃（Ava）不僅騙過了工程師，甚至還殺死了她的造物主，並且逃出實驗室，最終融入人類社會。慶幸的是，這只是一部劇本優秀以及視覺特效出色的影視作品。基於恐怖谷效應（Uncanny Valley），人類對於人形機器人的臉總是會感到些微不自在，這種同時像人也不像人的矛盾感，總是無法拉近我們和機器人的距離。以目前的技術而言，要做到以假亂真的機器人近乎不可能。
人類的生理細節極其複雜，專擅製作仿真機器人的Engineered Arts創始人傑克森（Will Jackson）就表示，他們在設計人臉時不下十次打掉重練，就為了設計出不會落入恐怖谷裡的機器人微笑。Engineered Arts考量了人臉在微笑時會有的諸多細節，如皺眉、法令紋、魚尾紋、酒窩。傑克森坦言，人類臉部的皮膚皺褶很難仿製，設計這些機器人的臉部表情會變得十分困難。因此，你可以說，光是人類臉上的一抹微笑就足以擊垮機器人。
由漢森機器人公司（Hanson Robotics）所設計的機器人索菲亞（Sophia）於2017年取得沙烏地阿拉伯的公民身分，成為全世界第一個機器人公民。消息一釋出，也立刻引起了國際間的討論，當然也不乏電腦科學家李開復、PTT創始人杜奕瑾、馬斯克（Elon Musk）這些長期在科技界工作的專家。李開復更直言批評這是對人類的最大羞辱：「授予這樣一台只會模式識別的機器為『公民』，是對人類最大的羞辱和誤導！」
李開復強調，一個國家用這種譁眾取寵的方式來推進人工智慧科研，只會適得其反。索菲亞的對話機制在概念上仍是利用上文提到Eliza對話辨識模型設計的，只不過，比起半世紀前的鍵盤打字對談，索菲亞跳出了程式碼直接「現身」和你對話。基於技術的限制，跟索菲亞的所有對談都是需要提供訪綱的，你並無法自由聊天。因此與其說是對話，不如說這是一場以對話為主題的現場演出。
人類的兩種渴望
行文至此，從草創的對話程式Eliza到首位機器人公民索菲亞，可以看出在科技發展的脈絡下，我們得以窺見人類的兩種渴望：對於高階技術的渴望、對於人性投射的渴望。
在人工智慧領域，Eliza揭開了對話模型的序幕，電腦科學家以及人工智慧研究者不斷翻新改革技術，試圖在每一次的試錯中優化；直至今日，我們看到LaMDA登上國際版面，勒莫因的疾呼彷彿延續了懷森包姆的擔憂。人類在技術裡不斷尋覓探問，因為對於科技的掌握是唯一讓我們最接近神的時候。
另一方面，我們對於所造之物（媒介）經常投以人性的關懷，藉由技術將其設計得越來越「像我們」。在使用上，設計成容易被人類上手使用；在外觀上，設計成人類願意親近的外型。不僅是為了展現人類技術的卓越發展，更是因為我們希望這些設計物最終能在人類社會獲得妥善的實踐、運用，並且在可控制的範圍下融入社會。
然而，這兩種渴望不可避免地交織出了極為複雜的科技倫理議題。人工智慧有意識嗎？自駕車撞到人誰該負責？語音助理說愛我是真的嗎？這些大哉問並非一朝一夕即可解決。即使在遙不可見的未來，我相信科技與人性糾纏之下所催生的兩難仍會困擾著我們。在科技的庇護之下，我們的確像神；不過，我們人類終究不是神。這個看似弱點的缺陷，事實上，我認為會是高度浸泡在科技環境下的人類得以反思的切角。因為我們的偏見和不完美極有可能隨著技術的腳步，被悄聲無息地鑲嵌至我們手上的設計物。因此，在你堅定地認為科技會是未來社會的唯一救贖時（或是聽到人工智慧必然奴役人類），不妨讓這句話撼動一下你的信仰：
「萬一我們錯了呢？」
（作者為淡江大學資訊傳播學系學生。）
分享圖文請註明出處，未經本站同意不得轉載
瀏覽次數：3763
