農藥公司有責任保護環境；AI公司有責任保護人性。做農藥的企業，產品愈強大，對環境的影響愈深，保護環境的責任也愈重；做AI的公司也一樣，產品愈強大，對人的影愈深，保護人不被工具化的責任也越重。
1950 年代末，一個叫瑞秋．卡森（Rachel Carson）的女性注意到農藥 DDT 對鳥類、生態的破壞。她花了 4 的時間研究、寫作，1962 年出版了書籍《寂靜的春天》，第一次讓普通人看見農藥對環境的破壞：鳥不叫了，河裡沒有魚了，DDT 進入了食物鏈，殺死了比想像中更多的生物。這本書引發了巨大的社會反響，被認為是現代環保運動的起點。
在那之前，農藥公司的形象是正面的。在二戰之後，以孟山都、拜耳為首的化工公司轉作農藥，他們代表著科技進步、消滅害蟲、提高產量、解決糧食問題。然而人們慢慢發現，這些強大的東西，背後有看不見的代價。
30年來的科技發展，改變了我們的生活
從 1995 年到現在，大約 30 年，我們經歷了Windows、Office系統的興起，網際網路、搜尋引擎、社群媒體、通訊軟體、影音娛樂直到生成式 AI，一波又一波地進入我們的日常，影響我們的工作、生活，甚至我們如何與人互動、與人溝通。
這 30 年來，這些科技工具一波一波地來，每一波都說會讓我們的生活變得更好，但每一波衝擊，我們也都經歷了一些預期以外的代價。只是，就像農藥的故事一樣，這些代價是慢慢累積的，慢慢才被看見。
科技讓人近視：我們變得更加孤單
科技工具的背後是演算法。過去 20 年來，演算法等於印鈔機，它們被設計來攫取我們的注意力，佔領我們的時間，影響我們判斷事情的方式。這些工具帶來很多便利；但也因著它們的便利，放大了人天生的近視傾向。
演算法讀懂我們的偏好，然後不斷給我們更多我們喜歡的東西。結果，我們從本來的「有點近視」變成了深度近視，並表現在 3 個不同面向上：
1. 廣度上的近視：表面上，科技拓展了我們的交友圈，讓我們更容易找到同溫層。但其實，它也讓我們跟意見不同的人距離愈來愈遠，愈來愈難包容跟我們意見不同、溝通方式不同的人。我們容易對跟自己不同的人感到不耐煩。幾乎每一個民主國家都經歷著社會內部的極化跟對立。科技看起來讓人變得更接近了，但也讓人跟人之間更遠了。
2. 深度上的近視：表面上，科技讓聯絡更方便，但也讓溝通變得短促。在即時回應、快步調的習慣下，我們得很快做出大大小小的決定，不再是深思熟慮，而是反射動作。我們閱讀長篇文章的耐性變少，深思、反思的程度也變小，甚至對那些要想很久才做決定的人更不耐煩。
3. 豐富度上的近視：表面上，科技讓我們透過貼圖、表情符號很快傳達感受，或者透過影像、聲音來傳遞訊息。但其實這些訊息是很單薄的，我們表達自己、感受別人的能力反而變得愈來愈扁平。人跟人面對面講話時，有表情、有意在言外的感受、有非語言的脈絡，讓我們在這些互動中表達善意、建立信任、發展默契、形成群體感。若說面對面溝通是蝴蝶、是真人、是大海，透過通訊軟體的文字溝通就是蝴蝶標本、是人物照片、是沙灘上的貝殼。看似美好，但卻沒有生命力。
這 3 種近視，影響了人跟人之間的互動方式，包括職場、家人、朋友、同事、同學……。當我們過度關注效率、感到焦慮而沒有耐性的時候，無法專注在眼前這個人，也愈來愈沒有辦法好好感受眼前這個人的重要性、好好地跟他講話。相對的，也愈來愈沒辦法感受到「自己這個人」在別人心中的重要性。我們懷疑跟對方講話是否會打擾他，不確定自己是否值得對方的時間，傾向自己上網找答案、自己解決自己的問題，而不知道怎麼跟人商量或討論。結果就是愈來愈孤單。
在孤單裡，人的心感受不到自己的價值
孤單是一個很大的問題。當人覺得自己孤單時，就不容易感受到幸福，不容易感受到別人跟自己的關係，也不容易對未來有期待。有一些父母跟我說，自己的孩子明明就在隔壁房間；但是當他們想問孩子午餐要吃什麼時，卻得傳 line。
在這個時代，跟另一個人建立深刻的關係，無論是愛情、友情甚至親情，似乎都變得比上一個時代更不容易。單獨一個人過日子比較簡單，跟另一個人溝通好像很累。
但是，人是在「跟別人的關係」、「跟別人的互動」裡，感受到自己這個人的價值的。當我們能夠去愛、去關心，甚至是跟另一個人吵架，當我們被另一個人愛、關心、甚至是責備時，我們感受到自己是活生生存在的。我們知道自己是重要的，是被認真對待的。當一個社會裡的絕大多數人都得了「科技近視症」而不自知時，就形成了一個越來越孤單而沒有力量的社會。
AI帶來新的科技近視，影響人更甚
AI時代的來臨，讓這個問題進入了新的層次。
第一個挑戰是，AI 正在成為一個「只有自己」的同溫層。AI 在對話中問「你覺得呢」、「你認為呢」，把對話往更強烈的情緒方向推。表面上是在邀請思考，但其實很容易變成引導人不斷去強化自己的立場，而非好好整理自己的想法。這是一個比社群媒體更可怕的同溫層，因為裡面只有自己跟 AI，因此更難覺察，也更難爬出來。這是判斷力上的近視。
第二個挑戰是，AI 讓人更不需要去請教真實的人。AI 看似讓我們更容易接觸到跨領域的知識，甚至幫助我們形成觀點跟計畫，尤其在我們不熟悉的領域裡。但也因為這樣，讓我們更不容易去請教領域專家，而是相信 AI、相信自己。這很危險。在我們所熟悉的領域，我們可以判斷 AI 回覆的品質，把它當作工具用。但在我們所不熟悉的領域，這可能把我們變得更坐井觀天、更孤立、更自以為是而不自知。這是關係上的近視。
矽谷工程師野心的產物，不是我們真正需要的東西
30 年前，科技給人的印象就是提升生產力、讓人過得更好。但在過去 20 年裡，特別是從 Facebook 開始，演算法不再是幫助人的工具，而是影響甚至控制人心智的工具。一切的目的都是為了讓人消費，讓人掏錢。臉書的高股價，是以全球無數成人與青少年的心理健康為祭品換來的。
這些科技工具與演算法並不是我們真正需要的東西。它們是工程師野心的產物，是華爾街野心的產物。「注意力經濟」是成千上萬領著頂級薪水的行為心理學家、神經科學家與機器學習工程師創造出來，他們唯一的任務，就是找出破解人類多巴胺防線的密碼。這是一種心智剝削。它們為我們的工作與生活帶來便利，但相較於它們為人心、為幸福感所帶來的傷害，它們所創造的價值並不足以彌補。
在矽谷，有一句話說「move fast and break things」。搶先，先破壞再說。只要搶先就贏了，代價是什麼、結果是什麼，沒有人在乎。
AI帶來的財富，將會以什麼為代價？
最近有一些新聞：亞馬遜在獲利的狀況下裁員 10%（3 萬人），Meta（Facebook）在獲利創新高的狀況下也即將裁員 10%，理由是 AI 可以做重複性的工作，不需要那麼多人了。華爾街大銀行也在獲利創史上新高的狀況下進行裁員。
矽谷工程師跟華爾街資本是最狂熱地推進 AI、推進這一切科技應用的單位；他們現在卻在海景第一排承擔自己野心的結果。他們不是為了人類福祉，而是為了淘金。就像地理大發現時代，哥倫布發現新大陸之後，許多人前仆後繼要出海去獲取財富，但歷史讓我們知道，舊大陸的財富，是以新大陸印地安人的滅絕為代價。
AI 所帶來的財富，是要以什麼為代價呢？以無數個工作者這一生工作的熱情、成就感嗎？以無數個家庭的幸福感嗎？以無數害怕工作不安定、生活不安定而無法成家立業的年輕人的人生嗎？以許多國家社會的極化與對立，或以人類社會的未來？
審慎運用 AI 工具，不要崇拜它
水可以載舟，亦可以覆舟。菜刀可以拿來切豬肉，也可以拿來殺人。這個工具既然已經被發明了，全人類也都不可能置身事外。我們要學習的是如何善用它，把它拿來切豬肉、做美味的大餐，而不是殺人、讓它枯竭人心。
第一步是，人要對這個工具有所警覺，認識它是刀子，不是畫筆。它有可用性，也有殺傷力。我們必須要放棄那些對 AI 無條件的接受、擁抱與信任呼聲，用一個比較警惕的態度跟它互動，不在對話之間讓 AI 牽著鼻子走、甚至把自己變成 AI 的附屬品，愈用 AI 愈找不到自己。
凡是需要你現身的地方，用你真實的聲音說話、用你真實的判斷決定、用你真實的思考探索未知。這些過程有時是費力的、是有摩擦的而缺乏效率的，但那個摩擦，正是人性所在。那是我們不能讓渡給 AI 的東西。效率可以交給 AI，但你這個人，不行。越頻繁使用 AI，我們越需要刻意練習這套法則：把「效率」交給 AI，把「摩擦」留給人性。這才是確保我們不淪為演算法附屬品的具體實踐。
第二步是，政府、社會都應該要求 AI 公司負起自己的責任，明確規範那些會讓人成癮、依賴、焦慮、對立的演算法設計。就像農藥需要環境評估，不能讓「追求產量最大化而不顧環境」的商業目標導致了災難，AI 的設計也需要對人的心理健康、社會凝聚力的影響評估。
第三步是，社會應該要反省。當我們在指責矽谷跟華爾街時，我們自己必須承認，今天這個讓我們越得越來越物質、心靈越來越枯乾而不幸福的世界，是我們一起打造出來的。我們的教育裡缺乏對自己的愛、對人生意義的思考、對社會的關懷，所以才會發明這麼多不負責任的科技。
我們崇拜生產力，我們迫不及待地讓自己的下一代去使用最新科技、使用 AI，用那些我們自己也不會的方式自我學習，結果造就了比我們更孤單、更不會跟人互動、更無法信任人、更不知道人生有什麼意義的下一代。從深層來看，今日的不婚不育、晚婚晚育、少子化與高齡化是整個社會價值觀的結果，也是我們得一起負責、一起承擔的共業。
我們得有一個深刻的價值觀反省，才能夠真正善用工具，而不是崇拜工具，更不是把工具變成神、人變成工具的附屬品。讓我們的下一代看到意義，在有意義的事物上投入自己的熱情與專業，我們才會在 AI 時代有未來。
這是一個時代的終結，也是一個選擇的開始
這是一個時代的結束。科技公司從天堂、進步、不作惡的同義詞，變成一個跟農藥公司有同樣社會責任的企業。這告訴我們能力越大，責任越大。農藥公司讓我們學到：一個強大的工具，可以同時是解方也是毒藥，差別在於製造它的人是否認真思考過對環境的責任，使用它的人是否有足夠的知識和警覺。
AI 也是如此。它可以幫助人，也可以侵蝕人。差別不在工具本身，而在於我們是否清楚知道人是什麼、人的尊嚴在哪裡、什麼是不可讓渡給任何工具的。當一個社會裡的人，清楚知道自己是誰，知道自己的價值不取決於效率、不取決於 AI 能不能取代自己，那個社會才能真正地善用工具，而不是被工具所用。
我們必須要對演算法的作用有清晰的認識，才能夠真的做自己、而不是做演算法的附屬品，開創屬於自己人生的幸福。
（本文以瑞秋·卡森與《寂靜的春天》為起點，將農藥公司對環境的責任類比於AI公司對人性的責任。完稿後，作者發現前 Google 廣告戰略家、牛津大學科技倫理學家 James Williams 在其著作《Stand Out of Our Light》中，亦曾以卡森與 DDT 類比演算法對人類注意力的污染，並提出「認知環境污染」（Cognitive Pollution）的概念。兩者的切入點不同：Williams聚焦於注意力的被奪取，本文聚焦於企業責任與人性的保護，但共同指向同一個核心關切：我們需要一場針對人類心智的環境保護運動。特此說明。）
分享圖文請註明出處，未經本站同意不得轉載
瀏覽次數：2862
