在生成式人工智慧迅速滲透日常生活的此刻，我們或許已習慣讓聊天機器人幫忙寫訊息、做功課和生成圖片，卻很難預料到，有天AI居然會成為製造、滿足特定用戶性羞辱與暴力想像的工具。
近期，社群平台X所屬的AI聊天機器人Grok，提供了一個名為「火辣模式」（Spicy Mode）的服務選項，使用者在特定指令與模式下，能夠生成高度性化、甚至涉及未經同意的裸露影像。這些影像不只是虛構人物，亦可以對真實存在的女性、公眾人物，甚至未成年人圖片進行「性編輯」。此模式公開後，接連引發歐洲多國監管機構與人權團體的強烈反彈，英國、法國與歐盟層級的調查也陸續啟動……
這類服務的開放，個人認為不再只是單一平台的技術與政策誤判，而是一個關於權力、資本與文化如何透過科技重新分配的警訊。
平台資本下的軀體凝視：文化霸權與數位性剝削
Grok的爭議，表面上看來是AI生成內容失控，但若將鏡頭拉遠，會發現這起事件深深嵌入平台資本主義（Platform Capitalism）的邏輯之中。
在政經傳播的視角下，科技平台並非中立工具，而是由資本、權力與市場競逐所堆砌起的媒介體系。Grok所屬的X平台，執行長馬斯克一直以標榜「言論自由最大化」作為品牌敘事，將低度內容審查包裝成創新與反體制精神的一環。這種話語策略，實際上讓平台在爭議爆發前，得以長期迴避對內容後果的公共責任。
當AI能生成裸露影像時，問題並不只在於「技術做得到」，而在於平台選擇了讓它被做出來。在奉「注意力經濟」（Attention Economy）為圭臬的當代媒體邏輯中，爭議性、刺激性的內容本就更容易被點擊、轉傳與討論，也就是所謂的「點擊誘餌」（Clickbait），而平台正是從這些流量中獲利。所謂「創新自由」，往往成為資本規避倫理審查的最佳保護色。
暴力的加速器：數位性影像中的羞辱與恐懼
若再進一步從共產主義思想家Gramsci所提出的文化霸權（Cultural Hegemony）來觀察，Grok事件其實延續了長久以來的權力結構：哪些身體可以被凝視、被再製、被性化，而不被視為真正的傷害？
AI生成的性化影像，多半以女性身體為主要對象，這並非巧合，而是文化長期涵化的結果──在主流數位文化中，女性形象經常被視為可供觀看、評價與改造的對象；當這套視角被餵進演算法的大型模組，AI只是忠實地還原並放大了既有的不平等與低劣慾望。
文化霸權的可怕之處，不在於它強迫，而在於它讓支配看起來「理所當然」。當然平台可以辯稱「只是使用者指令」、「只是技術中立」，但其實這正是在正常化一種觀念：被性化的身體，是數位創作的合理素材；而被傷害的感受，則被降格為次要成本。
然而，對當事人而言，這些性影像從來不是「虛擬」的。未經同意生成、散布性化影像，本質上已構成數位性暴力的一環，不需要實體接觸，但能造成同樣深刻的羞辱、恐懼與社會排除。當AI讓這種行為變得低成本、快速、難以追責，傷害的規模只會倍數放大。
更令人不安的是，這類影像一旦進入網路生態，就可能因其迅速傳播的特性而被無限複製或進行二次加工，當事人幾乎不可能能完全追回。科技所創造的「便利」，於此成了暴力延展的加速器。
AI自由的邊界？跨國監管及平台治理展望
面對Grok爭議，歐洲各國的反應顯得格外關鍵。法國監管機構已指出相關內容可能違反隱私與性暴力法規；英國則依據《線上安全法》要求平台說明其內容管理機制；歐盟層級也將本次事件納入《數位服務法》的監督範圍。這些作為傳達出一個清楚訊號：AI必須受到法律監管。
但平台治理不可能只靠禁令。法律提供底線，平台治理則決定日常運作，而技術設計本身也必須內建倫理防線。若平台一方面標榜自由，另一方面卻將風險外包給社會承擔，那麼再多法規也只能事後補救。作為媒體從業者，個人認為真正有效的平台治理，必須是法律、平台責任（自律）與相關團體（他律）三者共存，而非彼此推諉。
被「脫衣」的尊嚴：我們如何在演算法中守住界線？
最終，Grok事件逼迫我們去思考一個更不舒服、卻無法迴避的問題：根據加拿大學者麥克魯漢（Marshall McLuhan）的科技決定論（Technological Determinism），媒介即是人的延伸，而我們究竟希望科技替我們延伸什麼樣的慾望？
倫理批判並非反對科技，而是要求我們誠實面對權力如何藏身其中。AI並不會憑空產生性化影像，它只是學會了我們早已存在的觀看方式。若不反思這些慾望本身，再精密的管制也只「治標不治本」。
同時，閱聽人角色也不容忽視。在演算法時代，每一次指令、點擊與轉傳，都是在餵養系統。我們如何使用科技，決定了科技將回饋我們什麼樣的世界。或許，比起問「AI能不能做這件事」，更為重要的提問是：我們是否真的需要它這樣做？
當AI開始替人「脫衣服」，真正被剝抹去的，可能不是影像中的角色，而是我們對尊嚴、界線與責任的想像。科技與媒體的未來，終究不只是算力的問題，而是價值及道德的選擇。
（作者畢業於傳播院校新聞學系學士，現為電視新聞台編輯）
分享圖文請註明出處，未經本站同意不得轉載
瀏覽次數：5184
