圖片來源:Unsplash

過去300年,科技文明發展的軸向大約循著三條軌跡。

在原子領域(物質世界)的科技創新,如火車、汽車、飛機的發明,改變了人類移動的方式。電報、電話、收音機、電視,增加了人與人之間通訊的選項。從此以後,人與空間的關係產生了重大的典範轉移。

在細胞領域(生物世界)的創新遠為緩慢,從盤尼西林的發明到今天,還不到100年,但在這100年間,人類平均壽命增加了25年,地球人口從20億成長到70億,這都歸功於物質生活條件的改善和醫療水準的進步。

位元領域(概念世界)的科技發明起步更晚,但後勁十足。由於計算能力的進步,以工具開發工具,科技發展的速度開始呈指數成長,加上數位帝國企業富可敵國的人才和財富,連帶推動了原子和細胞領域的創新速度。

雖然多數人同意科技都是兩面刃,隨其利必有其弊,但大體而言,過去300年的創新,無論在原子、細胞或位元領域,多是利多於弊,或利為顯性,弊為隱形,利與弊並不對稱。這些輝煌的科技成就養成了多數人「科技至上」的樂觀態度,認為即使科技創新有其弊患,解決的方法唯有靠更多更完善的創新。

這種無條件擁抱科技的樂觀態度,可以稱之為「科技至上主義」。擁護者以矽谷的新創公司為代表,其中最具指標性的人物便是臉書的執行長祖克柏。

逐漸失控的「資訊戰」

100年前,科技創新的利與弊具有顯著的不對稱性,利多弊少,擁抱科技自然義無反顧。例如飛機失事固然造成無可挽回的災難,但沒人因此拒絕搭機旅行的快速方便。80年前,進入核能科技發展的領域時,科學家開始有了憂慮,核能災難一旦發生,其後果比空難事件嚴重千萬倍。等到最近3D製造技術的進步,雖然增加了少量多樣製造的彈性,但網路上任何人可以免費下載致命槍枝(例如AK47)的3D打印檔案,科技的利弊指針又向弊的方向跳動了一格。

有一天,如果創新帶來的貢獻和風險對稱,利與弊相當,創新還有什麼意義?這一天也許還沒有到來,但若觀察最近科技進展帶來的威脅,也該開始杞人憂天了。

2011年時,臉書被視為開啟「阿拉伯之春」的功臣,結果春天未曾來臨,反倒提高了許多國家的警覺,開始建立龐大的網軍。美國安全局(National Security Agency)一年經費100億美金,中國早早便成立了人民解放軍61398部隊,2017年台灣在陸海空軍之外也成立了第四軍種「資通電軍」。未來資訊戰爭的對抗,必然像當年核武競賽,衝突只會升高,不會降低。

資訊戰雖然不像核武具有毀滅性的殺傷力,卻對擾亂社會秩序、製造族群衝突具有更大的破壞力。控制核武的擴散,國際間還有談判或制裁的機制,至於如何節制跨國的資訊戰,目前還沒有適當的下手解決之道。

由於互聯網的分散性,以及民主國家對言論自由的保障,許多具有強烈意識情結又擁有龐大財務資源的個人,也能結黨造勢。例如幾個月前被臉書查出散佈煽動性言論的英國數據公司劍橋分析(Cambrdige Analytica),其後台財務支持者便包括美國十億級富翁 Robert Mercer。已離職的川普政府策略長Steve Bannon是一位極右份子,他曾經擔任劍橋分析的副總裁。經過英國記者Carole Cadwalladr的深入調查,已經證明劍橋分析跟英國脫歐運動、2016年川普競選、以及俄羅斯參與攪和都脫離不了關係。可見在資訊的無限傳播能力之下,一人之力,已經可以動搖國本。

像臉書、Instagram、Twitter, Snap這些社群媒體平台,99.999%的使用者都在免費享受它的便利,跟親近的家人朋友即時互通訊息,也造就了臉書這個市值5千億美金的數位帝國。然而為了這些須臾片刻的溫馨感受,民主社會需要付出多大的代價?如何能夠透過科技,設計出令人放心的安全閥,預防各種已知或未知的威脅?

如果AI不再乖乖聽令

由於硬體計算能力的飛速進步,人工智慧的威脅也隨之接近引爆點。姑且不論人工智慧對就業市場帶來的根本衝擊,擁抱AI的樂觀主義者,只看到它種種可以協助解決複雜問題的潛力,卻忽略了一個弔詭:解決問題的能力越強,製造問題的能力也越強。

問題的產生有兩個來源。一是具有破壞意圖的人存心利用。這些人躲在暗處,不必遵守道德或法律的規範,他們操作的空間遠比循規蹈矩一心想用AI為人類造福的人士更為寬廣,意志也更為堅定,不達到破壞的目的,絕不輕易中止。

第二個來源是難以完全避免的內建系統失誤。AI 不免需要建立系統模型,設想種種可能發生的狀況,設計演算法(algorithm),再進行模擬測試。但在黑天鵝的極端狀況下, AI將如何反應便難以預測,不無可能造成災難。事實上,當我們希望機器的人工智慧(AI)越高,人類智慧(HI)參與的成份便越低;HI成份越低,便越不能預測AI的反應,也可以說,AI的反應也就越難被人類的尋常智慧所預測了。

AI加上了物聯網(IOT),自動化或智能化是未來十年必然的潮流。無論工業4.0、機器人、無人駕駛交通工具(車、船、或是空中計程車)、智能家庭 、智慧城市,都必須靠環環相扣的一連串自動反應才能順利運作。當一切正常時,人類也省了所有的心思,萬事都有機器人或人工智慧打點,但中間如果有一個環節出了小差錯,整個系統也可能為之完全癱瘓。換句話說,越是自動化,系統故障的代價越大,重新啟動的成本越高。

游擊隊遠比正規軍難以殲滅,恐怖份子永遠不會被武力剷除。當取得破壞工具的門檻越低,恐怖份子就更容易得逞,即使實質傷害不大,社會卻經常籠罩在恐懼的陰影之下。試想:一架可以飛行一個小時的小型無人機,裝備了精準的GPS定位和人臉辨識軟件,攜帶致命武器,在幾公里之外便可以執行殺人任務。這已經不是科幻小說,可是現代社會準備好了嗎?可有適當的反制機制?

做好事簡單,「不做壞事」卻很難?

雖然風險難以掌控,在激烈競爭和經濟誘因之下,創新不可能停滯。因此有必要重新思考創新:21世紀的創新,跟前300年的創新,會有什麼不同?

首先我們必須揚棄科技至上主義,承認低垂的科技果實已經被摘完,剩下位在高處的果實,有的可能苦澀,有的摘取成本太高,有的可能具有「始料未及的後果」(unintended consequences)。因此在開發技術之前,應該戒慎恐懼,不能只將目光焦點放在創新的利益,而應該儘早加入各種機會成本和外部成本(external cost)的計算。

但還有一項後果很難放在成本估算之內,那就是災難性系統失敗的後果,以及如何預防其發生。在系統設計上,可以將之想像為機器人三定律的第一條:「機器人永遠不會傷害人類」,如果能夠將類似的原則內建在系統內,在任何災難性毀滅發生前,有一個自我癱瘓的功能,便可以避免災難發生。然而這將對創新的設計造成極大的挑戰,而且可能增加難以負擔的生產及營運成本。

另外,有些科技創新的功能是修復、縫合、再生,有些是破壞、傷害、消耗。有些科技創新可以增進人與人之間的了解,有些卻被用來在人群間製造分化,樹立高牆。有些創新能夠醫治癒合,有些卻在殺傷毀滅。未來的創新競爭裡,如果我們將研發的資源導向在前者, 「多做好事」(doing more good),自然會「少做壞事」(doing less harm)。

然而在巨大商業利益以及贏者全拿的競爭環境下,「少做壞事」比「多做好事」更為困難。谷歌從創業開始便標榜「不做惡事」(Don't be evil),但在今年五月已悄悄將這個口號從公司員工行為手冊中拿掉。3個月後,谷歌便宣佈重回中國,提供特別版的搜索引擎。

2015年,印裔美籍作家Anand Giradharadas曾經在美國老牌人文智庫阿斯本研究院(Aspen Institute)給了一個演講,提出了美國大企業或是企業家雖然爭相在企業外部做好事,然而在企業內卻吝於做該做的事。例如有企業家捐錢給慈善組織訓練非洲年輕人編寫程式,卻不願在公司內雇用弱勢員工。食品公司捐錢給小學,卻大力行銷導致孩童肥胖的垃圾食物。

Anand Giradharadas將這種寧願多做好事、不肯承諾少做壞事的企業共同心態稱為「阿斯本共識」(Aspen Consensus)。為什麼有這種心態?原因很簡單,做好事容易,因為競爭獲勝後才需付出,少做壞事難,因為擔心失去競爭力。

阿斯本共識既然是企業經營的共同心態,企業的創新自然根據同樣的指導原則,只看到創新帶來的商業機會,卻對技術散播之後的可能弊患閉上一隻眼睛。長此以往,創新的利與弊恐怕會逐漸趨向平衡。

從事創新者,有人為了經濟利益,有人為了改變世界,有人純粹為了證明「我可以辦到」。無論動機為何,21世紀的科技創新已經進入深水區,只有開展新的思維,一面對創新之利,力求跳躍式的進步,一面對創新之弊,如臨深淵如履薄冰,不冒任何難以承擔的風險,這樣才能拉大創新利與弊的比例。否則,如果利弊相當,這樣的創新並不令人期待。

瀏覽次數:2003

編輯推薦

延伸閱讀

關鍵字:

矽谷 Acorn Pacific Ventures 創投基金共同創辦人。職場生涯中一半台灣,一半矽谷,一半企業,一半創投。因創投業務廣泛接觸三江五湖能人志士,近距離觀察產業更迭,深刻感受到名與實,見與識,知與行的差距,無論創業或人生,真正成功的人都能縮短其中的差距。 著有《小國大想像》臉書專頁)及《錫蘭式的邂逅》二書。

「獨立評論@天下」提醒您:
1.本欄位提供網路意見交流平台,專欄反映作者意見,不代表本社立場
2.發言時彼此尊重,若涉及個人隱私、人身攻擊、族群歧視等狀況,本站將移除留言。
3.轉載文圖請註明出處;一文多貼將隱藏資訊;廣告垃圾留言一律移除。
4.本留言板所有言論不代表天下雜誌立場。