AI救人勝殺人 (高天佑)

By on March 19, 2019

本文作者高天佑,為《信報》撰寫專欄「新聞點評」,此為節錄版本,原文請按此

今年是港鐵(00066)通車40周年,昨天卻發生歷來首宗兩車相撞意外,初步指原因是新電腦系統「揀錯路」,不幸中之大幸是意外發生於凌晨時段,否則難免有嚴重傷亡。某程度上,今次港鐵撞車跟此前波音737 MAX 8兩度墜機事故相似,均可歸咎於AI系統出錯。在今後人工智能時代,「AI殺人事件」恐將更多;但另方面,透過無人駕駛、智能診斷等技術,AI亦可打救及幫助很多人。無論如何,AI趨勢已不可逆轉;殺人抑或救人,最終還是要電腦背後的人腦來負上責任。

埃塞俄比亞運輸部長莫格斯昨日指出,根據飛機黑盒資料,該國埃塞俄比亞航空737 MAX 8客機本月初墜機導致157人遇難,跟去年10月印尼獅子航空同一機款失事「有明顯相似地方」。

獅航空難因人工智能失靈

獅航空難已查明是AI失靈導致,而早前埃航墜機意外(圖)被指跟獅航失事「有明顯相似地方」。(法新社圖片)

獅航空難已查明是AI失靈導致,而早前埃航墜機意外(圖)被指跟獅航失事「有明顯相似地方」。(法新社圖片)

為了防止機師出現人為錯誤,波音於737 MAX 8增設一套AI系統,持續監察平衡情況,每當發現機身前傾便會自動抽起機頭,毋用勞煩機師操作,理論上十分完美。可是,機身上用作監察平衡的儀器若然失靈,便會令AI錯誤感應,以致飛機明明平衡卻仍硬行抽起機頭,反而導致失速而直線下墜,這正是獅航空難的成因。事後,波音為AI系統推出更新版本,容許機師在異常情況下turn off這套系統,臨時改為人手操作;但懷疑因為埃航未有針對更新版本向機師提醒相關問題及教導他們turn off系統,釀成慘劇重演。實際上,莫說是埃航機師,據波音所在國、當今第一強國美國的傳媒報道,當地很多航企機師也表示不知悉AI更新詳情,因此波音恐怕責無旁貸。

同樣道理,港鐵把昨天撞車意外歸咎於新的電腦系統「揀錯路」,容許兩列列車駛進同一路軌導致炒車,然而想深一層,設計電腦系統和為它輸入參數的始終也是人類,不能把責任完全推到AI身上。

是得是失 看人類怎運用

隨着人工智能進一步普及,「AI殺人事件」可能更多。不過整體而言,AI在救人方面的效益相信會超過殺人的禍害。例如根據世界衞生組織(WHO)的《道路安全全球現狀報告》,現今全世界每年有135萬人死於汽車交通意外,據估計多達95%源自人為鹵莽或疏失(human errors),故若全面應用無人駕駛技術,理論上每年可救回逾百萬條性命,即使計及偶爾AI失靈「害死人」,相信仍是「救人」數量多於「殺人」。

講到底,AI時代無可逆轉,但暫時看來,直至電腦系統失控至懂得自我繁衍和迭代之前,AI仍是由人類來設計及控制,這柄雙刃劍利與弊孰重,救的人多抑或殺的人多,始終視乎人類怎麼運用。

(編者按:高天佑最新著作《中產必須死》現已發售)

歡迎訂購:實體書、電子書

更多高天佑文章:

支持 StartupBeat

如欲投稿、報料,發佈新聞稿或採訪通知,按這裡聯絡我們