人工智能觸發倫理大辯論 (車品覺)

By on April 18, 2019

本文作者車品覺,為紅杉資本中國基金專家合夥人、阿里巴巴集團前副總裁,為《信報》撰寫專欄「全民大數據」

數字化引申的智識革命,伴隨大數據和AI提供了前所未有的機遇。(路透資料圖片)

數字化引申的智識革命,伴隨大數據和AI提供了前所未有的機遇。(路透資料圖片)

人工智能的迅速發展和反覆運算正在催生一種社會矛盾,到底我們是在快速成長,抑或接近安全極限?從人臉識別到聊天機器人,再到可為我們作出「最佳決策」的各種演算法,任何一種創新都可能被用於好的和不好的目的。例如產生巨大經濟利益的廣告演算法,也有可能引發性別和種族歧視。

因此,我們若把社會描述為一個生態系統,隨着世間萬物都變得數位化,或將從根本上改變我們的行為模式,並帶來潛在危機。數字化引申的智識革命,伴隨大數據和AI提供了前所未有的機遇,也帶來很多全新問題。我先舉兩個鮮明例子作討論方向:

1. 網路空間數據愈來愈多,大數據全程記錄了人類的經濟、生活、文化等活動趨勢。將來無論什麼人,在什麼地點,都會被不同的方式收集數據,但這些數據的歸屬權問題尚待解決。正因數據對於打造未來智能系統必不可少,數據應否在缺乏問責和審查之下被任意使用?同時,有大型機構因業務之便收集了大量數據,亦可能因此壟斷了客戶的選擇權。

自主演算法難避免歧視

2. 人工智能的進展對人類有巨大潛力,但也存在被濫用的風險,因為AI的透明度並未隨着其複雜性而提高。上月美國住房及城市發展部起訴一間廣告巨頭,因後者涉嫌對不同種族、性別和宗教的人群進行訂制化廣告投放。事實證明,以行為數據為驅動的自主演算法效益更高,卻更難以避免出現歧視情況。例如小學教師的職位空缺廣告展示給女性的比例較高,清潔工廣告則較多展示給少數族裔。

最近有新聞指出,Google成立不久的AI倫理委員會現正徘徊於崩潰邊緣,先是受邀的AI專家相繼離開,隨後又有大批員工請願,要求裁掉另一名與軍工業務有關的委員。委員會的本意是監督公司在應用AI等新興技術時遵循相關的倫理標準,我相信Google正在預演了一場即將發生的社會衝突。大家要選擇靜觀其變抑或積極面對,就要看AI在企業主管的心中是志在必得還是可有可無了。從投資角度看,科技安全與經濟發展的交叉點或許正是未來的主賽道。

將來無論什麼人,在什麼地點,都會被不同的方式收集數據。(路透資料圖片)

將來無論什麼人,在什麼地點,都會被不同的方式收集數據。(路透資料圖片)

更多車品覺文章:

支持 StartupBeat

如欲投稿、報料,發佈新聞稿或採訪通知,按這裡聯絡我們