何謂人工智能倫理三定律 (車品覺)

By on March 2, 2020

本文作者車品覺,為紅杉資本中國基金專家合夥人、阿里巴巴集團前副總裁,為《信報》撰寫專欄「全民大數據」

根據機械人定律,機械人不得傷害人類個體,且必須服從人類給予它的命令。(電影《智能叛變》劇照)

根據機械人定律,機械人不得傷害人類個體,而且必須服從人類給予它的命令。(電影《智能叛變》劇照)

人工智能倫理最早進入公眾討論,可能是來自科幻小說作家阿西莫夫提出的「機械人三定律」。阿西莫夫不僅是哥倫比亞大學化學博士,更是世界聞名的全能作家,曾獲代表科幻界最高榮譽的雨果獎和星雲終身成就大師獎。

阿西莫夫一生著述多達數百本,內容遍及科學、天文、生物等,其中有一本小說I, Robot(曾拍成電影《智能叛變》),在1950年出版,淵博的學識使他筆下世界具備了奇幻的想像、高度的預言性。阿西莫夫在書中提出「機械人三定律」,幾乎成了以後科幻作家創作有關機械人作品時必須遵循的法則。

第一定律:機械人不得傷害人類個體,或者目睹人類個體將遭受危險而袖手不管。

第二定律:機械人必須服從人類給予它的命令;該命令與第一定律衝突時例外。

第三定律:機械人在不違反第一、第二定律的情況下要盡可能保護自己的生存。

阿西莫夫就在三定律的框架下創作了一系列短篇機械人科幻小說。在他筆下的小說,機械人都是穿插於這些法則的前提下逐漸展開故事。同時,三定律的影響力也具有一定現實意義,有人在三定律基礎上建立了「機械倫理學」,旨在研究人類和機械之間的關係,也可以說是創立了人工智能倫理學的先河。

如果把倫理思想放於機械人定律,就是機械人必須保護人類的整體利益不受傷害。(路透資料圖片)

如果把倫理思想放置於機械人定律,就是機械人必須保護人類的整體利益不受傷害。(路透資料圖片)

以人類整體利益為大前提

你可能會問,倫理是什麼?翻查百度的答案:倫理是指在處理人與人、人與社會相互關係時應遵循的道理和準則。舉個例子,如果你懼怕被警員發罰單而不敢亂過馬路,這是因為你不想因此而招致財務損失。但如果在你確定絕對不會被人發現下,依然循規蹈矩安份過馬路,這可能就是你所認可的倫理觀念,或是你的道德底線。

從人工智能現有能力給人類社會帶來的負面後果角度來看,我們正面對着兩大類問題:一、人工智能被委以對人類事務作出決策的能力,但它對決策結果的倫理判斷能力不足;二、人類缺乏引導人工智能發揮作用的終極倫理準則。

值得注意的是,例如雖然人類要為垃圾處理作出額外代價,但我們有部分人願意付出代價處理垃圾,來換取更大的長遠利益,為地球環保盡點力。如果把這種倫理思想放置於剛才的三定律中,這可能就是後來補充的「機械人零定律」:機械人必須保護人類的整體利益不受傷害,其他三條定律都是在這一前提下才能成立。

更多車品覺文章:

支持 StartupBeat

如欲投稿、報料,發佈新聞稿或採訪通知,按這裡聯絡我們