Don't Miss

奇點與殺手級無人機 (黃岳永)

By on July 15, 2022

本文作者黃岳永為香港科技大學副教授兼高級顧問(創業),為《信報》撰寫專欄「科網人語」。

人們都猜想科技發展出現「奇點」(Singularity)後狀況。在這個假想的未來,科技已達失控兼不可逆轉,人工智能及強大技術將無可避免地改變現實世界。不少動漫及電影都有展示奇點後的世界狀況,最為人熟悉應該是1984年的《未來戰士》(Terminator)。

《未來戰士》講述人工智能防禦系統天網(SkyNet)產生自我意識,並向人類發動核戰,其後為防止人類組成抵抗軍,天網派遣機械人回到過去,企圖殺死反對軍領袖的母親,故事亦隨之展開。在科幻世界中,探討人工智能或機械人在當中所扮演的角色多不勝數,當中有如《未來戰士》作為終極反派大佬,亦有如電影《智能叛變》(I, Robot)中,探討機械人三大法則所構成的邏輯出現意外時的情況。

無人機不是什麼高科技,日常生活中常有人使用,當搖身一變成「殺手」,相信很多人都估計不到。(路透資料圖片)

無人機不是什麼高科技,日常生活中常有人使用,當搖身一變成「殺手」,相信很多人都估計不到。(路透資料圖片)

三大法則依次為:第一、機械人不得傷害人類,或袖手旁觀坐視使人類受到傷害;第二、除非違背第一法則,機械人必須服從人類的命令;第三、在不違背第一及第二法則的情況下,機械人必須保護自己。不過,小說是一回事,現實又是另一回事,首富馬斯克早幾年曾提出,人類現有科技已足以製造機器殺手。

當年可能還有人會認為馬斯克純粹「吹水」,但在俄羅斯入侵烏克蘭一戰中,美國對烏克蘭的軍事援助便包括了100架「殺手級」無人機,這款無人機被稱為「坦克殺手」,遠達幾十公里亦能精準命中目標,相關影片在電視及YouTube都可以看到。據報美國目前打算再下一城,發展名為「Kamikaze」(日文「神風」的意思)的無人機,配合人工智能可以追蹤或殺死指定目標,真正落實「智能無人機殺手」。

道德應該是適用於任何人類,利用機械及人工智能作武器的可能後果,絕對值得大家深思。(法新社資料圖片)

道德應該是適用於任何人類,利用機械及人工智能作武器的可能後果,絕對值得大家深思。(法新社資料圖片)

無人機不是什麼高科技,在淘寶可輕易購買,日常生活中常有人使用,當搖身一變成「殺手」,相信很多人都估計不到。詭異的是西方世界普遍認為使用此「機器殺手」屬合情合理,因為技術是用於抵抗邪惡入侵,攻擊/刺殺的也是俄羅斯的不義之師。由於人們對人工智能結合機械作為殺人武器感覺良好,不少人提出將其納入國防系統。

機械人三大法則最重要的第一條已被推翻,餘下兩條是無關痛癢。然而,當我們日常生活和喜愛偏向愈來愈受人工智能影響,當Google的聊天機械人LaMDA被揭發具備自我意識,當人們接受人工智能可以配合機器殺人時,這一連串事情會促成一個怎麼樣的未來?道德應該是適用於任何人類,而非分開敵我或三六九等,利用機械及人工智能作武器的可能後果,絕對值得大家深思。

更多黃岳永文章:

支持 StartupBeat

如欲投稿、報料,發布新聞稿或採訪通知,按這裏聯絡我們