Don't Miss

AI軍備應用爭議 (車品覺)

By on May 12, 2021

本文作者車品覺,為紅杉資本中國專家合夥人、阿里巴巴商學院特聘教授暨學術委員會委員,為《信報》撰寫專欄「全民大數據」

依當前相關技術的發展速度與方向判斷,以AI驅動的大規模集群武器仍屬大勢所趨。(路透資料圖片)

依當前相關技術的發展速度與方向判斷,以AI驅動的大規模集群武器仍屬大勢所趨。(路透資料圖片)

多年來從事大數據業務,最不希望發生的事情,終究無法避免。美國國防部長奧斯汀(Lloyd Austin)早前在一個有關科技倫理的活動上發言:「我們將不得不學會在戰場上信任人工智能(AI)。」他提出一個在未來戰爭中令人震驚的場景,涉及美軍利用AI的快速發展和衍生的倫理挑戰。

美國陸軍未來司令部(Army Futures Command)指揮官穆雷(John Murray)說:「假設在戰場上3公里外偵測到無人機群,對手有100架半自動或全自動無人機,當中有些負責攻擊,其他則分別作偵查、干擾、指揮和控制等任務。要在電光火石間識別無人機的角色並作快速應對,超乎人類所能,故非借助人工智能不可。」上述情況在伊拉克和阿富汗似曾相識,名為C-RAM的自動化防空系統可應付間瞄火力武器的威脅,攔截導彈、火箭彈與炮彈,當啟動自動交戰功能後,最終須以人手控制方可關閉。儘管美軍稱至今為止,C-RAM已經375次成功攔截敵軍向高價值戰區發射的飛彈和迫擊炮彈,並未有造成誤傷或附帶損害。

機器擁有更快的反應,能同時追蹤多個事物,且不會因此疲倦或產生恐懼。(路透資料圖片)

機器擁有更快的反應,能同時追蹤多個事物,且不會因此疲倦或產生恐懼。(路透資料圖片)

穆雷認為,未來戰爭關鍵不在於AI技術,也並非對這些複雜系統建立信任,重點是有否相關的備戰能力和狀態,可迫使敵人卻步,他形容這是未來司令部存在的真正意義。從作戰角度看,速度乃重要取勝關鍵之一,毫無疑問,機器擁有更快的反應,能同時追蹤多個事物,且不會因此疲倦或產生恐懼。

然而,筆者覺得把AI用於戰爭絕非人類之福,應該及早制止。面對AI在軍武方面的應用日增,歐洲監管機構有截然不同的取態。歐洲議會近日規定:「使用自主武器系統瞄準目標並採取致命行動的決定,始終必須由人類發動,並在符合相稱性和必要性原則的基礎上,進行有意義的控制和判斷。」換言之,全自動決策的自主武器應被列入違法範疇。雖然圍繞此議題的爭論不絕,惟依當前相關技術的發展速度與方向判斷,以AI驅動的大規模集群武器仍屬大勢所趨。

依當前相關技術的發展速度與方向判斷,以AI驅動的大規模集群武器仍屬大勢所趨。(路透資料圖片)

依當前相關技術的發展速度與方向判斷,以AI驅動的大規模集群武器仍屬大勢所趨。(路透資料圖片)

(編者按:車品覺著作《覺悟.大數據》現已發售)

歡迎訂購:實體書、電子書

更多車品覺文章:

支持 StartupBeat

如欲投稿、報料,發布新聞稿或採訪通知,按這裏聯絡我們