Tesla自駕系統被揭易受騙 快閃人物路標影像 觸發急煞轉彎

By on October 14, 2020

原文刊於信報財經新聞「StartupBeat創科鬥室

有研究團隊發現,只要在路面投映人物或路標影像,就可騙倒Tesla自動駕駛系統ADAS,把汽車煞停。(YouTube影片擷圖)

有研究團隊發現,只要在路面投映人物或路標影像,就可騙倒Tesla自動駕駛系統ADAS,把汽車煞停。(YouTube影片擷圖)

儘管美國電動車特斯拉(Tesla)的自動駕駛系統ADAS方便實用,惟以色列有研究團隊發現,不法分子若在路面或路旁顯示瞬間即逝(可能只有零點幾秒)的影像,即使人類肉眼看不到,也足以騙過Tesla的ADAS,導致自動煞車或轉彎,隨時釀成車禍。

Tesla的ADAS主要依靠相機偵測,較小程度取決於雷達,因此有不少方法可作人為干預。以色列內蓋夫本古里安大學(Ben-Gurion University of the Negev)的研究團隊發現,只要在連接互聯網的電子廣告牌上快閃一個停車標誌,顯示過程僅0.42秒,雖然司機肉眼難以察覺,亦足以使Model X座駕急停。

研究團隊又發現,僅出現八分一秒的圖像,同樣可以騙倒以色列的Mobileye 630設備。

在連接上網的廣告牌上,快閃一個停車標誌,亦足以剎停Model X。(YouTube影片擷圖)

在連接上網的廣告牌上,快閃一個停車標誌,亦足以剎停Model X。(YouTube影片擷圖)

研究團隊提破解招數

他們還嘗試開發演算法,分析短片影像的像素點,於人眼最少注意的位置嵌入半秒的「幻影路標」,足以對道路使用者構成風險。另一方法是透過無人機,在幕牆投射交通標誌,同樣可騙倒自動駕駛系統。

這種「幻影攻擊」可遙距執行,而且毋須任何專門知識,既可以是惡作劇、勒索手段,也可進行恐怖襲擊,而且過程神不知鬼不覺,現場遺留的證據也很少。

為降低「幻影攻擊」的成功率,該研究團隊開發出名為「捉鬼敢死隊」(GhostBuster)的系統,由4個卷積神經網絡組成,可部署在現有的ADAS上,毋須額外傳感器。其設計考慮到深度、光線,以及周圍環境等不同因素,讓AI可辨別道路標誌圖像是否真實。

在座駕啟用自駕系統後,司機仍要把手放在軚盤,以便隨時接管座駕。(YouTube影片擷圖)

在座駕啟用自駕系統後,司機仍要把手放在軚盤,以便隨時接管座駕。(YouTube影片擷圖)

光學雷達可避風險

據科技媒體Wired報道,採用LiDAR光學雷達的自動駕駛系統,如美國通用汽車(General Motors)的Cruise,主要用激光測量距離和速度訊息,可避免以上問題;即使電子廣告牌上閃現圖像,亦不會起作用。

另外,Tesla創辦人馬斯克(Elon Musk)在Twitter上透露,該公司將於本月20日(下周二)起,向部分駕駛紀錄良好的專業車主發放全自動駕駛功能(FSD)測試版本,但司機仍要把手放在軚盤上,以便隨時重新接管座駕。

馬斯克稱特斯拉下周二起,將向部分車主發放全自駕功能(FSD)測試版。(法新社資料圖片)

馬斯克稱特斯拉下周二起,將向部分車主發放全自駕功能(FSD)測試版。(法新社資料圖片)

支持 StartupBeat

如欲投稿、報料,發佈新聞稿或採訪通知,按這裡聯絡我們