fb短片辨偽賽 冠軍準確度65%

By on June 16, 2020

原文刊於信報財經新聞「StartupBeat創科鬥室

全球最大社交平台Facebook(fb)去年12月,透過公開舉辦Deepfake(深層偽造影像)檢測挑戰賽(DFDC),旨在尋找並開發演算法,以識別偽造短片。該項比賽近日宣布賽果,其中最佳評分模型,由選手Selim Seferbekov勝出,其平均準確率達到65.18%。

得獎選手瓜分780萬獎金

所謂「深層偽造影像」,主要以人工智能(AI)技術,把目標人物長相移花接木,再竄改為合成影片。由於聲畫相當逼真,一般人難分真假;適逢年底美國總統大選,若作網絡詐騙工具,足以左右輿論風向,教不少科企頭痛不已。

DFDC今次吸引全球2114名選手參加,向大會遞交合共逾3.5萬個演算法模型,其後通過公開排行榜(Public Leaderboard),讓參賽者評估自己表現;勝出選手將瓜分100萬美元(780萬港元)獎金。

fb僱用3500名演員拍片,部分以AI製作Deepfakes魚目混珠。(fb網上圖片)

fb僱用3500名演員拍片,部分以AI製作Deepfakes魚目混珠。(fb網上圖片)

為了籌辦比賽,fb先夥拍矽谷科企微軟(Microsoft),美國麻省理工學院(MIT)、英國牛津大學(University of Oxford)及德國慕尼黑工業大學(Technical University of Munich)等行業及學術專家,創建並共享逾10萬個短片數據庫。

fb另僱用逾3500名演員,錄製短片魚目混珠;部分影片以不同的Deepfake生成模型及干擾元素,例如:圖像增強、模糊、重疊等手法修改短片。

挑戰賽選手須把其代碼提交至黑盒數據庫,當中內含一萬條保密短片,包括網上現存的Deepfake影片,選手事前無法用來訓練AI;大會另模擬潛在不良分子,藉修改及瞞騙檢測器等手法,提高比賽難度。

公開排行榜上表現最佳的模型,平均準確度做到82.56%;惟其模型通過黑盒後,識別能力隨即顯著下降,以表現最佳的Selim Seferbekov為例,其平均準確度只達65.18%。fb科技總監施勒普夫(Mike Schroepfer)向傳媒坦言,效果已比他預期為佳。

施勒普夫續稱,對fb目前情況而言,Deepfakes並非什麼大問題,但公司希望以這些工具,提前準備以防萬一。這項挑戰賽勝出的演算法,將以開放源碼方式發布,藉此協助其他研究人員。惟fb會把自己的檢測技術保密,以防被人逆向工程破解。

支持 StartupBeat

如欲投稿、報料,發佈新聞稿或採訪通知,按這裡聯絡我們