歐巴馬語出驚人,直接批評川普,網路上流傳這段挑釁影片,讓許多網友看傻眼,事實上這根本不是歐巴馬本人,而是合成影片。影迷跌破眼鏡,湯姆克魯斯變成鋼鐵人,難道小勞勃道尼被換角了嗎?
英國女王站起來跳舞,什麼時候變這麼俏皮?其實這個換臉技術,叫做Deep Fake,利用AI人工智慧拼湊表情,做到幾乎百分百擬真。但這不是沒有破綻,像是影片中光影,還有人的眨眼頻率,甚至是講話時的嘴型,聽語調、看影音有沒有同步,都能嗅出端倪。
中研院資創中心研究助理陳兆廷:「像素跟像素在融合的一些特徵、臉部一些色澤上的差異等,然後這些細微差異,可以透過深度學習的方式,藉由很多張、很多張Deep Fake的圖去學習。」
一張張人臉攤在電腦螢幕前,經過程式碼驗算、分析比對之後,造假的部分呈現紅色,占了真實臉部多少,一清二楚。中研院資創中心人工智慧影像理解實驗室,專門研究深偽圖片生成檢測,其中有一段阿湯哥影片,是近期網路上最強後製,幾乎沒有破綻,也讓中研院傷透腦筋。
中研院資創中心助研究員陳駿丞:「其實也是滿挑戰,就是他做的很真,你現在都看不出來,就是上一代的偵測演算法,可能也做不太好,因為他搞不好已經也有人,他就拿這個東西去訓練它模型。」
只是變臉合法,但惡意散布就踩到法律底線,不過罰責很輕,像是妨害名譽、散布猥褻物品都是輕罪,最重才2年以下。刑事局四隊二偵查員陳鴻中:「被害人的女星或者是網紅,他沒有主動的爭取自己權益的話,相對來講就會讓權益睡著。」
除了期盼修法,防堵漏洞,中研院也不斷新增對抗樣本,雙管齊下,要揪出躲在螢幕後方,惡意造假的藏鏡人。