高嘉瑜表示，隨著AI技術的普及，近期在網上有眾多「AI換臉」色情試看片，這些在網路上未經同意而被換臉、製成色情片的受害者將近百人，除了知名網紅、藝人明星，也不乏女性政治人物，這樣的行為早已對女性的名譽造成不可抹滅的侵害。「不管是不是真的，更何況會有很多人認為是真的，這是最可怕的地方。無論如何，沒有人能接受未經自己同意的換臉影片在網路上流傳！」

針對未經本人同意而發布的「AI換臉」影片，高嘉瑜認為，這其實就是一種變向散播假訊息的行為，但綜觀我國現行針對假訊息管制的法規中，卻僅針對災害、食品、傳染病等假訊息才有做特別規範，對於「AI換臉」造假的影片目前仍無法可管。

高嘉瑜指出，就個人資料保護法的層面，現行遭「AI換臉」的受害者多為公眾人物，照片等資料取得相對容易，臉部圖像若為合法公開或自行公開，自然也不在個資法保護範疇，最後有可能成立的，只剩下《刑法》上的妨害名譽罪，不過妨害名譽罪的刑度相對輕微，因其立法之初，並未考量網路性暴力對被害人所造成的深遠影響，現如今繼續用舊條文來處理新的犯罪現象，有罪責不相當的疑慮。

以國際做法為例，美國就要求所有經過AI換臉技術處理的影像，皆須以浮水印標明影像係經竄改、以文字明示影像經過改動並簡述改動程度，甚至直接將濫用「AI換臉」技術散播不實影像的行為納入刑罰規範，若使用AI換臉技術而有「意圖以性行為與裸體等類似特徵，侮辱或騷擾特定人者」，可處高達5年有期徒刑、行政罰鍰15萬美元（約新台幣420萬元），亦應負民事侵權損害賠償責任。

高嘉瑜表示，未來將參考國際因應方式，致力於推動我國「AI換臉」管制之相關法令，包括建立獨立的網路影像真實性查核單位、提高網路平台對於用戶發布內容之監督責任、將「AI換臉」之濫用視為獨立犯罪行為，並明文規範其刑事、民事與行政責任；於技術層面上，開發相關人工智慧工具以因應之，例如，美國新創公司Deeptrace已開始著手研發深度偽造辨識技術，以辨識影片之真偽。

★ 《鏡新聞》關心您：若自身或旁人遭受身體虐待、精神虐待、性侵害、性騷擾，請立刻撥打110報案，再尋求113專線，求助專業社工人員。