搞懂四個問題 Deepfake騙不了你的心

文/蘇元和

「騙子們已經越來越多,且偽裝越來越真實,還能被複製、複製、複製……四處傳播,創造大量的模仿犯。」這絕對不是小說世界的一段情節;反之,他描述著互聯網世界裡,正在不斷發生的真實事件。

那麼,這些騙子到底是誰?他們又如何偽裝成騙子?他們目的是什麼?在網際網路科技進步時代,手機、平板、電腦螢幕,人手多機的閱聽大眾們,又該如何預防受騙上當,避免掉入偽裝的假訊息、假照片、假影片精心設計的陷阱中,本篇文章要為民眾揭開互聯網騙子的面紗。

5年前,這段前美國總統巴拉克·歐巴馬(Barack Obama)透過影片(圖一)大罵時任總統的唐納德·特朗普(Donald Trump)是「蠢豬」、「狗屎」,引發網路瘋傳;3年前,網路熱議著一支影片(下圖二)馬克·祖克柏(Mark Zuckerberg)發表一段演說:「試想一下,一個人完全控制著數十億人被盜的數據,掌握著他們所有的秘密、生活和未來……誰控制了數據,誰就控制了未來。」

時間拉近到今年(2023年)3月,推特社群媒體上有人發表數張美國前總統唐納德·特朗普(Donald Trump)被員警逮捕的畫面(圖三),以近650萬次點閱、近6000個轉發、2360個大量引用,吸引各界眼球,也被外媒報導(下圖四)。另一個吸眼球的是天主教教皇弗朗西斯科(Francesco)穿著時尚的白色羽絨服,出現在國際媒體上。

然而,大家所聽到、所看到、所傳播出去的竟然都不是真的,也就是說美國前總統歐巴馬並沒有發表該影片與該演說;祖克柏也沒有發表該影片、該演說;當然,美國前總統川普也沒有被逮捕;天主教教皇也未曾穿著時尚的白色羽絨服公開亮相。

圖一來源:截圖自深度偽造歐巴馬影片

圖二來源:截圖自深度偽造祖克伯影片

圖三來源:截圖取自https://twitter.com/EliotHiggins 

圖四來源:截圖取自New York Post 

圖五來源:截圖取自NEW YORK POST


圖六:知名社交新聞媒體網站reddit曾發布一則2001年襲擊太平洋西北部的卡斯卡迪亞大地震和海嘯,引發《Forbe》報導,但其照片與事件是偽造的。

圖七:知名社交新聞媒體網站reddit網站發佈更多地震災難照片,但也是偽造、假的。

那麼,你可能想問:「那不是歐巴馬、祖克柏、川普、教皇人頭嗎?」接著更想知道:「影片不是歐巴馬的聲音;祖克柏的聲音嗎?不然是誰在講話……」甚至還堅信:「不是有圖有真相?不是眼見為憑嗎?」

事實上,這一切都是「深度偽造」出來的成果。因此,隨著人工智慧科技的發展成熟,身為網際網路世界的一份子,你必須具備以下人工智慧基本識讀的素養,才能避免上當受騙。

提問一、什麼是AI深度偽造?

深度偽造(Deepfake)是來自於結合英文的「Deep learning 」(深度學習)和「Fake」(偽造)所生成的混成詞,簡單地說,這是應用人工智慧深度學習的技術,合成某一個人的圖像或影片、聲音。最常見就是將影片中的人臉替換為另一張臉(常是名人),讓指定的臉在影片中,做出自己從未說過,或做過的事情,製作出假事件的影片。

其運用的偽造技術就是源自人工智慧(AI)的「生成對抗網路」(Generative Adversarial Network,GAN)概念。而透過人工智慧的人體圖像合成技術,可將現有的圖像,或影片疊加到目標圖像、或影片上,再結合特定人物的聲音音頻技術,即可從現有數據產生更多新數據,製造出「以假亂真」的假影像,因此,能讓政治人物和名人在影片中說出、和做出從未發生過的事情,打破「眼見為憑」的古老箴言。

提問二、深度偽造是如何製作?
本質上,技術是中立的,可正向應用在藝術醫療保護弱勢等領域。過去,電影等影音娛樂產業需要使用許多複雜、耗時、昂貴的電腦模擬,才能仿造人臉;至今,在影劇和遊戲產業中,深偽技術帶來更便利與省時,進而促進產業發展,帶來正向的影響。

然而,近年來深度學習技術與相關生成模型的快速發展,大幅降低內容偽造的門檻,使得非僅是熟悉多媒體編輯軟體的專業創作者可以製造偽內容;反之,普羅大眾也能透過內建手機程式,或網路的開源軟體的功能,輕易就可以修改、創造人臉、圖片、聲音、文字等,如使用Zao、DeepFace Lab、FaceApp、Faceswap等;或AI生成藝術工具,如DALL-E2、Midjourney AI、Disco Diffusion等。

因此,深偽技術就易成為有心人士的「詐騙」工具,可大量偽造假新聞、假圖像、假影片、假帳號。

提問三、誰在濫用深度偽造? 
科技技術的發展擁有強大力量,宛如兩面刃,帶來正反兩極的影響。如今,深度偽造工具已成為製作假新聞、政治性操弄、色情網站、網路詐騙的利器。

據美國「Graphica」公司2023年2月公開一份最新報告指出,發現親中組織使用深偽技術創建虛擬新聞平台,並捏造事件為中共進行大外宣;報告顯示虛擬新聞平台的主播長相與真人無差異,但都是AI演算法製成的假人;報告也示警,以AI方式生成的假新聞,將以「更大規模、更快速度」形式出現。

外媒關注,隨著人工智能AI技術越趨普及,在2024年美國總統大選逼近之際,美國政治上面臨著新壓力,那就是網路AI所生成的音訊、圖像和影片都有可能不是真實的,成為2024年總統大選的重大威脅。

提問四、濫用特殊目的是什麼?
事實上,美國聯邦調查局(FBI)於2年前已警告,俄羅斯與中國已在他們的行動中利用這些技術,而美國國土安全部當年的報告也討論過煽動暴力、偽造證據、策劃綁架等情況發生的可能性。

舉例2022年,在俄羅斯入侵烏克蘭後不久,網路上就出現了烏克蘭總統宣布投降的深度偽造的假影片。足見深度偽造已成為「抹黑政敵」或是「操弄選民」的工具,或用於「煽動大眾對主流媒體的不信任」,或用於「詆毀顯示有罪事實」的不實影片。

在多元社交媒體上,深偽技術則是易成為不肖人士製作合成的詐騙影片,目的是為了竊取個人資料,或以不實資訊、圖片詐騙被害者進入錯誤中,進而騙取金錢。另外,根據Sensity AI(前Deeptrace)2019年報告統計,有96%的深度偽造Deepfake影片是色情內容,透過傳播假影片損害名人和權威人士的聲譽。

台灣著名例子就是發生於2020年10月的「網紅挖面事件」,從政治人物、明星藝人、主播、網紅到素人的臉,被置換到成人影片中色情演員身上,不肖業者以販售這些不雅影片以牟取非法利益。

總結來說,科技的進步已使得深度偽造(Deepfake)快速助長虛假信息、假圖像的氾濫與傳播,且被用來煽動政治分歧,達到政治目的,加速侵蝕社會大眾對媒體、政府和社會的信任度。處於互聯網時代的我們,無法阻擋科技日新月異的進步,但是,面對各式各樣數據的假象,要不上當受騙,請先搞懂以上四個問題。

資料來源

How frightening new AI Midjourney creates realistic fake art (nypost.com)
What Is a Deepfake? How to Spot Fake AI Media (businessinsider.com)
Scimago Graphica
https://twitter.com/EliotHiggins
Supasorn Suwajanakorn: Fake videos of real people -- and how to spot them | TED Talk
Doug Roble: Digital humans that look just like us | TED Talk
 

熱門推薦