文／蘇元和

「騙子們已經越來越多，且偽裝越來越真實，還能被複製、複製、複製……四處傳播，創造大量的模仿犯。」這絕對不是小說世界的一段情節；反之，他描述著互聯網世界裡，正在不斷發生的真實事件。

那麼，這些騙子到底是誰？他們又如何偽裝成騙子？他們目的是什麼？在網際網路科技進步時代，手機、平板、電腦螢幕，人手多機的閱聽大眾們，又該如何預防受騙上當，避免掉入偽裝的假訊息、假照片、假影片精心設計的陷阱中，本篇文章要為民眾揭開互聯網騙子的面紗。

5年前，這段前美國總統巴拉克·歐巴馬（Barack Obama）透過影片(圖一)大罵時任總統的唐納德·特朗普（Donald Trump）是「蠢豬」、「狗屎」，引發網路瘋傳；3年前，網路熱議著一支影片(下圖二)馬克·祖克柏（Mark Zuckerberg）發表一段演說：「試想一下，一個人完全控制著數十億人被盜的數據，掌握著他們所有的秘密、生活和未來……誰控制了數據，誰就控制了未來。」

時間拉近到今年(2023年)3月，推特社群媒體上有人發表數張美國前總統唐納德·特朗普（Donald Trump）被員警逮捕的畫面(圖三)，以近650萬次點閱、近6000個轉發、2360個大量引用，吸引各界眼球，也被外媒報導(下圖四)。另一個吸眼球的是天主教教皇弗朗西斯科(Francesco)穿著時尚的白色羽絨服，出現在國際媒體上。

然而，大家所聽到、所看到、所傳播出去的竟然都不是真的，也就是說美國前總統歐巴馬並沒有發表該影片與該演說；祖克柏也沒有發表該影片、該演說；當然，美國前總統川普也沒有被逮捕；天主教教皇也未曾穿著時尚的白色羽絨服公開亮相。

圖一來源：截圖自深度偽造歐巴馬影片

圖二來源：截圖自深度偽造祖克伯影片

圖三來源：截圖取自https://twitter.com/EliotHiggins 

圖四來源：截圖取自New York Post 

圖五來源：截圖取自NEW YORK POST

圖六：知名社交新聞媒體網站reddit曾發布一則2001年襲擊太平洋西北部的卡斯卡迪亞大地震和海嘯，引發《Forbe》報導，但其照片與事件是偽造的。

圖七：知名社交新聞媒體網站reddit網站發佈更多地震災難照片，但也是偽造、假的。

那麼，你可能想問：「那不是歐巴馬、祖克柏、川普、教皇人頭嗎？」接著更想知道：「影片不是歐巴馬的聲音；祖克柏的聲音嗎？不然是誰在講話……」甚至還堅信：「不是有圖有真相？不是眼見為憑嗎？」

事實上，這一切都是「深度偽造」出來的成果。因此，隨著人工智慧科技的發展成熟，身為網際網路世界的一份子，你必須具備以下人工智慧基本識讀的素養，才能避免上當受騙。

提問一、什麼是AI深度偽造？

深度偽造（Deepfake）是來自於結合英文的「Deep learning 」（深度學習）和「Fake」（偽造）所生成的混成詞，簡單地說，這是應用人工智慧深度學習的技術，合成某一個人的圖像或影片、聲音。最常見就是將影片中的人臉替換為另一張臉（常是名人），讓指定的臉在影片中，做出自己從未說過，或做過的事情，製作出假事件的影片。

其運用的偽造技術就是源自人工智慧（AI）的「生成對抗網路」（Generative Adversarial Network，GAN）概念。而透過人工智慧的人體圖像合成技術，可將現有的圖像，或影片疊加到目標圖像、或影片上，再結合特定人物的聲音音頻技術，即可從現有數據產生更多新數據，製造出「以假亂真」的假影像，因此，能讓政治人物和名人在影片中說出、和做出從未發生過的事情，打破「眼見為憑」的古老箴言。

提問二、深度偽造是如何製作？
本質上，技術是中立的，可正向應用在藝術、醫療、保護弱勢等領域。過去，電影等影音娛樂產業需要使用許多複雜、耗時、昂貴的電腦模擬，才能仿造人臉；至今，在影劇和遊戲產業中，深偽技術帶來更便利與省時，進而促進產業發展，帶來正向的影響。

然而，近年來深度學習技術與相關生成模型的快速發展，大幅降低內容偽造的門檻，使得非僅是熟悉多媒體編輯軟體的專業創作者可以製造偽內容；反之，普羅大眾也能透過內建手機程式，或網路的開源軟體的功能，輕易就可以修改、創造人臉、圖片、聲音、文字等，如使用Zao、DeepFace Lab、FaceApp、Faceswap等；或AI生成藝術工具，如DALL-E2、Midjourney AI、Disco Diffusion等。

因此，深偽技術就易成為有心人士的「詐騙」工具，可大量偽造假新聞、假圖像、假影片、假帳號。

提問三、誰在濫用深度偽造？ 
科技技術的發展擁有強大力量，宛如兩面刃，帶來正反兩極的影響。如今，深度偽造工具已成為製作假新聞、政治性操弄、色情網站、網路詐騙的利器。

據美國「Graphica」公司2023年2月公開一份最新報告指出，發現親中組織使用深偽技術創建虛擬新聞平台，並捏造事件為中共進行大外宣；報告顯示虛擬新聞平台的主播長相與真人無差異，但都是AI演算法製成的假人；報告也示警，以AI方式生成的假新聞，將以「更大規模、更快速度」形式出現。

外媒關注，隨著人工智能AI技術越趨普及，在2024年美國總統大選逼近之際，美國政治上面臨著新壓力，那就是網路AI所生成的音訊、圖像和影片都有可能不是真實的，成為2024年總統大選的重大威脅。

提問四、濫用特殊目的是什麼？
事實上，美國聯邦調查局（FBI）於2年前已警告，俄羅斯與中國已在他們的行動中利用這些技術，而美國國土安全部當年的報告也討論過煽動暴力、偽造證據、策劃綁架等情況發生的可能性。

舉例2022年，在俄羅斯入侵烏克蘭後不久，網路上就出現了烏克蘭總統宣布投降的深度偽造的假影片。足見深度偽造已成為「抹黑政敵」或是「操弄選民」的工具，或用於「煽動大眾對主流媒體的不信任」，或用於「詆毀顯示有罪事實」的不實影片。

在多元社交媒體上，深偽技術則是易成為不肖人士製作合成的詐騙影片，目的是為了竊取個人資料，或以不實資訊、圖片詐騙被害者進入錯誤中，進而騙取金錢。另外，根據Sensity AI（前Deeptrace）2019年報告統計，有96%的深度偽造Deepfake影片是色情內容，透過傳播假影片損害名人和權威人士的聲譽。

台灣著名例子就是發生於2020年10月的「網紅挖面事件」，從政治人物、明星藝人、主播、網紅到素人的臉，被置換到成人影片中色情演員身上，不肖業者以販售這些不雅影片以牟取非法利益。

總結來說，科技的進步已使得深度偽造(Deepfake)快速助長虛假信息、假圖像的氾濫與傳播，且被用來煽動政治分歧，達到政治目的，加速侵蝕社會大眾對媒體、政府和社會的信任度。處於互聯網時代的我們，無法阻擋科技日新月異的進步，但是，面對各式各樣數據的假象，要不上當受騙，請先搞懂以上四個問題。