文／蘇元和
被稱為「AI人工智慧教父」的Geoffrey Hinton（傑佛瑞.辛頓）已辭去Google副總裁並公開表示，他對人工智慧的未來發展感到憂心，「AI將變得越來越危險」。
面對「道高一尺、魔高一丈」全球掀起攻防AI深度偽造的大浪，究竟有那些議題值得關注，又面臨那些挑戰？
以下是專訪專攻研究影像辨識技術、機器、深度學習的成大統計所助理教授許志仲的內容摘要。
《全民查假會社》問（以下簡稱問）：請說明Deepfake深度偽造技術發展與挑戰？(請談正與負面的發展)
許志仲答（以下簡稱答）：我覺得Deepfake背後技術應用與用途超多的，它是很一個很有用的生產力的工具，但是我們的技術進步的幅度有點太快了，所以導致人類的生活習慣以及相關的法規並還沒有跟著進步，因此產生一些對立的問題，比方說如果我們早在這些生成AI技術出來之前，我們就有法規規範，那麼，使用Deepfake的人一定就少很多了，這是一個發展上的時間落差。
如果說我們有相對應的法規，或者是說相對應的一些措施，比方說不要讓它隨意可以取用，就可以避免負面的效果，例如偽造詐騙等事件。
但話說回來，我們沒有辦法去預期技術會不會被濫用，因此有時候被動的去改良，可能也是不得不為之，因為從歷史以來，大部份的時候科學好像都走在倫理跟法律的前面。
整體來講，我個人還是以正向的態度去看待技術發展，只是政府跟企業之間要如何快速做出相對應的一些規範，我覺得這需要大家努力去做的。
現在我們唯一能做的就是被動發展一些防禦的工具，但畢竟這是被動的，因為深度偽造一定在傷害已造成的時候，我們才能做動作，他已經做出來這個影片了，就算他散佈傳播很少，也可能已經開始傳播，所以我的想法是被動的研發防禦要做，但主動的層面可能需要大家努力，這才是根本之道。
問：主動上的防禦，有哪些可以做？
答：除了法規之外，主動防禦的技術可以從浮水印的可見或不可見的都可以做，浮水印讓它變成一個規範、一個標準，讓上傳於網路等資訊或圖片都可以透過浮水印被規範並得以知道源頭，如食品可溯源的概念。但需要克服三個問題，一個是個人隱私恐會被公開；另一個是浮水印也可能被造假，因此全球需要制度一個類似Internet上公用的標準協定；此外，浮水印透過電腦偵測，但這也需政府公部門資源的投入。
問：技術上有主動防禦的方式嗎？
答：主動防禦的研究有所謂Adversarial Network的Attack，中文稱對抗攻擊，這個對抗攻擊會產生一個雜訊，然後這個雜訊加到影像就可以拿來騙AI，比方說原本是一張狗的照片，AI把它辨識出是狗，信心度80%，我現在加了這個對抗攻擊雜訊進去，看起來還是狗，而且看不出來有什麼雜訊，可是AI就會說成是隻貓，而且信心度100%，誤導AI，這個現在算是技術很強大的，稱對抗攻擊。對抗攻擊也可拿來變成把我的照片加了這個雜訊之後，那麼Deepfake換臉時會換失敗。因為Deepfake的技術也是AI，所以只要攻擊換臉技術，換過去我的臉還是不會變，你偵測不到我的臉，偵測不到就做不了換臉，這就是一種方式來做主動防禦。
問：簡單地說，在AI辨識再加上其它的元素(雜訊)，可打亂AI一開始的辨識能力？
答：對，對抗攻擊就是有好有壞，目前已有Deepfake跟對抗攻擊結合，所以它既可以騙過人眼，也可以騙過電腦。
問：目前已有深度偽造已結合對抗攻擊，從另一個面向來看，這也代表很難去攻防對不對？
答：沒錯，前幾個月我們團隊發表一篇論文 (刊登於 IEEE TPAMI) 就是專門解決這個問題，應該是目前全世界第一個可以解這個問題的，但類似這樣的問題真的很不容易，像我們發表論文之後，什麼時候會被破解，不知道，但起碼現在還沒有。
問：請簡單說明這個研究發表解決哪幾個關鍵面向?
答：最重要的就是說，在Deepfake影片上就算有加了對抗攻擊，不但對我們研究方法完全沒有影響，還可以協助知道這個影片上有加對抗雜訊。而且我們研究成果是針對所有對抗攻擊都可以防禦，另一個重點是我們研究成果不是一個新的Deepfake Detection的AI，而是一個方法論，這個方法論是可以附加在任何Deepfake Detection模型上面。簡言之，新的Deepfake的技術出來後，把我們的研究方法套上去一個軟件(模型外掛功能)，就可以有抵抗「對抗攻擊」的能力，這樣才可以讓更多人使用去辨識深度偽造，還可以辨識有沒有受到對抗攻擊的AI。
問：對抗攻擊的技術能帶來好處是什麼?
答：好處就是指說可以幫助AI在換臉的時候換不過去，因為它可以騙Deepfake的，但也可以騙Deepfake Detection的AI。
問：簡單地說對抗攻擊一方面可被使用讓深度偽造更厲害，但也可幫助去破解深度偽造，即使你已經有使用對抗攻擊，對不對？
答：對，沒有錯。
問：請總結說明為什麼你站在正向在看待這個事情？
答：我從正向看的原因，並不是說單純是研究者的關係，而是從歷史來看，大部分的科學研究是沒有辦法被禁止的，我們就算有法規上的限制，即使說做這個研究是非法的，但還是會有人偷偷做，所以與其我們用禁止的方式來阻擋某個研究，使得它沒有辦法往下做，阻止科學的發展，不如我們去正向看待與因應可能會造成的威脅，並且提早或者設法找出一些可能的因應之道，我覺得這才是一個正面的循環，然後我們大家集思廣益去制定一個適合的方法。因此我站在更正面，就是更積極去看這些技術的發展，且更堅持研究下去的同時，還要一邊去思考怎麼因應正面與負面的措施。
