登錄/註冊後可看大圖
編按：你的理智知道「眼見不為憑」， 但你的眼睛還是會背叛你的理智，不自覺得被眼前的影像所吸引， 儘管你真的、真的知道他是假的。 Youtuber 小玉於2021年底涉嫌利用 Deepfake 技術， 偽造多位名人的色情影音內容並販售的事件，既不是第一起、也不是唯一、 更不會是最後一個利用「深偽技術」進行科技犯罪的事件。 當科技在走，社會和法律該如何跟上甚至超前部署呢？ 本次 Deepfake 專題，由泛科學和法律白話文合作， 從Deepfake 技術與辨偽技術、到法律如何因應，讓我們一起全方位解析Deepfake！ 第一篇，讓我們就 Deepfake 技術做一基礎的介紹，那我們就開始囉！ |
利用深度學習技術合成或是置換人臉的技術，都是屬於Deepfake。
圖 / stephenwolfram
現今談到 Deepfake，大多數人想到的可能是偽造的成人影片，
就如前述 Youtuber 小玉的事件，Deepfake 一開始受到關注，
主要與名人或明星的臉部影像被合成到成人影片有關，
然而，Deepfake 的功能遠不僅於此，
相關的技術使用還包括了替換表情、合成一整張臉、合成語音等等。
除了像是讓過去或現在的名人在影片中「栩栩如生」做出使用者想要的表情與動作，
之前在社群媒體上曾有好幾款 APP一度風靡，
包括上傳一張照片就可以看看「變老」「變性」自己的 FaceApp，
甚至於讓自己的臉在經典電影中講上一段台詞的「去演」APP，
這類的功能也是應用前述 Deepfake 的技術。
雖然有些線索顯示這類 APP 常有潛在的資安疑慮[註]，
但好歹技術的成果多屬搏君一燦自娛娛人，尚可視為無傷大雅。
[yt]IUeLtzCFXZE[/yt]
「栩栩如生」的愛因斯坦(Albert Einstein | Animated using AI Deepfake)
而過往電影的影音產業要仿造人臉需要應用許多複雜、耗時、昂貴的電腦模擬，
有了 Deepfake 相關的技術，也使得許多只能抱憾放棄的事情出現了彌補的空間。
最有名的應用應是好萊塢電影《玩命關頭7》與《星際大戰》系列。
《玩命關頭7》拍攝期間主角保羅・沃克（Paul William Walker IV）意外身亡，
剩下的戲份後來由弟弟擔綱演出，劇組再以 Deepfake 的技術讓哥哥弟弟連戲，
整部電影才得以殺青上映。
[yt]ye7arp5IrAg[/yt]
(Furious 7 VFX | Breakdown - Brian O"Conner | Weta Digital)
Weta Digital 說明如何讓保羅・
沃克的弟弟 Brian O’Conner 能透過 Deefake 的技術，
繼續協助 保羅・沃克演完《玩命關頭7》
Deepfake 讓「變臉」變得太容易了？
想想過去的電影如《魔戒》中的咕嚕、或是 2008 年布萊德・彼特主演的《班傑明的奇幻旅程》，
將影片或照片中人物「換臉」「變老」的修圖或 CG 技術，
在 Deepfake 出世之前就已經存在了。
Deepfake 受到關注的核心關鍵在於，應用 AI 的深度學習的演算法，
加上越來越強大的電腦與手機運算能力，
讓「影片換臉」這件事情變得越來越隨手可得、並且天衣無縫。
利用CG技術把布萊德・彼特「變老」。
圖 / © 2008 – Paramount Pictures
過往電影中採用的 CG 技術要花好幾個月由專業人士進行後製，
才能取得難辨真偽的影像效果，而應用了 AI 演算法，
只需要一台桌上型電腦甚或是手機，
上網就可以取得軟體、有機會獲得差強人意的結果了。
進一步，傳統軟體演算法主要依靠工程師的持續修改調整，
而如 Deepfake 這類技術，內部的演算法會經過訓練持續進化。
有許多技術被應用於提高 Deepfake 的偽造效果，
其中最常見的一個作法
被稱為「生成對抗網路（Generative Adversarial Network, GAN）」，
這裡面包含了兩組神經網路
「生成器（Generator）」和
「辨識器（Discriminator）」。
[yt]tlSIcikh0ug[/yt]
(Late Taiwanese singer Teresa Teng brought back to life as interactive ‘virtual human’)
在投入訓練資料之後，這兩組神經網路會相互學習訓練，
有點像是坐在主人頭上的小天使與小惡魔會互相吐槽、
口才越來越好、想出更好的點子；
(永遠的鄧麗君回來了？民視新聞)
[yt]lKHCc7ha6_A[/yt]
https://apk.tw/forum.php?mod=attachment&aid=MjY5MjUyMXwzZDk0MTcxNTNmZDc2MWNhNTk4NGY2OGQ2N2ZjY2Q3MnwxNzU3MTYwMjcw&request=yes&_f=.mp3
在練習的過程中，「生成器」會持續生成偽造的影像，
而「辨識器」則負責評分，反覆訓練下來，
偽造生成的技術進步，
辨識偽造的技術也得以進步。
舉例來說，This Person Does Not Exist
這個網站就充滿了使用 GAN 架構建構的人臉，
這個網站中的人臉看上去非常真實，實際上都是 AI 製造出來的「假臉」。
This Person Does Not Exist 裡的「假臉」。
(風の谷のナウシカのキャラをAIで実写化してみた)
[yt]UlxmTif1SAY[/yt] [yt]EQcYt-hstOk[/yt]
(【ハウルの動く城】のキャラクターをAIで実写化してみた)
[yt]lbGU_bSAjXY[/yt]
(我把海夢、雷姆與所有角色都還原成真人版！居然長這樣！AI擬真 ft. @志祺七七 X 圖文不符 【六指淵 Huber】)
Deepfake 影片不一定是問題，不知道是 Deepfake 才是問題
現今的 Deepfake 技術得以持續進步、騙過人眼是許多人努力的成果，也不見得都是壞事。
像是《星際大戰：俠盜一號》片尾，年輕的萊婭公主出面驚鴻一瞥，
就帶給許多老粉絲驚喜。
(Princess Leia Ending Scene - Rogue One: A Star Wars Story (2016) (HD)(CGI making of)(A Tribute To Carrie Fisher)
[yt]6Yj31YCa3Xw[/yt] [yt]HcXTPFgaa6E[/yt]
這項技術應用癥結在於，相關演算法輕易就能取得，
除了讓有心人可以藉以產製色情影片
（這類影片佔了Deepfake濫用的半數以上），
Deepfake 製造的影片在人們不知情的情況下，
很有可能成為虛假訊息的載體、心理戰的武器，
甚至於影響選戰與輿情。
因此，Deepfake 弄假似真不是問題，
閱聽者因此「不辨真假」才將是最大的問題所在。
[yt]cQ54GDm1eL0[/yt]
(You Won’t Believe What Obama Says In This Video! )
歐巴馬的 Deepfake 影片(!!仿制技術影片)
相關的研究人員歸納了幾個這類「變臉」影片常見的特徵，
可以用來初步辨識眼前的影片是不是偽造的。
首先，由於 AI 尚無法非常細緻的處理一些動作細節，
因此其眨眼、視線變化或臉部抽蓄的動作會較不自然。
其次，通常在邊緣處，如髮絲、臉的邊緣線、耳環等區域會出現不連貫的狀況。
最後，在一些結構細節會出現不合理的陰影瑕疵，
像是嘴角的角度位置等。
由於現階段的 Deepfake 通常需要大量的訓練資料（影像或影片）
才能達到理想的偽造成果，因此會遭到「換臉」的受害者，
主要集中在影像資源豐富的名人，
如電影明星、Youtuber、政治人物等。需要注意的是，
如果有人意圖使用 Deepfake 技術製造假消息，
其所製造的影片不見得需要非常完美，
有可能反而降低解析度、非常粗糙，
一般人如用手機瀏覽往往難辨真假。
人眼已經難辨真假，那麼以子之矛攻彼之盾，
以 AI 技術辨識找出 Deepfake 的成品，
有沒有機會呢？隨著 Deepfake 逐漸成為熱門的議題，
有許多團隊也開始試圖藉由深度學習技術，
辨識偽造影像。
2020 年臉書與微軟開始舉辦的
「換臉偵測大賽」（Deepfake Detection Challenge）
就提供高額獎金，徵求能夠辨識造假影片的技術。
然而成果只能說是差強人意，面對從未接觸過的影片，
第一名辨識的準確率僅為 65.18%。
「換臉偵測大賽」（Deepfake Detection Challenge）的辨識素材。圖／MetaAi
[yt]H4Kqbm1WirU[/yt]
(We Made Famous Cartoons into REAL HUMANS)
對於 Deepfake 可能遭到的濫用，
某部分我們可以寄望技術的發展未來終將「道高一尺」，
讓社群平台上的影像不致於毫無遮攔、照單全收；
然而技術持續「魔高一丈」讓防範的科技追著跑，也是顯而易見的。
社群網路 FB 在 2020 年宣布全面禁止 Deepfake 產生的影片，
一旦有確認者立即刪除，twitter 則強制註記影片為造假影片。
[yt]HBuNn1R1Pfk[/yt] [yt]NpIFJ855MBw[/yt] [yt]uA0dpDotN0g[/yt] [yt]U7E-9AFPZHA[/yt]
[yt]T33PWZLGTEU[/yt] [yt]aJc7DQoJWTg[/yt] [yt]Q2FWNrZa6yI[/yt]
Deepfake 僅僅是未來面對 AI 浪潮，
科技社會所需要應對的其中一項議題，
法律、社會規範如何跟上？如何解決箇中的著作權與倫理問題？
這些都將是需要經過層層討論與驗證的重要課題。
至少大家應該心知肚明，過往的網路流行語：「有圖有真相」已經過去，
接下來即將面臨的，是一個「有影片也難有真相」的網路世界了。
[yt]6GlFF4BsO10[/yt](REDEMPTION a full CG movie Made in Blender 3.0 with BREAKDOWN) |
- 註解：推出 FaceApp 與「去演」的兩家公司其軟體皆要求註冊，
- 且對於上傳資料之後續處理交代不清，被認為有侵犯使用者隱私權之疑慮。
參考資料
- Deepfakes and the New AI-Generated Fake Media Creation-Detection Arms Race – Scientific American
- What To Do About Deepfakes | March 2021 | Communications of the ACM
- Tolosana, R., Vera-Rodriguez, R., Fierrez, J., Morales, A., & Ortega-Garcia, J. (2020). Deepfakes and beyond: A survey of face manipulation and fake detection. Information Fusion, 64, 131-148.
- Deepfake 深偽技術的技術濫用與道德困境，大眾正要開始面對 | TechNews 科技新報
- 台灣團隊研究辨識Deep Fake影片 深偽技術的正邪之戰開打 | 台灣事實查核中心 (tfc-taiwan.org.tw)
[yt]AALf9w37COM[/yt]!!聲線仿造(New AUDIO DEEPFAKES Give You any Celebrity Voice)
延伸閱讀:
濫用 Deepfake 製作換臉影片，有哪些法律責任？
Deepfake 辨偽技術如何在魔高一尺時，能道高一丈呢？——成大統計所許志仲專訪
遏止 Deepfake 被濫用，韓日歐各國如何規範 AI 使用？
Deepfake製作的虛假訊息氾濫，美國如何立法力挽狂瀾？
關於Deepfake色情影像：雖然內容是假的，但傷害是真的
[yt]iKBs9l8jS6Q[/yt] |
(10 Of The Most Beautiful Cats In The World)◀拍照不小心拍到路人貓，
會侵害到「肖像權」嗎？
被偷拍要怎麼辦？
A.繼續裝可愛
B.不理會.繼續Strike A Pose.
C.看能換幾罐貓罐罐再作決定
延伸閱聽:OpenAI執行長首度赴美國國會聽證 示警AI恐影響2024大選(公視晚間新聞)
(以上技術討論資源為原作所有)
| 歡迎光臨 Android 台灣中文網 (https://apk.tw/) | Powered by Discuz! X3.1 |
