AI“換臉”真相：“深度偽造”的網(wǎng)絡(luò)狂歡和安全威脅

　　近期，一款名為ZAO的人工智能換臉APP在國內(nèi)推出。用戶只需上傳一張正面照，就可以一鍵操作，把一些影視劇片段中演員的臉換成自己的，立刻生成視頻，還可通過社交媒體傳播，仿佛瞬間圓了明星夢。

　　這一款換臉APP很快就成了爆款，頗受歡迎，但也很快引起有關(guān)部門的注意，就在本周，工信部就網(wǎng)絡(luò)數(shù)據(jù)安全問題約談了相關(guān)公司。

　　與此同時，“換臉” 軟件所依托的的一項AI技術(shù)，也引起了人們的關(guān)注，它被稱為：DeepFake, 深度偽造。

　　外國媒體報道：我們不能相信網(wǎng)上的所有東西，沒錯，深度偽造，深度偽造，深度偽造！是的，這到底是什么？深度偽造技術(shù)是利用人工智能合成以假亂真的視頻，這是一種高科技手段，可以把某些話塞進某人嘴里。

　　Deepfake(深度偽造)，“Deep learning”(深度學(xué)習(xí))和“Fake”(偽造)結(jié)合而成的新單詞。

　　簡單來說，這是一種可以實時偽造面部表情，并將其渲染成2D合成視頻的人工智能技術(shù)。

　　早在一年多前， 2017年12月，一個名為“DeepFakes”的用戶在Reddit網(wǎng)站發(fā)布“假視頻”，將成人色情電影中演員的臉替換成了斯嘉麗·約翰遜等知名女演員的臉，畫面以假亂真。這為人工智能換臉技術(shù)吸引來了一大波流量，“DeepFake”深度偽造，也逐漸成為這一技術(shù)的代稱，同名算法也在Github開源，這是一個面向開源及私有軟件項目的托管平臺。

　　網(wǎng)絡(luò)視頻打假專家 沃德爾博士：你好，今天我要和你討論一項影響名人的新技術(shù)。(記得)奧巴馬說特朗普是笨蛋，或者卡戴珊的說唱“因為我總是半裸嗎”？深度偽造！深度偽造！深度偽造！這也是深度偽造，我也不是阿黛爾，我是(打擊)網(wǎng)絡(luò)偽造的專家。深度偽造用來形容人工智能技術(shù)合成的視頻或音頻文件。它起初就是一種非常基本的面部更換，現(xiàn)在還成了電影特技。有了這樣的爆款技術(shù)，天啊，我們不能相信任何東西了。沒錯，深度偽造就是可怕的反烏托邦。它們只會變得更容易，制作成本也更低廉。

　　李浩是美國南加州大學(xué)的助理教授，“針幕動畫”公司的聯(lián)合創(chuàng)始人，這家公司推出的軟件可以讓用戶在玩虛擬現(xiàn)實游戲和購物時，即時定制自己的三維虛擬化身。

　　“針幕動畫”聯(lián)合創(chuàng)始人 李浩：現(xiàn)在我制作了一個你的化身。

　　美國公共廣播公司記者 奧布萊恩：一個和藹整潔的奧布萊恩。

　　這種戲法可以用在任何人身上，當(dāng)然也包括政界要人。

　　美國公共廣播公司記者 奧布萊恩：現(xiàn)在我成了我們的總統(tǒng)(特朗普)，日本首相安倍晉三。

　　“針幕動畫”聯(lián)合創(chuàng)始人 李浩：當(dāng)然，這個技術(shù)可以用來做一些真的很壞的事情。但主要目的絕不是如此，它被用于娛樂，一個有趣的工具，用于時尚、生活方式各方面，帶給我們更多體驗。

　　但隨著技術(shù)的發(fā)展，這樣的合成圖像或視頻，真實度越來越強，欺騙性也越來越強。對此，研發(fā)者也不無擔(dān)憂。

　　“針幕動畫”聯(lián)合創(chuàng)始人 李浩：我們都假設(shè)會有一個臨界點，屆時將無法區(qū)分真假。我的意思是，從視覺效果上說，我覺得你已經(jīng)可以做到非常接近了，只是取決于你花多少努力在上面。但就任何人都可以創(chuàng)建的內(nèi)容而言，我認為已經(jīng)非常接近這個臨界點了。

　　2018年1月，一個名為FakeApp的軟件上線，宣稱可以實現(xiàn)“一鍵換臉”。可生成的視頻內(nèi)容包括惡搞美國總統(tǒng)特朗普，或是將自己的臉貼到好萊塢明星身上。

　　雖然有的社交新聞?wù)军c比如Reddit網(wǎng)站，已明令禁止在自己的平臺傳播換臉視頻和圖片，但仍有超過9萬名用戶在Reddit上傳播這類視頻。

　　計算機科學(xué)專家 法里德：我擔(dān)心這項技術(shù)被武器化，還擔(dān)心它如何影響我們整個社會。

　　深度偽造不僅可以換臉，還可偽造聲音。