作者:admin 點(diǎn)擊量:1075
盡管人們對利用DeepFake來操縱選舉、在世界各國制造混亂的做法高度關(guān)注,但其中絕大多數(shù)人實(shí)際上更為幼稚,他們會將女性名人的面孔映射到色情明星的身體上,任何熟悉互聯(lián)網(wǎng)歷史的人都不會對此感到驚訝。
在最近關(guān)于全身DeepFake的報道中,一家名為Deep Trace Labs的公司表明他們對合成媒體領(lǐng)域已開展廣泛研究,這家位于阿姆斯特丹的公司過往專注于AI操控內(nèi)容。今天,該公司發(fā)布了一份備受期待的報告《DeepFake現(xiàn)狀:前景、威脅和影響》,他們在報告中探討了在網(wǎng)站、論壇和移動應(yīng)用中普遍存在的DeepFake。
正如Deep Trace Labs的Giorgio Patrini所解釋的,這項研究始于該公司2017年成立之時,包括對網(wǎng)站、論壇和服務(wù)的全面檢查。研究人員梳理了論壇和DeepFake社區(qū)的帖子,找到晦澀和不太受到關(guān)注的元素,以全面了解DeepFake對現(xiàn)狀的威脅。Deep Trace通過其內(nèi)部開發(fā)的公共API和特別工具從這些網(wǎng)站、渠道、論壇和社區(qū)收集數(shù)據(jù)。它還可以查看網(wǎng)站或YouTube頻道,在這些網(wǎng)站或頻道中,并非所有內(nèi)容都可能來自DeepFake。
Deep Trace發(fā)現(xiàn),目前網(wǎng)上有14678個DeepFake視頻,其中96%是色情視頻,并且大部分都是著名女演員的臉,被轉(zhuǎn)移到色情明星的身體上。事實(shí)上,大多數(shù)DeepFake的目標(biāo)是女性,而大多數(shù)非色情的目標(biāo)是男性。YouTube上超過90%的DeepFake視頻都來自西方世界,從女演員、音樂家到政客和企業(yè)界人士。但Patrini強(qiáng)調(diào),這不僅僅是一種僅限于西方的現(xiàn)象。
“在DeepFake色情網(wǎng)站上,近三分之一的視頻中出現(xiàn)了非西方題材,其中韓國流行歌手占了目標(biāo)對象的四分之一,”Patrini說道?!斑@表明,DeepFake色情是一種日益全球化的現(xiàn)象。”
“我們的數(shù)據(jù)顯示,大多數(shù)實(shí)際上仍然是演員,但也有少數(shù)企業(yè)和政治領(lǐng)導(dǎo)人,”Patrini說道?!拔艺J(rèn)為這可以歸因于與非色情DeepFake相關(guān)的生命力機(jī)制?!眲?chuàng)造者主要是業(yè)余愛好者,他們試圖創(chuàng)造高質(zhì)量的DeepFake成果。選擇知名人物,如馬斯克、特朗普或者Nicholas Cage,意味著你的“DeepFake”成果更容易被人看到,同時也增加了喜劇元素。
據(jù)介紹,在過去幾年里,關(guān)于生成性對抗網(wǎng)絡(luò)(GANs)的論文數(shù)量激增,生成性對抗網(wǎng)絡(luò)是兩種神經(jīng)網(wǎng)絡(luò),一種是合成器或生成器,另一種是檢測器,可以生成DeepFake的圖像或視頻,然后在反饋環(huán)中仔細(xì)檢查質(zhì)量,直到最終產(chǎn)品令人信服地得到改進(jìn)。生成性對抗網(wǎng)絡(luò)絕不是DeepFake的幕后黑手,但Patrini表示,它們無疑是“由深度學(xué)習(xí)驅(qū)動的最流行和最有效的生成方法”。
Deep Trace的研究表明,生成性對抗網(wǎng)絡(luò)發(fā)文量的顯著增長,只能間接地表明這兩種現(xiàn)象具有相關(guān)性。Deep Trace無法在更多的生成性對抗網(wǎng)絡(luò)研究和DeepFake的增加之間,建立起直接的因果關(guān)系。
“不僅僅是具有博士學(xué)位的研究人員,更多的人都能夠試驗并提出新的算法變體,而且我們可以通過論文的增長來間接衡量這一點(diǎn),”Patrini表示?!鞍l(fā)表更多的實(shí)驗成果并將其擴(kuò)展到新的應(yīng)用表明,這些想法有可能被轉(zhuǎn)化為可重用代碼和更可靠、更高效的工具,來供非專家使用?!?/p>
Deep Trace還指出,DeepFake創(chuàng)作社區(qū)正在增長。Github、4chan、8chan和其他基于論壇的網(wǎng)站都共享開源的DeepFake代碼。
“我們在報告中指出的一個關(guān)鍵點(diǎn)是,與其他社區(qū)相比,某些社區(qū)的動機(jī)和活動非常不同,”Patrini表示?!叭绻覀冎豢簇?fù)面新聞,很明顯,一些社區(qū)和論壇主要集中在使用DeepFake的創(chuàng)作工具,來制作那些非自愿的DeepFake色情作品?!?/p>
Patrini認(rèn)為,其中一些社區(qū)以提供非法或邊緣化的內(nèi)容而聞名,這方面以4chan和8chan為代表。在這些平臺上,DeepFake創(chuàng)作工具的商品化,可能會導(dǎo)致該技術(shù)繼續(xù)產(chǎn)出有害和惡意的使用案例,例如網(wǎng)絡(luò)欺凌或政治宣傳。
但Patrini很快注意到,其他平臺上也都有愛好者和一些個體,在YouTube上專注DeepFake的博主更符合他們的興趣。比如博主Ctrl Shift Face,他曾將Tom Cruise和Al Pacino的臉變成了喜劇演員和印象派Bill Hader的臉。
Patrini認(rèn)為:“我不會說這些用途具有明確的正面作用,但從表面上看,它們肯定不是惡意的?!贝送猓捎贒eepFake不只是發(fā)生在西方的現(xiàn)象,Deep Trace認(rèn)為,這需要全球采取行動,打擊惡意使用。
“從已經(jīng)出現(xiàn)的各種工具和網(wǎng)站的數(shù)量可以看出,DeepFake對企業(yè)來說具有巨大的商機(jī),”Patrini指出,這有助于這些工具的商品化和日益普及?!皟H僅是DeepFake的想法就足以動搖政治進(jìn)程?!?/p>