【中國(guó)安防展覽網(wǎng) 企業(yè)關(guān)注】無論是使用數(shù)字合成技術(shù)(CGI)從零開始合成具有真實(shí)感的圖像(這一過程挑戰(zhàn)性且花費(fèi)巨大),還是借助修圖神器 Photoshop 的幫助,偽造虛假圖像和視頻都曾是一件需要花費(fèi)大量時(shí)間和精力的事情。
而現(xiàn)在,人工智能生成圖像的出現(xiàn)使得任何人都可以更容易地對(duì)圖像或視頻做出調(diào)整,使其產(chǎn)生令人混淆的真實(shí)效果。今年早些時(shí)候,《麻省理工科技評(píng)論》雜志人工智能方面的資深編輯威爾·奈特(Will Knight)就曾使用成品軟件,自己偽造了一則美國(guó)參議員特德·克魯茲(Ted Cruz)的虛假視頻。這則視頻會(huì)有一點(diǎn)失真的情況,但這一情況并不會(huì)持續(xù)很長(zhǎng)的時(shí)間。
相同的技術(shù)正在被用于創(chuàng)造越來越多的視頻和圖片,人們稱之為“深度換臉技術(shù)(deepfakes)”。比起常見的以文本形式出現(xiàn)的虛假新聞,這些“深度換臉技術(shù)”更有可能破壞真相、誤導(dǎo)觀看者并在更大范圍內(nèi)制造是非分歧。
這些可能性深深困擾著美國(guó)達(dá)特茅斯學(xué)院計(jì)算機(jī)科學(xué)教授哈尼·法里德(Hany Farid),20 年來,法里德一直致力于揭穿虛假圖像的工作。他提醒道:“我認(rèn)為我們并沒有做好準(zhǔn)備”。但他希望,隨著越來越多的人意識(shí)到這一問題以及新科技的發(fā)展,人們能夠做好充分的準(zhǔn)備,在真實(shí)圖像和通過技術(shù)操作所產(chǎn)生的創(chuàng)造品之間做出分辨。
法里德解釋說,目前人們主要使用兩種途徑來應(yīng)對(duì)識(shí)別圖像過程中的挑戰(zhàn)。種方法是在圖像中尋找修改的痕跡。圖像取證專家們使用計(jì)算技術(shù)來判斷,是否任何像素或元數(shù)據(jù)有修改過的痕跡。比如說,他們能找出不符合物理學(xué)定律的陰影或反射影像,或者通過查看一個(gè)圖像文件被壓縮的次數(shù),來判斷這個(gè)文件是否已被多次編輯和保存。
第二種方法是鑒別圖像是否與剛被拍攝出來的那一刻一樣完整,這也是一種相對(duì)較新的方法。鑒別過程中需要進(jìn)行數(shù)十次的核查,來確保攝像師沒有試圖偽造設(shè)備的位置數(shù)據(jù)和時(shí)間標(biāo)識(shí)。核查的內(nèi)容還包括,相機(jī)的坐標(biāo)、時(shí)區(qū)、海拔高度和附近的無線網(wǎng)絡(luò)信息是否能彼此印證?作為一個(gè)三維場(chǎng)景,圖像中光線的折射是否正常?還是說,這是有人用另外一張二維圖像拍攝的照片?
法里德認(rèn)為,這第二種方法是一種非常理想的方式。因?yàn)槊刻煊?20 億張圖片被上傳到網(wǎng)絡(luò)之中,法里德認(rèn)為第二種方式將有助于大規(guī)模鑒別圖像的實(shí)現(xiàn)。
兩家初創(chuàng)公司正在致力于將這一想法商業(yè)化,它們分別是來自美國(guó)的 Truepic(法里德為其提供顧問支持)和來自英國(guó)的 Serelay。他們已經(jīng)采取了一些相似的舉措:兩家公司都擁有能免費(fèi)支持蘋果系統(tǒng)(iOS)和安卓系統(tǒng)(Android)的相機(jī)應(yīng)用程序,這些程序?qū)⑹褂脤S兴惴?,在拍照時(shí)自動(dòng)鑒別圖像。當(dāng)一張圖像獲得如同病毒一樣的廣泛傳播時(shí),人們可以將其與原圖相比較,來查看這張圖像是否保留著與原圖一致的完整性。
Truepic 公司將用戶拍攝的圖像上傳并儲(chǔ)存在服務(wù)器端,而 Serelay 公司儲(chǔ)存的是各式各樣的數(shù)字指紋,這些數(shù)字指紋是通過在每張圖像中對(duì)大約 100 個(gè)數(shù)學(xué)值進(jìn)行計(jì)算而獲得的(該公司聲稱,哪怕是對(duì)單一像素所進(jìn)行的編輯,用這些數(shù)學(xué)值也足以檢測(cè)出來,它們還能大致判斷出圖像中的哪一部分發(fā)生了改變)。
Truepic 公司說,他們選擇儲(chǔ)存完整圖片,是為了以防用戶出于安全原因而刪除某些敏感圖片(例如,某些在交戰(zhàn)地帶等高危情境下工作的 Truepic 用戶,可能需要在對(duì)現(xiàn)場(chǎng)進(jìn)行記錄之后,立刻將應(yīng)用程序卸載)。與之相反,Serelay 公司認(rèn)為,不儲(chǔ)存用戶圖像能為用戶提供更大的隱私空間。
為了更大程度獲得用戶的信任并提供安全保障,Truepic 公司還使用了區(qū)塊鏈技術(shù)來存儲(chǔ)所有的圖片和元數(shù)據(jù)——區(qū)塊鏈?zhǔn)潜忍貛疟澈蟮囊豁?xiàng)底層技術(shù),它將加密技術(shù)和分布式網(wǎng)絡(luò)結(jié)合起來,從而為信息的存儲(chǔ)和追蹤提供保障。
法里德承認(rèn)“這第二種方式并不是安全的”,他也表示說,這種方式仍有一些缺點(diǎn)。比如,用戶們必須在手機(jī)中使用此類能夠提供鑒別技術(shù)的軟件,而不是單純的相機(jī)應(yīng)用程序。他也指出,相比于安全性,試圖將這種方法商業(yè)化的公司可能更看重貨幣化的實(shí)現(xiàn)。“而我們對(duì)開發(fā)這些應(yīng)用程序的公司是寄予了一定信任的”,他說。
但目前也有一些策略能夠緩解這些缺點(diǎn)。Truepic 和 Serelay 兩家公司都提供了軟件開發(fā)工具包,讓第三方平臺(tái)能夠接觸到他們的技術(shù)。他們這樣做是希望,未來,他們的鑒別技術(shù)能成為數(shù)字相機(jī)的行業(yè)標(biāo)準(zhǔn),這里的數(shù)字相機(jī)包括臉書(Facebook)、色拉布(Snapchat)、甚至蘋果(Apple)公司開發(fā)的本地相機(jī)應(yīng)用程序。到那時(shí),在社交媒體上發(fā)布的未經(jīng)修改的圖像都將自動(dòng)獲得核查標(biāo)記,就像推特(Twitter)目前使用的認(rèn)證徽章標(biāo)志一樣,有核查標(biāo)記意味著這張圖像能夠與數(shù)據(jù)庫(kù)中的圖像相匹配——Serelay 公司希望這種標(biāo)志能建立圖像的可信度。
“我們?cè)诰W(wǎng)絡(luò)上看到的絕大多數(shù)內(nèi)容都是通過移動(dòng)設(shè)備捕捉的”,法里德說,“而基本上只有少數(shù)相機(jī)程序能在系統(tǒng)中加入這項(xiàng)鑒別技術(shù),因此我認(rèn)為這將是一個(gè)很好的解決方案”。
目前,這兩家初創(chuàng)公司都在與社交媒體公司談判,探索合作的可能性。同時(shí),Serelay 公司也參與了臉書公司一個(gè)名為 LDN_LAB 的新加速器項(xiàng)目。
雖然這項(xiàng)技術(shù)還沒有普及,但法里德鼓勵(lì)人們將其作為一種默認(rèn)程序,在記錄高危情境時(shí)使用,這些情境可能是記錄政治競(jìng)選演說、人權(quán)沖突、或是記錄*現(xiàn)場(chǎng)的證據(jù)片段。目前,已經(jīng)有民眾使用 Truepic 公司的應(yīng)用程序來記錄敘利亞危機(jī)。阿拉伯半島電視臺(tái)(Al Jazeera)也在報(bào)道敘利亞危機(jī)時(shí),使用鑒別功能制作了一些視頻。除此之外,兩家公司也都在保險(xiǎn)行業(yè)推廣了這項(xiàng)技術(shù),以此作為記錄損毀情況的一種可信方式。
“我,和許多像我一樣的無辜孩子,都將被殘忍*。” 敘利亞伊德利卜(Idlib)的孩子們想對(duì)美國(guó)總統(tǒng)說的話 @realDonaldTrump. pic.twitter.com/owd7DvZWlB————阿拉伯半島電視臺(tái)英語頻道 @AJEnglish 2018 年 9 月 9 日?qǐng)?bào)道
法里德表示,對(duì)于致力于這方面的公司來說,保持其產(chǎn)品的透明度并選擇可信的合作伙伴是非常重要的。前者有助于維持用戶的信任,后者有助于防范有不良居心的人。
法里德說,要做好應(yīng)對(duì)深度換臉技術(shù)擴(kuò)散的準(zhǔn)備,我們的路還很長(zhǎng)。但他對(duì)此信心十足。“Truepic 和 Serelay 各自類型的技術(shù)都發(fā)展得很好”,他說,“在我看來,我們已經(jīng)快要到達(dá)終點(diǎn)了”。