這一發(fā)現(xiàn)可為打擊虛假信息開拓新的研究方向

悉尼2022年7月14日 /美通社/ -- 近期，悉尼大學(xué)的一項(xiàng)研究表明，雖然觀察者無(wú)法有意識(shí)地識(shí)別"真假臉"之間的差異，但他們的大腦可以。

在興起的"換臉術(shù)"（deepfakes）黑科技使用中，如何區(qū)分真實(shí)的人臉和仿造的人臉呢？悉尼大學(xué)的神經(jīng)科學(xué)家發(fā)現(xiàn)了一種新方法：人們的大腦可以檢測(cè)出人工智能（AI）生成的假臉，即使人們無(wú)法口頭分辨出哪些臉是真、哪些是假。這項(xiàng)研究的論文近期被發(fā)表在 Vision Research 期刊上。

"換臉"視頻、圖像、音頻或文本看起來(lái)極其真實(shí)，但實(shí)際上是計(jì)算機(jī)生成的克隆程序，旨在誤導(dǎo)讀者并左右公眾輿論。他們是虛假信息傳播手段中的常見手段，極度普遍 -- 出現(xiàn)在政治、網(wǎng)絡(luò)安全、造假等領(lǐng)域。

悉尼大學(xué)的研究人員在觀察參與者的大腦活動(dòng)時(shí)發(fā)現(xiàn)，大腦在54%的情況下可以識(shí)別出"假臉"。然而，只有37%的概率參與者可以口頭識(shí)別"假臉"。

悉尼大學(xué)心理學(xué)院的高級(jí)研究員副教授Thomas Carlson說(shuō)："雖然這項(xiàng)研究中的大腦展示出得準(zhǔn)確率較低，僅為54%，但從統(tǒng)計(jì)學(xué)的角度上看是可靠的。"

"這告訴我們，大腦是可以識(shí)別出虛假和真實(shí)圖像之間的差異的。"

對(duì)機(jī)器人和詐騙手段的識(shí)別

研究人員表示，他們的發(fā)現(xiàn)可為打擊假冒偽劣提供一個(gè)跳板。

Carlson副教授說(shuō)："大腦能夠檢測(cè)到‘人造臉'，這意味著當(dāng)前的‘換臉術(shù)'是有缺陷的。如果我們能夠了解大腦如何識(shí)別虛假圖像，我們可以利用這些信息創(chuàng)建算法，在臉書（Facebook）和推特（Twitter）等社交平臺(tái)上標(biāo)記出潛在的‘人造臉'。"

在未來(lái)，基于現(xiàn)有和類似研究發(fā)現(xiàn)，相關(guān)人員預(yù)計(jì)可開發(fā)出一種可以實(shí)時(shí)提示虛假信息的技術(shù)。例如，安保人員可通過(guò)戴上腦電圖功能（EEG）的頭盔，識(shí)別正在面對(duì)的虛假圖像。

研究人員在研究中使用了腦電圖（EEG），這是一種顯示大腦表層活動(dòng)的檢測(cè)方法。

Carlson副教授表示："EEG頭盔可有助于防止類似迪拜和英國(guó)最近發(fā)生的銀行盜竊和企業(yè)欺詐案件的發(fā)生。在這些案件中，騙子利用克隆語(yǔ)音技術(shù)竊取了數(shù)千萬(wàn)美元。在這些案件中，財(cái)務(wù)人員認(rèn)為他們聽到了可信客戶或同事的聲音，從而被欺騙轉(zhuǎn)移了資金。"

眼睛vs大腦

研究人員進(jìn)行了兩個(gè)實(shí)驗(yàn)：一個(gè)是行為實(shí)驗(yàn)，另一個(gè)是神經(jīng)成像實(shí)驗(yàn)。在行為實(shí)驗(yàn)中，研究人員向參與者展示了50張真實(shí)和計(jì)算機(jī)生成的假臉圖像。他們被要求辨別哪些是真的，哪些是假的。

然后，另一組參與者在不知道一半的圖像為虛假的情況下，觀察相同的圖像，并使用腦電圖記錄他們的大腦活動(dòng)。

研究人員隨后比較了兩個(gè)實(shí)驗(yàn)的結(jié)果，發(fā)現(xiàn)人們的大腦比眼睛更善于識(shí)別虛假圖像。

這只是一個(gè)開始

研究人員強(qiáng)調(diào)，鑒于這一研究領(lǐng)域的新穎性，他們發(fā)表在《Vision Research》上的研究只是一個(gè)起點(diǎn)。它不會(huì)立即（甚至可能永遠(yuǎn)）保證識(shí)別"人造臉"的絕對(duì)可靠方法。

Carlson副教授說(shuō)："更多的深度研究是必要的。讓我們看到希望的是，deepfakes"換臉術(shù)"是由計(jì)算機(jī)程序創(chuàng)造的，因此這些程序會(huì)留下可以被檢測(cè)到的電子‘指紋'。"

"我們對(duì)大腦識(shí)別‘人造臉'能力的發(fā)現(xiàn)意味著我們可能會(huì)有另一種途徑來(lái)打擊‘換臉術(shù)'和虛假信息的傳播。"

論文鏈接：https://www.sciencedirect.com/science/article/abs/pii/S0042698922000852?via%3Dihub