<p>西北大學(xué)(Northwestern University)和布魯金斯學(xué)會(Brookings Institution)的人工智能(AI)和外交政策專家的一份新報(bào)告顯示，盡管公眾對深度造假的關(guān)注大多集中在大規(guī)模的宣傳活動上，但這種有問題的新技術(shù)要陰險(xiǎn)得多。</p> <p>&nbsp;</p> <p>在這份新報(bào)告中，作者討論了深度偽造視頻、圖像和音頻，以及相關(guān)的安全挑戰(zhàn)。研究人員預(yù)測，這項(xiàng)技術(shù)即將得到更廣泛的應(yīng)用，包括在有針對性的軍事和情報(bào)行動中。</p> <p>&nbsp;</p> <p>最終，專家們會就如何應(yīng)對這種令人不安的新技術(shù)向安全官員和政策制定者提出建議。在他們的建議中，作者強(qiáng)調(diào)，美國及其盟友需要為政府使用深度造假制定一套行為準(zhǔn)則。</p> <p>&nbsp;</p> <p>布魯金斯學(xué)會本月發(fā)表了這份名為《深度造假與國際沖突》(Deepfakes and international conflict)的研究報(bào)告。</p> <p>&nbsp;</p> <p>作者寫道:&ldquo;針對特定個(gè)人和目標(biāo)開發(fā)深度偽造品的便便性，以及它們的快速移動&mdash;&mdash;最近是通過一種被稱為穩(wěn)定擴(kuò)散的人工智能形式&mdash;&mdash;指向一個(gè)所有國家和非國家行為體都將有能力在其安全和情報(bào)行動中部署深度偽造品的世界。&rdquo;&ldquo;安全官員和政策制定者需要做好相應(yīng)準(zhǔn)備。&rdquo;</p> <p>&nbsp;</p> <p>西北大學(xué)的合著者包括世界著名的人工智能和安全專家V.S. Subrahmanian，西北大學(xué)麥考密克工程學(xué)院計(jì)算機(jī)科學(xué)沃爾特&middot;p&middot;墨菲教授，巴菲特全球事務(wù)研究所巴菲特學(xué)院研究員，以及Subrahmanian實(shí)驗(yàn)室的博士生高重陽。布魯金斯研究所的共同作者包括丹尼爾&middot;l&middot;拜納姆和克里斯&middot;梅瑟羅。</p> <p>&nbsp;</p> <p><strong><span class="h1">深度造假&ldquo;難度不大&rdquo;</span></strong></p> <p>&nbsp;</p> <p>西北大學(xué)安全和人工智能實(shí)驗(yàn)室的負(fù)責(zé)人蘇布拉曼尼安和他的學(xué)生高之前開發(fā)了TREAD(人工智能深度偽造減少恐怖主義)，這是一種新的算法，研究人員可以用來生成他們自己的深度偽造視頻。通過創(chuàng)造令人信服的深度造假，研究人員可以在安全背景下更好地理解這項(xiàng)技術(shù)。</p> <p>&nbsp;</p> <p>深度偽造是指經(jīng)過令人信服的修改，以歪曲某人所說或所做的事情，而他們并沒有做或說。人工智能驅(qū)動的技術(shù)通常用于惡意的虛假信息活動。</p> <p>&nbsp;</p> <p>蘇布拉曼尼安和他的團(tuán)隊(duì)使用TREAD技術(shù)制作了已故伊斯蘭國恐怖分子阿布&middot;穆罕默德&middot;阿德納尼的深度偽造視頻樣本。雖然制作出來的視頻看起來和聽起來都很像阿德納尼&mdash;&mdash;面部表情和音頻都非常逼真&mdash;&mdash;但他實(shí)際上說的是敘利亞總統(tǒng)巴沙爾&middot;阿薩德的話。</p> <p>&nbsp;</p> <p>研究人員在數(shù)小時(shí)內(nèi)制作出了栩栩如生的視頻。這個(gè)過程非常簡單，蘇布拉曼尼安和他的合著者表示，軍方和安全機(jī)構(gòu)應(yīng)該假設(shè)對手能夠在幾分鐘內(nèi)制作出任何官員或領(lǐng)導(dǎo)人的深度偽造視頻。</p> <p>&nbsp;</p> <p>作者寫道:&ldquo;任何在機(jī)器學(xué)習(xí)方面有一定背景的人，只要有一些系統(tǒng)的工作和合適的硬件，就可以通過構(gòu)建類似TREAD的模型，大規(guī)模生成深度偽造視頻。&rdquo;&ldquo;幾乎任何國家的情報(bào)機(jī)構(gòu)，當(dāng)然包括美國的對手，都能毫不費(fèi)力地做到這一點(diǎn)。&rdquo;</p> <p>&nbsp;</p> <p><strong><span class="h1">避免&ldquo;貓捉老鼠&rdquo;游戲</span></strong></p> <p>&nbsp;</p> <p><span style="letter-spacing: 0.7px;">作者</span>認(rèn)為，國家和非國家行為體將利用深度造假來加強(qiáng)正在進(jìn)行的虛假信息工作。深度造假可能通過使戰(zhàn)爭合法化、制造混亂、破壞民眾支持、使社會兩極分化、讓領(lǐng)導(dǎo)人失去信譽(yù)等方式，助長沖突。在短期內(nèi)，安全和情報(bào)專家可以通過設(shè)計(jì)和訓(xùn)練算法來識別潛在的虛假視頻、圖像和音頻，從而對抗深度造假。然而，這種方法不太可能長期有效。</p> <p>&nbsp;</p> <p>&ldquo;任何在機(jī)器學(xué)習(xí)方面有一定背景的人都可以大規(guī)模生成深度偽造視頻。幾乎任何國家的情報(bào)機(jī)構(gòu)都能毫不費(fèi)力地做到這一點(diǎn)。&rdquo;</p> <p>&nbsp;</p> <p>作者說:&ldquo;結(jié)果將是一場貓捉老鼠的游戲，類似于惡意軟件:當(dāng)網(wǎng)絡(luò)安全公司發(fā)現(xiàn)一種新的惡意軟件并開發(fā)簽名來檢測它時(shí)，惡意軟件開發(fā)人員會進(jìn)行&lsquo;微調(diào)&rsquo;以逃避探測器。&rdquo;&ldquo;探測-逃避-探測-逃避的循環(huán)會隨著時(shí)間的推移而發(fā)生&hellip;&hellip;最終，我們可能會達(dá)到一個(gè)端點(diǎn)，在那里探測變得不可行的或計(jì)算量太大，無法快速和大規(guī)模地進(jìn)行。&rdquo;</p> <p>&nbsp;</p> <p>對于長期戰(zhàn)略，該報(bào)告的作者提出了以下幾點(diǎn)建議:</p> <p>&nbsp;</p> <p>教育公眾提高數(shù)字素養(yǎng)和批判性推理能力</p> <p><br />通過記錄處理數(shù)字資產(chǎn)的每個(gè)人或組織，開發(fā)能夠跟蹤數(shù)字資產(chǎn)移動的系統(tǒng)</p> <p><br />鼓勵(lì)記者和情報(bào)分析人員在發(fā)表文章之前放慢速度，核實(shí)信息。&rdquo;同樣，記者可能會模仿情報(bào)產(chǎn)品，討論有關(guān)判斷的&lsquo;置信度&rsquo;。&rdquo;</p> <p><br /><strong><span class="h1">使用來自不同來源的信息(如驗(yàn)證碼)來確認(rèn)數(shù)字資產(chǎn)的合法性</span></strong></p> <p><br />最重要的是，作者認(rèn)為，政府應(yīng)該制定政策，提供強(qiáng)有力的監(jiān)督和問責(zé)機(jī)制，以管理深度造假內(nèi)容的生成和傳播。如果美國或其盟友想通過制造自己的深度造假來&ldquo;以毒攻毒&rdquo;，那么首先需要就政策達(dá)成一致并落實(shí)到位。作者表示，這可能包括建立一個(gè)&ldquo;Deepfakes Equities Process&rdquo;，以類似的網(wǎng)絡(luò)安全流程為模型。</p> <p>&nbsp;</p> <p>作者寫道:&ldquo;生成和使用深度造假作品的決定不應(yīng)輕易做出，也不應(yīng)不仔細(xì)考慮權(quán)衡利弊。&rdquo;&ldquo;深度偽造技術(shù)的使用，特別是用于攻擊沖突環(huán)境中的高價(jià)值目標(biāo)，將影響廣泛的政府辦公室和機(jī)構(gòu)。每個(gè)利益相關(guān)者都應(yīng)該有機(jī)會在需要和適當(dāng)?shù)臅r(shí)候提供投入。建立這樣一個(gè)基礎(chǔ)廣泛的審議過程是確保民主政府負(fù)責(zé)任地使用深度造假產(chǎn)品的最佳途徑。&rdquo;</p> <p>&nbsp;</p> <blockquote> <p>注：本文由院校官方新聞直譯，僅供參考，不代表指南者留學(xué)態(tài)度觀點(diǎn)。</p> </blockquote>