AI工具PhotoGuard面世,能以肉眼看不見的方式改變照片像素

2024年2月6日 19点热度 0人点赞

上周,世界上最著名的流行歌星之一泰勒·斯威夫特(Taylor Swift)的色情照片在網上瘋傳。

數百萬人在社交媒體平臺 X(前身為推特)上觀看了斯威夫特的非自願深度偽造色情圖片。

此後,X 采取了嚴厲措施,屏蔽了對泰勒·斯威夫特的所有搜索,試圖控制這一問題。

這並不是一個新現象:深偽技術已經存在多年了。然而,生成式 AI 的興起使得深度偽造比以往任何時候都更容易。

(來源:AI 生成)

專門研究生成式 AI 和合成媒體的人工智能專傢亨利· 阿傑德(Henry Ajder)表示,在與生成式 AI 相關的所有類型的傷害中,未經同意的深度偽造影響的人數最多,其中女性占絕大多數。

值得慶幸的是,希望還是有的。新的工具和法律可能會使攻擊者更難將人們的照片武器化,並幫助我們追究犯罪者的責任。

以下是打擊非自願深度偽造色情的三種方法。

水印

這一種方法是指社交媒體平臺對上傳到其網站上的帖子進行篩選,並刪除違反其政策的內容。

但正如 X 上的泰勒·斯威夫特的視頻所示,這一過程充其量隻能算是零敲碎打,遺漏了很多有害內容。此外,也很難區分真實內容和人工智能生成的內容。

一種技術解決方案是水印。水印在圖像中隱藏了一個不可見的信號,可以幫助計算機識別圖像是否是人工智能生成的。

例如,谷歌開發了一個名為 SynthID 的系統,該系統使用神經網絡修改圖像中的像素,並添加人眼看不見的水印。即使對圖像進行編輯或截圖,也能檢測到這種標記。

理論上,這些工具可以幫助公司改進內容審核,並使他們更快地發現虛假內容,包括未經同意的深度偽造內容。

優點:水印可能是一個有用的工具,它能讓我們可以更容易、更快地識別人工智能生成的內容,並識別應該刪除的有毒帖子。

人工智能初創公司 Hugging Face 的研究人員薩莎·盧奇奧尼(Sasha Luccioni)研究了人工智能系統中的偏見,她說默認情況下在所有圖像中加入水印,也會使攻擊者在一開始就更加難以制造出未經同意的深度偽造圖片。

缺點:這些系統仍處於試驗階段,尚未廣泛使用。心存不軌的攻擊者仍然可以篡改它們。相關公司也沒有將這項技術全面應用於所有圖像。

例如,谷歌 Imagen 人工智能圖像生成器的用戶,可以選擇是否希望人工智能生成的圖像帶有水印。所有這些因素都限制了它們在打擊深度偽造色情圖片方面的作用。

主動防禦

目前,我們在網上發佈的所有圖片都是免費的,任何人都可以用來創建深度偽造圖像。

由於最新的圖像制作人工智能系統非常復雜,要證明人工智能生成的內容是假的越來越難。

但是,通過一系列新的防禦工具,人們可以讓自己的圖像在人工智能系統中看起來扭曲或變形,從而保護自己的圖像不被人工智能利用。

美國麻省理工學院的研究人員開發了一種名為 PhotoGuard 的工具。它的作用就像一個保護罩,能以人眼看不見的方式改變照片中的像素。

當有人使用像圖像生成器 Stable Diffusion 這樣的 AI 應用程序來處理經過 PhotoGuard 保護的圖像時,結果看起來會很不真實。

Fawkes 是芝加哥大學研究人員開發的一種類似工具,它用隱藏的信號掩蓋圖像,使面部識別軟件更難識別人臉。

另一個名為 Nightshade 的新工具可以幫助人們抵禦人工智能系統的攻擊。該工具由芝加哥大學的研究人員開發,可以在圖像上塗上一層看不見的“毒藥”。

開發該工具的目的是為了保護藝術傢,避免他們受版權保護的圖片在未經其同意的情況下被科技公司修改。

不過,從理論上講,它可以用於任何圖像,隻要圖片的所有者不想被人工智能系統塗改。

當科技公司未經同意在網上抓取訓練素材時,這些中毒的圖像將打破人工智能模型。貓的圖像可能變成狗,泰勒·斯威夫特的圖象也可能變成狗。

優點:這些工具讓攻擊者更難使用我們的圖像創建有害內容。阿傑德說,這些工具在為個人提供免受人工智能圖像濫用的保護方面表現出了一定的前景,尤其是在約會應用程序和社交媒體公司默認應用這些工具的情況下。

盧奇奧尼說:“我們在互聯網上發佈的每張圖片都應該使用 Nightshade 這款工具。”

缺點:這些防禦罩適用於最新一代的人工智能模型。但不能保證未來的版本不會覆蓋這些保護機制。它們也不適用於已經在線的圖片,也更難應用於名人的圖片。

法規

技術補救措施僅限於此。盧奇奧尼說,唯一能帶來持久變化的是更嚴格的監管。

泰勒·斯威夫特的病毒式“假新聞”為打擊“假色情”的努力提供了新的動力。白宮表示,這一事件“令人震驚”,並敦促國會采取立法行動。

到目前為止,美國各州對這項技術的監管一直都是蜻蜓點水。例如,加利福尼亞州和弗吉尼亞州已禁止未經同意制作深度偽造色情作品。紐約州和弗吉尼亞州也禁止此類內容的傳播。

不過,我們終於可以看到聯邦層面的行動了。美國國會最近重新提出了一項新的兩黨法案,該法案將分享偽造裸體圖像定為聯邦犯罪。

美國新澤西州一所高中的假色情醜聞也促使立法者通過了一項名為《防止假冒親密圖片法案》的法案。

泰勒·斯威夫特的案件引起了人們對這一問題的關註,這可能會贏得更多兩黨的支持。

世界各地的立法者也在推動制定更嚴格的技術法律。2023 年英國通過的《網絡安全法》規定,禁止分享深度偽造的色情材料,但不包括制作這種材料。犯罪者可能面臨長達六個月的監禁。

在歐盟,一系列新法案從不同的角度解決了這個問題。全面的《人工智能法案》要求深度偽造創作者明確披露這些材料是由人工智能創建的,《數字服務法案》將要求科技公司更快地刪除有害內容。

中國於 2023 年生效的深度偽造法案走得最遠。在中國,深偽創作者需要采取措施,防止將其服務被用於非法或有害目的,在將用戶圖像制作成深偽作品之前征得用戶同意,要對用戶身份進行驗證,並對人工智能生成的內容進行標註。

優點:監管將為受害者提供追索權,追究未經同意的深度偽造色情作品創作者的責任,並形成強大的威懾力。

它還發出了一個明確的信息,即制作未經同意的深度偽造色情制品是不可接受的。

阿傑德說,法律和提高公眾意識的活動可以產生真正的影響,讓人們清楚地認識到,制作這種深度偽造色情內容的人是性犯罪者。

他說:“這將改變一些人對這類內容的冷漠態度,認為它們無害或不是一種真正的性虐待形式。”

缺點:阿傑德表示執行這類法律會很困難。就目前的技術而言,受害者很難確定是誰侵犯了他們,也很難對那個人提起訴訟。制作深度偽造作品的人可能也在不同的司法管轄區,這使得起訴更加困難。

作者簡介:梅麗莎·海基萊(Melissa Heikkilä)是《麻省理工科技評論》的資深記者,她著重報道人工智能及其如何改變我們的社會。此前,她曾在 POLITICO 撰寫有關人工智能政策和政治的文章。她還曾在《經濟學人》工作,並曾擔任新聞主播。

支持:大義

運營/排版:何晨龍