此前,社交媒體平臺X一度屏蔽了對泰勒·斯威夫特的部分搜索,因為關於歌手泰勒·斯威夫特(Taylor Swift)的深度偽造(deepfake)不雅圖片在網上流傳。
周一,在該網站上搜索她的英文名字時,如果沒有加引號,就會出現一條顯示為出錯的消息,並提示用戶重試搜索,附有一句:“別擔心,這不是你的錯。”
![](https://news.xinpengboligang.com/upload/yule/69c0618d40f13f00ffde41bc0184d865.jpeg)
不過,將她的名字用引號括起來,仍然可以出現提到她名字的帖子。
上周,與泰勒·斯威夫特相關的有顏色和惡意圖片開始在X上廣泛傳播,科技平臺和反虐待組織一直在努力解決此問題。
X的業務運營主管喬·貝納羅奇(Joe Benarroch)在一份聲明中表示:“這是一項臨時措施,我們在處理這個問題時非常謹慎,因為我們把安全放在首位。”
與以往困擾名人的傳統偽造圖像不同,這些關於斯威夫特的圖片似乎是使用一種人工智能圖像生成器創建的,可以根據書面提示即時創建新圖像。
![](https://news.xinpengboligang.com/upload/yule/f49d0c125de25aba9878b5c02e0e5d8e.jpeg)
這些圖片開始在網上傳播後,這位歌手的“斯威夫特粉絲團”忠實粉絲迅速動員起來,在X上反擊,並使用了#保護泰勒·斯威夫特(#ProtectTaylorSwift)的標簽,發佈更多有關這位流行歌手的正面化的圖片。一些人表示,他們正在舉報貼出深度偽造圖片的賬戶。
檢測深度偽造的組織Reality Defender表示,他們追蹤到了大量描繪斯威夫特的未經同意的有顏色材料,尤其是在X上。一些圖片也進入了Meta旗下的Facebook和其他社交媒體平臺。
研究人員發現至少有幾十張由人工智能生成的獨特圖片。其中最廣泛傳播的是與足球相關,圖片中的斯威夫特被塗上了顏料或沾滿鮮血,將她物化,在某些情況下,以對她的深度偽造形象給她造成了暴力傷害。
![](https://news.xinpengboligang.com/upload/yule/d639f4f7173003a0a0cb908662e876f4.jpeg)
威脅情報組織Memetica的本·德克(Ben Decker)表示,關於泰勒·斯威夫特的深度偽造圖片,最早出現在去年於邊緣社交平臺上進行的一場持續活動中,該活動的目的是制作由人工智能生成的有關女性名人的不雅圖像,上周廣泛傳播的一張斯威夫特圖片早在1月6日就已出現在網上。
X減少對Swift的搜索的舉措可能隻是權宜之計。
他表示:“當你不確定所有東西的具體情況,也不能保證所有東西都被刪除時,你能做的最簡單的事情就是限制人們搜索它們的能力。”
據路透社報道,X已於周一晚間解除了阻止搜索泰勒·斯威夫特名字的臨時措施。
有研究人員指出,在過去幾年中,隨著用於生成此類圖像的技術變得更容易獲取和使用,明顯的深度偽造不雅照的數量在增加。
![](https://news.xinpengboligang.com/upload/yule/7359190ad5ca133ea294a0b46832378e.jpeg)
2019年,人工智能公司DeepTrace Labs發佈的一份報告顯示,這些圖像大多數是針對女性的,大多數受害者是好萊塢演員和韓國K-pop歌手。
在歐盟,單獨的幾項新立法包括針對深度偽造的內容。於去年生效的《數字服務法》(Digital Services Act)要求在線平臺采取措施,遏制傳播侵犯隱私等“基本權利”的內容的風險,比如“未經同意的”圖片或深度偽造的色情內容。
歐盟目前在等待《人工智能法》(Artificial Intelligence Act)的最終批準,該法將要求使用人工智能系統創建深度偽造的公司也要告知用戶,其內容是否是人工制作或被偽造的。