美國知名歌手泰勒·斯威夫特再度成為了AI深度偽造的受害者，近日，大量由人工智能生成的泰勒虛假色情、血腥照片在多個社交平臺瘋傳，瀏覽量已超過千萬，引發社交媒體震動，這也引發了美國白宮的註意。
深度偽造的“泰勒·斯威夫特”在網上瘋傳
泰勒團隊或將起訴相關網站
據報道1月26日，白宮發言人皮埃爾在記者會上回應了這一事件，並表示：“我們對這種圖片的流傳感到震驚。雖然社交媒體公司在內容管理方面作出了自己的獨立決定，但我們認為他們在執行自己規則方面可以發揮重要作用，以防止錯誤信息和未經同意的真實人物的私密圖像傳播。”她還尤其補充了執法不嚴對女性的影響更大，她們是網絡騷擾的主要目標。
據了解，這些深度偽造的泰勒照片是由某人或某些人使用AI生成並上傳到了一傢不良網站上，這一網站上充斥了眾多以名人為主角的不雅照，虛假照片很快傳播到了主流社交媒體並在網友之間迅速傳播，這也引起了泰勒數以千萬粉絲的強烈不滿和憤怒，粉絲們發起了“保護泰勒”的話題，“這太惡心了，這是非法的。”“停止傳播斯威夫特的人工智能圖片，她是一個有感情的人，她會受傷。”“尊重泰勒·斯威夫特，尊重所有女性。”
目前部分參與傳播的賬號已被社交平臺封禁，各社交平臺也在清除流傳的圖片，但是漏網之魚依然存在，有人自建網站或者通過匿名群組售賣這些深度偽造的照片。實際上這不是泰勒第一次成為AI深度偽造的受害者，就在不久前，有人使用人工智能技術仿造了她的聲音和形象來為商品進行推廣，讓消費者誤以為這是泰勒代言的商品。據報道，目前泰勒的團隊已在考慮通過法律手段來應對這一事件，傳播虛假照片的網站可能會面臨法律訴訟。
AI深度偽造技術引大眾不安
立法約束迫在眉睫
在粉絲們為泰勒的遭遇而深感憤怒的同時，其他網民則傳達出了對AI深度偽造技術的發展感到強烈不安的聲音，“泰勒是影響力很大的明星，要是我們普通人也被深度偽造了不雅照可怎麼辦？”“AI發展的太快太恐怖了，我都不敢想如果是我那真的要跳進黃河洗不清了。”“支持AI立法，濫用危害太大了。”“這真的和我們的生活息息相關，ai照片視頻的人類面部表情已經很像真人了，聲音也能模仿得一樣，這樣的騙局普通人難以分辨。”從2023年起，國內已發生多起AI深度偽造詐騙案件，中招率相當高，叫人防不勝防，也已出現了多起利用AI技術造黃謠、傳播不良信息的惡性事件。
面對以假亂真的AI偽造技術，國內外的專傢學者、相關領域的企業機構也想過不少應對辦法，比如在去年12月，一款名為mist的隱形圖片水印在網上開源發佈，該水印用於抵抗AI模型對圖片的訓練和抓取，這一水印能夠極大程度的幹擾AI模型，使之生成的圖片遭受不同程度的破壞。此外，也有開發者建議讓AI生成平臺、公司給相關的AI生成軟件加上隱形水印機制，以快速識別AI並進行溯源，各個社交平臺也應以技術手段加強對於疑似AI生成圖、文、視頻內容的識別功能。在國內抖音、小紅書等平臺也已對疑似為AI生成的圖文視頻內容進行標識以提示用戶小心分辨真假。
然而說到底，這些防止AI、識別AI的技術手段是治標不治本的，對AI深度偽造隻能起到有限的阻止、震懾作用，深度偽造技術的泛濫根源之一在於其中有利可圖，制造傳播這些深度偽造圖片、視頻的人不僅僅是出於個人的獵奇心態，還可能從中獲得高額回報，即便國傢法律認定AI深度偽造是不合法的行為，也無法阻止利欲熏心者繼續濫用這一技術。對AI技術的管控已經不能僅停留在倡議、呼籲的階段，規范的立法和相應的懲處制度的推行也迫在眉睫，Ai技術不是洪水猛獸，但確實需要一個能約束它的鐵籠。
揚子晚報|紫牛新聞記者 沈昭
編輯 陳哲