深度偽造色情影片已經失控
新的研究表明，深偽影片的數量正在飆升，世界上最大的搜尋引擎正在將點擊量彙集到數十個深偽網站。
來源: Wired
谷歌和MICROSOFT的搜尋引擎是助長深度偽造色情影片存在的原因之一。自從五年前出現深度偽造以來，這項技術一直被用來物化女性—使用機器學習在未經許可的情況下將某人的頭部置換成色情演員的軀體。現在，在人工智慧技術的進步和不斷擴大的deepfake生態系統的推動下，未經同意的deepfake色情影片的數量正在以指數級的速度增長。
由獨立研究人員進行並與《連線》雜誌分享的一項對未經同意的深度偽造色情影片的新分析表明，這些影片已經變得多麼普遍。據研究人員稱，在過去七年中，至少有244,625個影片被上傳到專門或部分託管deepfake色情影片的前35個網站。
今年前 9 個月，有 113,000 個影片上傳到網站，比 2022 年全年上傳的 73,000 個影片增加了 54%。分析預測，到今年年底，2023年製作的影片將超過每隔一年的總和。
這些驚人的數字只是反應出非自願深度偽造的巨大問題但實際上真正的的規模要大得多，並且包括其他類型的操縱圖像。近年來，出現了一個主要針對女性的深度偽造濫用的行業，並且在未經人們同意或不知情的情況下生產。適用於靜止圖像的換臉應用程式以及只需點擊幾下即可在照片中“脫掉衣服”的應用程式也非常突出。使用這些應用程式可能會創建數百萬個圖像。
“這是針對普通人，普通高中生，普通成年人的事情 – 它已成為日常事件，”在賓夕法尼亞大學進行數位權利和網路性暴力研究的Sophie Maddocks說。“如果我們能夠使這些技術更難獲得，那將有很大的不同。可能煽動性犯罪不應該花費兩秒鐘。
這項新研究重點介紹了35個不同的網站，這些網站專門託管deepfake色情影片或將這些影片與其他成人材料合併在一起。（它不包括在社交媒體上發佈的影片、私下分享的影片或經過處理的照片。《連線》雜誌不會命名或直接連結到網站，以免進一步提高其知名度。研究人員抓取了網站以分析deepfake影片的數量和持續時間，並研究了人們如何使用分析服務SimilarWeb找到網站。
許多網站明確表示他們託管或傳播深度偽造色情影片 – 通常在其名稱中包含deepfakes一詞或其衍生物。排名前兩個的網站分別包含 44,000 個影片，而其他五個網站託管超過 10,000 個 deepfake 影片。他們中的大多數都有幾千個影片，而有些只列出了幾百個。研究人員分析的一些影片已被觀看數百萬次。
該研究還確定了另外300個一般色情網站，這些網站以某種方式包含未經同意的deepfake色情內容。研究人員說，「洩漏」網站和轉發人們社交媒體圖片的網站也包含深度偽造圖像。一個處理照片的網站聲稱，它在35萬張照片中“脫掉”了人們的衣服。
在線測量深度偽造影片和圖像的全尺寸非常困難。跟蹤內容在社交媒體上的共用位置具有挑戰性，而濫用內容也在私人消息組或封閉管道中共用，通常是由受害者認識的人共用的。9月，在西班牙小鎮阿爾門德拉萊霍（Almendralejo），20多名11至17歲的女孩挺身而出，因為人工智慧工具在她們不知情的情況下生成了她們的裸照。
“用於創建深度偽造的非自願色情圖像的人工智慧工具的可用性顯著增長，色情平臺和非法在線網络上對此類內容的需求也在增加，”澳大利亞莫納什大學副教授Asher Flynn說，他專注於人工智慧和技術促進的濫用。這隻會隨著新的生成式人工智慧工具的增加而增加。
許多網站和工具創建深度偽造影片或圖像的門戶是通過搜索。數以百萬計的人被引導到研究人員分析的網站，其中50%到80%的人通過搜索找到訪問網站的方式。通過搜索查找 deepfake 影片是微不足道的，不需要一個人對搜索什麼有任何特殊知識 。
這個問題是全球性的。研究人員使用VPN，在加拿大，德國，日本，美國，巴西，南非和澳大利亞測試了Google搜索。在所有測試中，deepfake網站都突出顯示在搜尋結果中。名人、流媒體和內容創作者經常成為影片中的目標。Maddocks說，深度偽造的傳播已經成為“地方病”，這是許多研究人員在2017年12月第一個deepfake影片脫穎而出時首先擔心的。
自從創建 deepfake 影片所需的工具出現以來，它們變得更容易使用，並且正在製作的影片的品質也得到了提高。圖像生成工具的浪潮也為更高品質的濫用圖像以及最終創建影片提供了潛力。在第一批深度偽造開始出現五年後，第一批法律才剛剛出現，將分享偽造圖像定為刑事犯罪。
弗林說，這些 deepfake 應用程式的激增，加上武漢肺炎全球疫情的爆發對網路的更大依賴，以及“法律和政策未能跟上步伐”，造成了一場 “完美風暴”。
專家表示，除了新的法律外，還需要對技術進行更好的教育，並採取措施阻止造成傷害的工具的傳播。這包括託管網站的公司以及搜尋引擎（包括Google和Microsoft』s Bing）的行動。目前，數位千年版權法案（DMCA）投訴是女性必須從網站上刪除影片的主要法律機制。
監控技術傳播的深度偽造和生成人工智慧專家亨利·阿傑德（Henry Ajder）表示，在人們發現deepfake色情影片，改變人們面孔的應用程式以及專門允許創建未經同意的圖像的工具的過程中增加更多的“摩擦”可以減少傳播。“這是關於試圖讓某人盡可能難找到，”他說。他說，這可能是搜尋引擎降低有害網站的結果排名或網路服務提供者阻止網站。“考慮到這些業務的數量和規模，以及對平臺的需求 – 歷史上沒有認真對待這些問題 – 突然這樣做，很難感到真正樂觀，”Ajder說。
“像任何搜尋引擎一樣，谷歌索引網络上存在的內容，但我們積極設計我們的排名系統，以避免人們用他們不想看到的意外有害或露骨內容震驚，”谷歌發言人內德·阿德里安斯（Ned Adriance）說，指著它刪除搜尋結果的頁面。谷歌的支持頁面表示，人們可以要求刪除“非自願的虛假色情內容”。其移除表單要求用戶手動提交用於查找內容的URL和搜索詞。“隨著這個空間的發展，我們正在積極努力增加更多的保障措施，以説明保護人們，基於我們為其他類型的非自願露骨圖像構建的系統，”Adriance說。
Microsoft首席數位安全官Courtney Gregoire表示，它不允許深度偽造，可以通過其網路表單進行報告。“傳播未經同意的親密圖像（NCII）是對個人隱私和尊嚴的嚴重侵犯，對受害者造成毀滅性影響，”格雷瓜爾說。“Microsoft禁止在我們的平臺和服務上使用NCII，包括招攬NCII或宣導未經受害者同意製作或重新分發私密圖像。
雖然影片和圖片的數量繼續飆升，但對受害者的影響可能是持久的。“基於性別的網络騷擾正在對女性的言論自由產生巨大的寒蟬效應，”馬多克斯說。據《連線》報導，深度偽造所針對的女性 Twitch 主播有詳細的感覺被侵犯、受到更多騷擾和浪費時間，有些人說這些未經同意的內容找到了家庭成員的途徑。
莫納什大學教授弗林說，她的研究發現，由於濫用，心理健康問題（如焦慮、抑鬱、自殘和自殺）的“發病率很高”。“對一個人的身心健康的潛在影響，以及對他們的就業、家庭和社會生活的影響可能是巨大的，”弗林說，“無論圖像是 深度偽造 的還是’真實的’。
※版權所有，歡迎媒體聯絡我們轉載；登錄本網按讚、留言、分享，皆可獲得 OCTOVERSE 點數（8-Coin），累積後可兌換獎品，相關辦法以官網公布為準※
