DeepFake 影片使用名人騙倒了所有人
世界上最大的YouTuber之一，MrBeast，以及兩名BBC主持人已被用於深度偽造影片，以詐騙在網路上無知的人們。
來源: BBC
深度偽造使用人工智能（AI）來製作某人的影片，通過操縱他們的臉部或身體。
其中一個這樣的影片出現在TikTok上，聲稱MrBeast提供新iPhone僅售2美元（約1.65英鎊）。
與此同時，BBC主持人Matthew Amroliwala和Sally Bundock的肖像被用來宣傳一個已知的詐騙活動。
Facebook上的影片顯示這些記者“介紹”了X（以前是Twitter）的億萬富翁所有者Elon Musk，聲稱他正在宣傳一個投資機會。
類似的歷史影片聲稱他正在贈送錢和加密貨幣。
BBC已經向 Meta 詢問評論，該內容已經被刪除。
此前，這些影片被一個圖像警告門檻所閉住，該警告告知觀眾，其內容經過獨立事實查核機構FullFact的查核，FullFact首次報告了該問題。
“我們不允許這種類型的內容出現在我們的平台上，並已將其刪除，”Meta發言人說。
“我們不斷努力改進我們的系統，並鼓勵任何看到他們認為違反我們規定的內容的人使用我們的應用程式工具舉報，以便我們可以進行調查並採取行動。”
與此同時，TikTok發言人表示，該公司在該影片上傳幾小時內刪除了MrBeast的廣告，並且已刪除了上傳該影片的帳戶，因為其違反了其政策。
TikTok明確禁止“合成媒體”，其中“包含了一個真實人物的相似之處（視覺或聲音）”。
在X上的一個帖子中，該帖子已經被觀看了超過2800萬次，這位YouTuber分享了這個偽造的影片，並問社交媒體平台是否已經準備好應對這些深度偽造的崛起。
“我被惡搞了！”
BBC新聞主持人Sally Bundock 解釋說；那是一個普通的星期一晚上，我早早就去了床，因為我星期二早上3點要去BBC新聞室。
我丈夫接到了朋友的電話。然後他問：“Sally，你最近有訪問過Elon Musk嗎？” “沒有…我希望有，”是我的回答。
那是我意識到自己被惡搞的開始。
一個關於我在BBC新聞室的深度偽造影片，顯然是在社交媒體上流傳開來。它看起來像我，聽起來像我，相當令人信服，但不是我。哇，我感到震驚。
在這個充滿挑戰的新世界中，我想知道，只是時間的問題嗎？頭皮都在發麻。
但是，當我脖子後面的頭髮重新安頓下來後，接著的問題出現了 – 現在怎麼辦？令人擔憂的是，這個使用人工智慧創建的虛假影片正在將觀眾引導到一個金融詐騙活動。
它聲稱，使用虛假的我，由Elon Musk創建的新投資項目的英國用戶可以獲得可觀的投資回報，以至於您可以放棄工作。
這聽起來太好了，但關鍵是，它太好了，以至於不真實。這是一個詐騙。
如何辨識深度偽造影片 近幾周以來，出現了一系列高調的深度偽造影片，湯姆·漢克斯在週一警告說，一則由他主持的廣告宣傳一項牙科計劃，看似不真實。
隨著AI系統的不斷增強，人們對其能夠創建愈加逼真的虛擬版本的真實人物的能力越來越擔憂。
一般來說，影片可能不像表面上那樣，第一個線索只是它提供了免費東西。
但MrBeast的影片使這一切變得更加複雜。
這位YouTuber以贈送汽車、房屋和現金而聞名 – 他甚至在去年的萬聖節給了孩子們iPhone – 因此人們可能會相信他在線上贈送了這些設備。
但犀利的觀眾和聽眾將能夠察覺到一些不尋常的跡象。
詐騙者試圖看起來合法，將MrBeast的名字嵌入到影片的左下角，以及許多不同社交媒體平台上使用的藍色驗證標記。
但TikTok影片會自動將上傳者的實際名稱嵌入到TikTok標誌的下面。
上傳該影片的帳戶未經驗證，現在已經不存在。
與此同時，在以BBC主持人為特色的影片中，錯誤更加明顯。
例如，在Sally Bundock的影片中，“主持人”將15發音為“fife-teen”，並奇怪地發音為“pro-ject”。
她還說“有超過30億美元被投資到新項目中”，而不是“已被投資”。
這些錯誤可能很小，但隨著技術的不斷發展和視覺線索變得不那麼明顯，語音錯誤 – 就像詐騙電子郵件中經常出現的拼寫錯誤一樣 – 可以是識別某物是否虛假的一種有用方式。
製作者已經使用了Sally Bundock當時正在播放的正式影片 – 當時她談論到了馬斯克接管X的情況 – 但使其看起來像是她在談論涉及他的投資機會。
在Matthew Amroliwana的影片中，也有一些類似的聲音線索，某些句子開頭的聲音含糊不清。
在這個影片中有很多指示器表明情況並不如表面所見。文本不同於BBC News使用的文本，存在拼寫錯誤和奇怪的措辭。
但至少有一個顯而易見的視覺錯誤 – “Elon Musk”似乎在他的左眼上方有一只眼睛。
這種類型的故障在深度偽造中很常見，這是由於技術問題引起的。
但是，如果您對一個影片是否真實不確定，那麼有一條黃金法則要遵循 – 除非MrBeast或Elon Musk站在您面前，否則就沒有免費的iPhone。
關於深度偽造的法律有什麼規定？ 法學教授Lilian Edwards表示，問題變得復雜，因為每個國家的法律都不同。
“在這些侵犯版權方面的情況下，使用一家美國公司，比如詐騙英國消費者的一家中國平台，適用哪一個法律？”她問道。
“您可能可以使用誹謗法或數據保護法，其中您的聲音或形象未經您的許可並且沒有正當理由而被使用。”
但她警告不要刑事指控所有的深度偽造。
“如果你開始刑事指控所有深度偽造，你就在刑事指控電影中的特技行業，”她說。
“您正在刑事指控人們正在創建的藝術作品。”
※版權所有，歡迎媒體聯絡我們轉載；登錄本網按讚、留言、分享，皆可獲得 OCTOVERSE 點數（8-Coin），累積後可兌換獎品，相關辦法以官網公布為準※
