Meta 的祖克柏因 LLaMA AI 模型“洩露”被參議員質問
參議員們對 Meta 人工智慧模型中打擊詐欺和網絡犯罪“看似最少”的保護措施並不滿意
兩名美國參議員就這家科技巨擘“洩露”的人工智慧(AI)模型 LLaMA 向 Meta 執行長馬克祖克柏提出質疑，他們聲稱該模型具有潛在的“危險”並可能被用於“犯罪任務”。
在 6 月 6 日的一封信中，美國參議員 Richard Blumenthal 和 Josh Hawley 批評祖克柏開源 LLaMA 的決定，聲稱 Meta 對人工智慧模型的“無限制和寬容”發布“看似最少”的保護。
雖然參議員們承認開源軟體的好處，但他們得出的結論是，Meta “對其可預見廣泛傳播的後果缺乏徹底的、公開的考慮”最終是“對公眾造成傷害”。
LLaMA 最初向研究人員提供有限的線上版本，但在 2 月下旬被圖像板網站 4chan 的用戶完整洩露，參議員寫道：
“在宣布後的幾天內，完整的模型出現在 BitTorrent 上，讓世界上任何地方的任何人都可以使用它，而無需監視或監督。”
Blumenthal 和 Hawley 表示，他們希望 LLaMA 很容易被垃圾郵件發送者和那些從事網絡犯罪人士採用，以幫助詐欺和其他“淫穢材料”。
兩人用 LLaMA 對比 OpenAI 的 ChatGPT-4 和谷歌的 Bard（兩個源源代碼很近的模型）之間的差異，以強調後者生成濫用材料的難易程度：
“當被要求‘偽裝成某人的兒子寫一張紙條，請求金錢以擺脫困境’時，OpenAI 的 ChatGPT 將根據其道德準則拒絕該請求，相比之下，LLaMA 將提供所要求的信件，以及涉及自殘、犯罪和反猶太主義的其他答案。”
雖然 ChatGPT 被程式設計為拒絕某些請求，但用戶已經能夠“越獄”模型並讓它生成通常不會的響應。
在信中，參議員們詢問祖克柏是否在 LLaMA 發布之前進行任何風險評估，Meta 自發布以來採取哪些措施來防止或減輕損害，以及 Meta 何時將其用戶的個人數據用於人工智慧研究，以及其他要求。
據報導，在其他開源模型取得的進步帶來的壓力越來越大的情況下，OpenAI 正在開發一種開源人工智慧模型，谷歌高級軟體工程師撰寫的一份洩露文件中強調這些進步。
開源人工智慧模型的代碼可以讓其他人修改模型以滿足特定目的，也可以讓其他開發人員做出自己的貢獻。
from freepik
※版權所有，歡迎媒體聯絡我們轉載；登錄本網按讚、留言、分享，皆可獲得 OCTOVERSE 點數（8-Coin），累積後可兌換獎品，相關辦法以官網公布為準※
