馬斯克內心對未來人工智慧的掙扎
是否是 AI的先驅，抑或是人類文明發展的宿命?
來源: TIME
在2012年的一次會議上，伊隆馬斯克遇到了電腦遊戲設計師和人工智慧研究員德米斯·哈薩比斯。哈薩比斯共同創辦了一家名為 DeepMind 的公司，旨在設計能夠像人類一樣思考的電腦。
“伊隆和我一見如故，我去他的火箭工廠拜訪了他，”哈薩比斯說。坐在食堂俯瞰裝配線時，馬斯克解釋說，他建造能夠前往火星的火箭的原因是，這可能是在世界大戰、小行星撞擊或文明崩潰的情況下保留人類意識的一種方式。哈薩比斯告訴他將另一個潛在威脅添加到列表中：人工智慧。機器可能變得超級智慧，超越我們這些凡人，甚至可能決定擺脫我們。
馬斯克靜靜地停頓了將近一分鐘，他在思考這個可能性。他決定哈薩比斯可能是對的，關於人工智慧的危險，並迅速投資了500萬美元在 DeepMind 上，以監控它的行動。
在與哈薩比斯的這次交談幾周後，馬斯克向谷歌的佩奇描述了 DeepMind。他們認識了十多年，馬斯克經常住在佩奇位於加利福尼亞州帕洛阿爾托的房子裡。人工智慧的潛在危險成為馬斯克在他們的深夜談話中幾乎癡迷地提出的一個話題。佩奇並不以為然。
在馬斯克2013年在加州的生日派對上，他們進行了一場激烈的辯論。馬斯克辯稱，除非我們建立保障措施，否則人工智慧系統可能取代人類，使我們的物種變得無關緊要，甚至滅絕。
佩奇反駁道，”如果機器在智力上甚至意識上超越人類，那有什麼關係呢？這只是進化的下一個階段“。
馬斯克回應說，人類意識是宇宙中寶貴的一束光，我們不應該讓它熄滅。佩奇認為這是感情用事的胡言亂語。如果意識可以在機器中複製，為什麼那不會同樣有價值呢？他指責馬斯克是一個“物種主義者”，偏袒自己的物種。“嗯，是的，我是親人類的，夥計，”馬斯克回答道。“我他媽的喜歡人類。”
因此，當他在2013年底聽說佩奇和谷歌計畫收購DeepMind時，他感到沮喪。馬斯克和他的朋友盧克·諾塞克試圖籌集資金阻止這筆交易。在洛杉磯的一次派對上，他們與哈薩比斯進行了一個小時的Skype電話。馬斯克告訴他：“人工智慧的未來不應該由佩奇控制。”
努力失敗了，谷歌收購 DeepMind 的消息於2014年1月宣佈。佩奇最初同意成立一個“安全委員會”，馬斯克是其中的一員。第一次也是唯一一次會議在SpaceX舉行。佩奇、哈薩比斯和谷歌主席埃裡克·施密特出席了會議，還有裡德·霍夫曼和其他幾個人。馬斯克得出結論，這個委員會基本上是胡扯八道。
因此，馬斯克開始舉辦自己的一系列晚餐討論會，討論如何對抗谷歌並促進人工智慧的安全。他甚至聯繫奧巴馬總統，後者同意在2015年5月進行一對一會議。馬斯克解釋了風險，並建議對其進行監管。“奧巴馬明白了，”馬斯克說。“但我意識到這不會上升到他會採取任何行動的程度。”
然後，馬斯克轉向薩姆·奧爾特曼，一個緊密包裹的軟體企業家、跑車愛好者和生存主義者，他在精緻的外表下有著類似馬斯克的強烈性格。在帕洛阿爾托的一次小型晚宴上，他們決定共同創辦一個非營利性的人工智慧研究實驗室，他們將其命名為OpenAI。它將使其軟體開源，並試圖對抗谷歌在該領域日益增長的主導地位。“我們希望有一個類似Linux版本的人工智慧，不受任何個人或公司的控制，”馬斯克說。
他們在晚宴上討論的一個問題是什麼更安全：由大公司控制的少數人工智慧系統，還是大量獨立系統？他們得出結論，大量相互競爭的系統，相互制衡，更好。對馬斯克來說，這就是使OpenAI真正開放的原因，讓許多人可以基於其原始程式碼構建系統。
馬斯克認為確保人工智慧的安全的另一種方法是將機器與人類緊密聯繫在一起。它們應該是個體意願的延伸，而不是可能變得失控並發展自己的目標和意圖的系統。這成為他創辦Neuralink的理由之一，該公司旨在創建能夠將人類大腦直接連接到電腦的晶片。
馬斯克在2018年因在自己的公司中開發人工智慧能力而與OpenAI決裂。他試圖說服奧爾特曼將OpenAI併入特斯拉。OpenAI團隊拒絕了這個想法，奧爾特曼接任實驗室主席，並成立了一個能夠籌集股權資金的營利性部門，包括微軟的一項重大投資。
因此，馬斯克決定繼續建立競爭對手的人工智能團隊，從事一系列相關的項目。這些項目包括 Neuralink，旨在在人類大腦中植入微晶片；Optimus，一個類似人類的機器人；以及Dojo，一個可以使用數百萬影片來訓練人工神經網絡以模擬人類大腦的超級電腦。這也激勵他對讓特斯拉汽車實現自動駕駛的推動產生了痴迷。
起初，這些努力相對獨立，但最終馬斯克將它們與他創立的一家名為 xAI 的新公司聯繫在一起，以追求人工通用智能的目標。
2023年3月，OpenAI向公眾發布了GPT-4。谷歌隨後推出了一個名為Bard的競爭聊天機器人。這樣一來，OpenAI-微軟和DeepMind-谷歌之間就展開了一場競爭，目標是創造出能夠以自然方式與人類交談並執行無盡的基於文本的智力任務的產品。 馬斯克擔心這些聊天機器人和人工智慧系統，尤其是在微軟和谷歌的掌握下，可能會受到政治洗腦，甚至被他所稱的覺醒思维病毒感染。他還擔心自我學習的人工智慧系統可能對人類物種產生敵意。在更具體的層面上，他擔心聊天機器人可能被訓練成在Twitter上洪水般地散播虛假信息、有偏見的報導和金融詐騙。當然，所有這些事情已經被人類做到了。但是，能夠佈署成千上萬個武器化聊天機器人將使問題惡化兩到三個數量級。
他的拯救衝動被激發了起來。他對於自己創立並資助的OpenAI被排除在外感到不滿。人工智慧正在醞釀最大的風暴。沒有人比馬斯克更喜歡風暴了。
2023年2月，他邀請（也許更好的詞是召喚）山姆·阿爾特曼在Twitter上與他見面，並要求他帶來OpenAI的創立文件。馬斯克向他提出質疑，試圖合法地將一個由捐款資助的非營利組織轉變為可以賺取百萬美元的盈利公司。阿爾特曼試圖表明這一切都是合法的，並堅稱他個人不是股東或者在套現。他還向馬斯克提供了新公司的股份，但馬斯克拒絕了。
相反，馬斯克對OpenAI發起了一系列攻擊。阿爾特曼感到痛苦。與馬斯克不同，他敏感而不愛爭論。他覺得馬斯克對於人工智慧安全問題的批評沒有深入到足夠複雜的程度。然而，他確實認為馬斯克的批評來自真誠的關切。阿爾特曼告訴卡拉·斯威舍說：“他是個混蛋。他的風格不是我想要的風格。但我認為他真的關心，他對人類未來的擔憂非常大。”
人工智慧的燃料是數據。新的聊天機器人正在使用大量信息進行訓練，例如網際網路上的數十億頁面和其他文件。谷歌和微軟憑藉其搜索引擎、雲服務和對郵件的訪問權限，擁有大量數據來幫助訓練這些系統。
馬斯克能為這個派對帶來什麼呢？其中一個資產是Twitter的信息流，其中包括多年來發布的超過十兆條推文，每天增加五億條。這是人類的集體智慧，是世界上最及時的真實人類對話、新聞、興趣、趨勢、爭論和行話的數據集。而且它是一個很好的聊天機器人測試場地，可以測試真實人類對其回答的反應。馬斯克在購買Twitter時並沒有考慮到這個數據流的價值。“這實際上是一個附帶好處，直到購買之後我才意識到，”他說。
Twitter相對寬鬆地允許其他公司利用這個數據流。2023年1月，馬斯克在Twitter的會議室召開了一系列深夜會議，以討論如何對其收費。“這是一個盈利機會，”他告訴工程師們。這也是一種限制谷歌和微軟使用這些數據改進他們的人工智能聊天機器人的方法。他在7月引發了一場爭議，當時他決定暫時限制觀眾每天可以查看的推文數量；目的是防止谷歌和微軟“爬取”數百萬條推文作為訓練他們的人工智能系統的數據。
馬斯克還擁有另一個數據寶庫：特斯拉從車輛上的攝影機接收和處理的每天1600億幀的影片數據。這些數據與為聊天機器人提供信息的基於文本的文件不同。這是人類在現實世界中導航的影片數據。它可以幫助創建物理機器人的人工智慧，而不僅僅是生成文本的聊天機器人。
人工通用智慧的終極目標是建造能夠像人類一樣在物理空間中運作的機器，例如工廠、辦公室和火星表面，而不僅僅是以無形的聊天方式讓我們驚嘆。特斯拉和Twitter可以共同提供這兩種方法的數據集和處理能力：教導機器在物理空間中導航，並用自然語言回答問題。
今年三月，馬斯克給我發了一條短信：“有幾件重要的事情我想和你談談。只能當面談。”當我到達奧斯汀時，他正在Shivon Zilis的家裡，她是Neuralink的執行長，也是他的兩個孩子的母親，自從創立OpenAI八年前以來，她一直是他在人工智慧方面的智力伴侶。他說我們應該把手機留在屋子裡，然後坐在外面，因為，他說，有人可能用它們來監視我們的談話。但他後來同意我可以在我的書中使用他對人工智慧的談話。
他和Zilis盤腿坐在泳池旁的露台上，他們的雙胞胎Strider和Azure，現在已經16個月大，在他們的膝上。Zilis泡了咖啡，然後把它放進微波爐裡，讓它變得超熱，這樣他就不會喝得太快。
“有什麼可以做來使人工智慧更安全？”馬斯克問道。“我一直在思考這個問題。我們可以采取哪些行動來最大程度地減少人工智慧的危險，並確保人類意識得以延續？” 他的聲音低沉單調，偶爾會突然發出狂笑。他指出，人類智慧的數量正在趨於平穩，因為人們生育的孩子不夠多。與此同時，電腦智能的數量正在以指數級增長，就像是摩爾定律加倍。在某個時刻，生物大腦的智慧將被數字大腦的智慧所遠遠超越。
此外，新的人工智慧機器學習系統可以自行吸收信息，自己教導如何生成輸出，甚至升級自己的程式碼和能力。數學家約翰·馮·諾伊曼和科幻作家弗尼爾·文奇使用“奇異點”這個詞來描述人工智慧能夠以無法控制的速度自行前進，把我們這些人類遠遠甩在後頭的那一刻。“這可能比我們預期的要早發生，”馬斯克以一種不祥的口吻說道。
我突然被這個場景的奇怪之處所震撼。在一個陽光明媚的春天，我們坐在郊區庭院的泳池旁，有兩個明亮的孩子正在學步，而馬斯克卻嚴肅地推測在人工智慧的啟示錄摧毀地球文明之前，在火星上建立可持續人類殖民地的機會窗口。
馬斯克陷入了沉默。正如Zilis所說的，“他正在批量處理”，這是指一台老式電腦在有足夠的處理能力時會將一系列任務排隊並依次運行的方式。“我不能坐在這裡無所事事，”他最後輕聲說道。“隨著人工慧慧的到來，我在想是否值得花那麼多時間思考Twitter。當然，我可能能把它變成世界上最大的金融機構。但我的大腦週期和一天的時間是有限的。我的意思是，我不需要變得更富有什麼的。” 我開口說話，但他知道我要問什麼。“那麼我應該把時間花在什麼上面？”他說。“讓星艦發射。現在，到達火星變得更加迫切。”他再次停頓，然後補充說：“另外，我需要專注於使人工智慧更安全。這就是為什麼我要開辦一家人工智慧公司。”
這家公司被馬斯克稱為 xAI。他親自招募了 DeepMind 的 Igor Babuschkin，但他告訴我他會自己運營。我計算了一下，這意味著他將運營六家公司：特斯拉、SpaceX 及其 Starlink 部門、Twitter、Boring Co.、Neuralink和 xAI。這是史蒂夫·賈伯斯巔峰時期的三倍。
他承認在創造一個能夠對問題給予自然語言回答的聊天機器人方面，他起步落後於OpenAI。但是特斯拉在自駕車和機器人Optimus方面的工作使其在創造在現實世界中導航所需的人工智慧方面遙遙領先。這意味著他的工程師在創造全面人工智慧方面實際上領先於OpenAI，這需要兩種能力。他說：“特斯拉的現實世界人工智慧被低估了。”“想像一下，如果特斯拉和OpenAI需要交換任務。他們將不得不做自駕車，而我們將不得不做大型語言模型的聊天機器人。誰會贏？我們會贏。”
今年四月，馬斯克給了巴布斯金和他的團隊三個主要目標。第一個目標是創造一個能夠編寫電腦程式碼的人工智慧機器人。一個程式設計師可以開始輸入任何程式語言，而 xAI 機器人將自動完成他們試圖採取的最有可能的操作。第二個產品將是 OpenAI GPT系列的聊天機器人競爭對手，它使用的演算法確保在政治中立性的數據集上進行訓練。
馬斯克給團隊的第三個目標更加宏大。他一直以來的首要任務始終是確保人工智慧的發展能夠有助於保證人類意識的存在。他認為，最好的方式是創造一種能夠“推理”、“思考”和追求“真理”作為其指導原則的人工通用智慧形式。你應該能夠給它一些大任務，比如“建造一個更好的火箭發動機”。
馬斯克希望，有一天，它將能夠應對更大、更存在的問題。它將成為“一個最大的真理追尋人工智慧。它將關心理解宇宙，這可能會使它希望保護人類，因為我們是宇宙中有趣的一部分。”這聽起來有些熟悉，然後我意識到為什麼。
他正在踏上一個塑型他童年時代的聖經相似的使命，這本書使他擺脫了青少年的存在主義困境，那就是《銀河系漫遊指南》，其中有一個超級電腦被設計出來解決 “生命、宇宙和一切的終極問題的答案”。
※版權所有，歡迎媒體聯絡我們轉載；登錄本網按讚、留言、分享，皆可獲得 OCTOVERSE 點數（8-Coin），累積後可兌換獎品，相關辦法以官網公布為準※
