AI 武器競賽正在改變一切

作者: ANDREW CHOW，BILLY PERRIGO

創造是人類的天性。在過去的30萬年裡，我們獨特的能力使我們能夠創作藝術、烹飪、宣言和社會：在以前一無所有的地方構想和創造出新的東西。

現在，我們有了伴侶。當你閱讀這句話時，人工智能（AI）程序正在繪製宇宙肖像、回答郵件、準備納稅申報和錄製金屬歌曲。它們正在撰寫推銷文稿、調試代碼、繪製建築藍圖和提供健康建議。

人工智能已經對我們的生活產生了普遍影響。AI被用於定價藥品和房屋、組裝汽車、確定我們在社交媒體上看到的廣告。但是，生成式AI是一種可以提示創造全新內容的系統類別，它要新得多。

這一轉變標誌著自社交媒體以來最重要的技術突破。由於ChatGPT等程序的存在，生成式AI工具在最近幾個月裡被一個好奇、驚訝的公眾狂熱地接受，ChatGPT能夠（但不總是準確地）對幾乎任何問題做出連貫的回答，而Dall-E則允許你召喚出你夢想的任何圖像。今年1月，ChatGPT的月度用戶數達到1億，比Instagram或TikTok的采用速度更快。從Midjourney到Stable Diffusion再到GitHub的Copilot，還有數百個同樣令人驚嘆的生成式AI正在爭相采用，Copilot允許你將簡單的指令轉換為計算機代碼。

支持者們認為這只是個開始：生成式AI將重新定位我們的工作方式和與世界互動的方式，激發創造力和科學發現，使人類能夠實現以前無法想象的壯舉。普華永道的預測師預計，到2030年，人工智能可能會推動全球經濟增長超過15萬億美元。

這種狂熱似乎甚至讓投資了數十億美元在人工智能上的科技公司感到措手不及，並在矽谷引發了一場激烈的競爭。在幾個星期內，微軟和Alphabet旗下的谷歌已經調整了他們的整個企業戰略，以掌握他們認為將成為新的經濟基礎設施層的控制權。微軟正在向OpenAI投資100億美元，OpenAI是ChatGPT和Dall-E的創造者，並宣布計劃將生成式AI整合到其Office軟件和搜索引擎Bing中。谷歌則宣布對ChatGPT的成功做出回應，宣布“代碼紅色”企業緊急情況，並急忙推出了自己的面向搜索的聊天機器人Bard。微軟首席執行官薩蒂亞·納德拉在2月7日表示：“今天開始比賽”，向谷歌發出挑戰。他說：“我們要行動，而且要快”。

華爾街也以同樣的熱情回應，分析師們將提到人工智能的公司股票評級提升，並懲罰那些推出人工智能產品時不穩定的公司。儘管這項技術是真實存在的，但金融泡沫正在迅速擴大，投資者大膽打賭生成式AI可能會像微軟的Windows 95或第一代iPhone一樣顛覆市場。

但是，這種瘋狂的淘金熱也可能帶來災難。隨著公司急於改進技術並從這一繁榮中獲利，有關確保這些工具安全性的研究被擱置了。在爭奪權力的全面競爭中，大型科技公司及其風險投資者面臨著重蹈社交媒體的覆轍的風險，包括將增長置於安全之上。儘管這些新技術有許多潛在的烏托邦方面，但即使是為了善意而設計的工具也可能產生意想不到且具有破壞性的後果。這就是淘金熱是如何開始的，以及歷史告訴我們接下來可能發生的事情。

事實上，生成式AI對社交媒體的問題非常熟悉。多年來，AI研究實驗室一直將這些工具保密，同時研究它們的潛在危險，從不實信息和仇恨言論到無意中引發的滾雪球般的地緣政治危機。

這種保守主義部分源於神經網絡的不可預測性，現代人工智能基於這種計算範式，它受到人腦的啟發。神經網絡不同於傳統的計算機編程方法，後者依賴於產生可預測結果的精確指令集，神經網絡實際上是教自己從數據中發現模式。這些網絡所接收的數據和計算能力越多，它們的能力就越強大。

在2010年代初，矽谷開始意識到神經網絡比傳統編程更有潛力實現強大的人工智能。但早期的人工智能非常容易受到訓練數據中的偏見影響：它們會傳遞錯誤信息和仇恨言論。當微軟在2016年推出其聊天機器人Tay時，不到24小時就發推文稱“希特勒是對的，我討厭猶太人”，還表示女權主義者應該“全部去死並下地獄燒死”。OpenAI在2020年推出的ChatGPT的前身也展示了類似程度的種族主義和厭女情緒。

人工智能的繁榮始於2020年左右，得益於神經網絡設計的幾個重要突破、數據的日益豐富可得以及科技公司願意支付巨大的計算能力。但其中的弱點仍然存在，令許多公司，包括谷歌、Meta和OpenAI，不願公開發布他們的尖端模型。2022年4月，OpenAI宣布推出Dall-E 2，這是一個能夠生成逼真圖像的文本到圖像的人工智能模型。但最初它只限於“信任”的用戶等待名單，OpenAI表示，這些用戶的使用將有助於“理解和解決DALL·E從其訓練數據中繼承的偏見”。

儘管OpenAI到7月份已經有100萬用戶使用Dall-E，但更廣泛的人工智能社區中的許多研究人員對OpenAI和其他人工智能公司的觀望不前的方法感到沮喪。2022年8月，一家名為Stability AI的倫敦初創公司擅自向大眾推出了一個文本到圖像工具Stable Diffusion。根據一種日益流行的觀點，公開發布人工智能工具將使開發人員能夠從用戶那裡收集有價值的數據，並讓社會有更多時間為先進的人工智能帶來的巨大變革做好準備。

Stable Diffusion迅速成為網絡上的熱門話題。數百萬用戶被它從零開始創作藝術的能力所吸引，該工具的輸出在用戶嘗試不同的提示和概念時持續獲得病毒式傳播。“你打開了這個生成的潘朵拉之盒，”投資者、2022年AI報告的合著者Nathan Benaich說，“這讓OpenAI和谷歌感到震驚，因為現在世界能夠使用他們原本限制的工具，這讓一切都加速了。”

OpenAI隨即效仿，向Dall-E 2敞開大門。然後，在11月份，它向公眾推出了ChatGPT，據報是為了擊敗即將到來的競爭。OpenAI首席執行官Sam Altman在接受採訪時強調，使用人工智能程序的人越多，它們就會越快地改進。

用戶立即湧向OpenAI及其競爭對手。由人工智能生成的圖像充斥著社交媒體，甚至有一個圖像還贏得了一個藝術比賽；電影的視覺效果藝術家開始使用人工智能輔助軟件製作好萊塢的熱門電影，如《Everything Everywhere All at Once》。建築師正在設計人工智能藍圖；編程人員正在編寫基於人工智能的腳本；出版物正在發布人工智能測驗和文章。風險投資家們也注意到這一點，已經向可能帶來下一個巨大生產力提升的人工智能公司投入了超過十億美元。中國的科技巨頭百度和阿里巴巴也宣布推出他們自己的聊天機器人，推升了它們的股價。

與此同時，微軟、谷歌和Meta將狂熱推向了極端。雖然每家公司多年來都強調人工智能的重要性，但它們都對注意力和使用量的驟增感到驚訝，現在似乎將速度置於安全之上。谷歌在二月份宣布計劃推出其ChatGPT競爭對手Bard，據《紐約時報》報導，谷歌在一次演示中表示將“重新調整”其在基於人工智能技術的工具發布時願意承擔的風險水平。在Meta最近的季度盈利電話會議上，首席執行官馬克·扎克伯格宣布公司的目標是“成為生成式人工智能的領導者”。

在這種匆忙中，技術的錯誤和危害也增加了，反對聲浪也隨之而來。當谷歌展示Bard時，其中一個回答包含了關於韋伯太空望遠鏡的事實錯誤，此後Alphabet的股價立即暴跌。微軟的必應搜索引擎也容易返回錯誤結果。使用人工智能創作的逼真但虛假的圖像或視頻（稱為Deepfakes）被用於騷擾人或傳播錯誤信息：一個廣泛分享的視頻展示了一個令人震驚的逼真版本的喬·拜登譴責跨性別人士。

包括Stability AI在內的公司正面臨藝術家和權利持有人的訴訟，他們反對未經許可使用他們的作品來訓練AI模型。《時代》的調查發現，OpenAI使用外包的肯尼亞工人，他們的工資不到每小時2美元，審查有害內容，包括性虐待、仇恨言論和暴力。

儘管目前的問題令人擔憂，但如果這場競賽繼續加速，接下來可能出現的問題將使之相形見絀。大型科技公司今天所做的許多選擇與它們在之前時代所做的選擇相似，這些選擇帶來了毀滅性的連鎖效應。

社交媒體-矽谷最後一個真正改變世界的創新-帶來了第一個寶貴的教訓。它建立在連接人們將使我們的社會更健康、個人更幸福的承諾上。十多年過去了，我們可以看到，它的失敗不是來自於這種受歡迎的連接性，而是科技公司對其進行了商業化，通過慢慢扭曲我們的新聞推送，以優化參與度，讓我們在病毒式內容和定向網絡廣告之間不斷滾動。真正的社交連接在我們的推送中變得越來越稀缺。與此同時，我們的社會被迫應對次級影響：新聞業的衰退、錯誤信息的增加和青少年心理健康危機的激增。

可以預見的是，AI融入大型科技產品可能走上同樣的道路。Alphabet和Microsoft最感興趣的是AI如何使他們的搜索引擎更有價值，並展示了Google和Bing的演示，其中用戶看到的第一個結果是由AI創建的。但AI開發平台Hugging Face的首席倫理科學家瑪格麗特·米切爾（Margaret Mitchell）認為，搜索引擎是使用生成式AI的“絕對最糟糕的方式”，因為它經常出錯。米切爾表示，像ChatGPT這樣的AI的實際優勢-幫助創造力、構思和瑣碎任務-正在被擠到一邊，而將技術塞進科技巨頭的賺錢機器中。

如果搜索引擎成功融入AI，這種微妙的轉變可能會摧毀依賴搜索的許多企業，無論是廣告流量還是業務推薦。微軟首席執行官納德拉（Nadella）表示，新的以AI為導向的Bing搜索引擎將為發布商和廣告商帶來更多流量，從而帶來更多收入。但就像對AI生成的藝術的反彈一樣，現在的媒體許多人擔心未來科技巨頭的聊天機器人將吞噬新聞網站的內容，並不提供任何回報。

AI公司如何將其項目商業化的問題也非常重要。目前，大多數公司可以免費使用，因為它們的創造者遵循矽谷的策略，即以很少或不收費的產品排擠競爭，並由風險投資公司提供巨額投資的資金支持。當採用這種策略的失敗公司慢慢流失資金時，獲勝者往往在市場上掌握著可以隨心所欲控制的市場份額。現在，ChatGPT沒有廣告並且可以免費使用。根據其首席執行官的說法，這也給OpenAI帶來了巨大的財務壓力：每個單獨的聊天成本“幾分錢”。公司目前能夠承受巨大的損失，部分歸功於微軟的慷慨，這給了它巨大的競爭優勢。

今年2月，OpenAI推出了每月20美元的訂閱版聊天機器人。谷歌已經優先顯示付費廣告在搜索結果中。可以想像它將以同樣的方式處理AI生成的結果。如果人們開始依賴AI獲取信息，將越來越難分辨什麼是事實，什麼是廣告，什麼是完全虛構的。

隨著利潤優先於安全，一些技術人員和哲學家警告存在著存在風險。包括OpenAI在內的許多AI公司的明確目標是創造一種超越人類思維和學習能力的通用人工智能（AGI）。如果未來的AI能夠在沒有人類指導或干預的情況下迅速改進自己，它們有可能摧毀人類。一個常被引用的思想實驗是，一個AI在接到最大限度增加紙夾數量的命令後，將自己變成一個統治世界的超級智能體，從其掌握的所有碳源中，包括地球上的所有生命，收集碳來生產紙夾。在2022年對AI研究人員的調查中，近一半的受訪者表示，AI可能導致這樣的災難的機會有10%或更大。

在最尖端的人工智能實驗室裡，一些技術人員正在努力確保，如果人工智能最終超越人類智能，它們與人類價值“保持一致”。他們正在設計善良的神，而不是惡毒的神。然而，根據AI安全組織Conjecture向《時代》分享的估計，全球僅有80至120名研究人員全職從事AI對齊工作。與此同時，數千名工程師正在努力擴展能力，因為人工智能競爭越來越激烈。

“當涉及到非常強大的技術，顯然人工智能將是有史以來最強大的技術之一，我們需要小心，”谷歌旗下AI實驗室DeepMind的首席執行官德米斯·哈薩比斯（Demis Hassabis）去年底對《時代》雜誌表示。“不是每個人都在思考這些問題。這就像實驗者，其中許多人沒有意識到他們手中拿著危險的物質。”

即使計算機科學家成功確保人工智能不會消滅我們，它們在全球經濟中的日益核心地位可能使控制它的大型科技公司變得極其強大。它們不僅可能成為世界上最富有的企業，為商業用途收取任何他們想要的費用，還可能成為可以與國家相提並論的地緣政治行為者。 OpenAI和DeepMind的領導人暗示他們希望從人工智能中獲得的財富和權力以某種方式重新分配。然而，掌握資金的大型科技高管主要向股東負責。

當然，許多承諾改變世界的矽谷技術並未實現。我們並不都生活在虛擬世界中。嘲笑非採用者“玩得開心”的加密貨幣兄弟們正在承受損失，甚至被困在監獄中。世界各地的城市街道上散落著失敗的電動滑板車初創公司的殘骸。

但是，儘管人工智能受到了類似的狂熱炒作，不同之處在於人工智能背後的技術已經對消費者有用，並且以驚人的速度不斷改善：研究人員表示，人工智能的計算能力每六到十個月翻一番。正是這種巨大的力量使得當前時刻如此令人激動，也如此危險。