教授觀點：DeepSeek與OpenAI爭相角逐人類滅絕競賽

鞭牛士報道，1月31日消息，據Newsweek報道，一家中國小型人工智能公司 DeepSeek 推出的全新人工智能系統引發的衝擊波持續迴盪。包括 Nvidia 在內的主要人工智能相關公司的股票一天內蒸發了超過 1 萬億美元。原因何在？

早期報告表明，DeepSeek 在設計上與最近的一些人工智能推理系統（如OpenAI的 o1）類似，它將大型語言模型與執行多步推理的能力相結合，尋找解決問題或回答複雜問題的方法。

據稱，DeepSeek 與美國公司最新的系統大致相當，但現在下結論可能還爲時過早。

聊天機器人的性能是一個複雜的話題。例如，如果一個系統在數學奧林匹克測試中取得好成績，那麼它可能會令人印象深刻，但如果它接受了來自這些測試的數千道題目的訓練，那麼就不那麼令人印象深刻了。

或許並不令人意外的是，OpenAI 聲稱 DeepSeek 一直在通過訪問 o1 來訓練其模型而作弊。我看到的一些結果還表明，在衡量系統行爲不端意願的紅隊測試中，DeepSeek 的表現遠不如 o1。

如果DeepSeek的優異性能確實存在，那麼這將成爲中國開發人員在美國系統發佈幾個月後成功粗略複製美國系統的另一個例子。

OpenAI 的 o1 的工作原理的總體輪廓早已爲人所知——甚至在它發佈之前——因此它可以被粗略地複製也就不足爲奇了。

令人驚訝的是，據稱總訓練成本僅爲 600 萬美元，而且只使用了幾千塊 GPU 芯片。（關於具體使用什麼芯片，各家報道不一。）

這兩個數字都給市場帶來了痛苦，因爲微軟、Meta和 OpenAI 等美國公司正在對芯片和數據中心進行鉅額投資，因爲他們認爲這些投資將用於訓練和運營這些新型系統。（我說的鉅額是指非常非常鉅額——可能是人類有史以來最大的資本投資。）

如果這個假設是錯誤的，而且可以以更低的成本實現，那麼這些投資基本上就是浪費錢，而且未來對 Nvidia 芯片的需求將遠低於預期。

老實說，建設越來越大的數據中心的競賽已經開始變得像 20 世紀 60 年代美國和蘇聯之間建造和測試越來越大的炸彈的競賽了：他們製造出了 50 兆噸的炸彈然後才意識到這一切都是毫無意義的，但在這個過程中他們浪費了數十億美元，並向大氣中排放了足以殺死 10 萬人的放射性物質。

公司之間和國家之間的AGI 競賽有些類似，但更糟糕：參與競賽的首席執行官也表示，無論誰獲勝，都有很大的可能導致人類滅絕，因爲我們不知道如何控制比我們更智能的系統。

換句話說，AGI競賽是一場走向懸崖邊緣的競賽。

作者斯圖爾特·拉塞爾，加州大學伯克利分校計算機科學系傑出教授、Smith-Zadeh 工程學教授、認知科學教授、加州大學舊金山分校計算精準健康學教授以及牛津大學瓦德漢學院榮譽研究員。

所表達的所有觀點均爲作者自己的觀點。