OpenAI解散AGI團隊 | 最前線

文 | 田哲

編輯 | 蘇建勳

OpenAI再次傳出新的變動。

近日外媒報道,OpenAI正在解散其“AGI Readiness”團隊,團隊成員將分配至內部其它團隊。

AGI全稱爲Artificial general intelligence,即通用人工智能,它具備自主的感知、認知、決策、學習、執行和社會協作等能力,且符合人類情感、倫理與道德觀念。AGI Readiness團隊負責向OpenAI提供AGI發展的政策建議,並進行安全監督。

AGI Readiness團隊解散的原因是其負責人離職。本週三,AGI Readiness負責人Miles Brundage宣佈離職,計劃在OpenAI之外繼續從事該領域研究工作,並希望減少偏見。他表示,他已在OpenAI完成所有工作,在外部工作將產生更大的影響。

Miles Brundage

在他看來,OpenAI及世界還未做好準備迎接AGI的到來,因此他計劃創建自己的非營利組織,專注於人工智能政策研究和宣傳。

相比人工智能產品不斷迭代增加,OpenAI對於人工智能的安全建設相對遲緩。2023年7月,成立8年的Open.AI才組建“超級對齊”團隊,目標是用20%的算力,在未來4年內解決控制超級智能AI的核心技術挑戰。

然而成立不到一年,“超級對齊”團隊隨着OpenAI 聯合創始人、首席科學家Ilya Sutskever離職而解散。

Ilya Sutskever在社交媒體解釋了離職原因,他表示:“製造比人類更聰明的機器本身就是一項危險的事業。OpenAI代表全人類肩負着巨大的責任。但在過去幾年裡,安全文化和流程已經讓位於閃亮的產品。”

同一時期離職的“超級對齊”團隊聯合負責人Jan Leike,也提到類似意見。他認爲,應該把更多的帶寬用於爲下一代模型做好準備,包括安全性、監控、準備、對抗魯棒性、一致性、保密性、社會影響等,但是OpenAI與他的想法並不一致,團隊所需資源不夠,研究進展緩慢。

OpenAI是世界上估值最高的人工智能初創公司之一,今年10月,OpenAI獲得史上最大一輪融資,融資金額高達66億美元,這使其估值飆升至1570億美元。

OpenAI備受資本市場重視的原因,除了其具備領先的生成式AI技術之外,也出於其背後龐大的市場閨蜜,據預計,這一市場未來十年內將產生超萬億美元收入。

一份媒體獲得的OpenAI財務數據文件顯示,OpenAI的8月收入同比去年增長3倍,預計今年ChatGPT將產生27億美元收入,去年這一數字爲7億美元。

在商業之路狂奔的OpenAI,似乎已將人工智能安全拋之腦後,而OpenAI 2015年成立時的目標卻是,開發AI技術以“造福全人類,不受財務回報需求的限制。