反向出埃及記，爲什麼OpenAI留不住真大佬？
Sam Altman曾對《紐約客》侃侃而談：“馬斯克非常渴望拯救世界，但前提他必須是拯救世界的那個英雄。”
對於他本人呢？我想到一個有趣的類比：Altman毫不在意世界是否毀滅，但前提他必須在諾亞方舟上，而且必須是船長。
不出意外地，OpenAI又雙叒出現了人事地震。
“ChatGPT架構師”、聯創John Schulman官宣轉投Anthropic；去年新加入的產品副總裁Peter Deng官宣離職；大跌眼鏡的是，Altman的堅定戰友，OpenAI總裁兼聯創Greg Brockman也疑似離場。
如果此前“人員出走潮”是Altman掃除異己；那麼Greg Brockman“長期休假”（Altman未迴應），或許是這位“新王”衆叛親離的開始。
至此，OpenAI最初11位創始人或僅存兩席：Sam Altman，以及楊立昆得意門生，語言與代碼生成部門負責人Wojciech Zaremba。著名OpenAI爆料人Jimmy Apples發X：高層已成空殼，你們快上新吧。
與此同時，OpenAI創始人之一，Altman昔日“導師”——馬斯克再次將Altman、Brockman告上法庭，理由是創立之初的“欺騙和敲詐勒索”。
適道來細數“OpenAI大將叛變”歷程，探討Sam Altman爲何留不住真大佬？
“登基”前傳：是安全問題，但也不都是安全
古有PayPal黑幫，今有OpenAI叛將。
據統計，此前OpenAI已有近75名重要員工離職，創立了約30家AI公司。
前研究副總裁Dario Amodei&前安全與政策副總裁Daniela Amodei兄妹創辦Anthropic，估值180億美元；
前首席科學家Ilya Sutskever創辦SSI，估值100億美元；
前工程副總裁David Luan創辦Adept AI（被亞馬遜收編），估值超10億美元；
前技術負責人Jonas Schneider創辦機器人創企Daedalus，估值4000萬美元；
前研究科學家Aravind Srinivas創辦Perplexity.AI，估值估值30億美元；
前技術人員Tim Shi創辦AI客服平臺Cresta Al，估值16億美元；
其中，Anthropic成長爲OpenAI的頭號對手、前司員工“庇護所”；Perplexity.AI成長爲OpenAI最佳套殼者、Google搜索挑戰者........
對於普通研究員而言，離開是謀求更好的發展；但對於核心成員，尤其是創始團隊而言，離開基本就是因爲三觀不同。
典型代表爲馬斯克、Amodei兄妹，以及Ilya Sutskever。他們與Altman過招後反而鞏固了Altman在OpenAI的地位。
2015年，谷歌收購DeepMind。馬斯克與PayPal聯合創始人、Founders Fund創始人Luke Nosek聯手提出了一個競購方案，但最終未成功。這成爲了馬斯克揮之不去的遺憾。
在此背景下，憂心忡忡的馬斯克參加了一場載入硅谷史冊的晚宴。席間聚集了約十位傑出人物，其中三位尤爲耀眼——Altman、Ilya Sutskever，以及Greg Brockman。
他們和馬斯克探討了AI可能引發的災難性後果，和成立一個匹敵谷歌項目所需的各項條件。
四人團隊認爲自己具備成功所有要素：Hinton得意門生Ilya Sutskever是AI科學家；Stripe CTO Brockman是運營高手；YC CEO Sam Altman能協調所有要素；特斯拉創始人馬斯克有錢。
晚宴上，馬斯克承諾會投資10億美元，並提議將項目命名爲OpenAI——將以非營利性的方式運作，專注於研發對人類有益的安全AI，而不是追求利潤。
2017年，谷歌發表著名Transformer論文，揭示了關鍵在於處理大量數據，這需要巨大算力支持（Ilya Sutskever在OpenAI創立之初已有此判斷）。
於是，OpenAI開始缺錢了（馬斯克共爲OpenAI捐贈了4400萬美元，並承擔了租金）。
Brockman和其他OpenAI成員建議將該組織轉變爲營利性機構，以便從微軟等投資者那裡籌錢。
一開始，馬斯克堅決反對。但當他意識到成立營利性實體很必要性時，就希望自己獲得多數股權、初步董事會控制權，並擔任CEO。馬斯克甚至提出將OpenAI併入特斯拉。原因是，特斯拉是唯一有希望與谷歌比肩的公司。
眼看沒人答應，馬斯克又開始遊說OpenAI研究人員跳槽特斯拉。
終於，“作妖不斷”的馬斯克被董事會投票出局。
走之前，他還詛咒OpenAI戰勝DeepMind/Google的概率爲0%。
不過，與Altman密切的人透露，馬斯克純粹是嫉妒Altman搶了自己在AI領域的風頭，他更加關注如何擊敗OpenAI，而非AI安全。與馬斯克親近的人則堅稱，他對AI安全的擔憂是真實且深刻的，比如開發xAI替代OpenAI。
但無論如何，趕走“獨裁者”馬斯克絕對是Altman登基的第一步。
2019年，OpenAI從微軟手中拿到了10億美元，以繼續開發“好”AI。
當你拿到10億美元時，你就必須回報“金主”，這其實已經讓一些元老心懷疑慮。
但Altman相當靈活——不留戀非營利組織的名聲，留戀非營利組織的殼子。
他創造性地構建了一種全新的架構。一方面，OpenAI能像普通公司運作，比如籌資、發放員工股權；另一方面，OpenAI投資者的回報有上限。
本質上，OpenAI成爲了一個由非營利組織董事會控制的營利公司。
這聽起來就不穩定，團隊內部分裂開始逐步出現。
2021年，Dario Amode創立Anthropic時說：
“OpenAI內部有一羣人，當我們創造GPT-2和GPT-3後，對兩件事有非常強烈的信念。一是認爲這些模型中投入的計算資源越多，它們會變得越好，幾乎沒有盡頭。我認爲現在這個觀點得到了更廣泛的認可，但我們是最早的信仰者。
第二點是認爲，需要除了擴大模型規模之外的東西，那就是對齊或安全性。因爲只通過增加計算資源並不能告訴模型它們的價值觀。所以我們秉持着這個想法，成立了自己的公司。”
雖然Anthropic看起來更加“安全”，並在準確性方面下足了功夫。例如，Anthropic使用了大量複雜的事實問題來針對模型已知的弱點，將答案分爲正確答案、錯誤答案（幻覺）、承認“不知道”。相應地，Claude3可以表示自己不知道答案，而不是提供不正確的信息。除了更準確的回覆，Claude 3甚至還能“引用”，指向參考材料中的精確句子來驗證他們的答案。
但正如OpenAI回報微軟，Anthropic也要回報亞馬遜，以合乎道德的方式經營一家大型AI公司幾乎是不可能的。
最近，Anthropic就被曝24小時抓取百萬次網站數據等等。
“質疑、理解、成爲”或許纔是大模型初創公司的必經之路。
陳橋兵變，宋太祖趙匡胤在半夜熟睡中，被兵變將士們偷偷地將黃袍披在身上。第二天，他痛苦地接受了大家的“逼迫”。主打一個民心所向。
而在去年11月OpenAI宮鬥中，也上演了一出“硅谷版”黃袍加身。彼時，數百名OpenAI員工簽署聯名信，要求所有“叛變”董事會成員辭職、恢復Altman職位，否則簽署聯名信的員工將採取行動，“可能會加入Altman和Brockman在微軟新成立的子公司”。
這威望和影響力，簡直是所有CEO的夢想。
等等，故事還有另一個版本。
其實這場風波，除了“比心隊列”，還有一個關鍵因素——金錢。
就在逼宮事件前不久，OpenAI剛剛爲員工組織了一場股票出售活動，讓大家有機會套現部分股權。結果，錢還沒拿到手呢，老闆先被幹下去了。
一些投資者表示，如果Altman不迴歸，他們會暫停執行要約收購。眼看拿這筆錢提前退休，居然被“大惡人”Ilya Sutskever攪黃了！換誰能不生氣。
因此，簽署請願書確實是民心所向。而且，當你身邊95%同事都簽名支持時，你很可能也會簽上字。
至於Ilya Sutskever逼宮失敗與被迫出走，除了不那麼懂人性之外，還和Altman極強的弄權能力有關，具體如下。
“新王”剪影：專權、欺騙、牟利、放任
時間回到2016年。彼時，OpenAI辦公地點是Brockman的私人公寓——沙發、廚櫃，甚至牀鋪，都是員工的工作臺。這個不起眼的地方，居然讓20位世界頂尖的AI大神齊聚一堂。
當時Altman和馬斯克不常駐，是Brockman和Ilya Sutskever攜手撐起了團隊。
Ilya Sutskever是AI領域的領軍人物，Brockman則被視爲OpenAI業務運營的頂樑柱，
員工們記得，他們曾與Ilya Sutskever一同漫步於舊金山大街，深入討論宏觀議題，自問是否在正確的研究道路上踟躕。Ilya Sutskever對AI有着超前洞察力，他能用簡單的類比來闡釋複雜的技術概念，比如將神經網絡比作一種特殊的計算機程序或電路。
甚至在OpenAI成立之初，Ilya Sutskever就意識到AI的巨大飛躍不是來自某個特定的調整或新發明，而是源自海量數據的積累，就像爲引擎不斷注入燃料。
也正是這個原因。2017年，谷歌Transformer論文一經發表，Ilya Sutskever就能及時帶領OpenAI探索並採用Transformer架構，成爲行業內最早採納這項先進技術的先鋒之一。
Brockman的勤奮衆所周知。一位前員工回憶，每天早晨到達辦公室時，總能看到Brockman對着電腦，晚上離開時，他也在鍵盤上敲打。幾年後，Brockman的婚禮在OpenAI辦公室舉行，婚禮由Ilya Sutskever主持，這一場景成爲了公司文化的一部分。
在Brockman和Ilya Sutskever加入OpenAI時，他們已經實現財富自由了。披星戴月只不過是被一個共同的夢想驅動——利用AI爲人類未來做貢獻。
後續如我們所知，二人分道揚鑣。不過，相隔幾個月“被逼走”的二人未來也可能殊途同歸。
很多人可能將11月宮鬥視爲Altman的無妄之災，實際並非如此。
故事還是要從Anthropic說起。
起因是，Altman與董事會成員Helen Toner本來就不對付。
去年10月，Toner在喬治城大學的智庫發表了一篇論文，傾向於認爲Anthropic在安全性更勝一籌，並輕微批評ChatGPT“偷工減料”發佈。
儘管論文結論挺溫和，但Altman氣炸了，並開始私下與董事會成員逐一接觸，想把Toner投出去。
而且Altman顛倒黑白，聲稱Toner的一位支持者也想逐出她。
最終結果大家都知道了，被投出去的人是Altman。
董事會之所以想讓Altman走人，主要是不信任他。
比如去年7月，OpenAI成立超對齊團隊，由Ilya Sutskever和Leike領導。團隊旨在爲公司內部和非OpenAI模型的安全性提供研究。
但逃不過“先野蠻生長，再安全有序”的規律。OpenAI對AGI安全治理的優先級，顯然放在了推出“閃亮產品”之後。初期承諾給超級對齊團隊的20%算力，也遭不斷蠶食，傷及“建立一個更負責任的AGI”員工的信心。
有趣的是，本次轉投Anthropic的John Schulman離職也和AI對齊相關：“希望加深對AI對齊的關注，並開啓我職業生涯的新篇章，讓我可以重返實際的技術工作。”
今年7月末，OpenAI還把安全部門高級主管Aleksander Madry調離了安全崗位，並給他重新分配了“AI推理”的工作。
但OpenAI告訴媒體，Madry到新職位上後，仍致力於安全工作。Altman居然還強調，OpenAI堅持了“給整個安全團隊至少20%算力”的承諾。
請注意，此時“超級對齊團隊”被他偷偷換成了“整個安全團隊”。
如果欺騙升級呢？小道消息，去年董事會對Altman的驅逐和他隱瞞投資有關。
今年6月，WSJ指出——Altman投資了400多家公司，所持股份價值至少有28億美元。這個隱秘且龐大的投資帝國因OpenAI成功而直接受益。
表面上，Altman作爲OpenAI CEO，年薪僅6.5萬美元，且不持有任何股份，原因是不想讓金錢腐蝕AI的安全發展。
實際上，在Altman的投資帝國中，越來越多的公司直接和OpenAI做起了生意，要麼是OpenAI客戶，要麼是主要業務合作伙伴。
例如，OpenAI正與核能創業公司Helion達成協議，希望通過後者購買大量電力，爲數據中心供電。幕後老闆正是Altman。
又例如，OpenAI想付費使用Reddit內容來訓練ChatGPT。而Altman和他所控制的實體持有7.6%的Reddit股份。甚至早在2014年，Altman還短暫地擔任過Reddit CEO。合作傳出後，此前瘋狂掉血的Reddit股價大漲10%，結果就是Altman所持股份一舉增長6900萬美元，達到7.54億美元。
Altman之所以對AI安全放任，有一部分原因是他非常樂觀？
如果你知道真正答案，可能會五味雜陳。
2015年，Altman就明確地表達過自己的擔心，認爲高級AI會成爲人類生存的最大威脅。甚至在早期談話中，他還用一種輕佻語氣提到，AI有可能終結世界。
甚至面對《紐約客》記者，Altman透露，自己早就儲備了槍支、黃金、彈藥、抗生素，以及以色列國防軍的防毒面具。他還提到自己在美國加州Big Sur有一片地，確保能在世界末日避難。
而當媒體再次提出時，Altman口風又變了：這不就是每個小男孩夢想的秘密基地嗎？
而他的妹妹安妮表示，這很符合她對自己哥哥的瞭解——一個極度注重安全、準備在最壞情況下囤積資源的人。可以推測，Altman確實擁有足夠的儲備，只是懂得閉嘴了。
據稱，Altman的野心也在不斷擴張。例如，他正在進行普遍基本收入的研究，以防AI導致大規模失業；他推出Worldcoin加密貨幣，該項目通過掃描眼球來分配收入。
瞭解Altman的人透露，他的目標遠不止於此，他甚至想成爲“世界之王”，接管整個世界。反正，Altman確實曾考慮競選加州州長。而Altman曾經的導師Paul Graham說：我認爲他的目標是掌控整個未來！