微軟AI CEO萬字對話：未來模型幻覺將基本消失
智東西編譯 Vendii編輯 漠影
智東西10月9日消息，美國著名科技記者Kara Swisher於10月3日，在她的播客節目《On with Kara Swisher》中，發佈了她與微軟AI的首席執行官Mustafa Suleyman的對話。在這次訪談中，二人探討了多個關於AI發展的重要議題。
Mustafa Suleyman回顧了他從谷歌到自己創立的AI初創公司Inflection AI，再到最終加入微軟的職業生涯。他們討論了他在谷歌和Inflection AI期間對AI技術的早期探索，以及他選擇加入微軟的動機。
Suleyman也分享了他在微軟的目標，即推動AI技術與微軟現有產品的集成，並創造能夠與人類建立持久和有意義關係的“AI companion”。
對於AI的未來，Suleyman着重強調了AI語音交互和長期記憶能力的重要性，他認爲這些將是AI發展的下一個前沿。他還預測，AI模型的幻覺現象將大幅減少，極大提高AI應用的可靠性和實用性。
Suleyman認爲AI作爲一種新的數字物種具有巨大的潛力，並預言AI將爲人類創造其他技術無法帶來的情感體驗。
一、從谷歌到Inflection AI，再到微軟
Kara Swisher：Mustafa，感謝你參與我們的節目。
Mustafa Suleyman：感謝邀請我來節目。我很高興能在這裡。
Kara Swisher：首先，恭喜你開始了新工作。今年3月，你加入微軟並擔任微軟AI的首席執行官。我們上次交談是在2023年6月，感覺好像已經過去了很久。當時，你的創業公司Inflection AI剛推出了聊天機器人Pi，那是在你獲得13億美元投資之前的事情。聊聊你轉向大科技公司的過程吧，因爲Inflection是當時熱門的AI初創公司之一。你在DeepMind和其他地方也工作了很多年，也談談這方面的感受吧。
Mustafa Suleyman：當時我還在谷歌，大概是在2022年左右。谷歌雖然是非常厲害的科技公司，但在大語言模型革命中似乎有些掙扎，難以真正起步。
Kara Swisher：而且谷歌在投資方面也很早就行動了。
Mustafa Suleyman：是的，確實非常早。我當時在內部參與了Lambda的工作，這是Bard的前身，而Bard現在演變成了Gemini。我們當時真的在努力把這項技術部署到搜索中。然而，公司內部的推進相當謹慎，小心翼翼，對我們中的一些人來說可能有點過於保守了。我們都覺得，現在是時候將這些技術投入生產，獲取反饋，並進行實驗了。
Kara Swisher：爲什麼這麼謹慎？是出於安全考慮，還是官僚體制的問題？
Mustafa Suleyman：我對這種謹慎態度很欽佩，因爲你無法預見你不知道的事。我認爲這些模型非常強大，它們與我們過去構建的軟件本質上是不同的。因此，當它們與現實接觸時，你根本無法預見會發生什麼。沒錯，率先行動是一個大膽的決定。最終，OpenAI率先邁出了這一步，隨後事情的發展大家也都知道了，其他公司也陸續趕上了。
Kara Swisher：當你在谷歌這樣一個全球歷史上最大的科技公司之一工作時，他們的行動比較緩慢，而你看到了像OpenAI這樣的公司在你已經從事了十年的領域快速前進。當時你在考慮離開時，是如何權衡利弊的？畢竟，你從初創公司起步，後來被收購，身處一個強大的職位，然後又決定離開。
Mustafa Suleyman：我覺得，迭代和創新的週期變得越來越短了。當時有一個機會，我們覺得如果我們能夠率先推出Inflection，那麼Pi就有可能成爲第一大對話式AI。結果是我們在ChatGPT之後才推出，而ChatGPT顯然迅速爆發，成爲歷史上增長最快的產品。所以，在這個市場和行業中，排在第三或第四的位置是非常難以競爭的。在我們運營Inflection的兩年間，我意識到，我們必須要在這些領域率先推出產品。
Kara Swisher：但是你當時擁有自己的公司，而且聽起來你也喜歡獨立運作，然後突然你成了微軟的員工。
Mustafa Suleyman：嗯，我們在Inflection犯的錯誤是我們自己構建了預訓練模型。當我們首次推出時，之所以能夠籌集這麼多資金，部分原因是我們構建了一個可以媲美DeepMind、OpenAI和微軟最前沿技術的模型。但在我們構建這個模型的8個月內，多個團隊完全開源了類似的技術。這實際上削弱了我們的核心競爭力。我沒有預料到這些技術會這麼大規模地開源。我原以爲這些技術如此有價值，爲什麼要開源呢？結果發現，圍繞開源技術有一個完整的生態系統。
Kara Swisher：那你後來是怎麼做的？爲什麼選擇了微軟？
Mustafa Suleyman：其實，微軟從一開始就是我們的主要投資方。我和Satya（微軟的首席執行官）以及微軟團隊有着良好的長期關係。他們基本上在告訴我們：“看，我們有資源，公司有一個很大的空缺。我們需要像你們這樣的團隊來領導消費領域的業務。” 儘管微軟在過去十年中在雲計算的大客戶銷售方面取得了巨大的成功，但比如在移動端或年輕消費者羣體中，公司並沒有真正取得太大進展。而這正是我們目前的重點目標。
二、如何看待OpenAI：競爭對手還是兄弟姐妹？
Kara Swisher：你們的目標是微軟，但微軟也在OpenAI中進行了大規模投資，很多人稱這是一個非常明智的舉措。你怎麼看待這段關係？
Mustafa Suleyman：是的，我認爲這項對OpenAI的投資將被視爲歷史上最偉大的投資之一。當然，Facebook的投資也相當不錯。
Kara Swisher：我當時還取笑過這件事，現在我看起來像個傻瓜了，但請繼續說。
Mustafa Suleyman：回頭看這真是一件很好的事。我覺得這項投資很聰明，而且這也是一個勇敢的決定。我是說，2019年投入10億美元在一種技術上，而當時這項技術離實際應用還非常遙遠，基本上是純研究，因此這實際上是一種交易——因爲他們無法收購DeepMind，所以不得不押注於其他項目，我認爲這最終非常成功。
Kara Swisher：那麼，你們之間的關係是什麼？你們是競爭對手嗎？
Mustafa Suleyman：不不不。我們是兄弟姐妹。有時兄弟姐妹之間會爭吵，但大體上我們是在同一隊伍中，這對我們來說非常重要。我們從研究到核心基礎設施等各方面都與他們緊密合作。顯然，我們也會開發競爭產品。我認爲這是健康且自然的，我們之間的關係很好。
Kara Swisher：他們與蘋果也有合作關係，例如通過某些合作項目，你們也能做到這一點，因爲微軟向蘋果提供軟件等服務。
Mustafa Suleyman：是的，我想人們不知道的一點是，所有公司實際上與其他公司都有深厚的合作關係。相信與否，我們與亞馬遜之間的關係非常密切，在很多方面都是如此。所以，各家公司之間有很多聯繫，這是很正常的。
三、在微軟的新目標：AI集成everything，打造AI companion
Kara Swisher：那麼，你的職責和目標是什麼？你們有Bing搜索引擎、Copilot和聊天機器人應用，還有什麼呢？
Mustafa Suleyman：還有MSN，以及Edge瀏覽器，還有我們的核心AI科學部門。
Kara Swisher：所以你們將在所有產品中都集成AI。
Mustafa Suleyman：沒錯，這正是我們的目標。我們希望建立一個專門集成AI的工作室。我們可能會把AI集成在瀏覽器上，搜索引擎上，還有MSN上。現在，我們有消費級AI產品Copilot，旨在打造一個真正對話流暢的AI伴侶。
Kara Swisher：在很多方面，它實際上就是一個搜索引擎。
Mustafa Suleyman：你可以把它看作是一個搜索引擎，但我認爲它將超越搜索引擎的發展。這將成爲一種持久而有意義的關係。人們將擁有一個真正的朋友，隨着時間的推移，這個朋友會了解你、向你學習，並在你身邊支持你。
Kara Swisher：是的，朋友這個詞在這裡有很多含義。但Satya所用的詞是“agentic”，我想。
Mustafa Suleyman：對，“agentic”。
Kara Swisher：無論如何，你們在微軟發明新詞了。這是什麼意思，“agentic”？這是自動化的代理嗎？和聊天機器人如Pi之類的有什麼不同？
Mustafa Suleyman：我覺得這個詞有點太理想了，可能只是像朋友一樣。
Kara Swisher：是的。
Mustafa Suleyman：“agentic”這個詞確實說起來很順口，但它其實有點彆扭，不是嗎？看，這是我的“agentic”。人們可能會覺得……這個詞是誰用的？我認識的人用過嗎？
Kara Swisher：“agentic”？你們微軟的首席執行官Satya用過。
Mustafa Suleyman：哦，好的。
Kara Swisher：他還在社交媒體上提到過，隨處可見。
Mustafa Suleyman：你知道，我更喜歡用“companion”這個詞。這個詞也帶有理想色彩。我們還沒有完全達到那個階段。但它基本上傳達了這樣一個概念：這些AI將真正與你一起生活。它不只是一個工具。每個人將和AI產生一種持久而有意義的關係。它將成爲你的老師，成爲你的醫療顧問，成爲你的支持網絡。最終，它會代表你採取行動。
Kara Swisher：“copilot”可能是更好的詞。這是你們在微軟使用的詞。而且這很有趣，因爲現在它的表現形式開始顯現，我在前段時間剛結束的蘋果發佈會上覺察到了這一情況。大部分情況下，這在某種程度上是令人煩惱的，比如谷歌的AI，它會重寫你的電子郵件。當你開始寫一封電子郵件時，它們會說，“我可以幫你嗎”。而我的電子郵件完全就是一些“是的”、“不”、“好的”之類的簡單詞彙。然後它們會說，“我可以爲你重寫嗎？”我會說“不，你不能”。這反而讓我多了幾個操作。所以現在看起來並沒有特別有幫助。不過，很多人確實在用它來進行摘要、記筆記、想點子等等。所以有兩個說法，一種是工作助手，而你說的是伴侶和朋友。除了微軟，我們也可以談談其他公司。我想知道，企業和消費者的需求是如何聯繫在一起的，它們的分歧在哪裡？這種分歧是否會導致某些產品被淘汰？畢竟，最終的趨勢似乎是將一切整合到一個統一的系統中，對嗎？
Mustafa Suleyman：我覺得不一定是這樣，對吧？而且也不清楚……
四、AI語音、AI長期記憶能力將是未來發展重點
Kara Swisher：我可以說一個觀察嗎？在搜索被髮明的時候，我記得我對Larry和Sergey（兩位均爲谷歌的聯合創始人）說過，這就像是尼安德特人（早期人類的一種亞種，屬於古人類的一部分）。25年後，我們會想，爲什麼要把單詞輸入到一個框裡？他們對此感到被冒犯。不過，儘管如此，他們還是賺了很多錢。
Mustafa Suleyman：我認爲，未來將越來越傾向於以語音爲主的模式。因爲，我們一直在努力實現高質量的轉錄和語音生成。但這個過程非常緩慢，持續了十年。
Kara Swisher：是啊，進展緩慢。
Mustafa Suleyman：這一直讓人感到煩惱，正如你所說的那樣，令人惱火。現在有點好轉，已經快達到那個目標了。我認爲在過去的一年裡，情況有了轉機。現在你真的可以和這個東西進行流暢的對話，你可以打斷它，它的轉錄準確性非常高。我認爲這開啓了一種不同的思維方式，你可以讓一項技術做一些事情，而不是打字。
Kara Swisher：這在科幻小說中早已存在，對吧？如果你看過任何《復仇者聯盟》的電影，當他和Jarvis對話時，那就是你期望中的關係類型。但對於大多數普通消費者來說，體驗往往不是這樣，就感覺Siri是你遇到過的最笨的朋友。我確實這麼說過，而且這是真的。Alexa也不太聰明。
Mustafa Suleyman：沒錯，你說得對，完全正確。這些技術和我們這些技術人員的問題在於，我們往往過於激動，誇大了技術的現狀，好像它們已經達到我們所期待的水平了。我記得看過一個索尼隨身聽的廣告，看到一個人滑着輪滑，戴着耳機。當我拿到了我的隨身聽後，想着自己也可以那樣走在街上，但結果就是每幾秒鐘它就會跳針。
Kara Swisher：是的，確實如此。
Mustafa Suleyman：我們總是傾向於誇大技術的能力，而且每次都會覺得這次將與衆不同。比如現在的語音AI，現在你可以和它進行任何主題的流利自然語言對話，這確實是一件有深遠影響的事情。你可以隨便選擇一個話題，除非是你的專業領域，否則它的表現都會很好。
Kara Swisher：這確實是一個有深遠影響的事情。那你從你的角度來看，什麼時候才能實現真正的系統整合？比如你的AirPods可以和你對話，而且不是像電影《Her》裡的那種。我不喜歡那部電影，因爲我覺得，如果AI那麼聰明，爲什麼要和那個笨笨的Joaquin Phoenix（男主角）交談？電影導演Spike Jonze，他人很好，曾走過來問我：“Kara，我真的很想知道你怎麼看待這部電影？”我回答：“也就那樣吧。”他很驚訝地問：“什麼？”我又說：“也就那樣吧。”我就像Larry David（美國喜劇演員）一樣無所謂。因爲我覺得，智能系統出現的結果就是跟人調情，我不太理解。但不管怎樣，你認爲這種AI與人類的關係的發展時間線是怎樣的？
Mustafa Suleyman：我認爲明年我們將大幅減少模型的幻覺現象。它們會被降低到一個可以真正用於日常實際應用的水平。你會依賴它，它會提供相當不錯的信息。對的，它將逐漸取代傳統的“10個藍色鏈接”搜索結果格式。此外，我認爲未來它將具備記憶功能。這是當前缺失的一環，也正因爲如此，你可能暫時不願長期依賴它。因爲很讓人沮喪的是，它會忘記你告訴過它的事情，比如你昨天晚上去吃了晚餐，或者你在哪個學校讀的本科。
Kara Swisher：所以這是個糟糕的助手。
Mustafa Suleyman：是的，有點無趣，對吧？所以你不會真的全心全意地投入。想象一下，當它真的記住你說過的所有事情，並且能夠準確地從你們的對話歷史中檢索信息時，那一刻會是什麼樣的。
Kara Swisher：那這個會在什麼時間實現？
Mustafa Suleyman：我認爲距離達到一個可行的水平大概還有18個月。
Kara Swisher：哪家公司在這個過程中至關重要？我猜是蘋果公司吧，因爲人們會在蘋果設備上有這樣的體驗，對嗎？
Mustafa Suleyman：其實，我認爲這主要是記錄你在實時對話中與其分享的新的記憶，而不是訪問現有數據。人們常常認爲，它會接入你所有的來源，比如你的應用程序等等。它可以做到這一點，但我發現大多數有價值的數據是你在過去幾天的對話中提供的新信息。你選擇分享什麼，以及如何表達這些信息之類的。
Kara Swisher：我與Tim Cook討論過。這是否意味着，應用程序會消失。你將與Uber建立關係，但不是以同樣的方式，因爲不斷打開應用程序是一種有損耗的操作。“我在打開我的優步應用，我在打開我的搜索應用”，像這種情況會消失。
Mustafa Suleyman：我認爲它們不會消失。我認爲你的AI會學會使用這些應用。
Kara Swisher：這就是我的意思。你再也不會觸碰它們了。
Mustafa Suleyman：對的，對的。首先，點擊某個東西的效率非常高，比如我認爲在Uber上叫一輛車大概需要5次點擊。這很難超越。所以要真正超越這一點還需要幾年。但如果你放眼未來，是的，你的AI很可能會學會在瀏覽器中點擊按鈕，在文本輸入框中輸入文本，當然也會閱讀頁面，理解頁面上的圖像和所有文本。這將是一個非常不同的模式。我認爲其中一個很快會實現的是“copilot”的視覺理解。它會真正看到你所看到的東西。你將能夠擁有一個真正和你一起瀏覽界面的夥伴。
Kara Swisher：看到你在物理世界中看到的東西？
Mustafa Suleyman：起初是數字世界中的。但很快，將會有視覺意識，無論是通過耳機還是眼鏡。
Kara Swisher：是的，有攝像頭的耳機。
Mustafa Suleyman：我認爲這將是一個新模式。你見過新推出的Snapchat眼鏡。我認爲它們很酷。
Kara Swisher：它們相當大。
Mustafa Suleyman：它們有點笨重。
Kara Swisher：笨重。是的，這是個不錯的形容詞。
Mustafa Suleyman：理想情況是，它們會變得更輕巧，比如說帶攝像頭的AirPods。它們不會有精準的人物識別，但它們會有空間意識，它們會知道你在戶外、你正在接近一輛車，或者附近有其他三個人等等。
五、未來模型幻覺將基本消失
Kara Swisher：你工作中的一個有趣之處是與OpenAI的關係。你和Sam Altman常常被視爲對手，但你最近稱讚了他。談談你們的關係是什麼樣的？因爲《華爾街日報》報道說你們正在微軟內部建立一個“內部的OpenAI競爭者”。 談談微軟爲什麼要再復刻它在OpenAI有的資源。策略是什麼？
Mustafa Suleyman：你看，這不是關於復刻。我認爲更多的是對微軟來說有一個真正理解公司技術的合作伙伴。因爲爲了真正有效地使用這項新技術，需要一定水平的科學技術，而這隻能通過經驗來獲得。所以我們非常看重他們，視其爲合作伙伴，而非競爭對手。我對他們所做的事情非常尊重。
Kara Swisher：他們剛剛發佈了一個新的推理模型，叫做o1 preview或Strawberry。你能否解釋一下它和其他模型之間的區別？它似乎具有一種獨特的能力，會“撒謊”，也就是假裝遵循規則，這聽起來問題有點大，甚至比幻覺更糟。你並不想要一個會“撒謊”的朋友。談談這個吧。
Mustafa Suleyman：你知道，它特別擅長的是，在面對複雜的推理挑戰時，它能夠批判自己的答案並進行迭代，以找到正確的答案，然後再給你最終答案。這也是爲什麼它目前有點慢，它需要大約10到30秒才能給出答案。實際上這很有用，因爲它會在給出最終輸出之前獲取反饋並進行校準和迭代。事實證明，這非常有價值。我們人類其實都是這樣做的。我們在腦海中反覆思考，試圖在給出衝動回答之前推理出一個問題。現在這些模型一旦給出衝動答案，它們只是給出第一個冒出來的答案，對吧？
Kara Swisher：對，你剛纔說過，幻覺會消失，它們會低於某個閾值，使AI變得更實用，對吧？
Mustafa Suleyman：對，現在如果你使用最好的模型，它們已經相當不錯，但它們仍然會出現一些基本錯誤。我認爲那些基本錯誤會減少到一個可以接受的水平。
Kara Swisher：而且那些垂直領域的模型將會在非常清晰準確的數據集上進行訓練，對吧？
Mustafa Suleyman：對，尤其是如果你想將它們集中在某個專業領域，比如法律領域、財務會計、深入瞭解你公司的知識，或者醫學領域，確實是這樣。
Kara Swisher：對，而且必須如此。它不能在這個過程中“撒謊”或出現幻覺。
Mustafa Suleyman：在醫療領域，不能“撒謊”，絕對不行。
六、對競爭對手們的看法：xAI、DeepMind、亞馬遜、Meta
Kara Swisher：說到競爭，來談談Elon Musk吧。《Semaphore》的記者Reed Alberghetti最近宣佈，Elon在AI競賽中領先。Elon在孟菲斯爲xAI建了一個數據中心，顯然打破了不少規則。他說大約10萬個H100 GPU已經在運行，還有另外10萬美元的設備。他是在競爭“誰更厲害”。就在一年前，Flexion AI聲稱它建立了世界上最大的GPU集羣，擁有22000個GPU。你能談談“誰更厲害”這個問題嗎？如果我必須問的話。
Mustafa Suleyman：我的天哪。
Kara Swisher：你可以回答，Mustafa。我不會問Satya（微軟CEO）或Sundar（谷歌CEO），但我要問你。
Mustafa Suleyman：天哪，我是說，Elon是個挺厲害的人，我能說什麼呢？這是一個很大的GPU集羣。我認爲其他人訓練的規模大致相當。所以從零開始，到現在擁有一個能與微軟、OpenAI和谷歌等公司競爭的GPU集羣，確實很了不起。你相信他說的是真的嗎？我不知道。我真的不知道。如果他在這麼短的時間內做到了，那將非常令人印象深刻。我覺得這不太可能，但我真的不知道。
Kara Swisher：是啊，他會說他的自動駕駛出租車項目進展得非常好。他一直在談論自動駕駛出租車。當Waymo（美國自動駕駛技術公司）已經行駛了數百萬英里，而他卻是零。
Mustafa Suleyman：是的，是的。還有人形機器人……我想，我們需要那種願景。我喜歡它。
Kara Swisher：五年前他告訴我他要去火星，我希望他能去。祝他好運。不過，話又說回來，談談這種競爭。從你的角度來看，誰是主要競爭者？
Mustafa Suleyman：我認爲DeepMind是世界上領先的實驗室之一，和OpenAI並駕齊驅。毫無疑問，他們是一個卓越的團隊。現在擁有驚人的資源，TPU芯片非常出色。
Kara Swisher：亞馬遜和Meta呢？
Mustafa Suleyman：我會說，亞馬遜在他們的新芯片Tranium方面表現不錯，這個芯片看起來相當便宜，表現也很好，最近用於訓練Claude的AI，所以他們的表現真的很出色。而Meta，我認爲在AI領域是黑馬，對吧？
Kara Swisher：很多人這樣認爲。
Mustafa Suleyman：是的，他們成功地轉型過來，成爲了一家以AI爲主的公司。
Kara Swisher：等等，你是說元宇宙不是未來的發展方向嗎？
Mustafa Suleyman：似乎不是。誰會想到呢？我不知道。我是這樣想的。你也是嗎？
Kara Swisher：是的，我是。我覺得這真是太荒謬了。我一直在想，他們只是不想某一天會死。這就是他們想在數字世界中複製自己的原因。但無論如何，你怎麼看待他們的……
Mustafa Suleyman：他們是開源的，對吧？看到他們以這種方式運作其實挺有趣的，因爲他們一直在落後。我覺得他們的理念是，“來吧，試着團結起來”。我認爲這對他們來說會很成功，因爲這樣他們就能擁有大量開源開發者在他們的基礎設施上進行開發。
七、未來將努力發展可再生能源
Kara Swisher：對了，你對“芯片是新的石油或黃金”這一觀點表示反對，而大多數人現在都這樣認爲。昨天微軟和貝萊德宣佈他們計劃建立一個300億美元的基金，來開發用於AI的數據中心和發電廠。微軟預測今年將在資本支出上花費500億美元用於數據中心。之前就已經很高了，但這還是令人震驚。這確實感覺像是一場淘金熱。《衛報》剛剛發佈了一項分析，指出官方數據與實際排放之間存在顯著差距。例如，微軟內部數據中心的排放量至少比公司報告的高出21倍。你知道，這可能會造成氣候災難。現在，包括Sam Altman在內的許多人都在努力尋找其他可替代的能源。核裂變專家Larry Ellison最近也討論了建立核電站的事。那麼，讓我們來談談這個問題。
Mustafa Suleyman：我確實認爲指出這一點很重要，微軟正在朝着完全可再生能源的方向發展。對，他們承諾……
Kara Swisher：碳中和。對吧？
Mustafa Suleyman：對，實際上，它將在未來幾年內實現碳中和，甚至實現淨負排放。我每週參加一些會議，看到微軟在全面可再生能源上進行了大量投資。所以我認爲這個承諾是有效的。
Kara Swisher：所以你們都必須進入能源行業或可再生能源行業。
Mustafa Suleyman：在某種程度上，公司的確已經在基礎設施行業。這涉及到購買大量土地，建造巨大的數據中心。
Kara Swisher：谷歌也做了類似的事情，涉及熱能以及各種項目。我記得曾有很多奇怪的計劃，但在服務器農場的能源方面也有一些非常聰明的方案，對吧？有沒有一種能源是你們更關注的？
Mustafa Suleyman：我認爲核聚變還有一段距離。微軟確實在核聚變領域有多項投資。但我認爲在很長一段時間內，我們將使用水能和太陽能。核能可能會有一些。
Kara Swisher：你知道，有個叫比爾·蓋茨的人告訴我，可再生能源是不夠的。在一次採訪中，他談到了這個想法。他是個堅定的核能支持者。
Mustafa Suleyman：我認爲太陽能在過去十年裡成本已經呈指數下降。當成本降低時，技術自然會在市場上普及。
Kara Swisher：政府在這裡需要做些什麼來推動這一進程？
Mustafa Suleyman：對中國徵收關稅不會帶來好處。現實情況是，中國以極具競爭力的價格生產了全球大多數的太陽能光伏電池。我們不應考慮對這些產品徵收關稅，因爲我們希望它們能夠在全球範圍內得到廣泛應用。
Kara Swisher：是的，我有些消息要告訴你。一個候選人想對所有東西征收關稅。
Mustafa Suleyman：太瘋狂了。
Kara Swisher：你認爲這會阻礙經濟增長嗎？
Mustafa Suleyman：我毫不懷疑。這沒有任何意義。
Kara Swisher：是的，顯然每位經濟學家都是這樣認爲的。說到這個，《大西洋》雜誌的Karen Howe最近寫道，微軟向大型化石燃料公司（如埃克森美孚和雪佛龍）推廣AI技術，幫助他們尋找和開發新的石油和天然氣儲備，並最大化生產。大型科技公司與大型石油公司合作，你對此有何看法？
Mustafa Suleyman：我認爲，他們已經做出了重大承諾。石油公司已經做出了轉型的重要承諾，他們需要對我們和其他所有人負責。我們是他們未來的利益相關者。我希望看到他們能更快地推進，當然。他們應該像我們一樣，承諾100%使用可再生能源。
八、支持政府對AI發展的干涉
Kara Swisher：好了，還有幾個問題。聯邦貿易委員會已經啓動了一項反壟斷調查。政府在進行很多調查，不只是微軟。谷歌剛剛輸了官司。顯然，還有另一場官司正在進行。不過關於這筆交易，讓我看看我是否理解正確。你和Inflection的聯合創始人Karen Simonyan，Inflection的首席科學家，兩人都去了微軟。你們Inflection的70名員工中有60人和你們一起離開。微軟向Inflection支付了6.5億美元作爲技術許可的一部分。微軟聲稱這不是收購，而我的合作伙伴Scott Gallery則認爲這是收購。聯邦貿易委員會正在調查。談談這個問題吧。這難道不是收購嗎？
Mustafa Suleyman：我之前提到過，我們到了一個階段，這時我們無法贏得消費者市場的競爭。對，但公司方面，Reid Hoffman，我們的第三位聯合創始人，他仍然在運營 Inflection，主要面向B2B市場。他們現在正在使用其他開源的預訓練模型，對它們進行微調，以滿足很多其他企業的需求。我不是 B2B 類型的人，我不想做這個，這就是爲什麼我們接受微軟的提議。我還想補充的是，英國的監管機構 CMA 和歐洲的監管機構都審過了這個案例，並且不會進一步追蹤。
Kara Swisher：而聯邦貿易委員會（FTC）的調查仍在進行中。
Mustafa Suleyman：我覺得他們的進展稍微慢一些，但歐洲和英國的監管機構已經得出了這樣的結論。
Kara Swisher：所以其他公司也在這樣做……？Character AI 與谷歌合作，Adept AI 與亞馬遜達成協議，這些都沒有獲得 FTC 的批准。權力的整合正在發生，這是我第一次看到監管機構，包括一些保守派人士的參與。你覺得政府關注這個問題是好事嗎？我覺得很好。
Mustafa Suleyman：我認爲這非常好。我一直認爲我們需要一批對技術有深刻理解的監管者，他們與公司保持密切聯繫，真正瞭解我們的運營方式，以便讓我們所有人承擔責任。我們需要這種健康的對話和反饋，我總是歡迎這種對話。每當我出差時，我總會騰出時間去見監管者和政治家。
Kara Swisher：你覺得全球範圍內的政府對這些問題的關注更加強烈了嗎？因爲他們確實錯過了互聯網的第一輪，沒有對其進行任何監管。你感受到政府的態度發生了變化嗎？比如在法國逮捕了Pavel Durov。雖然這些事情不盡相同，但它們都是政府對科技持激進立場的表現。
Mustafa Suleyman：我認爲我們必須承認，政府有時會犯錯，監管者也會出錯。這並不意味着他們應該放慢腳步。我們也應該對他們寬容，就像我們對公司和其他任何組織寬容一樣。因爲我們需要的是監管者能夠進行更多的快速實踐，而不是要求他們每次都必須完全正確。那隻會導致停滯不前，最終他們處理這些案件的速度會慢太多。歐洲的許多監管案件，像稅務問題或壟斷市場問題，往往要花費十年時間。這些問題非常複雜，因此確實需要時間，但同時我們也希望他們能迅速行動。現在是一個技術快速變化的時刻，我們希望大家都參與這個過程。
Kara Swisher：所以你歡迎各州的參與嗎？比如加州的行動非常激進，Gavin Newsom剛剛簽署了一系列法案。
Mustafa Suleyman：我認爲幾年前簽署的隱私法案中有很多合理的條款。我認爲各州也應該發揮同樣的作用，積極參與，服務公衆利益。
Kara Swisher：最後，我想聊一下未來的AI。你曾倡導提升透明度，支持由獨立的第三方團隊對AI進行倫理審查，這是一個非常好的建議。通過這種方式可以防止AI進行遞歸式的自我改進，確保它們不會從自身的行爲中學習，從而避免潛在的風險。你認爲這些都是必不可少的嗎？爲了確保我們不在這場變革的浪潮中迷失方向，在短期內你認爲最重要的事情是什麼？你覺得應該做什麼？在短期內政府和公司最重要的任務是什麼？
Mustafa Suleyman：目前英國AI安全研究所已經開始派人到公司內部，跟蹤大模型的規模、能力以及發展路線圖。是的，這些人在公司內部工作，所以這四五家大公司與安全研究所之間有着大量的詳細互動。這個研究所也得到了拜登政府的支持，去年在白宮的大型會議上有過背書。所以，我認爲這正在朝着正確的方向發展。這是在沒有任何實質性危害發生之前就已經進行的前所未有的審查和合作，大家都在汲取Web 2.0、菸草遊說團體和石油行業的教訓。我認爲大家都有誠意想要做對的事情。當然，這並不意味着我們不會犯錯，但我確實覺得這次的情況有所不同。政府的反應更爲積極主動，儘管現在很多事情尚未完全良好地運轉。我們已經看到AI在此次選舉中產生了影響，雖然有時會以一種奇怪的方式出現。
九、AI將爲人類創造其他技術無法帶來的情感體驗
Kara Swisher：泰勒·斯威夫特在特朗普發佈一張AI生成的她支持他的圖片後，發文支持副總統卡瑪拉·哈里斯。你怎麼看待這個事情？因爲她特意指出了這一點。很多人現在談論的都是AI對選舉帶來的負面影響。不過現在看起來，可能沒有人們最初擔心的那麼嚴重。作爲一名公民，同時也作爲一名技術開發者，你在這方面最大的擔憂是什麼？
Mustafa Suleyman：我認爲我們將會看到高度逼真、超高質量的虛假視頻生成內容，這在短期內可能會引發不小的動盪。回顧歷史，我們曾多次經歷過因技術變革帶來的不穩定局面，人類一度難以適應這些變化。不過，通常來說，我們總能找到應對之道。在這種情況下，我們可能會更加依賴由人類創作的內容，並通過加密手段驗證這些內容的真實性，確保它們確實由特定賬戶或個人生成。這樣一來，所有其他的內容至少會被質疑其來源和真實性。這將帶來巨大的變化，併產生其他很多後果。不過我預計，三四年後我們將進入這樣一個時代，因爲屆時生成完美內容的邊際成本將爲零。
Kara Swisher：你覺得這些生成技術最可怕的場景是什麼？最好的場景又是什麼？
Mustafa Suleyman：最可怕的場景是事情發展得太快，超出我們的掌控。有時候，後果需要一段時間才能顯現，我們才能真正觀察到。如果你看看我們的車輛監管體系，花了80年或100年才建立起一個穩固的體系，從駕駛員培訓、安全帶、氣囊到街道照明和車輛排放標準。但樂觀的一面是，每個人都會擁有一個不可思議的個性化導師在口袋裡。
Kara Swisher：我知道你對科技的樂觀多過悲觀。你在四月曾說，AI可以被視爲一種新的數字物種。從你的角度看，如果這個數字物種代表了我們最好的一面，而不是最壞的，那會是什麼樣子？
Mustafa Suleyman：它將擁有自主性、創造力和記憶力。這樣，我們就能探討它的潛在弱點和優勢。這些模型不必受到我們人類侷限性的約束。它們不會感到內疚，也不會有羞恥感，除非我們在編程時賦予它們這些情感；它們不會有自我意識或焦慮感。當然，有些人可能會選擇將這些特質編程進去。一旦我們克服了它們的某些弱點，比如記憶力和幻覺，它們確實有可能成爲人類最好一面的代表。我認爲我們面臨的挑戰是，作爲“性格工程師”， 這個新領域讓我們有機會賦予這些情感智能AI善良、同情和敏感性。這是一個全新的工程實驗，而我們現在纔剛剛開始。我覺得這是一個了不起的願景：如果我們能創造出充滿愛與善良的AI代理人或助手，那將是對人類社會的偉大貢獻。
Kara Swisher：好的，那我的最後一個問題是，如果真是這樣，”性格工程師”他們自己似乎並不如此充滿愛與善良。
Mustafa Suleyman：完全同意，是的，他們並不這樣。硅谷幾十年來一直有這個問題，技術人員往往是些書呆子型的白人男性，他們創造的技術帶有他們自己的盲點，因爲他們是在爲自己解決問題。現在，我們正要改變這種局面，因爲這些技術現在可以被任何人編程，並且開始進入情感智能的領域，而不僅僅是功能性技術。以前，軟件的重點是更高效地做事，比如完成支付、連接市場中的人。而現在，我們在創造體驗，情感體驗，這些是持久的、有意義的關係。所以，這是一個重新決定誰能參與這些技術的時刻。
Kara Swisher：好的。嗯，原諒我不能全然相信你的話。Mustafa Suleyman，謝謝你，感謝大家的收聽。