AI進化撞上“數據牆”?三大模型研發遇阻;特朗普提名超20個新政府要職,“反疫苗人士”當衛生部長?美醫藥股大跌;機構:比特幣將衝擊10萬美元;普京與朔爾...
◎長期以來,人工智能(AI)領域奉行“數據規模越大越好”的信念,但近期業界卻傳出了大模型進化遭遇“數據牆”的消息。據報道,OpenAI、谷歌和Anthropic在開發新一代模型時遭遇瓶頸,無法實現此前那樣的突破性進展。這引起AI圈的熱議,OpenAI前首席科學家伊利亞·蘇茨克維等業界大佬直言,規模法則已觸及天花板。雖然OpenAI CEO阿爾特曼等人駁斥了這一說法,但各大公司已積極調整策略,並開啓在應用賽道的探索。
◎特朗普提名超20個重要職位人選,“反疫苗人士”當衛生部長?納指回吐美大選結果出爐以來大部分漲幅,黃金創三年來最大周跌幅;普京與朔爾茨時隔近兩年首次通話;SpaceX擬出售內部股份,估值飆至2500億美元,xAI將融資60億美元購10萬張英偉達芯片;世衛組織警告:或出現超級細菌。更多內容,盡在《一週國際財經》。
AI進化撞上“數據牆”?三大模型研發遇阻,巨頭紛紛轉向新賽道
人工智能(AI)的發展一直建立在這樣的信念之上:訓練數據規模越大,模型就會越來越好。然而,業界近期曝出了大模型進化遭遇“數據牆”的消息。
據外媒報道,OpenAI、谷歌和Anthropic在AI模型開發方面都陷入了瓶頸,他們發現,新模型無法像前面幾代產品那樣帶來巨大的飛躍。這在AI圈瞬時炸開了鍋。
圖靈獎得主楊立昆(Yann LeCun)和OpenAI前首席科學家伊利亞·蘇茨克維(Ilya Sutskever)等科技圈大佬不客氣地指出,大模型的規模法則(Scaling Law)已經達到極限,必須轉變思維,改變訓練模式了。
而OpenAI CEO阿爾特曼(Sam Altman)和Anthropic CEO達里奧·阿莫迪(Dario Amodei)都相繼對“瓶頸”說進行反駁。儘管如此,OpenAI和谷歌都在積極轉變策略,研究如何解決訓練數據匱乏的問題,以及如何調整規模法則的應用,保持模型穩步發展。
在百度CEO李彥宏看來,模型開發放緩也不見得是一件壞事。在最近的一次訪談中,他表示,基礎模型早期快速迭代是正常的,但如果兩年、三年了還這樣,那整個生態其實是會比較亂。Meta CEO扎克伯格也表示,即使在現有技術的基礎上,應用層面依然有很大的發展空間。
圖片來源:視覺中國-VCG41N1309760279
OpenAI、谷歌和Anthropic遭遇開發瓶頸
據外媒,OpenAI的下一代旗艦模型可能不會像前面幾代產品那樣帶來巨大的飛躍。
測試代號爲Orion的新模型的員工發現,儘管新模型性能超過了OpenAI現有的模型,但進步程度並不如從GPT-3到GPT-4的進步那麼大。換句話說,OpenAI改進的速度似乎正在放緩。
OpenAI並不是唯一遭遇阻礙的公司,其競爭對手谷歌和Anthropic也傳出了先進AI模型開發遇到瓶頸的消息。在以驚人的速度推出日益複雜的AI產品之後,這三家領先的AI公司現在意識到,他們在開發新模型上進行的大量投入所帶來的回報正在逐漸減少。
據知情人士透露,谷歌即將推出的新版Gemini未達到內部預期,Anthropic也推遲了Claude 3.5 Opus模型的計劃發佈時間。
高質量人造訓練數據的缺乏是AI模型開發面臨挑戰的一大原因。外媒援引兩位知情人士稱,Orion在編程任務上的表現不盡如人意,部分原因是缺乏足夠的編程數據進行訓練。即使是有一些小幅的改進,也難以證明新模型構建和運營的高昂成本是合理的,這與市場對於重大升級的期待之間存在差距。
科技圈大佬激辯“數據牆”
AI模型開發遇阻的消息公開後,知名AI評論家加里·馬庫斯(Gary Marcus)甚至直接單方面宣佈“勝利”:“遊戲結束,我贏了!我早就說過,GPT正在陷入收益遞減階段。”一直以來,馬庫斯就預測,生成式AI的發展將進入停滯階段。
圖片來源:X平臺
AI懷疑論者經常警告,僅僅通過擴大規模來提高大模型的方法是有限的。一年前,比爾·蓋茨就表示,有很多理由相信,當前生成式人工智能(AGI)已經達到極限。“GPT-5不會比GPT-4好多少。”
OpenAI前首席科學家、Safe Superintelligence聯合創始人蘇茨克維近日在接受外媒採訪時也表示,擴大預訓練的結果已經達到了平臺期。所謂預訓練,即使用大量未標記數據來訓練AI模型以理解語言模式和結構的階段。
Meta首席科學家、圖靈獎得主楊立昆還轉發了蘇茨克維這條新聞,並評論,“我早就告訴過你們了,Meta早就開始轉型了。”
圖片來源:Thread
不過,OpenAI CEO阿爾特曼週四在X上發帖稱,“沒有牆(there is no wall)”,暗示AI發展沒有遇到瓶頸。
圖片來源:X
Anthropic創始人、規模法則論文的共同作者達里奧·阿莫迪也在近日的播客中表示,規模法則來自經驗而非客觀規律,他認爲這一法則仍然會繼續存在。
科技公司轉變策略
儘管阿爾特曼駁斥了“瓶頸”一說,但OpenAI也一直在進行第二手準備。
OpenAI成立了一個基礎團隊,由之前負責預訓練的Nick Ryder領導。該團隊主要探索如何應對訓練數據的匱乏,調整規模法則的應用,保持模型改進的穩定性。
例如,OpenAI的研究人員開始採用AI生成的合成數據來訓練模型。他們還採用了強化學習方法,通過讓模型從大量有正解的任務中學習(比如數學或編程問題),以此來改進處理特定任務的方式。此外,OpenAI還嘗試在預訓練後進行推理,即讓模型在回答問題時花更多時間“思考”。OpenAI科學家Noam Brown稱它是推理計算的Scaling(擴展)。
圖片來源:X
谷歌似乎也在效仿OpenAI的做法。最近幾周,DeepMind在其Gemini部門組建了一個團隊,旨在開發類似OpenAI推理模型的能力。
谷歌的研究人員也在專注於對模型進行手動改進。參與這項工作的人員表示,改進工作包括改變“超參數”,或者是決定模型如何處理信息的變量,例如模型在訓練數據中建立不同概念或模式之間聯繫的速度。
巨頭紛紛轉向AI應用
在AI進化遇阻的討論下,AI應用迎來大爆發。
得益於AI廣告引擎模型Axon2.0帶來的廣告匹配效率提升,廣告平臺公司AppLovin業績大超預期。年初至今,該股的累計漲幅高達650%,是英偉達同期漲幅的3倍以上,總市值已經接近1000億美元。
圖片來源:谷歌財經
AI平臺(AIP)顯著推動了Palantir的業務增長。11月15日,這家公司宣佈計劃將其上市地點從紐約證券交易所轉移至納斯達克交易所。當天,該股漲11.14%,報65.77美元,該股年初至今漲283.05%。
國內AI應用中,字節跳動旗下的豆包年初至今累計下載量已經突破1億。10月份,Kimi的月活躍用戶數突破千萬大關。MiniMax海外版應用的10月訪問量較上月暴漲2773%。
百度CEO李彥宏認爲,AI模型開發放緩也不一定就是個壞事。在最近的一次訪談中,他表示,基礎模型早期快速迭代是正常的,但如果兩年、三年了還這樣,那整個生態其實是會比較亂。
李彥宏解釋道:“基礎模型不能夠特別快地迭代。如果老在變,那做應用的人就無所適從了,該做什麼我不知道,我剛做了兩個月,你又升級了,把我做的沖掉了,白做了,我又得重新適應一遍新的規則。我覺得可能兩年一個大的版本是一個比較合適的節奏。”
扎克伯格也表示,在最壞的情況下,即使技術沒有改進,仍然有很大空間在現有技術的基礎上打造消費者和企業產品。
作爲AI領域的領頭羊,OpenAI也在加強對應用層面的探索。據報道,OpenAI將於明年1月推出能夠幫助用戶整理文件,預訂機票的AI智能體(AI Agent)軟件。
谷歌正在開發一款代號爲賈維斯計劃的AI代理軟件,“賈維斯”這個名字的靈感來自《鋼鐵俠》的全能AI管家賈維斯。
黃仁勳也開始對AI應用表達了興趣。本週,他在日本舉行的英偉達AI峰會上和孫正義一起宣佈,將聯合軟銀在日本打造AI+5G網絡。
同時,他也在會上強調了AI智能體的潛力——即具備理解、推理、規劃和執行能力的高級數字智能體,能夠改變各個行業的生產力。他指出,這些智能體能夠處理複雜的多步驟任務,有望“爲人類完成 50% 的工作”,從而大幅提升人類的生產力。通過將數據轉化爲可操作的見解,代理式 AI 爲企業提供了強大的工具,可以在不取代人類角色的情況下提升運營效率。
圖片來源:英偉達官網
值得注意的是,英偉達的財報將於北京時間11月21日公佈,預計在財報發佈後的電話會議上,黃仁勳將宣佈更多關於AI應用的消息。
過去一週,英偉達股價的“瘋漲”勢頭暫時有所放緩。
圖片來源:谷歌財經
投資公司Roundhill CEO Dave Mazza對《每日經濟新聞》記者表示,英偉達需要在AI領域實現新的技術突破以及持續的收入增長,才能保持市值的領先地位。
特朗普提名超20個重要職位人選
“反疫苗人士”成衛生部長?醫藥股大跌
據央視新聞,當地時間11月15日,美國當選總統特朗普宣佈,卡羅琳·萊維特(Karoline Leavitt)將擔任其就任總統後的白宮新聞秘書。據悉,萊維特在特朗普2024年競選期間一直擔任其發言人。萊維特出生於1997年,將成爲美國曆史上最年輕的白宮新聞秘書。
截至目前,特朗普已提名超20位重要職位人選。詳見下表:
圖片來源:每經制圖
值得注意的是,11月14日,小羅伯特·弗朗西斯·肯尼迪(Robert F. Kennedy Jr.)被提名爲美國衛生與公衆服務部(HHS)部長。肯尼迪之前是美國2024年總統選舉獨立候選人,於8月23日宣佈暫停競選活動,轉而支持朗普。他是知名的“反疫苗先鋒”,因此特朗普的這一決定也引起了美國輿論特別是公共衛生領域專家的擔憂和質疑。
肯尼迪被提名後,引發的市場恐慌情緒從美股蔓延到歐洲,多家疫苗製造商股價連跌兩日,堪稱“史上最有殺傷力”的美國衛生部長提名。週五,納斯達克生物科技指數收跌4.45%,莫德納收跌7.34%,輝瑞收跌4.69%,歐洲與疫苗相關的公司中,葛蘭素史克公司股價下跌3.88%,阿斯利康製藥公司股價下跌3.05%,諾和諾德股價收跌3.38%。
此外,馬斯克也將在新設的“政府效率部”(Department of Government Efficiency)擔任領導。14日,“政府效率部”在社交媒體上發佈了人才招聘要求,要求中提到,他們需要超高智商的“小政府”改革者,改革者要願意每週工作80小時以上,專注於成本削減工作。
馬斯克還轉發了其他X用戶提及該公告的帖子,並評論道:“確實,這將是繁瑣的工作,會樹立很多敵人,且薪酬爲零。太划算了。”
圖片來源:X社交平臺
黃金大跌4.5%,創三年來最大周跌幅
比特幣一度上破9.3萬美元,機構:年底將衝擊10萬美元
圖片來源:每經記者 孔澤思 攝
週五,受降息擔憂衝擊,美國股市大跌,納斯達克指數本週回吐美國大選結果出爐以來的大部分漲幅,“科技七巨頭”僅特斯拉上漲。
美國10月CPI同比增速加速至2.6%,創三個月新高,止步“六連跌”。此外,美國零售銷售、紐約聯儲製造業、進口價格指數等經濟數據超預期。當地時間週四下午,美聯儲主席鮑威爾表示,美國經濟強勁,美聯儲無需急於降息。
本週,道指累計下跌1.24%,創10月下旬以來最大單週跌幅。標普500指數下跌2.08%,納指下跌3.15%,均創9月以來最大單週跌幅。
現貨黃金下跌0.06%,報2562.72美元/盎司,本週累計下跌4.52%,創2021年6月以來最大單週跌幅。
而比特幣近期的表現極爲強勁。最近七個自然日,現貨比特幣累計上漲約19.28%,11月14日曾漲至93462.17美元,創歷史新高。
圖片來源:Coindesk
加密資產管理公司21Shares副總裁兼美國業務主管費德里科·布羅卡特(Federico Brokate)在接受外媒採訪時表示,比特幣可能在特朗普就職典禮之前衝擊到10萬美元。
渣打銀行此前也稱,比特幣將在年底衝擊10萬美元,預計到2026年底,加密貨幣市場的總市值將增長到10萬億美元。
OKX研究院高級研究員趙偉在接受《每日經濟新聞》記者採訪時認爲,市場情緒的高漲和大量資金的涌入,成爲其近期連續突破歷史新高的重要支撐。他指出,“在美國大選期間,特朗普多次表態支持加密貨幣,被市場視爲一重大利好,其勝選後進一步推動了比特幣和整個加密市場的普漲。”
近日,特朗普在美國參議院中的盟友Cynthia Lummis甚至提出了一項大膽的計劃:在明年新一屆國會就職時推動一項法案——在不增加政府赤字的情況下,出售美聯儲的部分黃金儲備以建立特朗普提出的“戰略比特幣儲備”。
據彭博社報道,該法案要求,美國購買100萬枚比特幣,按當前市場價格計算,將耗費約900億美元。理論上,美聯儲有足夠的黃金購買100萬枚比特幣,而且還能剩下很多。而如果該法案獲得通過,投資者搶在政府之前購買,政府收購成本可能會增加。
不過,趙偉警告稱,“當前全球經濟的不確定性增加,美國的經濟政策將會如何變化、特朗普正式上任後如何落實加密政策,以及加密市場如何推動合規化,都是影響比特幣和整個加密市場後續行情的重要因素之一,是交易者需要密切關注的信息。”
普京與朔爾茨時隔近兩年首次通話
據央視新聞,11月15日,俄羅斯總統普京應邀與德國總理朔爾茨通電話。隨後,克里姆林宮證實了此消息。克里姆林宮發佈消息說,這是自2022年12月以來,雙方首次通話。
普京指出,當前的危機由北約長期的侵略性政策直接導致。該政策目的是無視俄羅斯的安全利益,侵犯俄語居民權利,在烏克蘭領土建立反俄“橋頭堡”。
談及政治和外交解決衝突的前景,普京指出,俄方從未拒絕並始終對恢復俄烏談判持開放態度。可能達成的協議應考慮到俄羅斯的安全利益,從新的領土現實出發,最重要的是解決衝突的根源。
此外,兩國領導人還討論了中東局勢。普京介紹了俄羅斯爲緩和並和平解決地區危機所做的努力。雙方商定,此次通話後,兩國領導人的助理將保持聯繫。
據參考消息,烏克蘭總統澤連斯基11月15日在社交平臺上表示,德國總理朔爾茨與俄羅斯總統普京的通話相當於打開了“潘多拉魔盒”。
SpaceX擬出售內部股份,估值飆至2500億美元
xAI將融資60億美元購10萬張英偉達芯片
圖片來源:視覺中國-VCG111511322600
據媒體報道,知情人士透露,美國最大的獨角獸公司SpaceX正準備在今年12月份發起要約收購,以每股約135美元的價格出售現有股份,這將使這傢俬人公司的估值超過2500億美元。
上月,SpaceX在美國得克薩斯州第5次試飛“星艦”。當時的直播畫面顯示,發射塔的機械臂像“筷子”一般成功夾住了返回地面的超級重型火箭“Super Heavy”。當月晚些時候,SpaceX獲得美國國家安全太空發射計劃第三階段第一航道項目的9次發射合同,合同價值超7億美元,預計將於2025年底和2026年發射。
另據11月15日報道,馬斯克旗下的xAI正在以500億美元的估值,籌集高達60億美元的資金,其中50億美元來自中東主權基金,還有10億美元來自其他投資者。
報道稱,xAI本次融資的60億美元,主要用於購買10萬張英偉達芯片,打造孟菲斯AI超級計算中心,支撐特斯拉的完全自動駕駛(FSD)業務。
世衛組織警告:或出現超級細菌
據央視財經,當地時間11月15日,世界衛生組織總幹事譚德塞在沙特吉達舉行的第四屆全球高級別抗微生物藥物耐藥性部長級會議上表示,抗微生物藥物耐藥性正在威脅人類所依賴的藥物治療效果。
抗微生物藥物耐藥性發生在細菌、病毒、真菌和寄生蟲對藥物不再產生反應時。由於藥物耐藥性使抗生素和其他抗微生物治療方法失效,治療感染變得更加困難,甚至可能變得不可能。這或將導致超級細菌的出現,從而增加了疾病傳播、殘疾和死亡的風險。
圖片來源:視覺中國-VCG41N1209161314
譚德塞表示,當前討論的不僅僅是超級細菌感染導致人們死亡的風險,而是每年確有130萬人正因此喪生。
據央視新聞此前消息,聯合國環境規劃署2023年2月7日發佈的一份報告認爲,氣候變化及其他環境因素可能使細菌增強對抗生素的耐藥性,產生更多“超級細菌”。
根據這份報告,2019年,全球大約500萬人的死亡與微生物耐藥性相關聯。如果不採取措施遏制微生物耐藥性增強趨勢,預計到2050年,每年相關死亡人數將上升至1000萬人。
免責聲明:本文內容與數據僅供參考,不構成投資建議,使用前請覈實。據此操作,風險自擔。
記者:蘭素英
實習記者:嶽楚鵬 宋欣悅
主編:王嘉琦
編輯:蘭素英
視覺:劉青彥
排版:蘭素英