用開源+混合雲加速落地!紅帽亮出“企業AI應用三步曲”,對話紅帽大中華區總裁
智東西作者 ZeR0編輯 漠影
智東西11月3日報道,在本週舉行的2024紅帽論壇上,企業級開源解決方案提供商紅帽公司展示了其如何用開放混合的AI和開源方法加速企業AI應用。
今年是紅帽在中國的第二十年。紅帽全球副總裁兼大中華區總裁曹衡康談道,用混合開放的模式來開發AI已成爲一個必然趨勢,紅帽在基礎架構上採用混合雲模式,支持本地數據中心、公有云和邊緣計算環境的運行,並支持開源和閉源模型,從而爲企業提供靈活選擇。
2024紅帽亞太創新獎以“解鎖下一步”爲主題,表彰了通過開源技術推動轉型和創新的客戶。在當日論壇期間,2024紅帽亞太創新獎中國區獲獎名單正式公佈,獎項授予安利(中國)有限公司和西門子工業自動化產品(成都)有限公司,以表彰他們在創新運用紅帽解決方案應對不斷變化的業務需求方面的卓越表現。
《2024年紅帽全球技術趨勢報告》顯示,亞太地區企業的首要投資方向集中在構建雲原生應用、提升數字用戶體驗以及加速應用和服務的交付。這些數據突顯了創新解決方案在數字化轉型、混合雲基礎架構、雲原生開發、自動化以及企業敏捷性五大關鍵領域中的重要性。
會後,西門子工業自動化(成都)有限公司信息技術部經理楊健、多位紅帽大中華區高管與智東西等媒體進行了深入交流。據曹衡康分享,去年紅帽業績創下歷史新高,今年也繼續呈雙位數增長,其增長來自於越來越多的企業接受開源技術、認識到開源的優勢。在他看來,AI發展的關鍵在於應用場景,這也是紅帽專注探索的方向,紅帽在傳統的數字創新和數字轉型領域同樣將產生更多的應用案例。
一、穩定、安全的“小模型”:減少所需算力與成本,符合企業特定需求
紅帽全球副總裁兼大中華區總裁曹衡康談道,紅帽的理念不僅是創建和使用開源模型,更在幫助企業構建個性化模型。
過去兩年,全球資本大舉投入基礎建設,但未見顯著成效,許多企業應用仍未落地。此前,不少企業嘗試用大模型提升效能,但發現大模型不適合生產場景,因爲一點小錯就可能帶來風險。因此,紅帽在過去幾年提出了“小模型”概念,即專屬模型(faithful purpose),讓企業的數據驅動AI模型的生成,確保模型穩定、安全,並符合企業的特定需求。
通過“小模型”概念,紅帽可以快速將客戶的知識庫輸入到模型中,無論採用何種模型架構,都能通過深度數據的方式生成企業的專屬模型,從而快速搭建適合客戶的特有模型。
紅帽還引入了“社區版”小模型,通過合成數據大幅減少對真實數據的需求,將數據量降至原來的千分之一。這種方式不僅降低了算力需求,節約了成本,能耗也大幅減少,對環境更加友好。
圍繞推動開源AI發展,曹衡康分享了“三步走”策略:
第一步,通過各種市場渠道,推廣AI的獨特功能和優勢。一個新技術要進入市場,需找到成功的應用案例並加以推廣。
第二步,通過合作伙伴生態,賦能合作伙伴的技術和顧問團隊,使他們更深入地瞭解紅帽的AI技術,從而更好地支持客戶。
第三步,通過開放實驗室,與客戶的顧問團隊合作,針對企業的研發、生產、市場行銷和客戶支持等環節,與客戶共同探討如何將AI技術應用到實際場景中,一起找出最具效能的應用場景,從一個小應用成功起步,逐步擴展至更大的場景。
紅帽的AI產品包括語言和代碼模型。紅帽大中華區方案架構部總經理王慧慧介紹了紅帽AI平臺方案。她談道,從產品發佈到原型驗證、試點到正式生產部署需要一定時間。紅帽的AI產品從美國發布到現在僅5個月,已有多個客戶開始複製該成功經驗。
據她分享,一家保險業客戶已使用紅帽的AI技術來加速代碼審查和代碼合併請求的處理。他們之前使用舊工具時存在準確率低的問題(當準確率低於95%甚至96%,尤其在生產環境中,效果不理想),在引入紅帽的新AI工具後,代碼合併和審查的準確率大大提升,達到了這家客戶的高標準。
曹衡康補充說,紅帽內部也在使用AI來優化客戶支持。例如在客戶查詢知識庫時,紅帽通過AI提供最佳解決方案,其工程師在項目交接或技術總結時也使用AI生成報告,有效減少了重複溝通,提高了效率。
二、加速與本土開發商共創,助攻西門子製造業架構轉型
紅帽大中華區資深市場總監趙文斌談道,場景應用是ISV(獨立軟件開發商)和AV(應用供應商)最擅長的領域。由於許多企業和行業都有各自的特點,紅帽加速了與本土ISV及方案開發商的合作。在市場拓展中,紅帽也特別關注共創模式(co-creation)。通過與ISV共創,結合各行業的獨特場景和聯合解決方案,紅帽可以幫助企業更快地實現AI應用落地。
西門子工業自動化產品(成都)有限公司是2024紅帽亞太創新獎獲獎機構之一,是西門子德國安貝格(Amberg)的姐妹工廠。它通過部署紅帽OpenShift,打造了新一代集成、靈活且彈性的生產支持系統MEMO(製造運營模塊化生態系統)。該系統顯著提升了生產線工人的用戶體驗和工作效率。
西門子工業自動化產品(成都)有限公司信息技術部經理楊健分享了與紅帽合作的感受,在採用紅帽的解決方案後,他們實現了從單體架構向微服務分佈式架構的轉型。楊健認爲,這種轉型是製造業未來發展的一個趨勢。
許多製造業企業的應用系統原本採用單體架構,這種架構在維護時可能需要停機,對於滿負荷生產的工廠來說,停機一小時可能損失幾十萬甚至上百萬。此外,單體架構在功能增加和編譯上也很麻煩,整體測試需要耗費大量時間和資源。
而微服務架構可將功能拆分成許多小模塊,變更起來更靈活。這帶來了幾個優勢:一是可以在不停機的情況下進行維護、升級和變更;二是每次變更可以針對更小的範圍,便於精準控制和資源調度。
楊健回顧說,與紅帽的合作非常順暢,相比其他供應商,紅帽在響應速度和責任感方面表現突出。這種共創的模式和合作環境非常寶貴,也是他們選擇並繼續合作紅帽平臺的重要原因之一。此外,紅帽論壇期間展示許多平臺、解決方案和產品也給他帶來了啓發。
西門子在AI領域已經看到了很多優質的解決方案和思路。比如西門子很早就開始應用小模型,尤其是在生產領域,比如機器視覺。以垃圾分揀爲例,原材料加工後產生的垃圾有金屬、塑料和紙張等,以前的機器人視覺識別準確率只有大約85%,西門子通過小模型訓練將準確率從85%提升到95%以上,大幅提升了分揀效率。
小模型非常適用於生產,是因爲應用和場景單一,錯誤率低,能保證質量和過程的可控性。而大模型有時會出現的幻覺問題在生產應用中存在風險,因此西門子當前對大模型的應用保持探索並較爲謹慎,希望通過持續優化,使大模型更可靠、可信且全面。
楊健稱,下一步,除了繼續在微服務平臺上探索外,雙方計劃在虛擬化領域展開更多合作,希望藉助紅帽的虛擬化技術替代部分現有方案,未來也將研究如何將紅帽AI平臺更好地整合到西門子的資源體系中,進一步優化製造流程。
三、向企業提供“三步走”AI部署路徑,鼓勵跨雲混合部署
在幫助客戶更加快速經濟地實現應用落地方面,曹衡康談道,從成本的角度,紅帽的混合雲理念鼓勵客戶在合適的場所部署算力,比如企業內部數據中心、公有云乃至跨多雲環境。
去年紅帽推出了“Unlock”理念,旨在避免客戶被鎖定在特定雲上,開源架構爲客戶提供更多彈性和自由度。因此,紅帽始終鼓勵客戶使用紅帽的開放平臺,以便在任意雲和本地環境中靈活切換,滿足各種算力需求。
王慧慧提到許多客戶反饋說希望先了解成本和收益,再決定項目的可行性。紅帽對此需求非常重視,提出了“分步實施”的策略,即“企業AI應用三步曲”。
第一步,客戶可在最小資源配置下試用開源模型和工具,比如在筆記本電腦上用CPU試跑,而不需要額外的GPU卡。
如果測試效果滿意,客戶可以進入第二步,通過雲租用算力進行進一步擴展。紅帽平臺幾乎可在任何雲上運行,客戶可以選擇公司數據中心或外部公有云資源,在確認模型適合需求後,才進入第三步的大規模部署。
第三步,紅帽架構支持跨雲混合部署。例如,客戶可以在中國使用阿里雲,在美國使用AWS,這種多雲方案既靈活又經濟。紅帽的目標是幫助客戶實現最佳的投資回報率(ROI),並在每一步提供適配的支持。
紅帽InstructLab是一個用於生成式AI模型開發的開源社區項目,由紅帽和IBM聯合發起,支持市面上各種模型,被稱作“連接社區和客戶的橋樑”。王慧慧說,InstructLab和Granite是一個相輔相成的體系。
設計InstructLab有兩個主要目的:一是讓客戶基於Granite基礎模型,使用InstructLab和自身數據訓練出符合需求的模型。InstructLab的輸出分爲“知識”和“技能”,可在企業內部自用。此外,InstructLab還能將知識和技能反饋至上游的管理機構。當管理機構收到客戶反饋的更新後,可將其整合到社區版本的Granite模型中,併發布新版本。
紅帽的開源平臺上幾乎所有產品都遵循這種模式。在開源模型領域,這種方法是紅帽和IBM首次探索的方向,旨在通過開源社區推動開源模型的持續進步,而不僅僅是開放某個版本的模型。
結語:引領開源路線,將增加本地化支持
隨着AI應用日益成熟與普及,越來越多企業面臨AI技術路線的選擇,而開源方式能夠幫助企業有效降低應用門檻和成本。據王慧慧分享,自2019年IBM成爲紅帽母公司以來,IBM在開源方面的投入愈發積極,在工作方式和平臺選擇上越來越傾向開源。IBM將其最初的Watson平臺(現稱Watson X)逐步開源,接下來IBM和紅帽將共同致力於維護開源模型的持續迭代。
IBM和紅帽接受來自用戶和合作夥伴的反饋和貢獻,不斷改進模型。IBM不僅限於語言模型,還推出了代碼模型等其他模型,持續拓展應用領域,走向更廣泛的開源之路。IBM的諮詢部門也與紅帽保持緊密合作,共同探討如何通過開源平臺幫助客戶實現AI應用。
趙文斌補充道,IBM非常尊重紅帽的開放性,在合作項目中,IBM是紅帽衆多選擇之一,紅帽仍然與其他解決方案保持平等合作。具體來說,許多聯合項目都是基於紅帽的開源平臺,客戶需求始終是紅帽創新的核心,紅帽通過開源方法進行持續集成和迭代。同時,紅帽堅持平臺的中立和獨立性。
在曹衡康看來,地緣政治更加凸顯了擁抱開源的重要性。與閉源公司不同,開源技術較少受到地緣政治限制,用戶可以隨時下載和使用所需的工具。據他透露,紅帽下一步將繼續擴大與國內企業的合作,已與本土ISV公司建立了多項合作,這些合作涵蓋芯片和軟件等方面,確保其開源路線在國內有更多本地化支持。