工業電腦大廠新漢 發表Edge AI生成式產品AI-X
新漢在美國德州奧斯丁舉行的嵌入式電子與工業電腦展展示其最新Edge AI軟體定義邊緣運算技術。業者提供
工業電腦大廠新漢(8234)於本週8日到10日在美國德州奧斯丁舉行的嵌入式電子與工業電腦展(Embedded World North America 2024)展示其最新Edge AI軟體定義邊緣運算技術,並正式推出由集團旗下專注在開發物聯網技術的AIC物聯雲事業部所獨立開發的AI運算平臺AI-X。展會上同時呈現新漢集團在智慧車載、智慧城市、工業機器人以及工業級資安等數個領域的Edge AI應用,帶出新漢集團近年來積極佈局軟體定義邊緣運算(Software-Defined Edge Computing)的創新成果。
由新漢集團推出的AI-X是基於LLM(大語言模型)的地端型GenAI運算平臺,隨着各行各業對地端型AI應用的需求日益增長,尤其是在高度強調數據隱私和知識產權保護的領域,如醫療、金融、製造業和法律等,透過將資料運算從雲端搬至地端進行,AI-X能大幅降低數據外泄的風險,同時降低運算能耗,其RAG(Retrieval Augmented Generation,檢索增強生成)特性,能夠直接參考並使用用戶上傳的限定範圍知識庫,也可以根據使用者不同的目的,以離線方式提供特定的回答模式及資訊內容,針對需要高度知識產權保護的行業,AI-X提供精準且安全的知識問答服務,同時避免開放式GPT常出現的誤導性迴應狀況。
AI-X使用Ollama作爲LLM語言模型,同時可支援多種AI模型如Llama3、Qwen2、Code Llama等,使用者能根據需求彈性選擇最適合的模型進行訓練和部署;其平臺架構設計簡潔直觀,類GPT的使用者界面,讓企業管理者能夠輕鬆進行設備配置和系統監控,提升操作便捷性,無論是用於學術教育目的、法律文本分析、還是製造業實時數據監控,均能提供高效、可靠的解決方案。
除了本次主打的AI-X外,新漢集團持續強化軟體定義邊緣運算(Software-Defined Edge Computing)在各領域的應用,如智慧車載、智慧城市、工業型機器人以及工業級資安等領域推出創新產品,本次奧斯丁展會上,展示了多款軟體定義邊緣運算解決方案,包括基於NVIDIA Jetson Orin NX系統模組平臺所開發的Coeus 3801T邊緣AI控制器,工業4.0自動化事業部全新推出的NISE 54物聯網閘道器,智慧城市應用方面則亮相了NDiS B339視覺邊緣運算電腦,新漢旗下專注在開發OT資安解決方案的椰棗科技(TMRTEK)則展出eSAF OT網路資安防護解決方案,提供工業級資安保護,應對日益增長的網絡威脅。