AI教父憂心AI不受控　諾貝爾物理學獎得主坦言不安

文／中央社

爲人工智慧（AI）領域做出開創性貢獻的諾貝爾物理學獎新科得主霍普菲爾德8日表示，近期AI技術的發展令他感到「非常不安」，警告若不加以控制，恐招致災難性後果。

法新社報導，2024年諾貝爾物理學獎由美國科學家暨普林斯頓大學（Princeton University）教授霍普菲爾德（John J. Hopfield）以及英國出生的加拿大科學家辛頓（Geoffrey E. Hinton）共享殊榮。

▲2024年諾貝爾物理獎得主出爐，由2名學者共享殊榮。（圖／諾貝爾官網）

兩人因催生AI發展的開創性成果而獲獎，也共同呼籲更深入理解深度學習系統內部運作機制，以防止失控。

高齡91歲的霍普菲爾德在英國以視訊參與普林斯頓大學聚會時提到，他一生中目睹了2種強大但有潛在危險的科技崛起，分別是生物工程和核物理。

霍普菲爾德說：「人們已習慣擁有優劣並存、一體兩面的科技……身爲一名物理學家，我對於那些不受約束、我不夠了解的科技感到非常不安，因爲我無法明確知道這種科技的極限，也不知道它能被運用到什麼程度。」

他接着說，「這正是AI引發的問題」，儘管現代AI系統看似「令人歎爲觀止」，但對其運作缺乏理解，讓他感到「非常、非常不安」。

霍普菲爾德說，這正是他和辛頓爲何強烈主張「理解」是AI領域的基本需求，因爲AI正在發展出一些超越目前想像的能力。

辛頓去年躍居AI末日論的代表人物，他在獲聘爲名譽教授的多倫多大學（University of Toront）舉行的新聞發佈會上重申這個主題。

76歲的辛頓對記者說：「如果你環顧四周，幾乎沒有較高智能的東西被智能不如它的東西控制的案例，這讓你不禁想，當AI比我們更聰明時，它們是否會反過來控制我們。」

他補充說：「我主張，我們最優秀的年輕研究員或他們多數人都應致力投入AI安全性研究，政府也應強制大型企業提供電腦相關資源，這是他們該做的事。」