AI恐對人類造成「滅絕級威脅」 報告：美必須干預

美國一份調查報告指出AI恐對人類造成滅絕級災難。（圖:shutterstock/達志）

美國國務院最近委託民間公司進行人工智慧（AI）的研究，該報告指出快速發展的人工智慧將帶來「災難性」國安風險，並警告政府時間已經不多了，必須進行干預。一位美國國務院官員證實，此報告由美國政府委託調查，用以評估人工智慧如何保護國家利益。不過，該官員強調，報告並不代表美國政府的觀點。

據《CNN》報導，美國國務院最近委託民間公司Gladstone AI進行人工智慧（AI）的研究報告，Gladstone AI斷然指出，最先進的人工智慧系統，在最壞的情況下可能對人類構成「滅絕等級的威脅」，而這項調查結果是基於1年多來對 200 多人的採訪，受訪者來自人工智慧公司的高層、網路安全研究人員、大規模殺傷性武器專家以及政府內部的國家安全官員。

Gladstone AI 執行長兼聯合創始人哈里斯（Jeremie Harris）接受《CNN》採訪表示，「人工智慧已經是一項經濟變革技術。它可以讓我們治癒疾病、做出科學發現，並克服我們曾認爲無法克服的挑戰。」但也有可能帶來嚴重的風險，「世界頂級人工智慧會議上發表的實證研究及分析等越來越多證據表明，超過一定閾值，人工智慧可能會變得不可控」。

Gladstone AI 表示，最先進的人工智慧系統可以武器化，造成不可逆轉的傷害。其次，報告稱，人工智慧實驗室內部存在隱憂，研究人員可能會「失去對正在開發的系統的控制權」，對全球安全造成毀滅性後果。此外，人工智慧的興起，有可能破壞全球安全的穩定，就像核武一樣，各國可能會開始在人工智慧領域展開新一輪的軍備競賽。

Gladstone AI 的報告呼籲「美國政府顯然迫切需要進行干預」，採取重大新措施來應對這一威脅，包括成立新的人工智慧機構，或實施緊急監管保障措施，以及限制運用電腦來訓練人工智慧模型的能力。

Gladstone AI 表示，一些人工智慧公司員工私下也有類似擔憂：「一家知名人工智慧實驗室的人士表示，如果某個特定的人工智慧模型開放大衆使用，那將非常糟糕，因爲可能會用於干預選舉或操縱選民，進而破壞民主。」

白宮發言人帕特森（Robyn Patterson）稱，拜登有關人工智慧的命令，是世上任何承諾管控AI風險政府的最重要行動，強調美國政府將繼續與國際夥伴合作，敦促國會通過兩黨立法來管理這些新興技術相關的風險。