有消息顯示，加州州長已否決人工智能安全法案

繼此前有消息稱，《前沿人工智能模型安全創新法案》（SB 1047法案）已在加利福尼亞州的州議會通過，該州州長Gavin Newsom將在9月30日前決定簽署或否決該法案後。近日有消息顯示，Gavin Newsom否決了這一法案。據悉，SB 1047法案此前曾被認爲是美國最全面的人工智能安全管理政策之一。

在相關報道中顯示，Gavin Newsom稱SB 1047法案是“善意的”，但他在一份聲明中表示，該法案將“對最基本的功能實施嚴格的標準”，但監管應該基於“經驗證據和科學”。

據瞭解，SB 1047法案旨在爲訓練成本超過1億美元，或者達到一定算力的開發者制定安全標準，確保人工智能大模型的安全開發。該法案要求大型前沿人工智能模型的開發者採取預防措施，例如部署前測試、模擬黑客攻擊、安裝網絡安全保障，以及爲舉報人提供保護等。這些措施是爲了確保開發者的技術不會造成“嚴重傷害”，比如大規模人員傷亡或5億美元以上的財產損失。

此外，SB 1047法案還賦予州檢察長在開發者不遵守規定時提起訴訟的權力，特別是在出現持續威脅的情況下，例如人工智能接管電網等系統時。這一法案還要求開發者聘請第三方審計師來評估他們產品的安全性，併爲舉報人工智能濫用行爲的舉報人提供額外保護。

有相關消息顯示，在過去的幾個月裡，SB 1047法案遭到了許多相關公司和風險投資者的強烈反對。例如OpenAI首席戰略官Jason Kwon就曾在一封反對SB 1047法案的信中寫道，“人工智能革命纔剛剛開始，加利福尼亞州作爲全球人工智能領導者的獨特地位正在推動該州的經濟活力，SB 1047法案將威脅到這種增長，減緩創新的步伐，並導致該州世界級的工程師和企業家離開到其他地方尋找更大的機會”。

有知情人士透露，在Gavin Newsom決定拒絕SB 1047法案，是因爲其只適用於規模大、昂貴的人工智能模型，其他小規模模型則不受監管。但規模，成本較小的人工智能模型可能同樣存在問題，因此他更希望有一個涵蓋所有模式的監管框架。

上述知情人士還表示，Gavin Newsom希望明年通過與人工智能研究人員和其他專家的合作制定新的法案，從而以更全面的方式解決否決SB 1047法案所帶來的擔憂，即人工智能以其設計者雖然無意，但最終造成經濟或其他損害。

值得注意的是，上月中旬Gavin Newsom已簽署多項與人工智能監管相關的法案，其中有3項是關於管控人工智能生成的Deepfake（深度僞造）或其他欺騙性內容，另外2項則是關於保護公衆人物的數字肖像權。

【本文圖片來自網絡】