研究人員稱OpenAI Whisper轉錄工具存在編造問題

鞭牛士報道，10月27日消息，據美聯社報道，軟件工程師、開發人員和學術研究人員對 OpenAI 的 Whisper 轉錄表示嚴重擔憂。

儘管關於生成式人工智能產生幻覺（基本上就是編造東西）的傾向的討論一直不絕於口，但令人驚訝的是，這竟然是轉錄中的一個問題，因爲你會期望轉錄結果與被轉錄的音頻緊密相關。

相反，研究人員告訴美聯社，Whisper 把從種族評論到想象中的醫療治療等所有內容都引入了記錄中。當 Whisper 在醫院和其他醫療環境中被採用時，這可能會帶來特別嚴重的後果。

密歇根大學的一名研究公開會議的研究人員發現，每 10 份音頻轉錄中就有 8 份出現幻覺。一名機器學習工程師研究了超過 100 個小時的 Whisper 轉錄，發現其中一半以上出現幻覺。

一名開發人員報告說，他用 Whisper 創建的 26,000 份轉錄中幾乎都發現了幻覺。

OpenAI 發言人表示，公司正在不斷努力提高模型的準確性，包括減少幻覺，並指出其使用政策禁止在某些高風險決策環境中使用 Whisper。

他們說：我們感謝研究人員分享他們的研究成果。