聯合健康竟意外公開索賠評判用人工智能

在聯合健康保險首席執行官布萊恩·湯普森遇害這一事件的後續影響中，該公司的處方藥中間商由於一個重大的人工智能方面的差錯而遭到指責。

正如TechCrunch所報道的，聯合健康集團的 Optum Rx 藥房福利經理（PBM）用於幫助員工弄清楚保險索賠和糾紛的聊天機器人被意外公開——任何擁有其 IP 地址的人都可以輕鬆訪問。

被稱作“ SOP 聊天機器人”，這顯然是指它被創建用來回答的“標準操作程序”方面的查詢，該人工智能還揭示了公司員工向其提出諸如“我如何檢查政策續期日期？”等問題的日誌。

這些日誌還顯示，員工們提出了諸如“索賠的判定應該是怎樣的？”之類的問題——這聽起來人工智能好像被用於評估保險範圍。

然而，這個聊天機器人似乎和此前報道的聯合健康（UnitedHealthcare）旗下姐妹公司 Optum 所用的拒絕理賠算法不一樣。雖然那個叫 nH Predict 的人工智能是一起訴訟的對象，因爲指控該公司明知它極不準確還使用它，但在TechCrunch報道這事之前，Optum 的 SOP 聊天機器人好像還不爲人所知。

網絡安全公司 spiderSilk 的聯合創始人兼首席安全官莫斯阿布·侯賽因（Mossab Hussein）向TechCrunch通報了此次隱私泄露的情況。目前還不清楚侯賽因是通過什麼途徑得知 SOP 聊天機器人的。

在TechCrunch聯繫 Optum 詢問有關 SOP 聊天機器人的情況後不久，它就被鎖定，公衆再也無法訪問了。

在發給TechCrunch的一封電子郵件裡，Optum 的一位發言人表示，該聊天機器人僅僅是一個“作爲潛在概念驗證開發出來的演示工具”，並且“從未投入生產”。因此，從未有真實的患者數據被輸入其中，該公司聲稱在對其的訓練中也未使用任何此類數據。

“該演示的目的是測試該工具如何對一小部分標準操作程序文檔樣本集裡的問題做出迴應，”該發言人告訴TechCrunch。“此工具不會，也永遠不會做出任何決策，而只是能夠更方便地訪問現有的標準操作程序。”

“簡而言之，”他們繼續說道，“這項技術從未實現規模化，也從未以任何實際的方式得到應用。”

儘管有此免責聲明，但聯合健康的處方管理子公司竟然在測試那種人工智能，這一點仍然極具說明性——尤其是 考慮到所發生的情況 與它的其他理賠處理人工智能。