馬上評｜利用AI一天炮製謠言數千篇，新型亂象怎麼治？

“西安突發爆炸”“重慶巫溪一民房發生爆炸事故”……這些聳人聽聞的消息，竟都是利用AI軟件炮製的謠言。日前，多地警方對部分MCN機構負責人進行了行政處罰，並封禁其網絡賬號。原因是利用AI大量生成謠言信息，用以賺取平臺的流量分成。

沒想到，有了AI“賦能”，一些別有用心者的造謠能力也大幅提升。這些MCN機構通過AI軟件，給出關鍵詞，軟件便會自動在網絡上抓取相關信息，生成幾百到上千字的文本，配上貌似和事件相關的虛假圖片，從而形成一篇看起來信息量很大，實際上子虛烏有的內容。

其中江西南昌一家MCN機構，最高峰一天能生成4000至7000篇，最高的一條收入700元，初步估算每天的收入在1萬元以上。經警方調查，實際控制人王某某共經營5家MCN機構，運營賬號842個。

這確實是令人觸目驚心的數字。有了新技術，造謠的成本近乎爲零——甚至連時間成本都不需要了。這也意味着虛假信息擴散的成本也急劇降低，可能對社會信息生態造成極大破壞，對這種行爲不加以規制，可以想象信息空間會變成什麼樣子。

事實上，監管部門對網絡謠言的治理一直在持續。今年4月23日，網信辦在全國範圍內開展爲期兩個月的“清朗·整治‘自媒體’無底線博流量”專項行動，整治的重點就包括“擺拍發布涉及國內外時事、社會民生等領域虛假事件信息。拼湊剪接網絡視頻圖片，篡改事件發生的時間、地點、人物等要素，以假亂真欺騙公衆”。

魔高一尺，道高一丈。考慮到如今虛假信息生成能力之強，除了線下的查處，線上的治理手段恐怕也要進行技術迭代。一個MCN機構一天就能發佈數千篇AI生成內容，這意味着對互聯網空間的信息追蹤、關鍵詞捕獲、自然語言搜索等，都需要提高相應的技術規格，以應對這種批量生成、大水漫灌的新型信息亂象。

對此，擁有技術優勢的平臺，更應該肩負起主體責任。之所以這種造謠信息可以“玩得下去”，就是因爲它們有利可圖。比如根據一些平臺規則，賬號根據閱讀、評論、轉發數量等獲取相關流量收益，每千人有效閱讀量有1—2元的獎勵。

很多時候，不管平臺願不願意承認，平臺也是謠言信息“獲益方”之一——大量信息聚集，可以極大提升平臺本身的活躍程度，所以有些平臺就疏於治理，甚至變相鼓勵這種能帶來流量的虛假信息生產。因此，要想從源頭上斬斷造謠信息的利益鏈，恐怕還需要平臺通過更嚴格的信息過濾、賬號處理等，讓流量生意無利可圖。

其實在“清朗·整治‘自媒體’無底線博流量”專項行動中，也對平臺做出了要求，比如短視頻和直播等重點平臺要加大對虛假擺拍信息的識別和清理力度，要求資訊類平臺清理標題黨、要素欠缺、不具公共價值的“新黃色新聞”等。平臺應當意識到自身肩負的社會責任，切不可在流量的誘惑下，對這類信息睜一隻眼閉一隻眼。

類似的事件對公衆也是提醒。如今AI造假已經零成本，讀者閱讀到這類聳人聽聞的信息時不妨多留個心眼，慎點轉發、評論鍵。在AI時代，信息的魚龍混雜程度已經呈幾何級數增長，應當更加審慎地判斷，切不可輕易被各類虛假信息撩撥情緒，落入信息陷阱之中。