避免AI炮制虛假新聞成網絡謠言重災區，平台在刺激創作的同時，還應肩負起杜絕、消除虛假信息傳播的社會責任。

6月中旬，一家MCN機構的實際控制人王某某被警方予以行政處罰，處罰原因在於王某某利用AI軟件生成虛假新聞並大肆傳播，擾亂了公共秩序。據警方通報，王某某共經營5家MCN機構，運營賬號842個，自今年1月以來，王某某通過AI軟件生成虛假新聞，最高峰一天能生成4000至7000篇。最終，王某某依法被處以行政拘留5日，涉案MCN機構亦被責令停業整改。

隨著AI技術的跨越式發展，科技發展的正向效果與負面沖擊交織出現，給人類帶來了全新的機遇與挑戰。近年來，諸如此類涉AI炮制謠言違法犯罪行為屢屢出現，也恰恰証明了生成式AI的“雙刃劍”屬性日益凸顯。這些通過AI生成的虛假新聞主題集中、風格鮮明，多以險情、災情、刑事犯罪或其他涉民生、社會熱點事件為內容，輔以夸張、獵奇的情節和看似相關卻實際無關的圖片、視頻，並以新聞撰稿人的角度、方向、語氣對外發布，普通人難以辨別真偽。以前述事件為例，通過警方的披露我們才知道，相關違法主體不是僅用單一賬號發布虛假信息，而是通過多平台多賬號矩陣式發布，這就加劇了信息的傳播規模及可信性，迷惑性極強。

AI虛假新聞的橫行，違背了新聞的本質特性——真實性，沖擊了新聞報道的權威性。同時，當網絡世界被大量AI炮制的虛假新聞充斥時，真正需要被關注的社會公共事件、重大政策發布就會因傳播空間被擠佔而無法進入更多人的視野，消耗人們有限的注意力資源，甚至還極易引發恐慌和騷亂。不少虛假新聞在經警方辟謠，甚至進入司法程序后，公眾方才直呼“上當受騙”，可見，AI炮制假新聞一方面透支了公眾信任，另一方面也消耗了本應發揮更大效能的司法行政資源。

為何會有虛假新聞源源不斷產生？筆者認為根本原因在於造假成本低、傳播收益高。對於生產者來說，相關新聞均由AI軟件生成，他們隻需給出關鍵詞，軟件便會自動在網上抓取相關信息，形成一段看起來信息量很大實際子虛烏有的內容，全程基本無需人工參與，時間及經濟成本幾乎為零。此外，很多網絡平台都有鼓勵創作的獎勵機制，會向流量高的內容和用戶支付報酬，變相刺激了一些用戶發布虛假、擦邊等違法內容並藉此牟利。例如，前述事件中的王某某編造的虛假新聞中最高一條收入700元，警方估算其每天的收入可在1萬元以上。

避免AI炮制虛假新聞成網絡謠言重災區，平台在刺激創作的同時，還應肩負起杜絕、消除虛假信息傳播的社會責任。違法行為在翻新，平台防控亦應升級。一方面，要注重事前預防，強化注冊、變更賬號信息審核程序，用戶在發布涉及國內外時事、公共政策、社會事件等相關信息時，要將信息來源在顯著位置展示。另一方面，要持續從完善謠言標簽功能、規范賬號運營、明確營利權限開通條件、限制違規行為獲利、完善粉絲數量管理措施、加大對“自媒體”所屬MCN機構管理力度等方面予以常態化事中管理。同時，加強事后懲戒，對制作發布謠言、蹭炒社會熱點事件或矩陣式發布傳播違法和不良信息造成惡劣影響的“自媒體”，及時予以關閉、納入平台黑名單賬號數據庫並上報網信部門，並通過大數據技術發現不同人實名注冊但實為一人控制使用的違規賬號，據其違法行為分別採取取消互動功能、清理粉絲、取消營利權限、禁言、關閉等懲戒措施。

還需注意的是，在炮制虛假新聞的產業鏈條中，相關AI軟件也是違法內容生成的重要一環，不論其功能是否主要為生成熱點虛假信息，還是正規軟件被違法行為人惡意利用，都暴露出此類軟件存在一定的設計漏洞。因此，監管機關在查處散布虛假新聞行為的同時，還應對此類軟件開發者是否合規進行必要檢查。（劉津寧）

分享讓更多人看到