編者按

9月14日至9月20日是2026年國家網絡安全宣傳周，今年活動的主題為“網絡安全為人民，網絡安全靠人民——智能時代 網安護航”。從個人信息保護到數據安全治理，從防范電信詐騙到守護未成年人上網安全，網絡安全關乎千家萬戶的切身利益，關乎數字社會的健康運轉。在人工智能深度融入生產生活的今天，詐騙手段也在迭代升級，唯有多方協同，把風險治理做在前面，培育全社會數字安全素養，才能筑牢網絡安全屏障。

一段並不存在的“突發事件視頻”，可以被AI生成得有圖有聲﹔一張從未拍攝過的“現場照片”，可能擁有逼真的光影和細節﹔隻需少量公開素材，一個人的面孔、聲音乃至說話習慣，都可能被“Deepfake”（深度偽造）。當下，在AI工具走進大眾日常，不斷降低內容生產門檻的同時，與AI相關的虛假信息，也正在對網絡安全與社會秩序構成嚴峻風險。

今年9月，中央網信辦公布“清朗·整治AI應用亂象”專項行動第二階段工作情況。專項行動聚焦利用AI制作發布虛假信息、假冒仿冒他人等突出問題，累計清理違法違規信息561萬余條，查處賬號4.9萬余個，處置違規網站、應用程序等2400余個。值得警惕的是，隨著生成門檻不斷降低，AI造假正在從零散出現走向批量生產、規模傳播。

過去，制作一段具有較高迷惑性的視頻，需要表演者、攝制者與傳播者密切配合，還需要不小的經濟成本。如今，通過AI工具，虛假內容可以批量、低成本地生產。不僅如此，隨著相關技術快速迭代進步，AI生成的文字、圖片、視頻往往形式完整、細節豐富，越來越能以假亂真。其危害遠不止於“騙網友一下”，而完全可能成為違法犯罪活動的幫凶。

在現實案件中，AI換臉、聲音克隆已經被用於詐騙、身份冒用、突破平台身份認証等。2025年，檢察機關披露的一起案件中，詐騙人員利用AI換臉和語音合成技術虛構“軍官”身份實施詐騙，相關犯罪鏈條涉及13名被害人，團伙轉移資金達1300余萬元。杭州警方還曾偵破一起利用AI偽造人臉驗証視頻、突破互聯網平台人臉識別認証並竊取個人信息的案件。

還有一種風險更加隱蔽：虛假內容不僅會欺騙人，還可能“欺騙機器”、污染AI工具依賴的語料庫。大模型需要海量數據進行訓練。如果網絡空間被大量低質量、錯誤乃至惡意制造的AI內容佔據，這些內容又被重新採集進入訓練數據，就可能形成“AI生成—網絡傳播—重新訓練—再次生成”的惡性循環。此前有研究顯示，如果不加區分地使用模型生成數據訓練后續模型，可能出現“模型崩潰”，模型逐漸偏離真實數據分布，丟失原始信息。而人為向訓練語料中植入錯誤信息、惡意樣本的“數據投毒”，風險更加直接。今年中央網信辦開展專項行動時，已將大模型訓練語料安全和AI數據投毒列為重點治理對象。

就此而言，治理AI虛假內容，不能隻沿用“發現謠言—刪除內容—封禁賬號”的傳統路徑。虛假信息一旦批量進入網絡、搜索結果和各類知識庫，即使原帖被刪除，也可能以截圖、轉載、模型訓練數據等形式繼續存在。治理關口必須進一步向內容生成和數據源頭前移。

一個重要抓手，就是讓AI內容“有跡可循”。2025年9月1日起施行的《人工智能生成合成內容標識辦法》，要求對生成合成的文本、圖片、音頻、視頻等設置顯式標識和隱式標識，並要求傳播平台核驗相關信息、對疑似生成合成內容作出提示﹔任何組織和個人不得惡意刪除、篡改、偽造、隱匿標識。相關規定最大的價值，就在於建立一條貫穿生成、導出、上傳、傳播環節的全鏈條記錄體系，使平台能識別AI內容，網民能免受欺騙，出現問題以后也更容易追溯責任。

標識只是基礎。生成平台需要守好訓練語料和模型輸出關，降低錯誤、有害內容進入模型和再次生成的概率﹔傳播平台需要提升多模態識別能力，對集中生成、異常傳播、刻意去除標識等行為加強監測﹔涉及金融交易、賬戶登錄、身份認証等高風險場景，則不能繼續把一段聲音、一張臉作為充分的可信憑証，應通過多因素認証、異常行為識別等方式提高安全門檻。用戶面對來源不明、過於離奇或刻意煽動情緒的圖片視頻，也需要形成“先核來源、再作判斷”的基本習慣。

截至2025年12月，我國生成式人工智能用戶規模已達6.02億，普及率達到42.8%。在這一背景下，治理AI內容的目標，當然不是限制AI，而是建立與這種生產能力相匹配的安全機制。隻有把真實性要求落實到數據、模型、生成、傳播和應用的整個鏈條，人工智能帶來的效率提升，才能不以網絡安全與公共利益為代價。（楊鑫宇）

來源：中國青年報