AI帶來哪些倫理挑戰

　　記者：當前，人工智能帶來了哪些突出的倫理挑戰？請結合具體案例說明。

　　中國國際問題研究院世界和平與安全研究所副所長張薇薇：人工智能引發的倫理挑戰非常多元，比如隱私與數據安全、算法偏見與歧視、深度偽造與信息操縱等。但最值得警惕的，還是人工智能可能失控的風險。盡管各方都認同“人類必須主導人工智能”，但在哪些領域需要控制、控制到什麼程度、以何種方式實現，國際社會迄今遠未形成共識。

　　就國際和平與安全而言，最現實的威脅來自軍事領域的自主武器系統——這類系統借助人工智能算法，可在無人直接干預或僅有限干預下，自主完成搜索、識別、跟蹤、決策並攻擊目標。目前，相關技術已趨成熟，並在情報收集、目標鎖定等環節得到應用。目前AI自主選擇目標並執行攻擊的技術條件已經具備，且其效率遠高於人類操作。各國雖聲稱攻擊的“按鈕”仍由人掌控，但問題在於，技術優勢直接關聯作戰勝算，這極易誘使各方越過倫理紅線。雖然將生殺大權交給機器，普遍認為絕不可接受，但軍事行動高度保密，外界幾乎無法監督，最終決定者是人還是機器，難以驗証。因此，自主武器系統已成為當前國際和平與安全面臨的嚴峻威脅之一。

　　中國信息通信研究院人工智能研究所所長魏凱：隨著生成式人工智能能力持續增強，虛假內容泛濫、人類主體性弱化、智能代理引發情感依賴、生成內容無序亂象等多重倫理風險交織疊加，構成當下十分緊迫的治理難題。AI日益強大的內容生成能力催生嚴峻的信息真實性危機，能夠低成本批量產出高逼真虛假文本與音視頻，深度偽造門檻不斷降低，被不法分子用於電信詐騙、操縱輿論，大幅提升真假辨識難度，持續擾亂公共認知、侵蝕社會信任根基。

　　與此同時，算法深度嵌入各類決策流程，使得人類主體性面臨侵蝕風險，大眾逐步習慣於將判斷與選擇交由機器承擔，長期依賴容易造成獨立思考與批判性思維退化，被動讓渡決策權﹔情感陪伴類智能體廣泛應用，依靠擬人化共情互動誘發過度情感依賴，模糊虛擬與現實邊界，干擾正常人際交往，帶來潛在認知偏差。

　　當AI犯錯，誰來埋單

　　記者：當前，人工智能正從“動口”走向“動手”階段，智能體開始自主決策、自主執行任務，這種轉變給倫理治理帶來了哪些前所未有的挑戰？

　　清華大學人工智能國際治理研究院副院長梁正：當下人工智能發展的趨勢之一就是智能體能夠自主感知、分析推理、做出決策並執行任務，這給人的主體性帶來了深刻影響。

　　其中，最突出的問題是權責分配。今年年初，“龍蝦”智能體爆火，但隨之出現了一系列問題。比如它自主執行了一些操作，有的甚至是誤操作，刪除了重要郵件，或者導致信息泄露。顯然，這個責任不能由智能體來承擔。使用者如果在權限設置上有疏忽，沒有進行安全的授權管控，就可能導致這類問題。所以我認為，智能體監管或治理的核心，就在於責任如何明晰、權限如何控制。如果沒有預先防范，在辦公場景下風險或許還相對可控，但一旦進入自動駕駛、金融交易、醫療診斷等高敏感領域，風險就變得難以承受，這是當前最突出的挑戰。

　　記者：當AI越來越多地參與自動駕駛、醫療診斷甚至公共決策時，人機之間的責任邊界該怎麼劃分？

　　梁正：在智能體的使用和部署過程中，責任劃分是最突出的問題。使用者固然要負主體責任，但提供者和開發者也必須承擔相應的產品責任。辦公智能體這類應用相對簡單，但如果涉及具身智能、自動駕駛，責任劃分就必須更加清晰。

　　首先，企業提供這類產品或服務時，必須有非常明確的告知義務。比如，此前一些自動駕駛廠商的宣傳就存在過度渲染問題，明明是輔助駕駛，卻給消費者造成可以放手的錯覺。實際上，相關法律規范明確要求L2級及以下車輛駕駛者雙手不能離開方向盤，但一些車企在宣傳中有意無意地模糊了這一點。一旦發生事故，又說自己只是L2級別的輔助駕駛，怪用戶沒認真看說明書，這顯然是在告知義務上留下了模糊地帶。

　　對比來看，以L4級自動駕駛為例，系統以自動駕駛為主、人類接管為輔，權責劃分就發生根本性變化：自動駕駛系統和車輛成為主要責任主體，一般情況下人不能干預車輛行駛。可見，不同類型和等級的智能體，在研發設計階段就需按等級、分場景劃分權責，並嵌入產品系統。將來，手術機器人也會面臨類似情形，當它的能力提升到一定階段，人可能隻起輔助和保障作用，就像自動化產線，人不能輕易介入。因此，就智能體而言，責任絕不僅在使用者一方，設計者、開發者和提供者都須承擔相應的產品責任。

　　記者：算法利用個人數據無形中塑造認知，使人誤將引導視為獨立判斷。您如何看待這一現象？它對個體自主性、尊嚴及社會公平有何沖擊？人又該如何彰顯自主性？

　　梁正：這正是我們為什麼強調教育的重要性。人工智能時代，學校不會消失，但教師的角色要發生深刻轉變，要善於運用技術，教會學生如何辨別事實真偽。

　　人工智能對教育最根本的影響，是從傳授知識轉向教人做人。這不只是課堂上的說教，更需要在與同學相處、接觸社會的實踐中去體會。未來的學校教育一定是開放的，可能每周都要有一天走進社會，甚至直接去實習、去工作。

　　年輕人有年輕人的優勢，一些不受規矩限制的創意，以前未必有機會實現，現在有了可能。所以，學校要培養批判性思維，幫人建立起對自身主體性的認知。我們現在的學校有思想道德課，但哲學和倫理教育還很不夠，而這在智能時代非常關鍵。未來甚至審美素養、每個人的品位都可能成為一種重要資源。當這些素養豐富起來，人自然就有了批判性認知和鑒別力。接受過大學教育的人，基本判斷力會強一些，但這種能力將來應當更早、更普遍地培養，這才是治本之策。

　　技術帶來的影響，單靠短期管控很難徹底消除，最終要靠人自己有判斷力、能主動質疑。算法推薦確實容易讓人隻看到想看的內容，為此我國出台了算法推薦管理規定，要求不能完全迎合用戶偏好，要有隨機推送，甚至故意推送相反觀點。短期來看，這種應對方法可能有效﹔但長遠看，單靠這種方式並不能讓人真正走向理性。隻有培養起判斷力和批判性思維，人才能擁有主動性，即使面對相反意見也能主動鑒別，這才是真正的自主性。

　　治理怎樣追上日新月異的技術

　　記者：目前AI治理面臨哪些現實困境，又有哪些破解思路和方法？

　　梁正：治理困境首先要從風險來源入手。從機理上看，人工智能的風險主要來自3個方面。第一類是內生性風險，即技術系統自身特性導致的風險，比如失控。目前我們無法保証它完全按人的意圖行事，今年以來，一些大模型已出現自主發現漏洞、攻擊甚至自我迭代的苗頭，將來還可能自我訓練和進化，而我們目前尚缺乏有效應對手段。

　　第二類是應用層面的次生風險。例如，算法決策用於醫療診斷時，可能出現幻覺錯誤或數據偏差，給患者造成不可挽回的影響，這主要與技術的適用范圍相關。而生成虛假內容屬於技術的誤用、濫用甚至惡用——同樣的技術用於影視創作是好事，但用於造假、詐騙，那就變成了違法犯罪。使用不當甚至還可能導致極端風險，比如，對話大模型能力很強，但若缺乏防護，有人詢問如何合成毒品或制造炸藥，也可能造成嚴重后果。

　　第三類是衍生風險，與技術本身及具體用途關系不大，卻帶來廣泛社會影響。當前最令人擔憂的有兩方面：一是大量智能體對人的學習、認知能力造成沖擊，形成信息繭房、數字依賴，導致社交能力下降﹔二是就業問題，即人工智能對既有工作崗位的替代。這些本質上並非技術直接造成，而取決於我們如何處理與它的關系，如何調整社會結構去適應。

　　這三類風險的應對各有側重。

　　針對內生風險，有兩條破解路徑。一是從基礎研究入手，比如可解釋人工智能、物理空間智能等，去解決技術的黑箱特征和可能失控的風險，讓技術真正安全可控﹔二是從制度層面劃定紅線。正如基因編輯，在未知生殖基因編輯后果前，先劃定禁區，等技術手段和認知成熟后再行推進。

　　次生風險主要靠制度解決。需要指出的是，現行法律框架已能應對許多問題，例如無論使用AI還是傳統手段，凡侵犯人身權益或損害生命財產健康的，均屬違法。對深度偽造等新問題，則可通過建立新的制度如內容標識、溯源管理等制度加以規范。

　　應對衍生風險，需要全社會更新治理理念，甚至重塑人機關系。智能革命已經催生人機協同、一人企業等新型業態，法律制度也需要做出相應調整，例如明確人工智能工作的法律屬性、勞動被替代后如何保障人的工作空間等。

　　記者：您剛提到的可解釋人工智能，是否就是用發展技術來解決技術帶來的問題？

　　梁正：是的，必須讓它變得可解釋。現在大模型應用走在了理論前面，我們至今解釋不了它為什麼在理解、生成、推理上能做得這麼好。雖已大規模使用，原因卻說不清，只能歸結為“涌現”。這方面的基礎研究若能突破，我們就能說清這些能力的成因，包括幻覺的產生原因，進而有望從根本上解決問題。

　　當然，這個過程可能是滯后的。我常舉飛機的例子：萊特兄弟的飛機早已飛上天，但人們在相當長時間內並不知道它為什麼能飛。背后的原理如空氣動力學是幾十年甚至上百年后才出現的理論，此后才能據此設計真正安全的飛機。歷史上，技術發展總是存在這種滯后，而解決內生風險的根本途徑，或許就在於此。

　　記者：當前，技術發展日新月異，治理常常跟不上，怎麼解決這個難題？2026世界人工智能大會主席聲明提到“堅持風險導向，敏捷治理，探索分類分級管理”，如何理解這句話？

　　梁正：敏捷治理這個概念提出已久，主要是為了應對所謂風險社會，因為現代社會風險來源日趨多樣和分散。過去環境相對靜態，一套規則可長期適用，但現在已行不通。敏捷治理強調因時而變，並根據形勢及時調整。同時，不能隻靠單一治理中心，政府之外，社會、產業、公眾都要參與進來，才能應對多樣、快速變化且分散的風險。

　　對人工智能而言，強調敏捷治理，更是因為技術變動太快，治理往往滯后。因此，在人工智能治理上，我們一直強調“小步快走”。新問題出現時，不要一上來就管死，而應先研判現有治理工具是否夠用。如果夠用，可多考慮如何落實，並出台指引。例如，面對人工智能領域的爭議，司法系統可快速出台司法解釋，第一時間應對訴訟新問題。好處是不必等立法完備，因為到那時技術可能早已改變。

　　近幾年，網信辦在算法管理、內容生成、標識、安全審查等方面出台了數十個行政規范，快速回應共性問題並形成共識。待情況熟悉和各方認知趨同后，再出台條例，如《人臉識別技術應用安全管理辦法》便是充分討論后推出的。這就是小步快走，通過指引和規范持續迭代的思路。

　　目前，《人工智能安全治理框架》已迭代到2.0版，今年可能研制3.0，倫理安全指引也在更新。未來的思路是，針對不同應用場景不斷深入細化，做到既不管死又不失規矩，既保安全又促發展。

　　如何促進AI朝向上向善的方向發展

　　記者：2026世界人工智能大會期間，世界人工智能合作組織應運而生，29個國家成為創始成員國﹔大會通過《主席聲明》，國家發展改革委發布《人工智能合作發展行動計劃》，工業和信息化部發布《國際人工智能倫理治理行動計劃》，它們對全球AI治理的實際推動力將有多大？

　　梁正：人工智能已成為最大的全球公共產品，全球南方國家長期呼吁更公平的AI治理。在此背景下，中國勇於擔當。一方面，中國的AI發展已走在全球前列，應用的豐富性和創新性得到廣泛認可﹔另一方面，我們的實踐正解決產業痛點和社會需求，例如中國氣象智能預警方案“媽祖”已在巴基斯坦等7個國家落地，並在全球40余國“雲端”應用。

　　過去3年，中國在全球AI治理方面主要推進了兩項工作：一是在聯合國層面推動能力建設普惠計劃，通過培訓班、共建創新應用中心等為全球南方賦能，這得益於我們在開源大模型及高性價比服務上的優勢，始終以發展和賦能為本﹔二是始終堅持共商共建共享原則，強調開放共贏驅動創新、強化風險確保安全、包容並蓄文明互鑒、和衷共濟完善全球治理。

　　當前全球治理碎片化嚴重，部分國家另起爐灶甚至退出多邊合作，導致治理缺位。中國在此刻承擔責任，明確強調在聯合國框架下共同應對風險。新成立的世界人工智能合作組織，是全球首個人工智能政府間國際組織，按國際組織規則運作，是各國貢獻經驗資源的公共平台。中國可能是最大貢獻者之一，但不改變平台的平等共建性質。至於推動力有多大，我認為關鍵在於后續運作。目前其共治定位已十分明確，為各國對話合作開辟了新渠道。若能持續細化規則、落實行動方案，將有效彌合治理赤字，推動全球AI治理從碎片化走向協同。

　　張薇薇：從倡議到組織正式成立，中國推動AI全球治理的思路越來越清晰。我們自身在產業實踐和治理方面積累了豐富經驗，同時堅定支持聯合國發揮主渠道作用。目前，除美國明確反對多邊治理外，大多數國家都持積極態度。在此背景下，中國發起組織、發布成果，就是希望在理念、原則上加強引導，分享實踐經驗，推動盡早形成具有廣泛共識的全球治理框架。

　　有了平台，就能開展更多務實工作。當然，挑戰仍然存在，其中最大的難題是如何將各國有效聚攏，開展真正有實質意義的討論。世界人工智能合作組織現有29個創始成員國，可以先在這個范圍內深入探討。各國既有共通的基本原則，也有因國情和文化差異帶來的獨特性，需要通過持續對話彌合分歧，把共識落到實處。前路還有很多工作要做，但邁出第一步本身，就具有重要價值。

　　記者：盡管存在分歧，各國在應對AI帶來的倫理挑戰上仍有共同利益。哪些領域最有可能先形成共識與合作？

　　張薇薇：最容易形成共識的，是防范AI失控、避免人類被奴役這類極端風險，這是任何一方都不願看到的局面。在惡意濫用方面，共識也相對容易形成，例如利用AI制造虛假或有害信息，恐怖分子或犯罪分子獲取自主武器能力，甚至用AI開發生物武器等。至於系統性歧視問題，不同文化背景下的差異較大，這一問題在中國社會相對不顯著，但在歐美較為突出，因此要形成共識可能需要更多的對話和協商。

　　記者：在人機協同、跨界融合、共創分享的智能社會願景下，怎麼才能確保技術始終服務於人的全面發展？如何促進全球人工智能朝著向上向善、造福人類的方向發展？

　　張薇薇：這涉及對“向善”的定義。全人類有共同的價值追求，不同文化也各有其“善”的內涵。我個人認為，一條可操作的衡量標准是：技術是否讓人活得更輕鬆、更有價值感和尊嚴感，是否讓人的潛能得到更充分的釋放。舉個例子，如果AI能幫我們減輕日常衣食住行的負擔，人就能騰出更多精力投入到創造性活動中，去拓展生命的厚度和價值。與此同時，也必須守住底線——絕不能用技術作為傷害他人的工具。一旦借助工具對他人造成傷害，無論出於什麼目的，都難以稱得上是“向善”。

　　梁正：這關乎我們人工智能治理觀的核心理念，也是與西方的重要分野。2019年，中國發布了《新一代人工智能治理原則——發展負責任的人工智能》，強調人工智能發展應以增進人類共同福祉為目標。只要堅持這一原則，發展就不會偏航。我們不認同西方某些企業先提升能力、出了問題再補救的做法，而是從一開始就強調：人人都應從人工智能發展中獲益，人人都享有勞動權利，發展的終極目標是人的自由解放。技術把人從重復性事務中解放出來，是為了讓人從事更有意義的工作，最終實現每個人的全面發展。因此，在技術開發階段就要思考人如何發揮作用而非被替代﹔在使用階段，則要更多審視它對人的意義和創造的社會價值。

　　記者：面對快速發展的AI，普通人應該如何理性看待和使用它？您有哪些建議？

　　張薇薇：首先要主動了解AI。很多時候，風險恰恰源於“不了解”。比如，西方曾出現青少年與AI對話后被教唆自殺的案例，國內也發生過AI換臉詐騙事件。但現在各種反詐宣傳都在提醒大家：技術可以做到多麼逼真。所以，普通人應當通過正規、權威的渠道，去了解AI能做什麼、可能帶來哪些危害，提前心裡有數，就能大大降低風險。在此基礎上，我們還應主動思考如何借助AI發揮自身特長，去做以前力所不能及的事情。當然，有一點必須時刻牢記——無論怎麼用，都不能逾越法律的底線。

　　梁正：第一，積極擁抱，盡早使用。AI普及是大勢所趨，排斥或回避隻會錯失機遇。就像互聯網，誰先學習利用，誰就受益。我們一直鼓勵學生，有工具就用起來，隻有在實際應用中，才能切身體會它的優勢與問題。

　　第二，審慎使用，始終以人為主。AI是輔助工具，人才是決策主體，主次不能顛倒。以科研為例，AI輔助研究日益增多，也帶來造假等新問題，但我們不應因噎廢食，而應主動將低創造性工作交由AI處理，如文獻整理、調研紀要、PPT制作等。當AI能力進一步提升后，我們還可以與之互動，借助它拓展思路、提供備選方案，但它永遠只是“參謀”，不是“替代者”。在此過程中，每個人都要持續反思：自己真正的優勢在哪裡？把長板做長，把不擅長的事盡早外包給AI。這種主動學習和適應的意識，是每個人都需要培養的。