人工智能在帶來發(fā)展機遇的同時，也引發(fā)了跨領(lǐng)域、多層次的系統(tǒng)性治理挑戰(zhàn)。全球人工智能安全誰來監(jiān)管如何防范？

11月8日，《為人類共同福祉構(gòu)建全球人工智能安全與治理體系》報告（以下簡稱《報告》）在2025年世界互聯(lián)網(wǎng)大會烏鎮(zhèn)峰會人工智能技術(shù)創(chuàng)新與治理論壇上正式發(fā)布。《報告》指出，人工智能技術(shù)發(fā)展迅猛，其安全與治理體系呈現(xiàn)出碎片化態(tài)勢，國際社會亟需構(gòu)建具有廣泛共識的治理框架與標準。

世界互聯(lián)網(wǎng)大會人工智能專委會主任委員及安全與治理推進計劃聯(lián)合牽頭人、中國科學院自動化研究所人工智能倫理與治理中心主任、北京前瞻人工智能安全與治理研究院院長曾毅，專委會安全與治理推進計劃聯(lián)合牽頭人、劍橋大學教授及智能未來中心人工智能未來與責任項目主任肖恩·歐·海格緹（Seán Ó hÉigeartaigh）共同介紹了此項聯(lián)合研究成果的形成過程及主要內(nèi)容。

《報告》系統(tǒng)性地證實了專家們的擔憂。它指出，2019至2024年間，全球記錄在案的人工智能風險事件由約400件躍升至7900余件，總量增長了近20倍。其中，涉及魯棒性與數(shù)字安全、人權(quán)與隱私治理、透明度與問責制等問題的事件占比超過60%，顯示技術(shù)安全性與倫理性議題已成為全球性挑戰(zhàn)。

《報告》回顧了聯(lián)合國、各國政府、區(qū)域組織及產(chǎn)業(yè)界在人工智能治理上的積極努力。聯(lián)合國通過成立咨詢機構(gòu)、通過聯(lián)大決議等方式，推動全球治理議程；歐盟頒布《人工智能法案》，建成全球首部全面監(jiān)管法律框架；中國發(fā)布《全球人工智能治理倡議》等文件，倡導發(fā)展和安全并重的原則。產(chǎn)業(yè)界和學術(shù)界也在積極探索自律機制，如Anthropic的“負責任擴展政策”和OpenAI的“應對準備框架”，旨在確保人工智能系統(tǒng)的安全部署。

《報告》指出，當前在人工智能治理上仍存在結(jié)構(gòu)性局限，如治理規(guī)則更新速度慢于技術(shù)迭代、工具上不完善，技術(shù)支撐有限、跨境協(xié)作機制薄弱、責任歸屬模糊等。

《報告》強調(diào)，構(gòu)建全球人工智能安全與治理體系需著力應對四大關(guān)鍵問題。第一，針對技術(shù)快速迭代與不確定性風險，報告建議建立技術(shù)跟蹤與風險預警協(xié)同機制，推動治理規(guī)則實現(xiàn)動態(tài)更新。第二，在平衡各國發(fā)展訴求方面，呼吁構(gòu)建包容性多邊平臺，以保障各國平等發(fā)展和利用人工智能的權(quán)利。第三，為明確多利益相關(guān)方的權(quán)責邊界，報告提出建立履約審查、風險監(jiān)測與爭端調(diào)解機制，從而形成協(xié)同有序的治理格局。第四，面對地緣政治障礙，報告倡導以聯(lián)合國為中心踐行多邊主義，推動共建人類命運共同體。另外，《報告》還借鑒了核安全、氣候變化等領(lǐng)域的全球治理經(jīng)驗，提出具體機制舉措。

《報告》最后建議，形成應對人工智能技術(shù)失控風險共識，建立全球廣泛參與的前沿人工智能模型檢測與能力評估機制。此外呼吁國際社會凝聚“以人為本、智能向善”的共識，在聯(lián)合國框架下整合資源，建立分級分類對話機制。聯(lián)合國系統(tǒng)應發(fā)揮協(xié)調(diào)作用，推動價值共識、技術(shù)規(guī)范與風險治理的多維整合。

曾毅表示，當前人工智能安全與治理的國際合作已成為重要的全球公共議題。面對技術(shù)的快速演進和各國發(fā)展的不平衡，國際社會需凝聚共同的風險認知，建立一致的行動框架，并通過機制的設計與完善，確保人工智能技術(shù)在安全、可控、包容的軌道上發(fā)展。