中國發布人工智能安全治理框架3.0 頂尖數學家警示AI損害科研生態
2026-09-22
中國近日發布《人工智能安全治理框架3.0》，將智能體、具身智能等納入治理範疇，更新風險分類，優化技術應對及綜合治理措施，並提出構建柔性、動態、可控的沙箱監管環境。此前數天，陶哲軒、鄧煜等25位菲爾茲獎得主聯名公開信提出警示，指AI公司把攻克數學難題當作「跑分」競賽，正損害數學研究生態。
兩份文件分別為制度規範更新及科學界現實警示，指向同一緊迫命題：隨着AI迅猛發展，科研與教育生態正被深刻重塑，治理框架必須及時升級。
AI已深度嵌入科研與教育。在蛋白質結構預測、藥物篩選、材料發現等領域，AI大模型極大壓縮試錯周期，讓科研人員從繁重重複勞動中解放。教育領域，個性化學習系統可因材施教，智能答疑降低知識獲取門檻，偏遠地區學生亦能接觸優質教學資源。這些均為AI技術「以人為本、向上向善」的正面寫照。
但數學家們的擔心並非杞人憂天。當「跑分」取代「求知」成為目標，科研內在邏輯便被悄然置換。AI公司將破解數學難題異化成性能指標競賽，數學淪為展示AI算力的陪襯，追求真理的初心還剩多少？AI公司批量生產答案，卻忽略思考、理解與洞見，這不僅是數學領域危機，更是整個科研生態危機。教育領域同理，學生過度依賴AI代寫、代算，思維訓練讓位於答案搬運，得到更多正確答案，卻失去提出問題和解決問題的真實能力訓練機會。
防範AI風險，需建立可執行、可迭代、可追責的治理機制。高校、科研機構及期刊應明確AI輔助研究、寫作、評審的邊界，對AI生成內容進行披露、核驗和溯源，禁止將涉密數據、未公開成果輸入公共模型。評價體系亦需改革，不能把「AI快速解題」等同科研突破，更不能以此替代同行評審、可解釋性驗證和知識傳承，科研評價應更重視方法創新、可複現性、長期影響及人才培養價值。《人工智能安全治理框架3.0》提出的沙箱監管、風險分級等，應盡快在科研、教育、醫療、金融等重點場景落地，對智能體及具身智能等可能直接影響現實世界的技術，更要強化權限控制、行為審計、異常攔截及人類接管機制。同時，從中小學到大學應系統開設AI通識與倫理課程，教學生理解AI能力邊界、辨別生成內容真偽、恪守學術規範，使AI成為創新的腳手架而非思維的替代品。
技術本身無善惡，治理方向決定技術走向。頂尖數學家的聯名警示提醒，若只追求答案而忽視理解、傳承與育人，技術越強大，錯位就越危險。中國AI治理框架一年一更新，說明風險正加速演化，只有持續動態升級治理框架，讓創新在安全軌道內奔跑，才能讓AI真正成為科研突破的翅膀、人才成長的階梯。
