【ZiDongHua 之“自動化者人文”收錄關(guān)鍵詞：南京大學(xué) 自動化者 以人為本 人工智能 大模型 】

譚鐵牛：加強(qiáng)國際治理與合作 推動人工智能向善向好

《當(dāng)代世界》2025年第5期刊登了中國科學(xué)院院士、南京大學(xué)黨委書記譚鐵牛的署名文章《加強(qiáng)國際治理與合作 推動人工智能向善向好》。以下為全文內(nèi)容：

習(xí)近平總書記在4月25日中共中央政治局第二十次集體學(xué)習(xí)時(shí)指出：“人工智能作為引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)，深刻改變?nèi)祟惿a(chǎn)生活方式。”人工智能(AI)技術(shù)極大解放了人的腦力，從根本上改變著知識生產(chǎn)范式，正以前所未有的速度和規(guī)模重塑人類文明圖景，深刻影響著世界經(jīng)濟(jì)、政治、軍事格局和人類社會發(fā)展，日益得到各國政府、產(chǎn)業(yè)界和學(xué)術(shù)界的高度關(guān)注。相比之下，人工智能治理體系的適應(yīng)速度明顯滯后于技術(shù)的突破性進(jìn)展，人工智能國際治理問題日益突出。為此，我們需要準(zhǔn)確把握全球人工智能發(fā)展態(tài)勢，科學(xué)研判人工智能發(fā)展的風(fēng)險(xiǎn)挑戰(zhàn)，加強(qiáng)國際治理與合作，推動人工智能向善向好、造福人類。

習(xí)近平總書記在4月25日中共中央政治局第二十次集體學(xué)習(xí)時(shí)指出：“人工智能作為引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)，深刻改變?nèi)祟惿a(chǎn)生活方式。”人工智能(AI)技術(shù)極大解放了人的腦力，從根本上改變著知識生產(chǎn)范式，正以前所未有的速度和規(guī)模重塑人類文明圖景，深刻影響著世界經(jīng)濟(jì)、政治、軍事格局和人類社會發(fā)展，日益得到各國政府、產(chǎn)業(yè)界和學(xué)術(shù)界的高度關(guān)注。相比之下，人工智能治理體系的適應(yīng)速度明顯滯后于技術(shù)的突破性進(jìn)展，人工智能國際治理問題日益突出。為此，我們需要準(zhǔn)確把握全球人工智能發(fā)展態(tài)勢，科學(xué)研判人工智能發(fā)展的風(fēng)險(xiǎn)挑戰(zhàn)，加強(qiáng)國際治理與合作，推動人工智能向善向好、造福人類。

一、準(zhǔn)確把握全球人工智能發(fā)展態(tài)勢

從1956年誕生至今，人工智能已走過起起伏伏近70年的發(fā)展歷程。近年來，以ChatGPT、Sora、DeepSeek等為代表的生成式人工智能技術(shù)持續(xù)取得重要突破，在全球掀起了人工智能的新一輪熱潮。整體上看，人工智能發(fā)展呈現(xiàn)以下基本態(tài)勢：

(一)專用人工智能日趨成熟。專用人工智能是指面向特定領(lǐng)域的人工智能，其任務(wù)單一、需求明確、應(yīng)用邊界清晰，因此形成了人工智能領(lǐng)域的單點(diǎn)突破，在局部智能水平的單項(xiàng)測試中可以超越人類智能。例如，人臉、虹膜、步態(tài)等生物特征可實(shí)現(xiàn)高精度高效率識別，并成功應(yīng)用于執(zhí)法、民政、救災(zāi)等多個(gè)領(lǐng)域;人工智能輔助診療系統(tǒng)已覆蓋3000多種常見病，在27000多家基層醫(yī)療機(jī)構(gòu)得到應(yīng)用;特斯拉全自動駕駛實(shí)現(xiàn)了第一個(gè)端到端人工智能自動駕駛;等等。

(二)大模型技術(shù)取得重要突破。大模型是指具有超大規(guī)模參數(shù)和復(fù)雜計(jì)算結(jié)構(gòu)的機(jī)器學(xué)習(xí)模型。作為當(dāng)前人工智能領(lǐng)域最受關(guān)注的方向，大模型日益成為戰(zhàn)略性基礎(chǔ)設(shè)施，借助“預(yù)訓(xùn)練大模型+下游任務(wù)微調(diào)”的開發(fā)范式，可以有效縮減訓(xùn)練成本和開發(fā)周期，實(shí)現(xiàn)規(guī)?；a(chǎn)。自2022年底ChatGPT發(fā)布以來，大模型進(jìn)入爆發(fā)期，具備了多模態(tài)理解與多類型內(nèi)容生成能力。2025年初，DeepSeek-R1橫空出世，以開源創(chuàng)新、算力成本低等優(yōu)勢，使大模型真正“飛入尋常百姓家”。

(三)生成式人工智能煥發(fā)生機(jī)。生成式人工智能是指基于算法、模型、規(guī)則自動生成文本、圖片、聲音、視頻、代碼等內(nèi)容的人工智能技術(shù)。相比于只能根據(jù)輸入的數(shù)據(jù)進(jìn)行處理的傳統(tǒng)人工智能系統(tǒng)，生成式人工智能系統(tǒng)能夠自己創(chuàng)造出新的內(nèi)容。在大模型技術(shù)驅(qū)動下，生成式人工智能快速發(fā)展，廣泛應(yīng)用于專業(yè)問答、編程、詩歌創(chuàng)作、作畫等方面，且生成能力十分強(qiáng)大，引起行業(yè)內(nèi)的極大震動。例如，ChatGPT-4 Turbo入選《自然》雜志2023年度十大人物，這是計(jì)算機(jī)程序有史以來第一次入選。

(四)具身智能與人形機(jī)器人備受關(guān)注。具身智能是指物理實(shí)體通過與外部環(huán)境持續(xù)交互而獲得的不斷增長的智能，它可以突破傳統(tǒng)人工智能依賴“算力+數(shù)據(jù)”堆砌、場景適應(yīng)性不足的局限，以更接近生物智能的進(jìn)化邏輯，為探索人類智能形成機(jī)制提供新視角，為推動科技成果向現(xiàn)實(shí)生產(chǎn)力轉(zhuǎn)化提供強(qiáng)引擎。人形機(jī)器人作為具身智能的重要載體，為研究智能的涌現(xiàn)提供了理想平臺。如今，具身智能研究已步入快車道，將通過“數(shù)據(jù)—算法—載體”的閉環(huán)迭代，進(jìn)一步驅(qū)動人工智能從虛擬認(rèn)知向?qū)嶓w智能的范式躍遷。

(五)人工智能驅(qū)動的科學(xué)研究快速發(fā)展。過去幾百年，科學(xué)研究大體經(jīng)過了實(shí)驗(yàn)觀察、理論分析、計(jì)算模擬和數(shù)據(jù)密集型范式的變革。當(dāng)前，人工智能驅(qū)動的科學(xué)研究正在引領(lǐng)新一輪變革，將徹底改變科學(xué)發(fā)現(xiàn)的方式。例如，AlphaFold2可以精準(zhǔn)預(yù)測蛋白質(zhì)的3D結(jié)構(gòu)，AlphaFold3則以前所未有的精度預(yù)測所有生命分子的結(jié)構(gòu)和相互作用，為生物醫(yī)學(xué)研究帶來了革命性變化。此外，人工智能已廣泛應(yīng)用于疫苗研發(fā)、芯片設(shè)計(jì)、氣象預(yù)測等眾多領(lǐng)域。

(六)人工智能加速賦能千行百業(yè)。人工智能作為引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)，深刻改變著人類的生產(chǎn)生活方式。一方面，人工智能正加速與實(shí)體經(jīng)濟(jì)深度融合、提升社會生產(chǎn)力，推動傳統(tǒng)產(chǎn)業(yè)轉(zhuǎn)型升級、促進(jìn)新興產(chǎn)業(yè)蓬勃發(fā)展、培育未來產(chǎn)業(yè)新高地，驅(qū)動“無人經(jīng)濟(jì)”快速發(fā)展。另一方面，人工智能在交通、家居、教育、醫(yī)療、養(yǎng)老等社會生活領(lǐng)域產(chǎn)生重要影響，為促進(jìn)社會公平、增進(jìn)民生福祉、提升人類生活品質(zhì)和幸福感提供了更優(yōu)方案。

(七)人工智能的社會影響日益凸顯。伴隨著人工智能的快速發(fā)展，其產(chǎn)生的社會影響也是多元的、全方位的。一方面，人工智能帶來許多正面效應(yīng)，如拉動經(jīng)濟(jì)、服務(wù)民生、造福社會;另一方面，人工智能也帶來很多社會問題，如安全失控、法律失準(zhǔn)、倫理失常、隱私失密等。例如，濫用生成式人工智能技術(shù)制作虛假信息，進(jìn)行詆毀抹黑、敲詐勒索、惡意攻擊等，帶來極大的安全隱患;智能設(shè)備和算法對于個(gè)人隱私的發(fā)掘分析能力遠(yuǎn)超以往技術(shù)，行蹤軌跡、消費(fèi)數(shù)據(jù)、生物特征等個(gè)人信息和隱私安全問題日趨復(fù)雜，防范難度大大增加。

(八)通用人工智能任重道遠(yuǎn)。通用人工智能旨在研制出具有與人類相同智能水平乃至超過人類智能水平的機(jī)器，甚至可能使機(jī)器擁有自主意識。近年來，隨著神經(jīng)網(wǎng)絡(luò)模型能力的不斷提升，公眾對人工智能產(chǎn)生過高期望，一些專家學(xué)者對通用人工智能的發(fā)展提出了一些不切實(shí)際的預(yù)測。當(dāng)下人工智能距離人類智能水平還有巨大差距，在語義理解、推理、規(guī)劃、泛化和持續(xù)學(xué)習(xí)等方面仍存在明顯不足，還缺少對客觀物理世界時(shí)空運(yùn)行規(guī)律的本質(zhì)理解，缺乏深層共情能力。人類距離實(shí)現(xiàn)真正的通用人工智能仍有很長的路要走。

二、科學(xué)研判人工智能發(fā)展的風(fēng)險(xiǎn)挑戰(zhàn)

習(xí)近平總書記指出：“人工智能帶來前所未有發(fā)展機(jī)遇，也帶來前所未遇風(fēng)險(xiǎn)挑戰(zhàn)。”人工智能在加速推進(jìn)數(shù)字世界和物理世界深度融合的同時(shí)，也在一定程度上模糊了虛與實(shí)的邊界，其固有的不確定性、不透明性、不可解釋性逐漸凸顯，將給人類社會帶來諸多風(fēng)險(xiǎn)挑戰(zhàn)。

(一)對國家安全的風(fēng)險(xiǎn)挑戰(zhàn)。一是意識形態(tài)安全風(fēng)險(xiǎn)。歷史虛無主義、民粹主義等錯(cuò)誤思潮會借助算法推薦技術(shù)在網(wǎng)絡(luò)空間不斷擴(kuò)張，對意識形態(tài)安全產(chǎn)生沖擊。二是國家治理環(huán)境惡化風(fēng)險(xiǎn)。人工智能可以通過深度偽造技術(shù)制造虛假信息、混淆公眾認(rèn)知，也會運(yùn)用精準(zhǔn)算法傳播加劇“信息繭房”效應(yīng)、產(chǎn)生輿論操控，導(dǎo)致國家解釋權(quán)趨弱。三是軍事安全風(fēng)險(xiǎn)。軍事智能化一旦形成技術(shù)“代差”，技術(shù)強(qiáng)國對發(fā)展中國家實(shí)施政治訛詐和技術(shù)突襲的可能性將增大。人工智能技術(shù)在核、太空等領(lǐng)域的跨域軍事應(yīng)用也將給軍事安全帶來極大風(fēng)險(xiǎn)。

(二)對產(chǎn)業(yè)發(fā)展的風(fēng)險(xiǎn)挑戰(zhàn)。人工智能技術(shù)能力與產(chǎn)品形態(tài)的成熟、核心場景的確定、產(chǎn)業(yè)的融合程度以及行業(yè)的發(fā)展息息相關(guān)，并非靠短期大量的資金和資源投入就能達(dá)到成效，要實(shí)現(xiàn)成熟的商業(yè)應(yīng)用，道路還很漫長。以ChatGPT為例，其初始投入成本約8億美元，每日電費(fèi)約5萬美元，模型每次回答的成本約幾美分。面對如此高昂的成本，一方面，資源壟斷問題日益突出，科技巨頭形成“數(shù)字霸權(quán)”，不斷擠壓中小企業(yè)的生存空間。另一方面，很多企業(yè)和創(chuàng)業(yè)團(tuán)隊(duì)一哄而上，部分國家政府也不甘落后，盲目跟風(fēng)導(dǎo)致人工智能無序發(fā)展和資源浪費(fèi)。此外，部分企業(yè)利用人工智能熱點(diǎn)進(jìn)行投機(jī)炒作，將加劇市場泡沫化風(fēng)險(xiǎn)。

(三)對社會治理的風(fēng)險(xiǎn)挑戰(zhàn)。一是數(shù)據(jù)隱私泄露風(fēng)險(xiǎn)。人工智能的技術(shù)特性和應(yīng)用場景決定了其在應(yīng)用中極易獲取大量隱私信息，可能在用戶不知情的情況下收集行蹤軌跡、瀏覽記錄、消費(fèi)數(shù)據(jù)、生物特征等，使個(gè)人信息和隱私保護(hù)受到嚴(yán)峻挑戰(zhàn)。二是惡意攻擊風(fēng)險(xiǎn)。不法分子利用深度偽造技術(shù)制作虛假視頻、圖像，實(shí)施敲詐勒索、惡意攻擊等活動，對社會安全穩(wěn)定、個(gè)人名譽(yù)和財(cái)產(chǎn)等造成威脅。三是信息污染風(fēng)險(xiǎn)。人工智能技術(shù)濫用使互聯(lián)網(wǎng)中的虛假信息和低質(zhì)內(nèi)容日益泛濫，這類信息的“污染”會使模型對現(xiàn)實(shí)的認(rèn)知產(chǎn)生扭曲，導(dǎo)致結(jié)果模型出現(xiàn)不可逆的缺陷。

(四)對倫理和法律的風(fēng)險(xiǎn)挑戰(zhàn)。一是引起社會就業(yè)結(jié)構(gòu)的重大改變。人工智能已可以自主完成高難度的復(fù)雜工作，極大降低內(nèi)容生產(chǎn)和交互的門檻與成本，各行業(yè)人員都面臨著人工智能的勞動替代風(fēng)險(xiǎn)，可能引發(fā)失業(yè)恐慌和社會秩序混亂。行業(yè)邊界將進(jìn)一步模糊，顛覆長期以來形成的社會分工體系。二是算法偏差和機(jī)器歧視加劇。人工智能算法在透明度、魯棒性等方面本身就存在局限，將會加劇生成內(nèi)容的偏見或歧視，放大社會不公。三是觸發(fā)科技倫理問題。數(shù)字孿生、腦機(jī)接口和人機(jī)共生等科技倫理問題涉及人類生命安全、個(gè)人隱私安全、主體責(zé)任歸屬、社會公平公正等諸多風(fēng)險(xiǎn)，人形機(jī)器人的大范圍應(yīng)用也將給以人類為唯一主體的社會體系帶來很多新問題，例如“AI伴侶”的法律地位問題。四是法律體系面臨失效風(fēng)險(xiǎn)。人工智能系統(tǒng)的法律主體資格存疑、權(quán)利主體屬性不明確，將產(chǎn)生傳統(tǒng)法律難以規(guī)制的問題。例如人工智能創(chuàng)作內(nèi)容的知識產(chǎn)權(quán)難以界定，無人駕駛系統(tǒng)的交通法規(guī)仍需完善，人工智能造成損失的責(zé)任難以劃定，等等。

三、加快推進(jìn)人工智能國際治理與合作

近年來，全球人工智能治理的主體和結(jié)構(gòu)愈發(fā)多元化，呈現(xiàn)出全領(lǐng)域、多層級、廣合作的總體特點(diǎn)。各項(xiàng)倡議、立法、規(guī)則呈井噴式涌現(xiàn)，覆蓋政治、經(jīng)濟(jì)、法律、醫(yī)療、社會生活等各領(lǐng)域。在聯(lián)合國框架下，各國及各類國際組織積極實(shí)施人工智能治理和監(jiān)管，行業(yè)組織和企業(yè)也參與推動自律自治，地區(qū)合作、多邊合作、雙邊合作持續(xù)加強(qiáng)。2023年，中國發(fā)布《全球人工智能治理倡議》，就各方普遍關(guān)切的人工智能發(fā)展與治理問題提出建設(shè)性解決思路，為相關(guān)國際討論和規(guī)則制定提供了藍(lán)本，體現(xiàn)了中國的大國責(zé)任擔(dān)當(dāng)。

然而，當(dāng)前人工智能國際治理仍面臨多重挑戰(zhàn)。一是缺乏統(tǒng)一的全球治理框架。各國在重大問題上還缺乏共識，很多法規(guī)差異難以協(xié)調(diào)，非約束性的國際倡議效力有限，具有實(shí)質(zhì)性約束力的治理規(guī)則構(gòu)建尚需時(shí)日。二是各國利益訴求各異。發(fā)達(dá)經(jīng)濟(jì)體更關(guān)注技術(shù)安全與倫理問題，新興經(jīng)濟(jì)體和其他經(jīng)濟(jì)體則強(qiáng)調(diào)經(jīng)濟(jì)與社會發(fā)展機(jī)遇，治理權(quán)力的不平衡進(jìn)一步加劇了關(guān)注點(diǎn)的分化。三是治理碎片化。人工智能技術(shù)發(fā)展的快速性與治理體系構(gòu)建的滯后性之間存在矛盾，靜態(tài)法規(guī)難以應(yīng)對動態(tài)風(fēng)險(xiǎn)，造成治理框架分散、效率低下。

習(xí)近平主席強(qiáng)調(diào)，堅(jiān)持以人為本、智能向善，在聯(lián)合國框架內(nèi)加強(qiáng)人工智能規(guī)則治理。具體而言，加快推進(jìn)人工智能國際治理與合作，需要在以下四個(gè)方面著重突破：

(一)堅(jiān)持“以人為本”，堅(jiān)守人工智能發(fā)展正確方向。無論技術(shù)如何迭代，都應(yīng)在智能時(shí)代堅(jiān)守初心、向善而行。一方面，多邊治理主體要進(jìn)一步達(dá)成人工智能發(fā)展的價(jià)值共識，確立好根本治理原則，以增進(jìn)人類共同福祉、服務(wù)人的全面發(fā)展為目標(biāo)，以保障社會安全、尊重人類權(quán)益為前提，確保人工智能始終朝著有利于人類文明進(jìn)步的方向發(fā)展。另一方面，國際社會應(yīng)形成對于人工智能發(fā)展的風(fēng)險(xiǎn)共識，并在法律、倫理等層面加以引導(dǎo)，盡快建立人工智能風(fēng)險(xiǎn)評估與預(yù)警體系，確保人工智能的研發(fā)和使用活動安全可控，符合全人類共同價(jià)值，防范其危害國家安全、公共利益以及組織、個(gè)人的合法權(quán)益。

(二)堅(jiān)持“開放共享”，推動人工智能應(yīng)用普惠可及。由于不同國家和地區(qū)在科教力量、基礎(chǔ)設(shè)施、產(chǎn)業(yè)結(jié)構(gòu)和社會經(jīng)濟(jì)基礎(chǔ)方面存在差異，人工智能發(fā)展不平衡的問題日益突出。一方面，要深化開源開放，推動人工智能技術(shù)、人才、基礎(chǔ)設(shè)施共享，幫助全球南方國家加強(qiáng)技術(shù)能力建設(shè)，建立國際人工智能技術(shù)共享平臺，打破數(shù)據(jù)壁壘和技術(shù)壟斷，實(shí)現(xiàn)各國公平利用數(shù)據(jù)資源、共享人工智能紅利，彌合全球智能鴻溝。另一方面，要持續(xù)擴(kuò)大相關(guān)學(xué)術(shù)組織與企業(yè)、行業(yè)組織的交流合作，構(gòu)建開放共贏的國際科技合作生態(tài)，著力打破個(gè)別國家對其他國家學(xué)者參與國際交流合作的限制，避免技術(shù)封鎖和人才保護(hù)主義制約技術(shù)交流與進(jìn)步。

(三)堅(jiān)持“以技治技”，創(chuàng)新人工智能技術(shù)治理手段。人工智能的決策過程和決策邏輯不透明，呈現(xiàn)“黑箱”特性，現(xiàn)有技術(shù)并不具備對自身進(jìn)行監(jiān)管和控制的機(jī)制，在技術(shù)層面存在明顯的治理真空。各國家和地區(qū)的研發(fā)主體應(yīng)不斷提高人工智能的可解釋性和可預(yù)測性，打造可審核、可監(jiān)督、可追溯、可信賴的人工智能技術(shù)，將最直觀量化的算力作為治理對象，間接實(shí)現(xiàn)人工智能治理。同時(shí)，要以人工智能技術(shù)防范人工智能風(fēng)險(xiǎn)，積極設(shè)計(jì)開發(fā)能夠有效用于人工智能治理的技術(shù)與應(yīng)用，追蹤并評估人工智能治理框架的落實(shí)情況，提高人工智能治理的技術(shù)能力。

(四)堅(jiān)持“系統(tǒng)集成”，構(gòu)建人工智能多邊治理格局。在世界和平與發(fā)展面臨多元挑戰(zhàn)的背景下，國際社會應(yīng)該在全球范圍內(nèi)廣泛凝聚共識，積極構(gòu)建開放、公正、有效的多邊治理機(jī)制，共同促進(jìn)人工智能技術(shù)真正造福人類。一方面，各國家和地區(qū)以及相關(guān)國際組織要加強(qiáng)治理規(guī)則、技術(shù)標(biāo)準(zhǔn)的對接協(xié)調(diào)，圍繞人工智能安全、倫理道德、數(shù)據(jù)隱私、跨境監(jiān)管、軍事應(yīng)用等關(guān)鍵議題達(dá)成共識，建立健全法律和規(guī)章制度，完善人工智能倫理準(zhǔn)則及問責(zé)機(jī)制。充分尊重各國差異性，提升發(fā)展中國家的話語權(quán)，確保各國開發(fā)和利用人工智能技術(shù)的權(quán)利機(jī)會平等。另一方面，企業(yè)、研究機(jī)構(gòu)、社會組織和個(gè)人等其他多元治理主體要積極發(fā)揮與自身角色相匹配的作用，共同參與人工智能治理體系的構(gòu)建和完善，實(shí)現(xiàn)全球人工智能發(fā)展領(lǐng)域的共商共建共享。

人工智能國際治理是關(guān)乎推動構(gòu)建人類命運(yùn)共同體的時(shí)代課題。面對人工智能帶來的機(jī)遇與挑戰(zhàn)，既需標(biāo)準(zhǔn)互認(rèn)、風(fēng)險(xiǎn)共防，也需倫理先行、法治護(hù)航。我們需要進(jìn)一步凝聚共識、深化協(xié)作，始終遵循“以人為本”的價(jià)值導(dǎo)向，讓技術(shù)進(jìn)步與文明發(fā)展同頻共振，使人工智能真正成為增進(jìn)人類福祉的向善力量。

(原載于《當(dāng)代世界》2025年第5期)