【ZiDongHua 之人文化天下收錄關(guān)鍵詞：人工智能   布萊奇利宣言  吳朝暉  曾毅 】
　　
　　通過(guò)這場(chǎng)會(huì)，西方應(yīng)該重新審視科技競(jìng)爭(zhēng)的敘事
　　
　　就在這幾天，中國(guó)、美國(guó)、英國(guó)、歐盟國(guó)家等共同發(fā)布了一份宣言。
　　
　　這份宣言達(dá)成的背景，是在英國(guó)舉行的全球人工智能安全峰會(huì)。一個(gè)耐人尋味的細(xì)節(jié)是，宣言在峰會(huì)的第一天上午就發(fā)布了。
　　
　　根據(jù)宣言，中美歐形成了共識(shí)，要通過(guò)國(guó)際合作來(lái)安全發(fā)展人工智能。
　　
　　為什么中美歐在這件事上的共識(shí)如此迫切？
　　
　　回答這個(gè)問(wèn)題，首先要從峰會(huì)本身入手。
　　
　　這次峰會(huì)一共設(shè)置了八個(gè)圓桌會(huì)議，它們構(gòu)成了峰會(huì)的主體。這八個(gè)圓桌會(huì)議的主題，都在圍繞一個(gè)關(guān)鍵詞，“風(fēng)險(xiǎn)”：
　　
　　“風(fēng)險(xiǎn)”的內(nèi)涵究竟是什么，將決定這次峰會(huì)的走向，有些國(guó)家早就開(kāi)始打起了自己的算盤。
　　
　　6月，英國(guó)首相蘇納克訪問(wèn)美國(guó)，和美國(guó)總統(tǒng)拜登在會(huì)面期間就提到了要舉辦峰會(huì)。
　　
　　在那前后，以美國(guó)為代表，一些人如何看待人工智能領(lǐng)域的風(fēng)險(xiǎn)問(wèn)題，已有跡可循。
　　
　　在蘇納克訪問(wèn)美國(guó)之前，白宮剛剛召集了美國(guó)的科技公司討論人工智能風(fēng)險(xiǎn)。在這次會(huì)上，白宮明確闡述了自己對(duì)人工智能風(fēng)險(xiǎn)的理解：
　　
　　公司有基本責(zé)任確保其產(chǎn)品在部署或公開(kāi)之前是安全的，在這個(gè)前提下，美國(guó)政府會(huì)持續(xù)支持相關(guān)公司創(chuàng)新，抓住人工智能的機(jī)遇。
　　
　　究其根本目的，美國(guó)想要的，是穩(wěn)妥地保障自己的領(lǐng)先地位。
　　
　　結(jié)合同一時(shí)間，美國(guó)的另一個(gè)動(dòng)向，可以看得更清楚。就在這次會(huì)議后不久，美國(guó)釋放消息，將考慮進(jìn)一步限制出口人工智能芯片。
　　
　　隨后，拜登又簽署了一項(xiàng)關(guān)于人工智能的行政命令，針對(duì)最強(qiáng)大的人工智能系統(tǒng)，要求科技公司與美國(guó)政府分享安全測(cè)試結(jié)果，并要參照美國(guó)國(guó)家標(biāo)準(zhǔn)與技術(shù)研究院制定的系列標(biāo)準(zhǔn)。
　　
　　這項(xiàng)舉措有著深遠(yuǎn)的考慮。當(dāng)前，各國(guó)對(duì)于人工智能的監(jiān)管都還剛剛起步，美國(guó)的邏輯是，搶占到了人工智能規(guī)則制定的話事權(quán)，通過(guò)制定行業(yè)和技術(shù)發(fā)展規(guī)則，就能引導(dǎo)技術(shù)和行業(yè)方向，并對(duì)其眼中的“對(duì)手”進(jìn)行限制。中國(guó)就是其中的一個(gè)對(duì)象。
　　
　　過(guò)去，在空天、原子能等前沿科技領(lǐng)域，美國(guó)遵循的都是這樣的套路，在掌握了充分優(yōu)勢(shì)后開(kāi)始單方面推動(dòng)符合美國(guó)利益的技術(shù)規(guī)范、監(jiān)管標(biāo)準(zhǔn)等框架，強(qiáng)迫其他國(guó)家接受，并打壓發(fā)展中國(guó)家的發(fā)展追趕。
　　
　　美國(guó)眼中的風(fēng)險(xiǎn)是在某個(gè)領(lǐng)域，自身的優(yōu)勢(shì)不是絕對(duì)可控，但事實(shí)上，美國(guó)為了奪取絕對(duì)控制來(lái)確保領(lǐng)先的做法，孕育出了更多風(fēng)險(xiǎn)。特別是近年來(lái)，美國(guó)強(qiáng)行打破全球產(chǎn)業(yè)鏈，干預(yù)這些行業(yè)的正常發(fā)展，導(dǎo)致這樣的風(fēng)險(xiǎn)在越來(lái)越多地應(yīng)驗(yàn)。芯片行業(yè)就很典型。
　　
　　然而，美國(guó)這種思維方式并沒(méi)有成為國(guó)際主流，也沒(méi)有受到國(guó)際社會(huì)的認(rèn)可，中國(guó)的參會(huì)就能說(shuō)明一定問(wèn)題。與此同時(shí)，這次峰會(huì)達(dá)成的共識(shí)，也很有說(shuō)服力。
　　
　　在峰會(huì)的第一天，中美歐以及其他參會(huì)方就達(dá)成了共同宣言，《布萊奇利宣言》。這份宣言明確提到，要加強(qiáng)國(guó)際科技合作，共同研究人工智能的風(fēng)險(xiǎn)。
　　
　　可見(jiàn)，通過(guò)國(guó)際科技合作而不是封鎖打壓來(lái)解決風(fēng)險(xiǎn)，是國(guó)際共識(shí)，美國(guó)最終也接受了。
　　
　　知情人士告訴譚主，對(duì)于這次峰會(huì)達(dá)成的《布萊奇利宣言》，英國(guó)在會(huì)前與各個(gè)國(guó)家進(jìn)行磋商，經(jīng)過(guò)了至少一個(gè)多月的協(xié)調(diào)，大家最終達(dá)成了一致。
　　
　　《布萊奇利宣言》中，對(duì)于人工智能真正的風(fēng)險(xiǎn)所在，做出了明確的描述和建議：人工智能的許多風(fēng)險(xiǎn)本質(zhì)上是國(guó)際性的，因此“最好通過(guò)國(guó)際合作來(lái)解決”。
　　
　　在行動(dòng)上，與會(huì)國(guó)家和地區(qū)也一致同意，要協(xié)力打造一個(gè)“具有國(guó)際包容性”的前沿人工智能安全科學(xué)研究網(wǎng)絡(luò)，來(lái)深入探究人工智能的能力和風(fēng)險(xiǎn)。
　　
　　讓風(fēng)險(xiǎn)回歸發(fā)展規(guī)律的本質(zhì)，各國(guó)合作解決，而不是人為制造更多風(fēng)險(xiǎn)，這才是一個(gè)新興領(lǐng)域能繁榮發(fā)展的必要條件。
　　
　　這次峰會(huì)為什么能凝聚起這樣的共識(shí)？
　　
　　回歸到人工智能發(fā)展的特性，譚主了解到，參會(huì)者們很關(guān)注惡意使用人工智能進(jìn)行網(wǎng)絡(luò)攻擊、制造虛假信息等風(fēng)險(xiǎn)。
　　
　　首要風(fēng)險(xiǎn)，就是網(wǎng)絡(luò)攻擊。任何人都可以利用人工智能，輕松地定制各種網(wǎng)絡(luò)釣魚(yú)軟件，來(lái)制造節(jié)奏更快、更有效和更大規(guī)模的網(wǎng)絡(luò)入侵。
　　
　　根據(jù)網(wǎng)絡(luò)安全專業(yè)研究機(jī)構(gòu)的報(bào)告，2023年第二季度，全球范圍內(nèi)發(fā)生的網(wǎng)絡(luò)攻擊激增8%，達(dá)到了近兩年來(lái)的最高峰。
　　
　　而在虛假信息的問(wèn)題上，一些率先從事此類技術(shù)研究的發(fā)達(dá)國(guó)家，已經(jīng)將人工智能用于非理性目的，其中包括操縱輿情、干涉他國(guó)內(nèi)政、攻擊別國(guó)主權(quán)和威脅網(wǎng)絡(luò)空間的安全。
　　
　　一些國(guó)家的特種作戰(zhàn)司令部正計(jì)劃利用“深度偽造”等技術(shù)，開(kāi)發(fā)新一代“軍事信息支持作戰(zhàn)”工具，進(jìn)行互聯(lián)網(wǎng)信息操縱、宣傳和欺騙活動(dòng)。
　　
　　這些問(wèn)題，都和一個(gè)關(guān)鍵技術(shù)相關(guān)——生成式人工智能，也就是具有文本、圖片、音頻、視頻等內(nèi)容生成能力的模型及相關(guān)技術(shù)。
　　
　　這次的峰會(huì)也針對(duì)生成式人工智能，給出了一個(gè)判斷，到2025年，其在數(shù)字空間的風(fēng)險(xiǎn)將達(dá)到一個(gè)高峰。
　　
　　如果追溯生成式人工智能所帶來(lái)的關(guān)注，會(huì)發(fā)現(xiàn)一個(gè)時(shí)間上的契合點(diǎn)：生成式人工智能的風(fēng)險(xiǎn)所引發(fā)的焦慮正是在今年爆發(fā)式增長(zhǎng)的，這也是今年以來(lái)，全球人工智能治理的迫切性越來(lái)越強(qiáng)的原因。
　　
　　今年，全世界都目睹的一個(gè)現(xiàn)象是，自ChatGPT問(wèn)世以來(lái)，其訓(xùn)練了幾個(gè)月的性能提升比過(guò)去幾年迭代得都要快，但這也意味著人工智能正在以空前的速度產(chǎn)生風(fēng)險(xiǎn)。
　　
　　而這些風(fēng)險(xiǎn)，是無(wú)法像美國(guó)切割芯片全球產(chǎn)業(yè)鏈那樣，通過(guò)“小院高墻”的方式被控制和約束的。出席這次峰會(huì)的中方科學(xué)家代表，中國(guó)科學(xué)院自動(dòng)化研究所曾毅研究員告訴譚主：
　　
　　一家做出來(lái)的人工智能如果有安全風(fēng)險(xiǎn)，它會(huì)波及到其他家，甚至是原本不相關(guān)的第三方。而現(xiàn)在沒(méi)有一個(gè)國(guó)家、一個(gè)平臺(tái)可以徹底封鎖來(lái)自其他國(guó)家的技術(shù)和信息。因此，人工智能的風(fēng)險(xiǎn)是無(wú)法按國(guó)家切分的。
　　
　　面對(duì)風(fēng)險(xiǎn)的迫近，今年以來(lái)，呼吁全球共同治理人工智能的聲音越來(lái)越多：
　　
　?。衲?月，包括蘋果聯(lián)合創(chuàng)始人在內(nèi)的上千人發(fā)布聯(lián)名信，要求呼吁所有人工智能實(shí)驗(yàn)室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的人工智能系統(tǒng)，暫停時(shí)間至少6個(gè)月。
　　
　?。衲?月，人工智能領(lǐng)域的權(quán)威學(xué)術(shù)機(jī)構(gòu)發(fā)布聯(lián)名信，呼吁共同管控未來(lái)人工智能的風(fēng)險(xiǎn)。
　　
　?。衲?月，被業(yè)界譽(yù)為“人工智能教父”的杰弗里·辛頓宣布從谷歌辭職，以便將精力投入警告人工智能技術(shù)的危險(xiǎn)性。他預(yù)測(cè)，未來(lái)5年，人工智能就可能變得比人類更聰明。
　　
　　值得注意的是，這些聲音，不少都來(lái)自美國(guó)。
　　
　　但面對(duì)這些風(fēng)險(xiǎn)，全球治理還沒(méi)有形成一個(gè)所有人都認(rèn)可的機(jī)制。在這場(chǎng)峰會(huì)之前，全球討論人工智能治理的多邊平臺(tái)主要有兩個(gè)：｜｜2020年，經(jīng)合組織（OECD）啟動(dòng)的人工智能政策觀察站｜｜2020年，加拿大和法國(guó)在G7框架下提議的全球人工智能合作伙伴關(guān)系（GPAI）正式推出
　　
　　這兩個(gè)多邊平臺(tái)，在G7等美西方集團(tuán)的主導(dǎo)下，很大程度上還是將美西方的競(jìng)爭(zhēng)優(yōu)勢(shì)作為制定規(guī)則的根本目的，其他國(guó)家自然不會(huì)深度參與。
　　
　　正因如此，2023年，聯(lián)合國(guó)宣布建立的人工智能咨詢機(jī)構(gòu)，成為人工智能治理在全球范圍內(nèi)最包容的機(jī)構(gòu)。與此同時(shí)，全球人工智能安全峰會(huì)也應(yīng)運(yùn)而生，峰會(huì)就專門在探討人工智能自身的風(fēng)險(xiǎn)。
 
　　
　?。?lián)合國(guó)秘書(shū)長(zhǎng)古特雷斯也出席了這次峰會(huì)
　　
　　共同風(fēng)險(xiǎn)的迫近，促使美西方走出競(jìng)爭(zhēng)的狹隘敘事，真正開(kāi)始面對(duì)人工智能的全球治理問(wèn)題。與中國(guó)的合作，是這股趨勢(shì)的自然結(jié)果。
　　
　　在這次峰會(huì)前，蘇納克說(shuō)過(guò)一句話，說(shuō)明了對(duì)中國(guó)的需要：邀請(qǐng)中國(guó)，絕對(duì)正確。為什么人工智能的全球治理需要中國(guó)？
　　
　　包括基辛格在內(nèi)的戰(zhàn)略家，已經(jīng)率先提出，必須讓世界上其他國(guó)家參與制定全球治理體系的規(guī)則，這樣才能采取安全的措施，這要先從中美兩國(guó)開(kāi)始合作。
 
　　
　?。粮衽c谷歌前首席執(zhí)行官等合著《人工智能時(shí)代與人類未來(lái)》
　　
　　這次的峰會(huì)也提到了一個(gè)排名，人工智能領(lǐng)域排名前二的國(guó)家，正是中國(guó)和美國(guó)，英國(guó)排名第三。
　　
　　曾毅告訴譚主，峰會(huì)的主辦方英國(guó)在確定峰會(huì)的議題時(shí)，和頂級(jí)的國(guó)際學(xué)者、研究機(jī)構(gòu)都保持了密切的交流，其中也有包括他本人在內(nèi)的中國(guó)科學(xué)家。
　　
　　中國(guó)的重要性，從每場(chǎng)會(huì)議的主持人，也可見(jiàn)一斑。八個(gè)圓桌會(huì)議的主持人，有英國(guó)、美國(guó)等美西方國(guó)家的，還有中國(guó)的。
 
　　
　?。阒鞒制渲幸粓?chǎng)圓桌會(huì)議
　　
　　而沒(méi)有中國(guó)，美西方單方面對(duì)人工智能風(fēng)險(xiǎn)的治理，將存在很大空缺。英國(guó)智庫(kù)對(duì)這次峰會(huì)的關(guān)注中，也反映著這個(gè)問(wèn)題。
　　
　　其中一篇文章就提到，中國(guó)不僅是人工智能能力領(lǐng)先的國(guó)家之一，還為新興技術(shù)制定了詳細(xì)的法規(guī)，這將對(duì)中國(guó)乃至全球的人工智能產(chǎn)生重大影響。
　　
　　中方此次赴英的代表團(tuán)成員、科技部吳朝暉副部長(zhǎng)分享了中方對(duì)人工智能規(guī)制的理念，其中重要的一點(diǎn)，就是要確保人工智能始終被人掌控。
　　
　　為什么如此強(qiáng)調(diào)這點(diǎn)，因?yàn)槟壳叭斯ぶ悄茏畲蟮囊粋€(gè)問(wèn)題是人類以后可能很難控制它，甚至，發(fā)生沖突。
　　
　　曾毅告訴譚主，人工智能現(xiàn)在是一個(gè)輔助工具，但他如果有了自主決策的能力，他就有了自主控制的能力。比如，人工智能為了自主進(jìn)化，需要大量的計(jì)算資源，這些資源目前由人類控制。因此，人工智能可能決定，與人類爭(zhēng)奪資源，這時(shí)就會(huì)出現(xiàn)沖突。
　　
　　曾毅還講了一個(gè)美軍分享的例子，就是人工智能反過(guò)來(lái)襲擊人類：
　　
　　美國(guó)一架裝載有人工智能系統(tǒng)的無(wú)人機(jī)在收到了最初指令后，再接受指揮員的后續(xù)指令時(shí)，做出判斷，這些指令不利于第一條指令的執(zhí)行，進(jìn)而認(rèn)定發(fā)出指令的指揮員不利于指令的執(zhí)行，所以決定襲擊指揮員。
　　
　　規(guī)避人工智能這種快速發(fā)展所帶來(lái)的問(wèn)題，首先就需要制度上的保障。
　　
　　人工智能專家許粲昊教授介紹，中國(guó)在防范人工智能風(fēng)險(xiǎn)方面走得比美國(guó)稍微早一點(diǎn)，比如在政府層面的政策把控問(wèn)題上，這顯然是能帶來(lái)好處的。
　　
　　今年8月，中國(guó)首份生成式人工智能監(jiān)管性文件正式實(shí)施，就成為了全球首部直接針對(duì)生成式人工智能進(jìn)行規(guī)制的國(guó)家層面法律文件。
　　
　　在這部《生成式人工智能服務(wù)管理暫行辦法》中，有一條，就特別提到了要鼓勵(lì)“平等互利開(kāi)展國(guó)際交流與合作，參與生成式人工智能相關(guān)國(guó)際規(guī)則制定”。
　　
　　在一些問(wèn)題上，中國(guó)也有一些獨(dú)有的視角，是美西方都不具備的。
　　
　　其中，就有當(dāng)前最受關(guān)注的，如何解決人工智能合乎倫理道德的問(wèn)題。
　　
　　技術(shù)上，對(duì)于這個(gè)問(wèn)題，美西方主要依靠設(shè)計(jì)一些語(yǔ)言規(guī)則來(lái)規(guī)避倫理道德風(fēng)險(xiǎn)。而中國(guó)提出的做法是，讓人工智能模型去學(xué)習(xí)人類的道德經(jīng)驗(yàn)和道德直覺(jué)，在這個(gè)基礎(chǔ)上進(jìn)行道德的決策。
　　
　　這個(gè)細(xì)節(jié)反映出了中國(guó)技術(shù)向善的基因。中國(guó)內(nèi)生出的安全哲學(xué)視角，無(wú)疑將給人工智能治理帶來(lái)巨大的變化。
　　
　　今年10月，習(xí)近平主席在第三屆“一帶一路”國(guó)際合作高峰論壇開(kāi)幕式上的主旨演講中提出，中方將在本屆論壇上提出全球人工智能治理倡議。
　　
　　倡議的首要核心內(nèi)容，包括堅(jiān)持以人為本、智能向善，引導(dǎo)人工智能朝著有利于人類文明進(jìn)步的方向發(fā)展。
　　
　　倡議還著重提出，在各國(guó)之間協(xié)調(diào)，建立一套控制人工智能的規(guī)則。
　　
　　評(píng)估人工智能所帶來(lái)的機(jī)遇和挑戰(zhàn)，需要超越單一國(guó)家利益的視角，站在全球經(jīng)濟(jì)社會(huì)發(fā)展和人類文明進(jìn)步的高度去思考。
　　
　　這折射出的正是中國(guó)一直以來(lái)倡導(dǎo)的共同安全觀。當(dāng)前，強(qiáng)權(quán)政治又重新在全世界挑起地緣沖突，人工智能所帶來(lái)的威脅，正提醒著我們集團(tuán)對(duì)抗只會(huì)加劇21世紀(jì)安全挑戰(zhàn)，人類是不可分割的安全共同體。
　　
　　在此基礎(chǔ)之上，人工智能也給了人類一個(gè)重新思考科技的契機(jī)：
　　
　　科技應(yīng)該在開(kāi)放的環(huán)境里孕育。不同國(guó)家之間的科技創(chuàng)新，應(yīng)該是良性互動(dòng)，而不是不斷打破規(guī)則、突破下限的惡性競(jìng)爭(zhēng)。否則，就在人類不注意之時(shí)，科技可能會(huì)帶來(lái)的，更多的是災(zāi)難。