日前，2024世界人工智能大會(huì)暨人工智能全球治理高級(jí)別會(huì)議在中國上海舉辦，主題為“以共商促共享 以善治促善智”。

近年來，人工智能的新技術(shù)不斷突破、新業(yè)態(tài)持續(xù)涌現(xiàn)、新應(yīng)用加快拓展，已成為新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動(dòng)力量。同時(shí)，人工智能發(fā)展在法律、安全、就業(yè)、道德倫理等方面也面臨著一系列新課題。作為負(fù)責(zé)任的人工智能大國，中國在大力推進(jìn)人工智能創(chuàng)新發(fā)展的同時(shí)，積極致力于為國際社會(huì)提供更多公共產(chǎn)品，以開放姿態(tài)開展人工智能國際交流合作，為全球人工智能發(fā)展和治理作出積極探索，貢獻(xiàn)了建設(shè)性思路和方案。

積極探索全球人工智能治理共識(shí)機(jī)制

“2024世界人工智能大會(huì)暨人工智能全球治理高級(jí)別會(huì)議有很多亮點(diǎn)值得關(guān)注。”復(fù)旦大學(xué)發(fā)展研究院副研究員姚旭接受本報(bào)記者采訪時(shí)說，一是各方搭臺(tái)。來自全球50多個(gè)國家地區(qū)的上千位人工智能治理和產(chǎn)業(yè)發(fā)展的領(lǐng)軍人物齊聚中國，積極參與這場討論人工智能技術(shù)和產(chǎn)業(yè)前沿發(fā)展趨勢(shì)的盛會(huì)，引發(fā)對(duì)人工智能的關(guān)注熱潮，線下參觀人數(shù)突破30萬人次，再創(chuàng)新高。二是產(chǎn)業(yè)唱戲。參加大會(huì)的知名人工智能企業(yè)數(shù)量、發(fā)布的人工智能新品數(shù)量、參展的展品數(shù)量都創(chuàng)歷年新高，全球頂級(jí)的人工智能科研機(jī)構(gòu)和企業(yè)充分交流，加速人工智能成果轉(zhuǎn)化。三是強(qiáng)調(diào)合作。大會(huì)發(fā)布《人工智能全球治理上海宣言》，為全球人工智能的治理范式和路徑提供了新思路，得到各界積極響應(yīng)。

中國一直是人工智能全球治理的積極倡導(dǎo)者和踐行者。去年10月，中國提出《全球人工智能治理倡議》，系統(tǒng)回答了為什么要加強(qiáng)、如何加強(qiáng)人工智能全球治理的重大時(shí)代課題，提出了中國方案，貢獻(xiàn)了中國智慧，為凝聚國際社會(huì)共識(shí)、推進(jìn)全球共享共治發(fā)揮了積極作用。日前，第78屆聯(lián)合國大會(huì)以協(xié)商一致方式通過了中方主提的“加強(qiáng)人工智能能力建設(shè)國際合作”決議，143個(gè)聯(lián)合國會(huì)員國參加聯(lián)署。這是全球首個(gè)聚焦人工智能能力建設(shè)的共識(shí)性文件。

對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心主任張欣在接受本報(bào)記者采訪時(shí)表示，近年來，中國在全球人工智能治理方面作出了一系列積極貢獻(xiàn)。中國頒布的《生成式人工智能服務(wù)管理暫行辦法》是世界上首部以生成式人工智能為對(duì)象的正式立法。中國頒布的《科技倫理審查辦法（試行）》明確了科技倫理原則，是中國科技倫理治理的標(biāo)志性事件，意味著中國科技倫理的頂層設(shè)計(jì)和治理體系日趨完善。中國提出的《全球人工智能治理倡議》是在凝聚中國多年來人工智能治理成熟經(jīng)驗(yàn)基礎(chǔ)上對(duì)全球人工智能治理共識(shí)機(jī)制的有力探索。

“近年來，中國在人工智能領(lǐng)域堅(jiān)持統(tǒng)籌發(fā)展和安全，以發(fā)展促安全、以安全保發(fā)展，已取得令人矚目的成績。”姚旭介紹，2020年7月，中國發(fā)布《國家新一代人工智能標(biāo)準(zhǔn)體系建設(shè)指南》。2023年7月，中國的《生成式人工智能服務(wù)管理暫行辦法》正式發(fā)布，是全球范圍內(nèi)最早的針對(duì)生成式人工智能的監(jiān)管方案。2024年3月1日，全國網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)發(fā)布了《網(wǎng)絡(luò)安全技術(shù) 生成式人工智能服務(wù)安全基本要求（TC260-003）》，對(duì)人工智能服務(wù)安全方面的基本要求做出了規(guī)定。

“此外，中國在人工智能全球治理中展現(xiàn)大國擔(dān)當(dāng)，和美國、法國等建立高層級(jí)對(duì)話機(jī)制。2023年11月，中美元首舊金山會(huì)晤期間，兩國就建立人工智能政府間對(duì)話機(jī)制達(dá)成重要共識(shí)。2024年5月，中美人工智能政府間對(duì)話首次會(huì)議成功舉行。2024年5月7日，中法兩國發(fā)布《中華人民共和國和法蘭西共和國關(guān)于人工智能和全球治理的聯(lián)合聲明》。”姚旭說。

推動(dòng)全球人工智能治理法治化進(jìn)程

世界知識(shí)產(chǎn)權(quán)組織近日發(fā)布的報(bào)告顯示，2014年至2023年，中國生成式人工智能專利申請(qǐng)量超3.8萬件，居世界第一。高速發(fā)展催生了更為豐富的治理經(jīng)驗(yàn)和治理策略，中國通過各種國際對(duì)話平臺(tái)與世界交流分享。

“近年來，中國的人工智能技術(shù)和產(chǎn)業(yè)都發(fā)展迅速，處于世界領(lǐng)先水平。”姚旭介紹，國家數(shù)據(jù)局局長劉烈宏在中國發(fā)展高層論壇2024年年會(huì)上表示，中國10億參數(shù)規(guī)模以上大模型數(shù)量已超100個(gè)。中國信息通信研究院最新發(fā)布的《全球數(shù)字經(jīng)濟(jì)白皮書（2024年）》顯示，全球人工智能大模型數(shù)量為1328個(gè)，中國大模型數(shù)量占比為36%，居世界第二。此外，中國正筑牢人工智能發(fā)展的人才培養(yǎng)底座。《紐約時(shí)報(bào)》援引保爾森基金會(huì)旗下智庫的研究稱，中國已經(jīng)成為人工智能人才的最大出產(chǎn)國，幾乎培養(yǎng)了全球一半的頂尖人工智能研究人員。

“人工智能快速發(fā)展一方面是基于科技產(chǎn)業(yè)精英主導(dǎo)的技術(shù)突破，另一方面也必須考慮應(yīng)用落地的普適性和易用性。”姚旭說，中國在人工智能技術(shù)發(fā)展和應(yīng)用的過程中，始終關(guān)注場景落地時(shí)降本增效。在自動(dòng)駕駛、智能制造、氣象預(yù)測、安全巡檢等各種場景中，中國產(chǎn)學(xué)研各界正在加速強(qiáng)化國際合作，將中國人工智能技術(shù)落地方案和世界各國尤其是南方國家充分共享。此外，共建“一帶一路”國家在傳統(tǒng)基礎(chǔ)設(shè)施、數(shù)字基礎(chǔ)設(shè)施和數(shù)據(jù)基礎(chǔ)設(shè)施領(lǐng)域的協(xié)同共建，是推動(dòng)普惠發(fā)展、彌合智能鴻溝的重要基石。

據(jù)人工智能、算法、自動(dòng)化事件和爭議數(shù)據(jù)庫顯示，2021年新報(bào)告的人工智能事件和爭議數(shù)量是2012年的26倍。其中生成式人工智能引發(fā)的虛假信息問題尤為突出。由于虛假信息面向的是互聯(lián)網(wǎng)信息內(nèi)容領(lǐng)域，因此其產(chǎn)生的影響具有行業(yè)和場景的廣泛性。

“加強(qiáng)人工智能治理規(guī)則的全球協(xié)作日益成為各方共識(shí)。”張欣說，人工智能技術(shù)的突破式發(fā)展導(dǎo)致新舊風(fēng)險(xiǎn)疊加，影響社會(huì)倫理秩序，帶來了一系列安全和倫理挑戰(zhàn)。例如，生成式人工智能的發(fā)展既導(dǎo)致傳統(tǒng)技術(shù)風(fēng)險(xiǎn)加劇，又帶來了一系列新興風(fēng)險(xiǎn)。尤其在人工智能研發(fā)和應(yīng)用環(huán)節(jié)對(duì)個(gè)人隱私和數(shù)據(jù)安全帶來了數(shù)據(jù)泄露、數(shù)據(jù)濫用、侵犯個(gè)人隱私等隱患。而與傳統(tǒng)技術(shù)風(fēng)險(xiǎn)有所不同，人工智能技術(shù)風(fēng)險(xiǎn)具有隱蔽性、跨域性、全球性、長期性，需要從國際層面展開持續(xù)性、系統(tǒng)性和協(xié)同性的治理努力。此外，由于人工智能的技術(shù)迭代以日為單位，若不在早期實(shí)施有效的介入治理，則可能出現(xiàn)后期風(fēng)險(xiǎn)難以控制的治理困境。各國雖在人工智能治理思路和具體方案上存在差異，但從數(shù)據(jù)安全和個(gè)人隱私保護(hù)的視角對(duì)人工智能訓(xùn)練環(huán)節(jié)施加規(guī)制和約束已成為共識(shí)。

“全球人工智能治理還呈現(xiàn)‘法治化’特征，從早期以科技倫理、技術(shù)標(biāo)準(zhǔn)、自律承諾等為代表的軟法治理，逐步轉(zhuǎn)向一種更為成熟的‘軟法與硬法雙軌并行、剛?cè)岵?jì)’的新型治理模式。”張欣說，各國雖就人工智能治理提出了多元化的治理理念和治理路徑，但通過法治化道路為人工智能治理提供“制度圍欄”已在國際層面形成廣泛共識(shí)。中國推出了《科技倫理審查辦法（試行）》和《生成式人工智能服務(wù)管理暫行辦法》，提出了人工智能治理的中國方案。《全球人工智能治理倡議》中關(guān)于逐步建立健全人工智能領(lǐng)域的法律和規(guī)章制度的提議，不僅是為國際社會(huì)貢獻(xiàn)中國智慧和中國經(jīng)驗(yàn)的重要舉措，也是中國在推動(dòng)全球人工智能治理法治化進(jìn)程中扮演關(guān)鍵角色的重要體現(xiàn)。

各國需在形成充分共識(shí)基礎(chǔ)上通力協(xié)作

由于技術(shù)發(fā)展水平和文化背景差異，各國對(duì)人工智能風(fēng)險(xiǎn)的感知也顯著不同。斯坦福大學(xué)人工智能研究所發(fā)布的《2023年人工智能指數(shù)報(bào)告》引用調(diào)查機(jī)構(gòu)易普索（IPSOS）2022年的調(diào)查指出，部分發(fā)展中國家對(duì)人工智能普遍更加樂觀。如78%的中國受訪者同意“使用人工智能產(chǎn)品和服務(wù)的好處多于壞處”的觀點(diǎn)，76%的沙特阿拉伯受訪者和71%的印度受訪者認(rèn)為人工智能產(chǎn)品“利大于弊”。德國、荷蘭、澳大利亞、比利時(shí)和加拿大等一些發(fā)達(dá)國家對(duì)人工智能產(chǎn)品和服務(wù)的評(píng)價(jià)則稍顯負(fù)面。

“當(dāng)前，全球人工智能治理面臨不少挑戰(zhàn)。”姚旭說，一是一些國家將人工智能等科技領(lǐng)域安全泛化，在合作當(dāng)中設(shè)置了諸多藩籬。二是人工智能全球治理的總體架構(gòu)尚不明確。各個(gè)層面建立何種機(jī)制更為有效尚未明確，全球范圍內(nèi)人工智能治理的制度競爭正變得愈發(fā)激烈。三是人工智能全球治理的思路尚未統(tǒng)一，具體的治理方案和標(biāo)準(zhǔn)上還有很多爭論，例如如何進(jìn)行人工智能安全分級(jí)標(biāo)準(zhǔn)界定，如何確立重點(diǎn)治理的人工智能風(fēng)險(xiǎn)類別，如何將立法節(jié)奏和創(chuàng)新動(dòng)力進(jìn)行適配等。

張欣表示，現(xiàn)階段，全球人工智能發(fā)展面臨的監(jiān)管挑戰(zhàn)集中體現(xiàn)在5個(gè)方面：一是步伐困境。人工智能監(jiān)管框架發(fā)展跟不上技術(shù)發(fā)展迭代的速度。二是技術(shù)鴻溝。人工智能模型越來越復(fù)雜，參數(shù)量越來越大，這導(dǎo)致原來構(gòu)建的基于透明度的人工智能治理框架應(yīng)對(duì)乏力。三是資本逐利。人工智能發(fā)展過程中資本的逐利可能導(dǎo)致技術(shù)異化。四是歸責(zé)框架仍不清晰，對(duì)人工智能產(chǎn)生的風(fēng)險(xiǎn)和損害如何有效歸責(zé)仍然是一項(xiàng)亟待解決的問題。五是協(xié)作治理機(jī)制尚不健全。由于人工智能帶來的很多風(fēng)險(xiǎn)具有全球性，各國需要在形成充分共識(shí)的基礎(chǔ)上通力協(xié)作。但目前的人工智能全球治理格局初步形成，仍然有碎片化特征，需要采取更多措施構(gòu)建共建共治共享的全球治理機(jī)制。

《人工智能全球治理上海宣言》提出，倡導(dǎo)開放與共享的精神，推動(dòng)全球人工智能研究資源的交流與合作。建立合作平臺(tái)，促進(jìn)技術(shù)轉(zhuǎn)移與成果轉(zhuǎn)化，推動(dòng)人工智能基礎(chǔ)設(shè)施公平分配，避免技術(shù)壁壘，共同提升全球人工智能的發(fā)展水平；倡導(dǎo)建立全球范圍內(nèi)的人工智能治理機(jī)制，支持聯(lián)合國發(fā)揮主渠道作用，歡迎加強(qiáng)南北合作和南南合作，提升發(fā)展中國家的代表性和發(fā)言權(quán)；鼓勵(lì)國際組織、企業(yè)、研究機(jī)構(gòu)、社會(huì)組織和個(gè)人等多元主體積極發(fā)揮與自身角色相匹配的作用，參與人工智能治理體系的構(gòu)建和實(shí)施。

作為全球最大的發(fā)展中國家，中國始終將發(fā)展中國家的期待與需求放在重要位置。《全球人工智能治理倡議》指出，增強(qiáng)發(fā)展中國家在人工智能全球治理中的代表性和發(fā)言權(quán)，確保各國人工智能發(fā)展與治理的權(quán)利平等、機(jī)會(huì)平等、規(guī)則平等，開展面向發(fā)展中國家的國際合作與援助，不斷彌合智能鴻溝和治理能力差距。

中國常駐聯(lián)合國代表傅聰介紹加強(qiáng)人工智能能力建設(shè)國際合作決議草案時(shí)表示，大多數(shù)國家特別是發(fā)展中國家尚未能真正接觸、使用人工智能并從中受益，全球數(shù)字鴻溝仍有擴(kuò)大之勢(shì)。在此背景下，中國順應(yīng)廣大國家特別是發(fā)展中國家的期待，倡導(dǎo)人工智能能力建設(shè)國際合作，平等發(fā)展和利用人工智能技術(shù)，共享人工智能知識(shí)成果，體現(xiàn)了中國對(duì)人工智能發(fā)展和治理的負(fù)責(zé)任態(tài)度。

清華大學(xué)人工智能國際治理研究院副院長肖茜日前表示，作為推動(dòng)人工智能技術(shù)和治理發(fā)展的重要國家，中國在不同場合提出為發(fā)展而治理，以聯(lián)合國為核心的治理模式，豐富了人工智能全球治理的理論與實(shí)踐，使大多數(shù)還沒有享受人工智能發(fā)展紅利、沒有從人工智能發(fā)展中受益的廣大發(fā)展中國家看到了希望。她還表示，發(fā)展與安全作為人工智能治理的一體兩翼，應(yīng)當(dāng)平衡推進(jìn)。安全不是人工智能治理的全部，更不是發(fā)達(dá)國家俱樂部的專利。人工智能全球治理應(yīng)致力于在聯(lián)合國框架內(nèi)團(tuán)結(jié)全球更多國家，調(diào)動(dòng)多元力量。國際社會(huì)在持續(xù)推進(jìn)人工智能安全治理進(jìn)程的同時(shí)，應(yīng)推動(dòng)技術(shù)開源開放、人才交流互通，幫助更多的國家和人群享受人工智能發(fā)展成果。