導(dǎo)讀：
本文基于上世紀50年代至今全球范圍內(nèi)1617篇人工智能倫理治理文檔，對人工智能的倫理治理開展全景梳理。研究發(fā)現(xiàn)，人工智能的倫理治理匯集了全球力量，剛?cè)岵瞧渲饕獞B(tài)勢。各國家、地區(qū)和國際組織在制定人工智能倫理規(guī)范時既有基本共識，也存在維度偏向。實用主義與主動參與是其基本取向。未來人工智能的全球治理需進一步提升能力，擴展合作，彌合鴻溝。
2016年，基于深度學(xué)習(xí)的人工智能圍棋模型AlphaGo在與李世石的圍棋對決中一戰(zhàn)成名。僅在一年后，2017 年6月12日，來自美國谷歌公司的八位研究者發(fā)布的論文“Attention is all you need”成為生成式人工智能廣泛應(yīng)用于人類社會的基石[1]。美國人工智能實驗室OpenAI于2022年11月基于該論文提出的Transformer模型發(fā)布生成式人工智能應(yīng)用ChatGPT，甫一問世便迅速成為史上增速最快的消費級應(yīng)用，開啟生成式人工智能廣泛應(yīng)用的先河。隨著模型的不斷更新迭代，最新一代模型能夠完成從自動生成文本到生成簡短視頻等的多模態(tài)任務(wù)。迄今為止，十數(shù)種大型高性能模型和更多基于特定場景的小模型相繼推出，人工智能的應(yīng)用正從想象變成現(xiàn)實，引領(lǐng)新一輪改變?nèi)祟惿鐣目萍几锩?/span>
然而，對于這一進程的復(fù)雜憂思也同時興起，在人工智能的研究、應(yīng)用與產(chǎn)業(yè)擴散進程中，涉及的社會議題與法律難題日益引發(fā)關(guān)切，包括但不限于數(shù)據(jù)隱私安全、算法透明度、知識產(chǎn)權(quán)、倫理道德以及技術(shù)濫用等。當前，人工智能倫理治理的對象正從單一甚至是封閉系統(tǒng)內(nèi)的數(shù)據(jù)擴展至生成式人工智能的應(yīng)用，微觀視角下，基于移動互聯(lián)網(wǎng)迅速擴散的新型人工智能應(yīng)用聯(lián)結(jié)社會各領(lǐng)域，涌現(xiàn)的一系列復(fù)雜問題急需各方解決；從宏觀視角看，倫理治理是選擇倫理復(fù)雜性相對最小化甚至經(jīng)濟效益相對最大化的治理路徑，還是選擇尊重各方權(quán)益的帕累托改進也亟需觀察。
鑒于此背景，本文基于浦江人工智能實驗室OpenEGlab開放數(shù)據(jù)庫中上世紀50年代至今的1617篇人工智能政策、標準化文件、合作協(xié)議等相關(guān)文檔，對全球范圍內(nèi)的人工智能倫理治理的特征與要素進行梳理，為理解當前人工智能倫理治理的全球?qū)嵺`提供參照，為構(gòu)建更大范圍的治理共識提供對話基礎(chǔ)。
一、全球人工智能倫理治理實踐與研究概述
（一）人工智能倫理治理的范疇界定
人工智能倫理治理屬于科技倫理治理，是各相關(guān)主體以倫理原則為指導(dǎo)，解決科技發(fā)展面臨的倫理與社會問題，促進科技有益發(fā)展的方式總和[2]，其核心是促進人工智能朝向有益人類福祉和社會安康的方向發(fā)展。[3]當前，雖然在表述和執(zhí)行力度方面存在差異，但“以人為本”是不同國家、不同場景的倫理治理實踐所認可的基本共識。自2020年至今，隨著人工智能的應(yīng)用日益嵌入各社會場景，各國、國際組織在政策實踐中圍繞人工智能的治理實踐文本迅速增加，人工智能的治理實踐日益多元化，在約束力的不同層次與治理類型的多樣化上不斷推進，人工智能治理的“潮頭”已經(jīng)形成。
（二）人工智能倫理治理的全球參與
截至2024年8月，全球范圍內(nèi)多達106個國家、國際組織與地區(qū)推出了人工智能的相關(guān)治理規(guī)則，全球合作廣泛展開。2023年3月，聯(lián)合國教科文組織號召各國立即執(zhí)行其于2021年11月發(fā)布的《人工智能倫理問題建議書》[4]，并推促一系列以倫理原則為核心的非正式合作；2023年5月，美國國會發(fā)布《生成式人工智能和數(shù)據(jù)隱私的初步報告》，2023年10月，白宮辦公室發(fā)布《關(guān)于安全、可靠、值得信賴地發(fā)展和使用人工智能的行政命令》；2024年1月，歐盟委員會、歐洲議會和歐盟理事會共同完成了《人工智能法》的定稿；2023年11月，英國召集人工智能安全峰會發(fā)布《布萊切利宣言》，圍繞AI全球機遇和挑戰(zhàn)提出了多項議程，支持以全球合作的方式設(shè)立AI安全的研究網(wǎng)絡(luò)，并通過維持該對話機制以服務(wù)于全人類利益；2024年7月4日，世界人工智能大會暨人工智能全球治理高級別會議發(fā)表《人工智能全球治理上海宣言》，呼吁推動制定和采納具有廣泛國際共識的人工智能的倫理指南與規(guī)范，引導(dǎo)人工智能技術(shù)健康發(fā)展，防止其被誤用、濫用或惡用。
二、全球人工智能倫理治理的主導(dǎo)進程與基本路徑
（一）全球人工智能倫理治理的主導(dǎo)進程
1.剛?cè)岵喝斯ぶ悄軅惱碇卫淼闹饕厔荨τ谌斯ぶ悄苓@一仍在高速發(fā)展的技術(shù)，各方均認識到其引發(fā)的科技革命尚在早期，直接立法限制無法充分應(yīng)對其復(fù)雜的發(fā)展樣態(tài)，甚至可能造成發(fā)展停滯的巨大代價。但放任技術(shù)發(fā)展則可能帶來如隱私泄露、勞動力替代等問題，因而“軟性”的倫理治理成為人工智能治理的重要方式。相比具有國家強制力的“硬法”，“軟法”是指不具有任何約束力或約束力比傳統(tǒng)硬法更弱的準法律文件，包括國際組織的非條約性協(xié)議，以及各國國內(nèi)由政府、社會組織提出的具有約束力的社會規(guī)范等。[5]
落實在人工智能治理進程中，從“軟”至“硬”的規(guī)則文本包括倫理原則、發(fā)展戰(zhàn)略與政策計劃、標準化文件與法律法規(guī)，基于數(shù)據(jù)集分別描述統(tǒng)計不同類型人工智能治理文本的發(fā)布情況發(fā)現(xiàn)：自2016年起，在人工智能治理浪潮中，以促進發(fā)展為目的的政策原則在全球范圍內(nèi)普遍展開，與之同步的是倫理宣言、共識文件的密集簽署與發(fā)布，2020年后，與發(fā)展和倫理相關(guān)的行動已經(jīng)告一段落，而更具強制力的法律法規(guī)和產(chǎn)業(yè)界執(zhí)行落實的標準化文件的推出密度迅速增大，在2021年達到歷史性的新高。
2.維度偏向：人工智能倫理治理的國別比較。歷經(jīng)一輪倫理治理浪潮后，當前全球范圍內(nèi)的人工智能的規(guī)則秩序仍在形成階段，而不同國家倫理治理規(guī)則在文本量上呈現(xiàn)顯著的“馬太效應(yīng)”：從政策發(fā)布量的角度看，規(guī)則密度（相同時間段內(nèi)的政策數(shù)目）前十的國家與國際組織占比超過總規(guī)則數(shù)的一半，作為關(guān)鍵性質(zhì)的前沿科技，人工智能的發(fā)展水平與治理水平能夠預(yù)期提升各國競爭力，在競爭人工智能倫理治理的過程中，在其他相關(guān)領(lǐng)域具有領(lǐng)先地位的組織往往能夠取得顯著的先發(fā)優(yōu)勢，而其他組織則被迫居于落后地位。當前，美國、中國、歐盟的政策密度顯著高于其他國家與國際組織，呈現(xiàn)“三足鼎立”的發(fā)展態(tài)勢（見表1）。
為更進一步對人工智能倫理治理的主導(dǎo)特征進行描摹，基于政府在人工智能技術(shù)發(fā)展中的積極或被動角色，以及政府是集中于規(guī)范潛在風(fēng)險還是優(yōu)先發(fā)展人工智能兩種維度，國家或國際組織的治理角色可以區(qū)分為市場導(dǎo)向型（被動-發(fā)展）、發(fā)展型（積極-發(fā)展）、監(jiān)管型（積極-規(guī)范）與自我調(diào)節(jié)型（被動-規(guī)范）四種理想類型（Ideal Type）[8]。比較治理圖譜的倫理治理傾向與治理規(guī)則文本，能依照其政策取向定位每個國家于其中的一種或兩種類型，參考全球倫理治理政策密度的情況，我們選取美國、歐盟與中國作為代表性的國家和地區(qū)進行比較分析。
美國作為本輪人工智能發(fā)展浪潮的誕生地，其人工智能技術(shù)與產(chǎn)業(yè)發(fā)展位于世界頂尖水平，為維護其在產(chǎn)業(yè)發(fā)展中的領(lǐng)先地位，其治理角色介于市場導(dǎo)向型與自我調(diào)節(jié)型之間，傾向于推進人工智能發(fā)展，國家在軍事等關(guān)鍵領(lǐng)域干預(yù)，依賴市場機制和各州自行立法驅(qū)動技術(shù)創(chuàng)新。表現(xiàn)為“總統(tǒng)發(fā)布戰(zhàn)略、美國國家科學(xué)技術(shù)委員會布局發(fā)展、美國國家標準技術(shù)研究所主責(zé)倫理風(fēng)險管理標準”的相對穩(wěn)定的框架。[9]同時，部分代表產(chǎn)業(yè)界的觀點認為，應(yīng)秉持非必要不干預(yù)的原則，對基于倫理自律外的法律監(jiān)管抱持較強的排斥態(tài)度[10]，強調(diào)對政府的監(jiān)管范圍施加限制。
歐盟向來高度重視隱私保護等人格權(quán)益的法律保障，近年來在人工智能發(fā)展中并未進入第一梯隊，為發(fā)揮其在國際法與國際組織中的治理傳統(tǒng)，尋求國際影響，歐盟以管控風(fēng)險為主導(dǎo)形成自我調(diào)節(jié)與監(jiān)管并重的治理角色。早在2021年4月，歐盟委員會就提出關(guān)于人工智能的監(jiān)管框架草案，嘗試基于“風(fēng)險”視角對人工智能系統(tǒng)進行分類與橫向監(jiān)管。歐洲議會及時跟進生成式人工智能的發(fā)展動態(tài)并迅速開啟規(guī)范化討論，試圖提出有效的監(jiān)管措施。在2022年《數(shù)字權(quán)利和原則的歐洲宣言》中，強調(diào)數(shù)字化轉(zhuǎn)型應(yīng)以人為中心，倡導(dǎo)團結(jié)與包容等關(guān)鍵原則。并在全球首先立法實踐人工智能治理[11]，充分彰顯其敏捷的實效，對全球各國的倫理治理實踐具有較強的影響力。
中國兼具發(fā)展型與監(jiān)管型國家的角色特質(zhì)，高度重視倫理治理與人工智能發(fā)展的平衡，采納積極政策推進先進人工智能服務(wù)社會，同時持續(xù)推進倫理原則的細化與落實?！度斯ぶ悄軅惱碇卫順藴驶改?/span>(2023版）》則從技術(shù)框架出發(fā)，為人工智能倫理標準體系提供了明確的界定以指導(dǎo)人工智能倫理治理的具體實踐?！渡墒饺斯ぶ悄芊?wù)管理暫行辦法》率先就生成式人工智能監(jiān)管這一議題提出特定的倫理規(guī)范，將備案程序與算法治理內(nèi)容融合，要求企業(yè)發(fā)揮能動性為用戶提供舉報渠道，強化了倫理治理在技術(shù)法規(guī)中的作用，體現(xiàn)了中國在人工智能服務(wù)管理方面迅速跟進的治理能力。
3.匯聚合力：聯(lián)合國等國際組織推進的全球合作。各國在倫理治理中的角色自主一方面有助于維護獨立的治理主權(quán)，但受制于國家角色差異，國際倫理治理政策的不平衡也為監(jiān)管套利等問題留下了隱患，面對各國獨自治理所難以覆蓋的難題，以聯(lián)合國為代表的政府間國際組織對于匯聚人工智能倫理治理合力，加強國際對話有不可或缺的作用。
聯(lián)合國的人工智能倫理行動旨在成為全球治理的關(guān)鍵中介，其行動關(guān)涉議題多元，影響廣泛，在形塑全球合作過程中具有三大突出作用：一是通過全球倡議呼吁關(guān)注倫理議題?！度斯ぶ悄軅惱韱栴}建議書》得到聯(lián)合國教科文組織193個會員國一致通過，這一規(guī)范能夠為人工智能的全球治理提供必要的倫理框架。[12]二是通過組織分工多層次推進落實倫理規(guī)范。2023年10月26日，聯(lián)合國組建高級別人工智能咨詢機構(gòu)，就人工智能可能產(chǎn)生的偏見歧視等關(guān)鍵問題展開討論。三是調(diào)用既有合作模式構(gòu)筑倫理治理合作平臺。近期，以教科文組織為代表的聯(lián)合國相關(guān)機構(gòu)積極推進國家與全球科技公司的倫理共識，協(xié)同八大全球性科技公司簽署開創(chuàng)性協(xié)議，落實《人工智能倫理問題建議書》中的倫理原則。
經(jīng)濟合作與發(fā)展組織的出版物和統(tǒng)計數(shù)據(jù)庫是全球各國與國際組織研究經(jīng)濟、社會、環(huán)境等多方面問題的重要資源。在人工智能倫理治理領(lǐng)域，OCED的倫理治理實踐傾向于發(fā)展議題，相對較少討論隱私等風(fēng)險性問題，重點實踐包括聚焦倫理原則以實現(xiàn)可信任的AI[13]，匯集力量關(guān)注AI引致的就業(yè)替代等經(jīng)濟與社會領(lǐng)域的關(guān)鍵問題[14]。
（二）全球人工智能倫理治理的基本路徑
雖然受限于決策博弈的影響和國際合作機制的欠缺，當前倫理治理全球合作的統(tǒng)一協(xié)調(diào)存在較多阻礙，不過當前倫理治理的基本路徑高度相似：生成式人工智能的泛用特征要求各方采納相近的治理邏輯，而通用人工智能方興未艾的發(fā)展現(xiàn)狀與難以準確預(yù)測的發(fā)展前景，促使各利益攸關(guān)方以自律為核心，主動參與倫理治理實踐。
1.實用主義：尋求發(fā)展與安全兼顧的政策模式。發(fā)展人工智能、盡可能讓人工智能應(yīng)用賦能社會各界是多數(shù)國家的主要需求，而保障這一進程的安全是各國與國際組織關(guān)心的首要治理目標。這些需求和目標具體表現(xiàn)為堅守以人為本的倫理原則，有效管控人工智能的權(quán)責(zé)歸屬、隱私問題、偏見等倫理風(fēng)險，適當監(jiān)管人工智能的算力、算法與數(shù)據(jù)等情境中。近年來，人工智能的迅速發(fā)展與變遷使得各方在政策制定時更多考慮現(xiàn)實條件與緊迫問題，充分開展治理創(chuàng)新，采納鼓勵符合倫理原則的技術(shù)發(fā)展實用主義取向的“治理工具箱”。
采取軟性治理的方式不易壓制技術(shù)活力，能夠較好地保護人工智能的產(chǎn)業(yè)發(fā)展，因而成為各國在當下推進人工智能倫理治理的普遍選擇。同時各國通過行業(yè)自律公約、倫理規(guī)范、標準指南等軟法程序?qū)崿F(xiàn)治理目標也有更好的敏捷性[15]。比如新加坡信息通信與媒體發(fā)展局開發(fā)人工智能核查（AI Verify）治理工具包，幫助相關(guān)組織通過標準化測試驗證其人工智能系統(tǒng)的功能，確保它們符合國際認可的人工智能倫理原則。新加坡政府還支持隱私強化技術(shù)（PETs）的研究和開發(fā)，并在實踐中推廣。
2.主動參與：探索自律與他律結(jié)合的安全策略。由于人工智能的發(fā)展迅速且不可預(yù)測，采用事后的技術(shù)評估治理人工智能往往為時已晚，以技術(shù)治理技術(shù)的嘗試可能引發(fā)更復(fù)雜的倫理問題。當前的人工智能發(fā)展階段中，研發(fā)者的自律（負責(zé)任的研究和創(chuàng)新）是安全策略的首要要求，各方普遍要求開發(fā)人員在采取高風(fēng)險的行動之前（如將新型智能應(yīng)用上線用戶測試）必須主動準備好控制風(fēng)險的相關(guān)措施。
為實現(xiàn)開發(fā)者自律與快速響應(yīng)，透徹理解技術(shù)的相關(guān)機構(gòu)監(jiān)督開發(fā)人員是實現(xiàn)自律的必要前提。各國政府正認真對待跨國科技公司對倫理治理的參與性與主動性，比如美國國會邀請OpenAI首席執(zhí)行官和IBM首席隱私和信任官參與聽證會以了解人工智能潛在風(fēng)險，避免重蹈社交媒體監(jiān)管失當?shù)膯栴}。[16]中國發(fā)展具有特色的網(wǎng)絡(luò)空間約談制度以調(diào)和矛盾，堅持問題導(dǎo)向，確定權(quán)責(zé)主體，以監(jiān)督企業(yè)履行主體責(zé)任。[17]英國政府則要求組織在使用人工智能時提供清晰的相關(guān)信息，以增強公眾信任。[18]
三、任重道遠：邁向人工智能善治的漫長征程
當前人工智能倫理治理的規(guī)則體系正形成剛?cè)岵闹卫砟Ｊ?，展望未來，在多重地緣政治的挑?zhàn)下全球范圍的人工智能治理實踐仍然任重道遠。全球人工智能倫理治理仍需要各國、地區(qū)與國際組織超越自身治理局限，立足倫理治理的基本路徑，提高治理能力，推促形成發(fā)展與治理合力。
（一）提升治理能力，共建智能社會
在促進發(fā)展與保障安全相互平衡的基本路徑下，不斷權(quán)衡、動態(tài)調(diào)整是可預(yù)期的近未來人工智能倫理治理主旋律。但隨著人工智能逐漸成為完備的智能體嵌入人類生活各方面，各國的人工智能倫理治理還將應(yīng)對各類難以充分預(yù)期的挑戰(zhàn)：當前視為顯而易見的治理主體、路徑、場景的關(guān)系并非絕對穩(wěn)定，隨著人工智能融入社會生活，社會治理的各維度逐漸與人工智能的治理議題重合，問題的復(fù)雜性提升。未來人工智能的倫理治理必然需要考慮人工智能本身日益顯著的能動性，治理對象也可能成為新的治理主體。
因而在倫理實踐上，需要盡快提升倫理治理實效，倫理治理的走深細化更需要各方追蹤潛在的人工智能核心技術(shù)突破，尤其關(guān)注研發(fā)者的自律水平。吸納多方利益攸關(guān)者，以把握人工智能倫理的復(fù)雜情境，推進人工智能服務(wù)全社會的組織與制度設(shè)計。關(guān)注利用人工智能技術(shù)嘗試數(shù)字永生等顯著存在重大倫理風(fēng)險的后生命技術(shù)，將此類存在極大爭議的倫理議題從學(xué)術(shù)討論落實至政策議程，維護以人為本的倫理治理核心原則。
（二）擴展合作機制，應(yīng)對競爭議題
與多數(shù)新技術(shù)一樣，生成式人工智能正遵循技術(shù)周期的發(fā)展路徑，一項技術(shù)的最初成功引發(fā)的科技泡沫可能會因為技術(shù)功能的不及預(yù)期而破滅，后續(xù)隨著技術(shù)迭代和各界的創(chuàng)新采納，最后達到“生產(chǎn)力高原”[19]。在這一進程中，彌合各方的判斷差異始終立足于全球?qū)用娴挠行Ш献?。面對倫理治理的訴求，全球人工智能倫理治理需要運作良好的對話機制與相對穩(wěn)定的國際環(huán)境，以平衡各方的主導(dǎo)訴求差異，增進對話與理解的同時，關(guān)注具有重大隱患但并不緊迫的倫理議題，比如部分組織以促進商業(yè)投資為目的，對人工智能創(chuàng)造效益的評估基于潛在的人力資本替代程度。并且，有必要避免價值相對主義，形成合力阻止單一國家或組織的話語基于自身政治經(jīng)濟利益無視以人為本等基本倫理原則，維護人工智能良善發(fā)展。
（三）考慮多元訴求，彌合數(shù)字鴻溝
對全球南方國家而言，決策資源不足、治理人才不充分是阻礙更廣泛地參與人工智能倫理行動與促進人工智能良善發(fā)展的主要原因。據(jù)聯(lián)合國的統(tǒng)計，2023年仍有超過26億人無法使用互聯(lián)網(wǎng)。[20]伴隨人工智能應(yīng)用不斷泛化，倫理治理的落實將與長期且系統(tǒng)性地彌合數(shù)字鴻溝進程并行。不過，雖然當前倫理治理的政策實踐存在強者恒強的“馬太效應(yīng)”，但同時也存在著多方參與的“長尾效應(yīng)”，在發(fā)展人工智能中不占據(jù)充分優(yōu)勢的中小國家正根據(jù)自身國情制定人工智能的戰(zhàn)略政策和法律法規(guī)，未來的倫理治理研究也需要關(guān)注全球南方國家提出的倫理方案，未來的全球合作有必要推動支持人工智能先發(fā)國家負責(zé)任的開放創(chuàng)新和倫理治理領(lǐng)域的知識共享和開源，[21]吸納全球南方國家的治理訴求，共創(chuàng)全球人工智能“善治”的共同愿景。
來源：《青年記者》2024年第10期
作者：方師師（上海社會科學(xué)院新聞研究所副研究員）；葉梓銘（上海社會科學(xué)院新聞研究所碩士研究生）
