四、我國加強人工智能倫理治理體系和治理能力建設(shè)的實踐

人工智能是新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力量。近年來，隨著人工智能技術(shù)的快速發(fā)展，與醫(yī)療、教育、文娛、制造和交通等場景加速融合，對社會生產(chǎn)力和生產(chǎn)關(guān)系都產(chǎn)生了廣泛而深刻的影響。但是，人工智能的快速發(fā)展和廣泛應(yīng)用，也引發(fā)了一系列的倫理問題。圍繞人工智能系統(tǒng)研發(fā)和應(yīng)用所產(chǎn)生的倫理問題的治理已成為當(dāng)前全球科技倫理治理的熱點議題。

黨的十八大以來，黨中央把發(fā)展人工智能提升到戰(zhàn)略高度，強調(diào)加快發(fā)展新一代人工智能是事關(guān)我國能否抓住新一輪科技革命和產(chǎn)業(yè)變革機遇的戰(zhàn)略問題，人工智能的發(fā)展將為我國構(gòu)建現(xiàn)代化經(jīng)濟體系、實現(xiàn)高質(zhì)量發(fā)展提供重要支撐。黨中央、國務(wù)院也高度重視人工智能倫理治理問題。2017年7月，國務(wù)院發(fā)布《新一代人工智能發(fā)展規(guī)劃》，要求必須高度重視人工智能可能帶來的安全風(fēng)險挑戰(zhàn)，加強前瞻預(yù)防與約束引導(dǎo)，最大限度降低風(fēng)險。2018年10月，習(xí)近平總書記在主持十九屆中央政治局第九次集體學(xué)習(xí)時強調(diào)，要“加強人工智能相關(guān)法律、倫理、社會問題研究，建立健全保障人工智能健康發(fā)展的法律法規(guī)、制度體系、倫理道德”。

什么是人工智能倫理？雖然在不同文化背景下，人們對不同倫理原則的排序以及對特定倫理原則的具體理解仍然存在差異，但從各國和國際組織發(fā)布的人工智能倫理原則來看，全球人工智能倫理原則呈現(xiàn)明顯的趨同趨勢。關(guān)于人工智能倫理的研究也出現(xiàn)了類似的變化，研究者關(guān)注的問題正逐漸從必要性討論、倫理準(zhǔn)則討論向?qū)嵤C制討論延伸，致力于縮小“是什么”和“怎么做”之間的鴻溝。

在這個過程中，人們對于人工智能倫理問題的界定有了更為豐富的層次，至少包括以下三個層面：一是人工智能系統(tǒng)開發(fā)過程中的倫理問題。人工智能系統(tǒng)由算法、數(shù)據(jù)和算力三個核心要素構(gòu)成，在討論人工智能倫理時，首先要考慮的三個問題是，算法本身是否符合倫理規(guī)范，數(shù)據(jù)采集、存儲、傳輸和利用是否符合倫理規(guī)范，以及算力建設(shè)和使用過程是否符合倫理規(guī)范。具體而言，在討論算法的倫理合規(guī)性時，人們普遍關(guān)注算法是否存在歧視和偏見，是否會造成技術(shù)紅利和風(fēng)險的不公正分配等；在討論數(shù)據(jù)的倫理合規(guī)性時，人們普遍關(guān)注數(shù)據(jù)采集、存儲、傳輸和利用是否符合個人信息保護等倫理規(guī)范等；在討論算力的倫理合規(guī)性時，人們普遍關(guān)注算力建設(shè)和使用過程中的環(huán)境倫理問題（比如能源消耗）等。二是人工智能產(chǎn)品和服務(wù)使用場景中的倫理問題。近年來，人們越來越關(guān)注醫(yī)療、教育、自動駕駛、新聞和社交媒體、市場營銷等重點領(lǐng)域人工智能技術(shù)應(yīng)用的倫理問題，比如人工智能技術(shù)引發(fā)了醫(yī)療安全、醫(yī)療責(zé)權(quán)歸屬、患者自主權(quán)以及診療過程中的歧視等一系列倫理爭議。三是人工智能治理中的倫理問題，主要包括：一方面，如何讓人工智能治理實踐符合倫理規(guī)范，比如以各種方式開展的人工智能社會實驗、人工智能沙盒監(jiān)管試點等都會涉及倫理問題；另一方面，人工智能治理如何與促進人工智能技術(shù)發(fā)展和應(yīng)用目標(biāo)保持適當(dāng)張力。

總之，在當(dāng)前的人工智能倫理研究和政策實踐中，需要人工智能技術(shù)研發(fā)、應(yīng)用和監(jiān)管主體應(yīng)充分關(guān)注倫理議題的豐富性和復(fù)雜性，既要對人工智能領(lǐng)域的科技創(chuàng)新活動和技術(shù)應(yīng)用活動進行倫理規(guī)范，也需要對人工智能治理活動本身持續(xù)進行倫理反思，充分考慮價值理性和工具理性、目的和工具之間的關(guān)系及倫理意涵。

什么是人工智能倫理治理？從治理角度看，人工智能倫理治理概念與其他新興技術(shù)的倫理治理概念沒有實質(zhì)性差別，要素上都包括治理主體、治理規(guī)則、治理對象、治理工具等要素，主要任務(wù)上都要處理好風(fēng)險和收益的平衡、治理機制和治理工具箱的開發(fā)與迭代等基本問題。但需要注意的是，每項新興技術(shù)的倫理治理既有共性，也至少存在三個方面的異質(zhì)性：一是技術(shù)的異質(zhì)性，在技術(shù)特點和應(yīng)用場景方面，人工智能技術(shù)與基因編輯技術(shù)和納米技術(shù)等新興技術(shù)存在很大差異；二是影響生成和傳導(dǎo)機制的異質(zhì)性，比如人工智能技術(shù)倫理風(fēng)險生成機制與基因編輯技術(shù)的倫理風(fēng)險生成機制存在很大差別；三是治理活動的發(fā)生情境的異質(zhì)性，新興技術(shù)的倫理治理活動都是發(fā)生在特定的社會文化和制度情境當(dāng)中，而這會直接影響人們對技術(shù)發(fā)展和應(yīng)用的風(fēng)險與收益的判斷、特定治理工具的有效性等。因此，當(dāng)人們討論人工智能倫理治理時，需要同時關(guān)注人工智能技術(shù)的特點、應(yīng)用場景、影響的類型及生成機制，以及治理活動展開和治理工具使用的社會情境。

在厘清上述兩個概念后，我們再來看近年來我國在推進人工智能倫理治理方面的實踐和進展，大致可從法律法規(guī)體系構(gòu)建、組織機構(gòu)和工作機制建設(shè)、治理工具開發(fā)和國際交流合作等四個方面來梳理：一是成立國家科技倫理委員會及人工智能倫理分委員會。2019年7月，中央全面深化改革委員會第九次會議審議通過了《國家科技倫理委員會組建方案》；2019年10月，中共中央辦公廳、國務(wù)院辦公廳印發(fā)通知，成立國家科技倫理委員會，隨后建立了國家科技倫理委員會人工智能倫理分委員會。

二是推動人工智能倫理治理相關(guān)法律法規(guī)體系建設(shè)。近年來，我國一方面構(gòu)建起了以《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》和《個人信息保護法》等為主架構(gòu)的法律體系，為人工智能倫理治理提供了重要的法律依據(jù)；另一方面以分散式立法的方式，加強了對個人數(shù)據(jù)、電子商務(wù)、智能金融、自動駕駛等與人工智能發(fā)展緊密相關(guān)領(lǐng)域的修法和立法工作。一些行業(yè)監(jiān)管部門也陸續(xù)出臺了一系列部門規(guī)章，以適應(yīng)本領(lǐng)域人工智能應(yīng)用監(jiān)管需要，比如2023年11月，中國人民銀行正式印發(fā)《人工智能算法金融應(yīng)用信息披露指南》，提出了人工智能算法在金融領(lǐng)域應(yīng)用過程中的信息披露原則、信息披露形式和信息披露內(nèi)容等要素；2024年5月，國務(wù)院辦公廳發(fā)布《國務(wù)院2024年度立法工作計劃》顯示，人工智能法草案被列為“預(yù)備提請全國人大常委會審議”。

三是持續(xù)探索人工智能倫理治理新工具和新方法。人工智能倫理規(guī)范的明確化和相關(guān)技術(shù)的發(fā)展，促進了確保人工智能系統(tǒng)的行為與人類價值觀保持一致的各種技術(shù)和方法的發(fā)展。在技術(shù)層面，快速發(fā)展的人工智能對齊技術(shù)、紅隊測試、安全評測等為提高人工智能系統(tǒng)的魯棒性、可解釋性、可控性和合倫理性提供了機會，越來越多的機構(gòu)開始把這類技術(shù)嵌入到人工智能研發(fā)和應(yīng)用全生命周期當(dāng)中。在治理機制層面，科技部、市場監(jiān)管總局、工業(yè)和信息化部等多部門開展了諸如人工智能社會實驗、沙盒監(jiān)管等新的監(jiān)管機制探索。2019年，科技部發(fā)布《國家新一代人工智能創(chuàng)新發(fā)展試驗區(qū)建設(shè)工作指引》，明確將開展人工智能社會實驗作為四項重點任務(wù)之一。2022年，市場監(jiān)管總局、工業(yè)和信息化部、交通運輸部、應(yīng)急部、海關(guān)總署五部門聯(lián)合發(fā)布《關(guān)于試行汽車安全沙盒監(jiān)管制度的通告》，共同啟動汽車安全沙盒監(jiān)管試點工作。

四是積極參與全球人工智能倫理治理交流合作。近年來，我國廣泛參與全球人工智能倫理治理合作，比如積極參與并簽署聯(lián)合國教科文組織2021年發(fā)布的《人工智能倫理問題建議書》，2023年11月受邀出席首屆全球人工智能安全峰會并簽署《布萊切利宣言》。2023年10月，我國發(fā)布《全球人工智能治理倡議》，提出堅持倫理先行，建立并完善人工智能倫理準(zhǔn)則、規(guī)范及問責(zé)機制，形成人工智能倫理指南，建立科技倫理審查和監(jiān)管制度。2023年11月，中美兩國元首同意建立人工智能政府間對話，并于2024年5月在瑞士舉行了首次會議。2024年5月，中國和法國簽署《中法關(guān)于人工智能和全球治理的聯(lián)合聲明》。2024年7月，聯(lián)合國大會通過了中國主提的《加強人工智能能力建設(shè)國際合作決議》，特別強調(diào)人工智能系統(tǒng)應(yīng)安全、可靠和值得信賴，其生命周期包括前期設(shè)計、設(shè)計、開發(fā)、評價、測試、部署、使用、銷售、采購、運行和淘汰等階段，這些系統(tǒng)必須以人為本、可靠、可解釋、符合道德、具有包容性，遵循人工智能造福所有人的原則，符合以人為本、具有包容性、面向發(fā)展的信息社會的愿景。