走向可計算的機器倫理與智能體倫理嵌入

回到人工智能的現(xiàn)實發(fā)展，隨著無人機、自動駕駛、社會化機器人、致命性自律武器等應(yīng)用的發(fā)展，涌現(xiàn)出大量人可能處于決策圈外的智能化自主認知、決策與執(zhí)行系統(tǒng)，這迫使人們在實現(xiàn)強人工智能之前，就不得不考慮如何讓人工智能體自主地做出恰當?shù)膫惱砭駬瘢噲D將人工智能體構(gòu)造為人工倫理智能體。從技術(shù)人工物所扮演的倫理角色來看，包括一般的智能工具和智能輔助環(huán)境在內(nèi)的大多數(shù)人工物自身往往不需要做出價值審度與道德決策，其所承擔(dān)的只是操作性或簡單的功能性的倫理角色：由人操作和控制的數(shù)據(jù)畫像等智能工具，具有反映主體價值與倫理訴求的操作性道德；高速公路上的智能交通管理系統(tǒng)所涉及的決策一般不存在價值爭議和倫理沖突，可以通過倫理設(shè)計植入簡單的功能性道德。反觀自動駕駛等涉及復(fù)雜的價值倫理權(quán)衡的人工智能應(yīng)用，其所面對的挑戰(zhàn)是：它們能否為人類所接受，在很大程度上取決于其能否從技術(shù)上嵌入復(fù)雜的功能性道德，將其構(gòu)造為人工倫理智能體。

讓智能機器具有復(fù)雜的功能性道德，就是要構(gòu)建一種可執(zhí)行的機器倫理機制，使其能實時地自行做出倫理抉擇。鑒于通用人工智能或強人工智能在技術(shù)上并未實現(xiàn)，要在智能體中嵌入其可執(zhí)行的機器倫理，只能訴諸目前的智能機器可以操作和執(zhí)行的技術(shù)方式——基于數(shù)據(jù)和邏輯的機器代碼——就像機器人三定律所對應(yīng)的電位一樣，并由此將人類所倡導(dǎo)或可接受的倫理理論和規(guī)范轉(zhuǎn)換為機器可以運算和執(zhí)行的倫理算法和操作規(guī)程。機器倫理的理論預(yù)設(shè)是可以用數(shù)量、概率和邏輯等描述和計算各種價值與倫理范疇，進而用負載價值內(nèi)涵的道德代碼為智能機器編寫倫理算法。論及倫理的可計算性，古典哲學(xué)家邊沁和密爾早就探討過快樂與痛苦的計算，而數(shù)量、概率、歸納邏輯和道義邏輯等都已是當代倫理研究的重要方法，機器倫理研究的新需求則力圖將“可計算的倫理”的思想和方法付諸實踐，如將效益論、道義論、生命倫理原則等轉(zhuǎn)換為倫理算法和邏輯程序。不得不指出的是，用數(shù)量、概率和邏輯來表達和定義善、惡、權(quán)利、義務(wù)、公正等倫理范疇固然有失片面與偏頗，但目前只能通過這種代碼轉(zhuǎn)換才能使人的倫理變成程序化的機器倫理。

在實踐層面，機器倫理構(gòu)建的具體策略有三：其一是自上而下，即在智能體中預(yù)設(shè)一套可操作的倫理規(guī)范，如自動駕駛汽車應(yīng)將撞車對他人造成的傷害降到最低。其二是自下而上，即讓智能體運用反向強化學(xué)習(xí)等機器學(xué)習(xí)技術(shù)研究人類相關(guān)現(xiàn)實和模擬場景中的行為，使其樹立與人類相似的價值觀并付諸行動，如讓自動駕駛汽車研究人類的駕駛行為。其三是人機交互，即讓智能體用自然語言解釋其決策，使人類能把握其復(fù)雜的邏輯并及時糾正其中可能存在的問題。但這些策略都有其顯見的困難：如何在量化和計算中準確和不走樣地表達與定義倫理范疇？如何使智能體準確地理解自然語言并與人進行深度溝通？

鑒于機器倫理在實踐中的困難，人工智能體的倫理嵌入不能局限于智能體，而須將人的主導(dǎo)作用納入其中?？尚械娜斯惱碇悄荏w或道德的智能機器的構(gòu)造應(yīng)該包括倫理調(diào)節(jié)器、倫理評估工具、人機接口和倫理督導(dǎo)者等四個環(huán)節(jié)。倫理調(diào)節(jié)器就是上述機器倫理程序和算法。倫理評估工具旨在對智能體是否應(yīng)該以及是否恰當?shù)卮砹讼嚓P(guān)主體的倫理決策做出評估，并對機器倫理的道德理論（如效益論、道義論等）和倫理立場（如個性化立場、多數(shù)人立場、隨機性選擇等）等元倫理預(yù)設(shè)做出評價和選擇。人機接口旨在使人與智能體廣泛借助肢體語言、結(jié)構(gòu)化語言、簡單指令乃至神經(jīng)傳導(dǎo)信號加強相互溝通，使機器更有效地理解人的意圖，并對人的行為做出更好的預(yù)判。倫理督導(dǎo)者則旨在全盤考量相關(guān)倫理沖突、責(zé)任擔(dān)當和權(quán)利訴求，致力于厘清由人類操控不當或智能體自主抉擇不當所造成的不良后果，進而追溯相關(guān)責(zé)任，尋求修正措施。

對人類文明而言，人工智能將是一個好消息還是壞消息，最終取決于我們的倫理智慧。在中國推出新一代人工智能發(fā)展規(guī)劃的今天，我們更要悉心體味孕育了巧奪天工精神和天工開物情懷的中國思想，審天人之性，度萬物之勢，以探求人機和諧、文明通達之道。

（作者：段偉文，系中國社會科學(xué)院哲學(xué)所研究員）