陳聰:軍事智能化的法律應(yīng)對

最近中文2019字幕第二页,艳妇乳肉豪妇荡乳,中日韩高清无专码区2021,中文字幕乱码无码人妻系列蜜桃,曰本极品少妇videossexhd

陳聰:軍事智能化的法律應(yīng)對

黨的十九大報告指出,要“加快軍事智能化發(fā)展”。軍事智能化是機(jī)械化、信息化之后軍事領(lǐng)域發(fā)展的新趨勢和新方向,是世界軍事技術(shù)的新的戰(zhàn)略制高點(diǎn)。大數(shù)據(jù)、云計算、物聯(lián)網(wǎng)、深度學(xué)習(xí),以及傳感技術(shù)、無人技術(shù)、腦控技術(shù)等在軍事領(lǐng)域的應(yīng)用,正在強(qiáng)力推動戰(zhàn)爭形態(tài)向智能化轉(zhuǎn)變,這必將使未來戰(zhàn)爭場景發(fā)生翻天覆地變化。軍事智能化的飛速發(fā)展,也將直接對現(xiàn)行相關(guān)法律制度帶來沖擊和挑戰(zhàn)。

“戰(zhàn)斗員”身份的判定

“戰(zhàn)斗員”身份在武裝沖突法體系中具有重要意義,是界定參戰(zhàn)者權(quán)利義務(wù)的重要依據(jù)。當(dāng)前,越來越多的智能軍用機(jī)器人出現(xiàn)在戰(zhàn)場上,它們具有持續(xù)作戰(zhàn)時間長、反應(yīng)能力快、生存能力強(qiáng)等特點(diǎn),在替代人類執(zhí)行特定軍事任務(wù)方面具有獨(dú)特優(yōu)勢。特別是隨著軍事智能化的進(jìn)一步發(fā)展,軍用機(jī)器人的智能化程度會越來越高,通過模仿人類神經(jīng)元之間的信息傳遞功能,建立人工神經(jīng)元網(wǎng)絡(luò)結(jié)構(gòu),利用計算機(jī)模擬人類的認(rèn)知過程和決策過程,可以像人類一樣觀察、學(xué)習(xí)、組織語言、處理數(shù)據(jù)、得出結(jié)論。甚至,在深度學(xué)習(xí)模型的應(yīng)用下,智能可以通過捕捉經(jīng)驗(yàn)來學(xué)習(xí)知識,在復(fù)雜系統(tǒng)中實(shí)現(xiàn)非常接近于人類的認(rèn)知方式,而不僅僅是簡單地利用邏輯關(guān)系、因果關(guān)系來進(jìn)行形式判斷。部分領(lǐng)域里,人工智能的思維能力可以達(dá)到或者超過人腦。軍用機(jī)器人原本應(yīng)當(dāng)屬于武器的范疇,但其向高度類人發(fā)展,使其在戰(zhàn)場上的身份定位越來越模糊。

《日內(nèi)瓦第一附加議定書》第43條對“戰(zhàn)斗員”的定義是:“有權(quán)直接參加敵對行動的沖突一方的武裝部隊成員(除第三公約第三十三條的規(guī)定所包括的醫(yī)務(wù)人員和隨軍牧師外)”。從措辭上看,這一規(guī)定并未將戰(zhàn)斗員的范圍牢牢限定在自然人上,沒有完全排除智能機(jī)器人作為戰(zhàn)斗員的可能性。按照傳統(tǒng)觀點(diǎn)來看,軍用機(jī)器人顯然不符合當(dāng)前“戰(zhàn)斗員”的構(gòu)成條件。但是,在未來軍用機(jī)器人的智慧可能大大超過人類的情況下,是否應(yīng)該賦予其作戰(zhàn)主體資格便成為無法回避的重要問題。“戰(zhàn)斗員”這一概念從產(chǎn)生之日起,就一直在發(fā)展演變之中。從1899年《海牙公約》提出“合法交戰(zhàn)者”,到1907年《陸戰(zhàn)法規(guī)慣例公約》明確提出“戰(zhàn)斗員”的概念,再到1949年日內(nèi)瓦四公約和1977年《日內(nèi)瓦第一附加議定書》對戰(zhàn)斗員范圍的界定和擴(kuò)展,“戰(zhàn)斗員”所涵蓋的范圍越來越大,所保護(hù)的對象也不斷增多。2016年歐盟委員會法律事務(wù)委員曾提交一項將最先進(jìn)的自動化機(jī)器人的身份定位為“電子人”的動議。與之相類似,未來高度自主的軍用機(jī)器人能否具有“戰(zhàn)斗員”的身份,將成為難以回避的一個法律問題。

新型智能裝備的法律地位

臨近空間是介于普通航空飛機(jī)的飛行空間和航天器軌道空間之間的區(qū)域。其空氣密度對于飛機(jī)等航空器來說過于稀薄,在減少阻力的同時也減少了對航空器的支撐;而對航天器而言,卻又顯得過于稠密,摩擦阻力太大,難以維持其第一宇宙速度的運(yùn)行軌道。因此,傳統(tǒng)的衛(wèi)星和飛機(jī)都無法涉足這一特殊領(lǐng)域。臨近空間飛行器具有目前飛機(jī)和衛(wèi)星所不具有的功用,在執(zhí)行相同任務(wù)時有得天獨(dú)厚的優(yōu)勢,成為當(dāng)前軍事智能化應(yīng)用的一個熱點(diǎn)領(lǐng)域。但是,由于現(xiàn)行國際法律制度缺乏對臨近空間的明確界定,導(dǎo)致臨近空間飛行器的法律性質(zhì)和法律地位并不明確。最直接的問題是,臨近空間飛行器在臨近空間飛行,是否侵犯他國領(lǐng)空?他國能否將其視為非法入境的軍用飛機(jī)擊落?由于外層空間和空氣空間的劃界問題一直沒有定論,而臨近空間作為空氣空間和外層空間中間一個新的細(xì)分概念,必然導(dǎo)致國際法調(diào)整上的空白。臨近空間飛行器的飛行是由國際航空法來調(diào)整,還是由外層空間法來調(diào)整,缺乏統(tǒng)一的認(rèn)識。

無人水下航行器的應(yīng)用也存在類似的問題。此類水下航行器可以自主控制和獨(dú)立航行,靈活方便,可廣泛用于執(zhí)行掃雷、偵察、情報搜集及海洋探測等任務(wù),還可能作為水下武器平臺、后勤支持平臺等裝備使用。這類自主式無人水下航行器與傳統(tǒng)概念上的船舶有著顯著區(qū)別,它不懸掛旗幟,一般也不會搭載船員,其目的也不是為了在海洋中航行通過,而主要是在水下執(zhí)行情報搜集、海洋探測等特殊任務(wù)。究其本質(zhì),它不是正常的通行船舶,而是在海中作業(yè)的機(jī)器人,無法擁有“船舶”的無害通過權(quán)、過境通行權(quán)、群島海道通過權(quán)和公海航行自由等權(quán)利。

軍事行動合法性的判斷

為了協(xié)調(diào)武裝沖突中“軍事需要”和“人道要求”的矛盾,現(xiàn)代國際法形成了一系列規(guī)范武力使用的規(guī)則,如區(qū)分平民與戰(zhàn)斗員、禁止攻擊失去作戰(zhàn)能力的人、禁止造成不必要傷害、軍事必要和相稱性原則等。軍事智能化發(fā)展帶來了“致命決策的去人類化”的特點(diǎn),這對傳統(tǒng)的軍事行動合法性的判斷提出了根本性的挑戰(zhàn)。

智能化執(zhí)行命令本質(zhì)上是智能化系統(tǒng)通過復(fù)雜精密的運(yùn)算進(jìn)行行動選擇,是對邏輯指令無條件的執(zhí)行。這使得其行為受到算法和數(shù)據(jù)的雙重制約,一旦數(shù)據(jù)出錯或者算法遭到敵方攻擊,智能設(shè)備很可能作出荒謬的選擇。美軍的“利劍”地面機(jī)器人在實(shí)戰(zhàn)中曾經(jīng)出現(xiàn)過這樣的問題:3臺“利劍”機(jī)器人在進(jìn)攻一個據(jù)點(diǎn)時,其中一臺機(jī)器人由于軟件缺陷,竟把槍口瞄準(zhǔn)了操作該機(jī)器人的軍人,該軍人對其發(fā)出“行動取消”的指令,失控的機(jī)器人仍然停不下來,美軍只能用火箭筒將其炸毀。此外,在復(fù)雜多變的動態(tài)環(huán)境中,人工智能的認(rèn)知能力雖然在有些方面強(qiáng)于人類,比如在情報分析、戰(zhàn)斗反應(yīng)等方面,智能化確實(shí)具有獨(dú)特的優(yōu)勢;但是,在排除主客觀復(fù)雜因素干擾等特定方面,人工智能依然遜于人類,易遭敵電子哄騙和電磁網(wǎng)絡(luò)攻擊,甚至被敵方所控制。這種犯錯和被控制的可能性,使戰(zhàn)爭中的不確定因素大大增加。在智能執(zhí)行指令的過程中,其運(yùn)作過程以軟件和代碼為主,本質(zhì)上還是數(shù)據(jù)處理,其本身無法真正產(chǎn)生內(nèi)在的尊重生命的人道觀念。雖然智能化可以大大提高軍事打擊的精度,避免戰(zhàn)爭中對平民和非軍事目標(biāo)的附帶損害;但是,將智能設(shè)備投入戰(zhàn)場,實(shí)際上一定程度上是把人類的人道主義關(guān)切交由系統(tǒng)和軟件來判斷,必然對當(dāng)前武裝沖突規(guī)則和國際人道法帶來新的挑戰(zhàn)。

戰(zhàn)爭責(zé)任的界定

智能化戰(zhàn)爭的條件下,在作戰(zhàn)指揮過程中,智能執(zhí)行指令與軍人執(zhí)行命令往往是相互交替或者相互交織在一起的。如果上級意志的傳遞在智能化這個環(huán)節(jié)上出了問題,責(zé)任如何區(qū)分界定成為一個新的問題。如果人工智能的程序或數(shù)據(jù)出了錯,導(dǎo)致了對指令的錯誤執(zhí)行,應(yīng)該由誰來承擔(dān)責(zé)任?比如,美國在巴基斯坦、也門進(jìn)行的無人機(jī)精準(zhǔn)轟炸,卻造成大量平民死亡。

在不同的智能系統(tǒng)中,戰(zhàn)爭責(zé)任的承擔(dān)還會有具體的差別。第一類是在網(wǎng)絡(luò)、防空等防護(hù)領(lǐng)域,往往存在自主反應(yīng)類的智能系統(tǒng)。這一領(lǐng)域?qū)τ诜磻?yīng)速度的要求非常高,需要快速決策。由人類來決策反應(yīng)往往是來不及的,那么實(shí)現(xiàn)智能化恰好可以發(fā)揮其優(yōu)勢。這一類智能執(zhí)行指令發(fā)生錯誤,法律責(zé)任甚至需根據(jù)情況追溯至智能開發(fā)者。如果開發(fā)者在設(shè)計時存在故意或重大過失而導(dǎo)致錯誤發(fā)生,開發(fā)者也無法免除責(zé)任。如果由于開發(fā)者基于當(dāng)時的認(rèn)知局限,不可能預(yù)見到未來發(fā)生的狀況,則是另外一個問題。第二類是與人類共同決策的智能系統(tǒng)。比如戰(zhàn)場機(jī)器人,自身具有一定的自主決策能力,但同時也受到人類在后臺的操控,通過系統(tǒng)的互聯(lián)、互通、互操作能力共同決策。但是,戰(zhàn)場上的目標(biāo)稍縱即逝,需要快速敏捷的“立即響應(yīng)”,一些智能機(jī)器人已經(jīng)實(shí)現(xiàn)了從傳感器到“射手”的自主同步。其接受人類指令進(jìn)入戰(zhàn)場,但在戰(zhàn)場的一些行為并未經(jīng)過操控者的確認(rèn)。機(jī)器人接受指令并完成,操作者應(yīng)當(dāng)對機(jī)器人可能的行為負(fù)責(zé)。第三類是協(xié)助人類決策的智能系統(tǒng)。軍事指揮決策領(lǐng)域中的人機(jī)協(xié)作非常廣泛,這類智能系統(tǒng)本身不作出決定,而是輔助人類進(jìn)行決策。比如美國的“深綠”計劃和指揮官虛擬參謀,采用主要仿真技術(shù),基于實(shí)時戰(zhàn)場態(tài)勢數(shù)據(jù),通過計算機(jī)多次模擬仿真,推演作戰(zhàn)方案的結(jié)果,預(yù)測敵方的行動和未來戰(zhàn)場走勢,引導(dǎo)指揮官做出正確的決策。在這類輔助決策性的智能系統(tǒng)中,智能主要起到的是提示和建議的作用,指揮員的指揮責(zé)任不可避免。智能錯誤能否成為責(zé)任阻卻之事由,在不同的情形下不能一概而論,這也是一個有待解決的新問題。

(作者單位:陸軍工程大學(xué)法學(xué)教研室)

責(zé)任編輯:佘小莉校對:郭浩最后修改:
0

精選專題

領(lǐng)航新時代

精選文章

精選視頻

精選圖片

微信公眾平臺:搜索“宣講家”或掃描下面的二維碼:
宣講家微信公眾平臺
您也可以通過點(diǎn)擊圖標(biāo)來訪問官方微博或下載手機(jī)客戶端:
微博
微博
客戶端
客戶端