聯(lián)合國(guó)安理會(huì)最近的一份報(bào)告指出，2020年3月，一架土耳其STM公司生產(chǎn)的“卡古-2”軍用無(wú)人機(jī)，在被編程為不依靠操作員的情況下，在利比亞戰(zhàn)場(chǎng)上跟蹤并攻擊了正在撤退的“利比亞國(guó)民軍”，導(dǎo)致一人死亡。有報(bào)道稱(chēng)，這可能創(chuàng)下了致命性自主武器在自主模式下攻擊人類(lèi)的首個(gè)案例。
在沒(méi)有接收到任何指令的情況下自主對(duì)人類(lèi)發(fā)起襲擊，必將帶來(lái)戰(zhàn)爭(zhēng)倫理和作戰(zhàn)方式的雙重挑戰(zhàn)。事件曝光后，各國(guó)有識(shí)之士紛紛呼吁應(yīng)對(duì)致命性自主武器的發(fā)展和使用進(jìn)行限制。
一個(gè)明顯的趨勢(shì)
致命性自主武器擴(kuò)散到越來(lái)越多的國(guó)家，自主攻擊能力也在迅速提升
具備自主攻擊能力的軍用無(wú)人機(jī)同無(wú)人戰(zhàn)車(chē)、哨兵機(jī)器人、無(wú)人艦艇一樣，都屬于致命性自主武器系統(tǒng)，俗稱(chēng)“殺人機(jī)器人”。這些武器具有敵我識(shí)別、數(shù)據(jù)交換、指令交互、行動(dòng)協(xié)調(diào)等功能和全天候作戰(zhàn)能力，能根據(jù)實(shí)際戰(zhàn)場(chǎng)環(huán)境和態(tài)勢(shì)變化，實(shí)施自主化、無(wú)人化作戰(zhàn)行動(dòng)。
作為新型作戰(zhàn)力量的代表，致命性自主武器受到越來(lái)越多國(guó)家的重視。
近年來(lái)，俄羅斯相繼成立了國(guó)防部機(jī)器人技術(shù)裝備科學(xué)研究與試驗(yàn)總中心、無(wú)人機(jī)國(guó)家中心和陸軍機(jī)器人研發(fā)中心等機(jī)構(gòu)，大力發(fā)展致命性自主武器?！皧W蘭-10”無(wú)人機(jī)、“波塞冬”核動(dòng)力洲際無(wú)人潛航器、“平臺(tái)-M”履帶式機(jī)器人等裝備陸續(xù)亮相。預(yù)計(jì)到2025年，無(wú)人武器在俄裝備體系結(jié)構(gòu)中的比例將達(dá)到30%。
美國(guó)也發(fā)布了數(shù)份《無(wú)人系統(tǒng)綜合路線(xiàn)圖》，對(duì)未來(lái)無(wú)人武器發(fā)展作出長(zhǎng)遠(yuǎn)規(guī)劃。美軍計(jì)劃到2030年，將其60%的地面作戰(zhàn)平臺(tái)實(shí)現(xiàn)智能化。
此外，法國(guó)、日本、英國(guó)、土耳其、伊朗、韓國(guó)等國(guó)也加大了對(duì)致命性自主武器的研發(fā)和采購(gòu)力度。
與此同時(shí)，得益于人工智能、態(tài)勢(shì)感知、人機(jī)交互等技術(shù)的不斷進(jìn)步，近年來(lái)致命性自主武器的智能化水平也得到飛速發(fā)展。
早在2000年，美空軍研究實(shí)驗(yàn)室就提出了無(wú)人機(jī)自主能力的等級(jí)劃分標(biāo)準(zhǔn)，用來(lái)衡量無(wú)人機(jī)自主水平。“卡古-2”無(wú)人機(jī)屬于微型戰(zhàn)術(shù)多旋翼攻擊無(wú)人機(jī)，能按照預(yù)設(shè)航跡飛行，還能以20架組成一個(gè)機(jī)群壓制敵防空系統(tǒng)，搭載的自主目標(biāo)識(shí)別系統(tǒng)可以自主定位、跟蹤和識(shí)別人員、車(chē)輛等地面移動(dòng)目標(biāo)，進(jìn)行持續(xù)監(jiān)視或發(fā)動(dòng)攻擊。按照該標(biāo)準(zhǔn)，“卡古-2”無(wú)人機(jī)自主能力等級(jí)達(dá)到5級(jí)以上。
美軍正在實(shí)施“空戰(zhàn)進(jìn)化”“空天博格人”等一系列提升無(wú)人機(jī)自主作戰(zhàn)能力的研發(fā)項(xiàng)目。美國(guó)防部高級(jí)研究計(jì)劃局主導(dǎo)的“拒止環(huán)境下的協(xié)同作戰(zhàn)”項(xiàng)目，2018年至今利用“復(fù)仇者”“幽靈”“虎鯊”等不同無(wú)人機(jī)開(kāi)展了多次試飛演示，探索和深化分布式空戰(zhàn)無(wú)人機(jī)的自主和協(xié)同技術(shù)，驗(yàn)證的無(wú)人機(jī)自主能力等級(jí)已達(dá)到8級(jí)以上。
一組對(duì)立的矛盾
自主作戰(zhàn)能力的提升能減少己方傷亡和附帶損傷，也帶來(lái)相應(yīng)風(fēng)險(xiǎn)
通過(guò)人工智能等技術(shù)的應(yīng)用提高智能化水平和自主能力，一直是致命性自主武器的發(fā)展方向。
一是可以提高目標(biāo)判斷的準(zhǔn)確性和打擊精度，減少平民傷亡和其他附帶損傷；
二是隨著自主能力的提升，其可以更多地替代人類(lèi)執(zhí)行高難度和高風(fēng)險(xiǎn)任務(wù)，最大限度地避免己方人員傷亡；
三是采用自主識(shí)別和智能分析等技術(shù)，可以避免由于控制者精神不集中、目標(biāo)誤判等人為失誤引起的誤傷。
然而，硬幣都有兩面，致命性自主武器智能化水平的提升也帶來(lái)了相應(yīng)的風(fēng)險(xiǎn)。
其一，隨著人工智能技術(shù)的發(fā)展和擴(kuò)散，致命性自主武器得以廉價(jià)批量生產(chǎn)，極易被恐怖武裝或極端分子獲得，或被相關(guān)國(guó)家大規(guī)模裝備使用，從而引發(fā)新的沖突和軍備競(jìng)爭(zhēng)。目前，無(wú)人機(jī)已經(jīng)擴(kuò)散至包括極端組織“伊斯蘭國(guó)”在內(nèi)的多個(gè)武裝組織。敘利亞恐怖分子也曾多次使用無(wú)人機(jī)襲擊敘利亞政府軍和俄羅斯駐敘軍事設(shè)施。
其二，由于控制者遠(yuǎn)離戰(zhàn)場(chǎng)，其對(duì)軍事打擊的后果變得更為“麻木”。隨著越來(lái)越多的致命性自主武器出現(xiàn)在武裝沖突一線(xiàn)，人類(lèi)或?qū)⒈纫酝菀走~過(guò)戰(zhàn)爭(zhēng)的門(mén)檻。
其三，由于戰(zhàn)場(chǎng)態(tài)勢(shì)復(fù)雜或程序紕漏，致命性自主武器脫離人類(lèi)控制后，很難完全避免誤傷已經(jīng)喪失戰(zhàn)斗力的傷員和準(zhǔn)備投降的士兵，遵守相關(guān)國(guó)際法變得越發(fā)困難。
這些問(wèn)題的出現(xiàn)，以及由之引發(fā)的道德和倫理問(wèn)題，使得越來(lái)越多的人開(kāi)始探討如何從道德、條約、法律等不同層面規(guī)制致命性自主武器的發(fā)展和使用。
一種理性的聲音
人類(lèi)必須保留“喊?！钡臋?quán)力，必須通過(guò)國(guó)際法防止“潘多拉魔盒”打開(kāi)
此次“卡古-2”無(wú)人機(jī)自主攻擊事件，折射出國(guó)際社會(huì)采取行動(dòng)有效控制致命性自主武器的緊迫性，必須對(duì)具有自主決策能力的無(wú)人武器發(fā)展和使用進(jìn)行約束。
在相關(guān)領(lǐng)域?qū)＜铱磥?lái)，致命性自主武器在沒(méi)有人的干預(yù)下自動(dòng)選擇和攻擊目標(biāo)，意味著將剝奪鮮活的自然人生命的權(quán)利交給了冷酷無(wú)情的機(jī)器人。這既是“道義責(zé)任的缺失”，也對(duì)國(guó)際人道法和國(guó)際和平與安全提出了嚴(yán)峻的挑戰(zhàn)，是人類(lèi)“無(wú)法承受之重”，必須通過(guò)國(guó)際法的規(guī)制捂緊這個(gè)“潘多拉魔盒”。
中國(guó)在安理會(huì)常任理事國(guó)中首倡在聯(lián)合國(guó)《特定常規(guī)武器公約》框架下締結(jié)具有法律拘束力的國(guó)際協(xié)議來(lái)規(guī)制致命性自主武器。歐盟擬通過(guò)制定文件來(lái)避免自主武器對(duì)人類(lèi)的傷害，其發(fā)布的《可信任人工智能道德準(zhǔn)則》是首個(gè)否定致命性自主武器合理性和合法性的區(qū)域性國(guó)際法文書(shū)，提出人工智能不能侵犯人類(lèi)的自主性。2014年起，聯(lián)合國(guó)《特定常規(guī)武器公約》締約國(guó)根據(jù)會(huì)談機(jī)制，專(zhuān)門(mén)以致命性自主武器系統(tǒng)的軍備控制為議題，召開(kāi)多次非正式專(zhuān)家會(huì)議和正式政府專(zhuān)家組會(huì)議。聯(lián)合國(guó)人權(quán)理事會(huì)也成立專(zhuān)門(mén)委員會(huì)討論是否應(yīng)凍結(jié)“殺人機(jī)器人”研發(fā)。2018年在瑞典斯德哥爾摩舉行的國(guó)際人工智能聯(lián)合會(huì)議上，2400多名人工智能領(lǐng)域?qū)W者共同簽署《禁止致命性自主武器宣言》。
受戰(zhàn)爭(zhēng)倫理制約，開(kāi)火權(quán)不可能完全交由致命性自主武器，最多只是在特殊情況下部分地、有條件地放權(quán)。這種放權(quán)改變的只是人類(lèi)參與戰(zhàn)爭(zhēng)的方式，只是將傳統(tǒng)由有人武器完成的作戰(zhàn)任務(wù)交由無(wú)人武器執(zhí)行，人由前臺(tái)退居幕后，在后方起著控制或監(jiān)控作用。因此，即使未來(lái)致命性自主武器具備了完全自主決策、完全自主行動(dòng)的能力，人仍然需要對(duì)其遂行任務(wù)情況實(shí)時(shí)進(jìn)行監(jiān)督，并在必要的情況下隨時(shí)進(jìn)行干預(yù)。不管是為了戰(zhàn)局還是為了人類(lèi)自身，人類(lèi)都必須保留在關(guān)鍵時(shí)刻對(duì)致命性自主武器“喊?！钡臋?quán)力。
圖①：土耳其“卡古-2”軍用無(wú)人機(jī)。 資料圖片