關(guān)注智能化武器裝備運用風險

■羅兆成

當前，世界主要國家都在大力推進軍事智能化建設(shè)，智能化武器裝備已逐漸覆蓋到各個作戰(zhàn)域。然而，新技術(shù)在極大提升戰(zhàn)斗力的同時，也可能會帶來極大的風險。為此，我們應(yīng)當前瞻預(yù)見智能化武器裝備在戰(zhàn)場上的運用風險，從而未雨綢繆，有效規(guī)避。

智能化武器裝備的迅速發(fā)展，使得裝備使用的物化技術(shù)所存在的風險明顯加大。首先，智能化武器裝備的抗干擾能力弱，其作戰(zhàn)運用存在失控風險。當前階段，各國使用的智能化武器裝備往往需要后方人員指揮控制，極度依賴通信鏈路，一旦受到干擾，其作戰(zhàn)效能就難以發(fā)揮甚至被對方所利用。近年伊朗利用干擾技術(shù)成功捕獲美軍無人機便是典型案例。此外，智能化武器裝備賴以發(fā)展的人工智能技術(shù)其可靠性仍然存疑。在某些特定領(lǐng)域人工智能技術(shù)表現(xiàn)了其遠超人類的“智能”，但其可靠性、可解釋性仍然受到質(zhì)疑。由于智能算法使用的訓(xùn)練數(shù)據(jù)存在偶然、甚至人為的數(shù)據(jù)偏差，使得該技術(shù)在運用時較為容易出現(xiàn)“偏見”。目前各國在智能化武器裝備運用前都會對其進行反復(fù)的模擬測試甚至實戰(zhàn)檢驗，但在理論上仍然沒有一種可靠的測試方法，可以確保其一旦在復(fù)雜戰(zhàn)場環(huán)境中運行不會出現(xiàn)故障。2019年11月，《紐約時報》就報道了一起美軍在阿富汗的誤炸事件，由于其空襲行動依據(jù)某個基于技術(shù)手段的單一源頭信息，在實施打擊之前美軍也未進行重新核查，因而錯誤地將一場婚禮慶典當作空襲目標，導(dǎo)致數(shù)十名平民傷亡。

智能化武器裝備大規(guī)模運用可能引發(fā)軍備競賽，導(dǎo)致不安全的人工智能系統(tǒng)存在被部署的風險?？梢灶A(yù)見，智能化武器裝備將是未來智能化戰(zhàn)爭的物質(zhì)基礎(chǔ)和必備手段。為獲得優(yōu)于競爭對手的軍事優(yōu)勢，世界主要軍事大國紛紛加大智能化武器裝備的研究投入與裝備數(shù)量，這種競相發(fā)展智能化武器裝備的做法使得各國陷入軍備競賽的可能性不斷上升。隨著智能化武器裝備參與實戰(zhàn)的比例不斷升高，在武裝沖突的危急情況下，以目前的技術(shù)而言，區(qū)分平民與作戰(zhàn)人員的算法仍然難以保證其可靠性。對于各國而言，即使競爭對手實際上并沒有實現(xiàn)人工智能技術(shù)的重大突破，但由于對技術(shù)落后的猜測和擔憂，會促使各國急于部署并不完善且不可靠的人工智能系統(tǒng)以便爭奪制勝優(yōu)勢，這可能會對所有參與其中的人與國家造成災(zāi)難性的后果。

智能化武器裝備運用影響國際戰(zhàn)略平衡，增加軍事沖突爆發(fā)的風險。智能化武器裝備運用增加了“打響第一槍”的風險。隨著未來戰(zhàn)場智能化武器裝備的部署與運用的增多，其自主能力將進一步得到加強，其攻擊的速度與強度將是難以預(yù)料的。發(fā)生爭端的雙方很大程度上會將智能化武器裝備部署到最前沿，其對敵方行動的任何錯誤判斷都可能導(dǎo)致沖突升級。一旦交火開始，由于擔心己方部隊遭受對手的打擊，極有可能會促使一方實施先發(fā)制人的攻擊。

智能化武器裝備運用增加了危機失控的風險。大量智能化武器裝備運用于作戰(zhàn)，軍事行動的速度可能超過政治決策的速度，決策者危機管控的能力可能被削弱。隨著作戰(zhàn)時間壓縮、作戰(zhàn)節(jié)奏加快，戰(zhàn)場態(tài)勢變化的時域切分更加精細，時隙越來越短、顆粒度越來越小，各方交換信息與評估選擇的時間將被大大壓縮。目前，智能化武器裝備主要運用于常規(guī)作戰(zhàn)，但對于在該領(lǐng)域處于弱勢的一方，可能會認為其改變了軍事平衡，極有可能促使弱勢一方采用常規(guī)戰(zhàn)爭以外的手段進行應(yīng)對。

智能化武器裝備運用導(dǎo)致的軍事文化、道德倫理和法律風險。目前，不同國家、民族和軍隊對使用智能化武器裝備的認可程度不同。例如，斯蒂芬·霍金就認為“人工智能可能導(dǎo)致人類毀滅”。2018年，美國谷歌公司多名員工聯(lián)合抵制參與軍用人工智能研發(fā)，最終導(dǎo)致谷歌公司退出相關(guān)計劃。即便如此，2019年美國仍然制定了軍用人工智能倫理準則，為其發(fā)展智能化武器裝備掃清障礙。

未來戰(zhàn)爭，智能化武器裝備一旦大規(guī)模運用于作戰(zhàn)，不同國家、民族之間的隔閡和爭端有可能會越來越大，由于智能化武器裝備使參戰(zhàn)人員越來越遠離戰(zhàn)場，人們對于殺戮的排斥心理會隨著距離的增加而逐漸變?nèi)酰斏鳑Q策和正當防衛(wèi)的心理被逐步移除或降低，殺戮將不再是完全出于自保或特定政治目的，而是越來越取決于智能化武器裝備在作戰(zhàn)環(huán)境中運用的邏輯規(guī)則。另外，由于智能技術(shù)是一種典型的軍民兩用技術(shù)，技術(shù)擴散較難控制，容易被恐怖主義或非法武裝利用。敘利亞戰(zhàn)爭中，恐怖組織就曾改裝民用無人機，將其投入實戰(zhàn)實施空襲。總之，智能化武器裝備的諸多優(yōu)勢，使其發(fā)動襲擊的門檻空前降低，極易導(dǎo)致暴力沖突頻發(fā)，與戰(zhàn)爭倫理諸原則相悖，并有可能打破國際戰(zhàn)爭法的基本交戰(zhàn)規(guī)則。