新技術(shù)發(fā)展與應(yīng)用正在改變未來戰(zhàn)爭的面貌，而很少有技術(shù)能像人工智能向武器系統(tǒng)的融合那樣產(chǎn)生重大的影響。近日，美國加密簡訊網(wǎng)站刊發(fā)了一篇采訪評論性文章《A Revolutionin Artificial Intelligence》，其主要內(nèi)容是美國新安全中心（CNAS）高級研究員兼未來戰(zhàn)爭計劃部主任保羅·斯查瑞爾對人工智能技術(shù)的變革及其在未來軍事方面應(yīng)用的認(rèn)識和評論。
人工智能革命正在開始，但是未來自主武器系統(tǒng)的應(yīng)用尚存在不確定性。人工智能在各行各業(yè)都有很多應(yīng)用，其在軍事領(lǐng)域的應(yīng)用似乎也是不可避免的。其中很多應(yīng)用諸如物流及數(shù)據(jù)處理改進都是毫無爭議的，但是當(dāng)涉及機器人的應(yīng)用到底能有多自由或多自主時，尤其是自主武器和致命武力的應(yīng)用，這就會變成一個有爭議的問題。當(dāng)今的自動化武器尤其是防御系統(tǒng)已經(jīng)很多，目前至少已有30個國家擁有擊落入侵火箭和導(dǎo)彈的自動防御系統(tǒng)。但是這種武器的自主性到什么程度才算適當(dāng)還存在著重大的不確定性。2015年，曾經(jīng)有3000多名機器人和人工智能（AI）專家共同簽發(fā)了一封信，呼吁禁止自主武器，很多非政府組織（NGO）也已經(jīng)呼吁應(yīng)禁止自主武器。但非常明顯的是，人工智能在未來戰(zhàn)爭中將是非常重要的。只不過未來戰(zhàn)爭是否必須要邁出應(yīng)用自主武器的最后一步還是個未知數(shù)。
自主武器應(yīng)用所提出的法律和道德問題。自主武器應(yīng)用面臨著很多法律問題。當(dāng)前的戰(zhàn)爭法并沒有規(guī)定不能利用機器人自主決定目標(biāo)擊殺對象。戰(zhàn)爭法管控的是戰(zhàn)爭影響，也就是對實際發(fā)生的戰(zhàn)爭進行管控，而并非管控戰(zhàn)爭決策的過程。當(dāng)然也有人認(rèn)為，戰(zhàn)爭的決策者必須是人，這是當(dāng)前的戰(zhàn)爭法所一直隱含的一種認(rèn)識。鑒于當(dāng)今的技術(shù)現(xiàn)狀，自主武器很難再某些環(huán)境中合法使用，例如平民居住的城市環(huán)境。當(dāng)前它們可以在無平民的軍事艦船或潛艇環(huán)境下合法使用，而隨著技術(shù)的進步，自主技術(shù)通過正確的使用方式可以使得武器系統(tǒng)更人性化和更精準(zhǔn)，從而可以避免平民傷亡。在道德倫理方面，人類在戰(zhàn)爭中可以表現(xiàn)出同情心并保持克制，有時甚至?xí)苊鈿⒙尽６鴮τ谧灾魑淦鳎腥苏J(rèn)為它會奪走同理心，有些人則認(rèn)為被自主武器殺死會侵犯尊嚴(yán)。但戰(zhàn)爭本身就是殘酷的，實際上被機槍打死或被炸彈炸毀也不是很榮耀的事，我們不能用今天的戰(zhàn)爭心理去蒙蔽未來的戰(zhàn)爭。
武器系統(tǒng)向全自主性發(fā)展的原因。人工智能可以使得武器系統(tǒng)更加精確，數(shù)據(jù)處理也更快，而武器系統(tǒng)向全自主性發(fā)展也正是基于這樣的原因，一般有二：第一，即便機器人不一定做出比人類更好的決定，但它們確可以更快地進行決策。以決策速度驅(qū)動軍隊實現(xiàn)自動化的例子是某些防御系統(tǒng)。這些系統(tǒng)符合自主武器的基本標(biāo)準(zhǔn)，即一旦開啟，它們會自動搜索它們的目標(biāo)空間，它們可以安裝于防御車輛、艦船或其他軍事設(shè)施，用于攔截火箭、炮彈等共計目標(biāo)，而這些目標(biāo)的攻擊速度往往是人類無法及時響應(yīng)的。第二，無法進行通信的無人機或無人系統(tǒng)應(yīng)用。一些軍事強國正在開發(fā)先進無人作戰(zhàn)飛機，目的是在敵方可能會進行通信干擾的競爭空域進行作戰(zhàn)使用。如果無人機的通信被切斷該怎么辦？它是返回還是僅拍照或進行監(jiān)視？它能撞擊預(yù)定的目標(biāo)如戰(zhàn)斧巡航導(dǎo)彈嗎？如果遇到未授權(quán)的新威脅目標(biāo)怎么辦？如果有人對其開火，它是避讓還是回擊？這些都是軍事應(yīng)用在未來10~15年內(nèi)必須解決的實際問題。此外，對對手發(fā)展自主武器的擔(dān)心也是促使各國發(fā)展全自主武器的一種因素。
對自主系統(tǒng)的錯誤決策判定非常困難。復(fù)雜系統(tǒng)可能會出現(xiàn)不可預(yù)測的問題，但是對這種問題的判定非常困難，尤其是對于可能會隨時進行數(shù)據(jù)采集的學(xué)習(xí)系統(tǒng)，錯誤判定會更加困難。在學(xué)習(xí)系統(tǒng)反饋數(shù)據(jù)的“黑盒子”里發(fā)生的事情是人類無法用逆向工程弄清楚的，隨著系統(tǒng)變得越來越復(fù)雜，人類可能不會真正理解它是如何工作或它的邊界在哪里。