提起人工智能，就不得不提到自主性。自主性被理解為比人工智能更復雜的東西，甚至有些觀點認為自主性等同于人工智能，事實上這并不太準確。

人工智能是一個總稱，指的是廣泛的技術組合或是一系列技術或技巧，是一系列的傳感器和處理器，它們接收信息、處理信息并輸出。自主性從概念上來說，是指一個命令或控制術語，它是一種獨立于其他控制或引導的操作能力，自主性更強調自我意識和自由意志。自主性很早以前就出現了，例如戰爭中使用的地雷，地雷是完全自主的，你把它埋在土里，它不再需要人來控制它，它只會機械地執行它的功能，實際上什么也不做，直到有人踩到它為止。當一名士兵的腳踩在地雷上，使得某些參數得到滿足，進而地雷被激活后發生爆炸。人工智能可以具有“形式自我意識”，但不具備“實質自我意識”，換言之，人工智能具有的是弱自主性。

當前，隨著人工智能技術的發展，能夠自動識別、鎖定和打擊目標的智能化武器系統逐漸出現，并能代替人類執行簡單的決策命令。如美軍的艦載“宙斯盾”系統、以軍的“鐵穹”系統、俄軍的“競技場”主動防護系統、法軍的“鯊魚”系統等，由于這些系統的智能化水平目前還不高，自主交戰模式通常是最后選項。而在特定作戰領域，如網絡空間和電磁頻譜領域，人類只能依托智能化武器系統進行自主對抗。

從某種意義上說，支持人工智能的系統允許存在自主能力，但并不需要自主。如自主武器系統，這是一種無人參與情況下自主選擇目標進行打擊的武器系統。但是，要使武器具備自主能力，需要為武器系統提供大量的識別系統。以面部識別系統為例，這種識別系統通過大量的數據采集收集民眾信息。倘若該系統具備了完全的自主性，則這樣的識別系統可能會用于其它非法用途，導致事態失控。

未來，隨著智能化武器系統的自主對抗成為新常態，在人工智能領域或處理自主性問題時，人類的判斷是機器所不能替代的，因此，將人工智能系統潛力最大化的方案并不是將人類完全排除在外，而是從“人在回路中”向“人在回路上”轉變。在多數情況下，人類戰士扮演監督員的角色，負責在開戰前輸入目標特征和設定交戰規則，觀察戰場交戰情況等。