在戰爭道路上：人工智慧在國防工業中的作用
「人類即將跨過一個絕對至關重要的門檻，」亞歷山大·克門特（Alexander Kmentt）提出警告。
來源: BBC
奧地利外交部裁軍主任正在談論自主武器系統（AWS）。他說，這項技術的發展速度遠遠快於管理它的法規。“這個（監管）視窗正在迅速關閉。
一系列令人眼花繚亂的人工智慧輔助工具正在開發中或已經在國防部門使用。
公司對目前可能的自主性水準提出了不同的主張。
一家德國武器製造商表示，對於其生產的可以自行定位和摧毀目標的車輛，自主性水平沒有限制。換句話說，是否允許機器在沒有人類操作的情況下觸發取決於用戶端。
以色列的武器系統以前似乎根據槍支的存在將人識別為威脅 – 儘管這種系統可能像人類一樣在威脅檢測中出錯。
澳大利亞公司Athena AI推出了一種系統，可以檢測穿著軍裝和攜帶武器的人，然後將他們標示在地圖上。
“填充地圖以進行態勢感知是Athena目前的主要用例，”Athena AI首席執行官Stephen Bornstein說。
“我們的系統是為迴圈中的人工智慧設計的[始終有人類操作員參與]，因此人工智慧不會做出目標決策。這意味著人工智慧可以幫助人類識別目標、非目標、受保護物體、無打擊名單和繪製武器效果，“他說。
目前人工智慧在軍隊中的許多應用都更加明顯。
它們包括軍事後勤、情報、監視和偵察系統中的數據收集和處理。
一家處理軍事後勤的公司是C3 AI。它主要是一家民用技術公司，但已將其工具應用於美國軍方。
例如，C3 AI對美國空軍的預測性維護匯總了來自庫存，服務歷史以及可能位於單個轟炸機上的數萬個感測器的大量數據。
“我們可以查看這些數據，可以在設備故障發生之前識別它，在故障之前修復它，並避免計劃外停機，”C3 AI首席執行官Tom Siebel說。
據該公司稱，這種人工智慧分析使受監控系統的計劃外維護減少了40%。
Siebel先生說，這項技術足夠複雜，可以做出這樣的預測 – 甚至考慮到隨機性和人為錯誤。
他認為，鑒於現代戰爭的技術複雜性，人工智慧是必要的。一個例子是成群的物體，如無人機。“如果不將人工智慧應用於問題，你就無法協調群體的活動，”Siebel先生說。
此外，捷克查理大學安全研究系安全專家 Anzhelika Solovyeva表示，人工智慧可以“增強有人駕駛飛機中人類飛行員的態勢感知”，甚至可以“為自主飛行器鋪平道路”。
然而，在武器部署領域，人們真正傾向於擔心軍事化的人工智慧。
全自主武器的能力是存在的，競選網路Stop Killer Robots的自動決策研究經理Catherine Connolly警告說。
“它所需要的只是軟體更改，允許系統與目標交戰，而無需人類實際做出決定，”擁有國際法與安全研究博士學位的康諾利女士說。“所以我認為，這項技術比人們意識到的更接近。
“對致命人工智慧的恐懼是有道理的，”Anzhelika Solovyeva承認，他的博士學位是國際關係和國家安全研究。然而，她認為非政府組織和媒體誇大和過度簡化了高度複雜的武器系統類別。
她認為，人工智慧將主要應用於武器系統，以支持決策、集成系統以及促進人與機器的交互。如果發射武器的實際決定權委託給人工智慧，她預計它首先將用於非致命應用，如導彈 防禦 或電子戰系統，而不是全自主武器。
索洛維耶娃女士說，自主武器的未來是她和她的同事尼克·海尼克（Nik Hynek）所說的“可切換模式”。“我們的意思是一種完全自主的模式，人類操作員可以根據自己的意願啟動和停用。
人工智慧武器系統的支援者提出的一個論點是，它們會更精確。但美國布朗大學（Brown University）的政治學家羅斯·麥克德莫特（Rose McDermott）對人工智慧能否消除人為錯誤持懷疑態度。
“在我看來，演算法應該內置刹車，迫使人類監督和評估 – 這並不是說人類不會犯錯誤。他們絕對會這樣做。但他們犯的錯誤與機器不同。
不能讓公司自我監管，康諾利女士說。
“雖然很多行業聲明會說’你知道我們會有一個人在迴圈中，而且總是一個人決定使用武力’，但公司很容易改變主意。
一些公司正在尋求更清楚地瞭解哪些類型的技術將被允許。
為了讓人工智慧的速度和處理能力不會僭越人類的決策，康 諾利女士說，停止殺手機器人運動正在尋找一項國際法律條約，“確保對基於感測器輸入而不是人類直接命令檢測和施加力量的系統進行有意義的人類控制”。
她說，法規不僅對衝突局勢，而且對日常安全都是緊迫的。
“我們經常看到戰爭技術回到國內 – 它們被員警部隊在國內使用。因此，這不僅僅是在武裝衝突中使用自主武器系統的問題。這些系統也可能被員警部隊和邊境安全部隊使用。
儘管規制自主武器的運動多年來沒有產生任何國際條約，但康諾利女士對國際人道法趕上技術進步的可能性持謹慎樂觀態度。
她說，以前關於地雷和集束彈藥的國際協定表明，國際人道法無論多麼緩慢，都可以為避免某些類型的武器制定規範。
其他人則認為，自主武器系統構成了更廣泛、更難以定義的武器類別;即使在不太可能的情況下達成禁止條約，它也不太可能有太大的實際意義。
回到奧地利外交部，亞歷山大·克門特（Alexander Kmentt）表示，任何監管的目標都應該是確保“在生死決定中存在有意義的人為控制因素”。
“重要的是，人的因素不會丟失。
※版權所有，歡迎媒體聯絡我們轉載；登錄本網按讚、留言、分享，皆可獲得 OCTOVERSE 點數（8-Coin），累積後可兌換獎品，相關辦法以官網公布為準※
