硅谷軍事工業綜合體日益成為人工智能工程師的目標。幾周前，有報道稱谷歌退出了五角大樓圍繞Maven項目的合同，該項目將使用圖像識別技術自動評估照片。今年早些時候，世界各地的人工智能研究人員聯名請願，呼籲抵制任何可能用於自治戰爭的研究。
然而，對於保羅·斯查爾來說，這些請願書幾乎沒有觸及到將使評估自主武器成為本世紀國防規劃者主要關注的深層複雜性、細微差別和模糊性。在《無人區》一書中，Scharre認為，圍繞這些機器的定義所面臨的挑戰，將需要各國付出巨大的努力，更不用說處理它們的影響。這是一個發人深省的，深思熟慮的問題，如果有時延長了這個關鍵的話題。
Scharre應該知道。他曾是一名陸軍遊騎兵，他加入五角大樓，在國防部長辦公室工作，在那裡他制定了國防部關於自治的第一批政策。2013年，他加入了總部位於華盛頓的智庫中心，負責美國的新安全事務，在那裡他領導了一個技術和國家安全中心。簡而言之，他在這一新興技術上花了大約10年的時間，他的專業知識在本書中隨處可見。
掩蓋這些關於自主武器的請願的第一個挑戰是，這些系統已經存在，並且已經部署在實地。諸如宙斯盾作戰系統、高速反輻射導彈(HARM)和“哈比”(Harpy)等技術已經包含了複雜的自主特性。正如Scharre所寫的，“發射“哈比”的人類決定在空間和時間上摧毀一個普通區域內的任何敵方雷達，但是“哈比”自己選擇了它摧毀的特定雷達。“這種武器可以在使用傳感器確定目標的同時徘徊2.5小時——它是自主的嗎?”
Scharre反覆使用軍隊的OODA循環(用於觀察、定位、決定和行動)作為一個框架來確定給定機器的自治程度。人類可以“在循環中”，在那裡他們決定機器的動作，“在循環”中，他們有控制，但是機器大部分是獨立工作的，並且當機器完全獨立於人類決策時，“跳出循環”。
框架有助於消除不同系統之間的一些混淆，但它還不夠。例如，當機器與機器戰鬥時，戰鬥的速度可能會變得非常快，以至於人類很可能比良好的干預造成更多的傷害。在人類記錄戰場上發生的事情之前，無人機就可以處理數百萬次OODA循環。因此，一個人脫離這個圈子，很可能會帶來更安全的結果。正是這類悖論使得這個主題很難分析。
除了悖論之外，約束也是本書的一大主題。速度是一回事，軍事裝備的價格是另一回事。啞彈很便宜，加上自動化，硬件的價格一直在上漲。正如Scharre所指出的，“現代導彈每枚的成本可能高達100萬美元。實際情況是，在使用昂貴的武器之前，軍隊想要知道在該地區有一個有效的敵人目標。
另一個限制就是文化。作者寫道，“美國軍方內部存在著強烈的文化阻力，不願意將工作交給無人居住的系統。“與平民勞動力的自動化不同，當權者希望把有血有肉的人放在最複雜的任務中。”這些限制因素很重要，因為Scharre預計，隨著數十個國家追求這些武器，圍繞這些武器的典型軍備競賽將會展開。
在更高的層次上，大約三分之一的書是關於自動化的歷史(廣義的)人工智能，以及自治的潛力，這是任何TechCrunch的普通讀者都應該熟悉的話題。這本書的另外三分之一是對技術的雙重用途和戰略視角的思考，以及通往國際禁令的可疑路徑。
然而，在這本書中，我發現最有價值的是關於倫理的一章，這本書的敘述相當晚。Scharre做了一份出色的工作，涵蓋了各個學派關於自主戰爭倫理的思想，以及它們如何相互交叉和競爭。他廣泛地分析並引用了機器人學家羅恩·阿金的話，他花了大量時間思考戰爭中的自主問題。Arkin告訴Scharre，“我們對人類戰士太過信任了”，並認為，從理論上講，自主武器可以被編程，不會像人類那樣犯下戰爭罪。其他活動人士，如喬迪•威廉姆斯(Jody Williams)認為，只有全面的禁令才能確保此類武器從一開始就不被開發。
Scharre遺憾的是，更多的對話沒有考慮到軍隊的戰略位置。他指出，國際上對禁令的討論是由非政府組織主導的，而不是由國家主導，而所有成功的禁令都是相反的。
另一個挑戰僅僅是反戰行動主義和反自主武器行動主義越來越被混為一談。Scharre寫道，“衡量自主武器的道德標準的挑戰之一，是理清哪些批評是關於自主武器的，哪些是關於戰爭的。”書中引用了謝爾曼在內戰期間在美國南方行軍進行侵略掠奪的例子，作者提醒讀者，“戰爭是地獄”，軍隊不會在真空中選擇武器，而是相對於他們和他們的競爭對手軍火庫中的其他武器。
這本書是關於自主武器的各種問題的概要，儘管它在某些主題(無人機群)上過於冗長的經典問題，同時提供有限的其他信息(軍備控制談判)方面有一些問題。這本書有時也會被錯誤所破壞，比如“新聞規則”，否則就會偏離直接和活躍的文本。更嚴格的編輯對這兩種情況都有幫助。考慮到這個主題的早期性質，這本書作為一個概述，雖然它沒有提出一個關於自治和軍隊未來應該去哪裡的固執的敘述，一個不令人滿意的差距，因為作者在這個主題上的廣泛和獨特的背景。
儘管如此，《無人區》仍然是一本關於辯論、挑戰以及自治戰爭帶來的機遇的一站式指南。Scharre以正確的方式結尾，提醒我們，最終，所有這些機器都歸我們所有，我們選擇構建的東西是在我們的控制之下。“我們正在創造的世界將會擁有智能機器，但這並不適合他們。”這是我們的世界。“我們應該繼續參與、請願和辯論，但總是對我們想要實現的未來抱有幻想。”
閱讀更多 快樂的小柴犬0207 的文章
