美國哈佛大學法學院的邦妮·多徹蒂出席了聯合國大會，會上通過了第一個關于“殺手機器人”的決議。

長期以來，被稱為 "殺手機器人 "的自主武器系統一直是科幻小說中的情節，但由于人工智能的快速發展，它正準備成為現實。對此，國際組織一直在加緊呼吁限制甚至完全禁止使用它們。聯合國大會于 11 月通過了有史以來第一份關于這些武器系統的決議，因為它們可以在沒有人類干預的情況下選擇和攻擊目標。

為了闡明這些武器引發的法律和倫理問題，美國媒體《The Gazette》采訪了哈佛大學法學院國際人權診所（IHRC）的法律講師邦妮-多切蒂（Bonnie Docherty），她參加了聯合國的一些會議。多切蒂還是人權觀察組織武器部的高級研究員。

殺手機器人究竟是什么？它們在多大程度上已經成為現實？

殺手機器人，或者用更專業的術語來說是自主武器系統，是一種根據傳感器輸入而非人為輸入選擇目標并向其開火的系統。它們已經研發了一段時間，但正在迅速成為現實。我們對它們的擔憂與日俱增，因為在戰場上已經使用了可以自主使用武力的武器系統。

它們是什么？在哪里使用過？

什么算殺人機器人，什么不算，這還真有點微妙。在利比亞使用過的一些系統，以及在[亞美尼亞和阿塞拜疆就]納戈爾諾-卡拉巴赫[Nagorno-Karabakh]發生的種族和領土沖突中使用過的其他系統，都顯示出了很強的自主性，即它們可以自行識別目標并進行攻擊。

它們被稱為 "閑逛彈藥"，越來越多地利用自主性，使其能夠在戰場上空盤旋，等待發現目標后發動攻擊。這些系統是否被視為殺手機器人取決于具體因素，如人類控制的程度，但這些武器顯示了軍事技術中自主性的危險。

殺手機器人會帶來哪些倫理問題？

倫理問題非常嚴重。對許多人來說，把生死攸關的決定權交給機器是一條紅線。它將使暴力失去人性，并將人類簡化為數值。

此外，還存在算法偏見的嚴重風險，即可能出現基于種族、性別、殘疾等原因的歧視，因為機器可能被有意編程為尋找某些標準，也可能無意中產生偏見。有大量證據表明，人工智能可能會產生偏見。我們人權界非常擔心這種情況會被用于設計用來殺人的機器上。

有哪些法律問題？

還有非常嚴重的法律問題，例如機器無法區分士兵和平民。在戰斗人員與平民混雜的環境中，機器很難做到這一點。即使技術可以克服這個問題，它們也缺乏人類的判斷力。這一點對于所謂的相稱性測試非常重要，即權衡對平民的傷害是否大于軍事優勢。這一測試需要人類做出道德和法律上的決定。這種判斷無法編程到機器中，因為戰場上會發生無數種情況。你不可能給機器編程來處理無限多的情況。

缺乏問責制令人擔憂

我們非常擔心自主武器系統的使用會陷入問責空白，因為很明顯，你無法追究武器系統本身的責任。讓操作者對自主運行系統的行為負責，在法律上也是一個挑戰，而且可以說是不公平的。根據侵權法追究武器制造商的責任也存在困難。國家、軍隊和其他人普遍擔心，這些自主武器可能會出現責任空白。我們還認為，這些武器系統的使用將破壞現有的國際刑法，因為它在框架中制造了一個缺口；它將制造一些現有刑法沒有涵蓋的東西。

人們一直在努力禁止殺手機器人，但至今沒有成功。這是為什么呢？

有些國家反對采取任何行動來解決這些武器引發的問題，尤其是俄羅斯。一些國家，如美國、英國等，支持不具約束力的規則。我們認為，有約束力的條約是解決這些嚴重關切的唯一答案。

大多數尋求制定不具約束力的規則或不采取任何行動的國家都是那些正在開發該技術的國家，它們顯然不想放棄在未來使用該技術的選擇。

禁止這些武器系統之所以具有挑戰性，可能有幾個原因。這些武器系統在我們說話的時候還在研發中，不像地雷和集束彈藥在被禁止時已經存在了一段時間。我們可以用文件證明地雷和集束彈藥造成的傷害，而這正是促使人們采取行動的一個因素--當傷害已經存在的時候。

就激光致盲武器而言，這是一項先發制人的禁令[以確保它們只用于光學設備，而不是軍事人員]，因此這與自主武器系統有很好的相似之處，盡管這些武器系統是一個更廣泛的類別。現在的政治氣候也有所不同。在世界范圍內，政治氣候要保守得多，這使得裁軍更具挑戰性。

您對美國政府的立場有何看法？

我們認為，它們沒有達到解決方案的要求。我們認為，我們需要具有法律約束力的規則，這些規則要比美國政府提出的規則更強有力，其中需要包括禁止某些類型的自主武器系統，而且這些規則需要成為義務，而不僅僅是建議。

最近，聯合國在長達十年的禁止這些武器系統的努力中出現了新的進展。

聯合國大會裁軍和國際安全第一委員會于11月以164個國家贊成、5個國家反對的巨大優勢通過了一項決議，呼吁聯合國秘書長收集各國和民間社會對自主武器系統的意見。

雖然這看似一小步，卻是向前邁出的關鍵一步。它將討論的中心從《常規武器公約》（CCW）轉移到了聯合國大會，而《常規武器公約》的進展一直非常緩慢，并受到俄羅斯和其他國家的阻撓。聯合國大會（UNGA）包括更多國家，以投票而非協商一致的方式運作。

許多國家（超過 100 個）都表示支持制定一項新條約，其中包括禁止和規范自主武器系統。這與這些系統在現實世界中越來越多的使用相結合，推動了外交方面的行動。

秘書長表示，他希望在 2026 年之前看到一項新條約。聯合國大會產生的條約可以考慮更廣泛的議題，如人權、法律、倫理，而不僅僅局限于人道主義法。我們非常希望這將在未來幾年改變游戲規則。

國際禁止自主武器系統條約的內容是什么？

我們呼吁制定一項包含三個部分的條約。其一是禁止缺乏有意義的人為控制的自主武器系統。我們還呼吁禁止以人為目標的自主武器系統，因為它們會引起人們對歧視和倫理挑戰的擔憂。第三點是，我們呼吁對所有其他自主武器系統進行監管，以確保它們只能在一定的地理或時間范圍內使用。我們樂觀地認為，各國將在未來幾年內通過這樣一項條約。