Per la messa al bando delle armi autonome

Per la messa al bando delle armi autonome

Riflessioni su una lettera aperta di ricercatori in intelligenza artificiale e robotica

 

Vi sono armi che hanno la possibilità di individuare e distruggere bersagli nemici senza essere sottoposte al controllo di un essere umano. Si tratta, secondo la definizione data dal Dipartimento della Difesa degli Stati Uniti, di armi autonome: una volta attivate, esse sono in  grado di “selezionare e attaccare gli obiettivi senza ulteriori interventi da parte di operatori umani.” (US Department of Defense, Directive 3000.09: Autonomy in Weapons Systems (2012), pp. 13–14).

Alla base dell’autonomia operativa delle armi ci sono i sistemi artificiali di percezione, ragionamento e controllo intelligente dell’azione che la robotica e l’intelligenza artificiale hanno sviluppato e fruttuosamente applicato in svariati contesti non militari. Ma è accettabile, sul piano morale e politico, l’uso duale di queste tecnologie, e cioè il loro trasferimento dal settore civile a quello militare ai fini della costruzione di armi autonome? Possiamo conferire a una macchina il potere di uccidere in piena autonomia degli esseri umani? La risposta da dare a queste domande è a mio parere un “NO” forte e incondizionato. Le motivazioni per sostenere questa posizione si basano sui contenuti delle leggi umanitarie in guerra, su una riflessione nell’ambito dell’etica normativa, ma sopratutto su una valutazione complessiva – che è insieme politica e morale – delle conseguenze che possiamo attenderci, su scala regionale e globale, dalla diffusione delle armi autonome.

Un esempio di arma che potrebbe già operare in modalità autonoma è la sentinella robotica SGR-A1,  progettata presso un’università sudcoreana, prodotta dalla ditta Samsung e dispiegata dalla Corea del Sud per sorvegliare la zona demilitarizzata di confine con la Corea del Nord (vedi foto più sotto; e, per una descrizione del sistema, la pagina web di Popular mechanics). Se attivata in modalità autonoma, SGR-A1 individua gli intrusi nella zona demilitarizzata tra le due Coree e decide se aprire il fuoco contro di essi. Poiché nessuno ha il permesso di accedere alla zona demilitarizzata, il riconoscimento di un bersaglio potenziale si riduce sostanzialmente alla discriminazione percettiva tra esseri umani e oggetti di altro genere, come gli animali e le chiome degli alberi scosse dal vento. Ma la sentinella robotica non sa risolvere altri problemi percettivi che sono di massima importanza nei conflitti armati. Non sa distinguere tra un fuggiasco verso la Corea del Sud e chi avanza mostrando comportamenti potenzialmente ostili; tra un belligerante attivo e un nemico che è fuori combattimento perché ferito o perché si è arreso con gesti difformi dallo stereotipo delle mani alzate in posizione frontale eretta rispetto all’avversario. Perciò la sentinella robotica non possiede le capacità di discriminazione che le leggi umanitarie in guerra richiedono a ogni soldato di esercitare insieme alla capacità di valutare se un attacco possa causare perdite di vite umane o danni eccessivi ai civili rispetto al vantaggio militare che ne potrebbe derivare (artt. 52 e 51.5.b del Protocollo aggiuntivo I alle Convenzioni di Ginevra).

droni

Dalla comunità scientifica si sono levate da tempo voci unanimi per una moratoria sulle armi autonome, e cioè per imporre la sospensione di qualsiasi attività finalizzata allo sviluppo, al dispiegamento e all’uso di armi autonome. La moratoria dovrebbe valere almeno fino a quando le armi autonome non siano in grado di rispettare le condizioni di discriminazione e proporzionalità previste dallo jus in bello. Ma il dibattito internazionale si è recentemente spostato su una richiesta più radicale. Nel 2012 un gruppo di ong – tra le quali Human Rights Watch, Nobel Women’s iniziative, Pugwash Conferences on Science & World Affairs e l’ICRAC (International Committee for Robot Arms Control) – ha lanciato la campagna STOP KILLER ROBOTS per la messa al bando delle armi autonome. Gli ultimi tre incontri della Convenzione delle Nazioni Unite su certe armi convenzionali (CCW), ivi compreso il prossimo dell’aprile 2016, riguardano interamente le armi autonome. Nel luglio del 2015, un gruppo di ricercatori ha pubblicato una lettera aperta che richiede la messa al bando totale e preventiva delle armi autonome. Sottoscritta da più di 20.000 firmatari, tra i quali figurano 3.000 ricercatori nei settori dell’intelligenza artificiale e della robotica, la lettera aperta per la messa al bando delle armi autonome si colloca nella scia di diverse iniziative per il controllo di armamenti o la loro proibizione. Ci limitiamo qui a ricordare le iniziative, coronate da un successo di portata storica, delle comunità scientifiche nei settori della biologia e della chimica, che hanno contribuito alla definitiva messa al bando delle armi chimiche e biologiche: sancita da trattati che fanno parte integrante del diritto internazionale consuetudinario la proibizione è perciò norma cogente per tutti gli stati.

Una leva per la richiesta di messa al bando delle armi autonome è Il diritto fondamentale di ogni essere umano a non essere deprivato della vita in modo arbitrario. Se la soppressione di un essere umano, per non configurarsi come un atto arbitrario, deve coinvolgere la considerazione e il giudizio di un altro uomo, allora una macchina che sopprime autonomamente la vita di un uomo viola questo diritto fondamentale. Un altro pilastro è fornito dalle conseguenze moralmente inaccettabili derivanti dalla diffusione e dall’utilizzazione delle armi autonome. E’ nel contesto delle conseguenze attese di lungo periodo che a mio parere gli argomenti a favore di una messa al bando preventiva delle armi autonome risultano essere particolarmente incisivi e degni di massima e urgente attenzione da parte degli organismi politici e deliberativi a livello nazionale e internazionale. Vediamo perché.

Bisogna anzitutto concedere che alcuni vantaggi locali e di breve periodo potrebbero derivare in futuro dall’utilizzazione sui campi di battaglia di armi autonome che siano rispettose delle leggi umanitarie in guerra. Grazie a una loro maggiore precisione e al superamento delle limitazioni percettive, cognitive ed emotive dei comuni soldati, le armi autonome potrebbero contribuire a ridurre le perdite in entrambi gli schieramenti contrapposti, così come tra i civili e tra i nemici fuori combattimento. Per una valutazione equilibrata di costi e benefici bisogna tuttavia allargare i confini di questo ipotetico scenario locale, tenendo conto degli effetti delle armi autonome sulla stabilità delle condizioni di pace, sugli incentivi a iniziare nuovi conflitti, sulla destabilizzazione regionale e globale, sulla possibilità di escalation da una guerra combattuta con armi convenzionali a un conflitto nucleare e sulla neutralizzazione di vari fattori che oggi influiscono sulla deterrenza nucleare.

Anzitutto, un numero minore di morti nel proprio esercito può dare un impulso a iniziare una guerra, attenuando il disincentivo politico derivante da un lungo elenco di connazionali morti sui campi di battaglia. E’ perciò errato far prevalere la riduzione attesa di vittime nel proprio esercito sul numero più alto di vittime, di parte propria o altrui, causate dai conflitti che le armi autonome potrebbero incentivare nel lungo periodo. Bisogna inoltre considerare le probabili implicazioni di lungo periodo per la sicurezza internazionale. Essendo armi convenzionali con costi di produzione relativamente bassi, è plausibile ipotizzare una rapida proliferazione delle armi autonome presso regimi repressivi e una loro acquisizione sul mercato illegale delle armi da parte di organizzazioni terroristiche. Questi vari attori potrebbero utilizzare le armi autonome, grazie alle loro capacità di discriminazione percettiva, per esecuzioni mirate extragiudiziarie e per operazioni di pulizia etnica.

Le armi autonome presentano rischi potenziali per la stabilità e la sicurezza internazionale su scala regionale e globale che sono maggiori di quelli introdotti da altre armi convenzionali. In particolare, con la trasformazione in armi autonome degli attuali droni (velivoli senza pilota che sono controllati in remoto), si aprirebbe la possibilità di lanciare attacchi coordinati e diffusi di sciami di velivoli autonomi sulle infrastrutture civili e militari del nemico. Questa possibilità potrebbe scatenare una nuova corsa alle armi con un forte impatto destabilizzante sugli equilibri militari.

Osserviamo infine che sciami aerei di armi autonome potrebbero mettere a segno attacchi particolarmente distruttivi su obiettivi nucleari strategici. Le armi autonome aree possono, in linea di principio, imprimere accelerazioni che sono incompatibili con la fisiologia del corpo umano, e raggiungere gli arsenali nucleari del nemico a velocità ipersoniche. Un primo attacco di sciami coordinati potrebbe essere tanto distruttivo da annullare le possibilità di una ritorsione nucleare. In queste condizioni, le ragioni della deterrenza nucleare basata sul MAD – Mutual Assured Destruction – potrebbero venire meno. La condizione di distruzione reciproca garantita scoraggia ciascuno dei contendenti a sferrare il primo colpo, poiché si teme la ritorsione dell’avversario, le cui potenzialità di risposta non verrebbero completamente annullate al primo attacco. La conseguenza congiunta dell’attacco e della ritorsione sarebbe la distruzione garantita per entrambi i contendenti indipendentemente da chi sia che colpisce per primo. Ma annullando le capacità di risposta nucleare dell’avversario, gli sciami di armi autonome aeree potrebbero far prevalere la scelta di una strategia militare basata sull’anticipazione dell’aggressione. John von Neumann, il geniale e versatile matematico che in questo contesto è appropriato ricordare come ideatore della teoria dei giochi, teorizzava la guerra nucleare preventiva verso la fine degli anni ’40 del secolo scorso, da scatenare prima che l’Unione Sovietica avesse messo a punto un arsenale nucleare sufficiente a distruggere gli Stati Uniti. Ed espresse così il succo della sua visione strategica: «Se tu dici “perché non bombardarli domani?”, io ti rispondo “perché non oggi?” E se tu dici “oggi alle 5 del pomeriggio?”, allora io ti rispondo ‘perché non all’una in punto?’»

Se si assume una prospettiva ampia sulle conseguenze attese è difficile resistere alla conclusione che, in una valutazione aggregata di costi e benefici, i costi del dispiegamento delle armi autonome superino di gran lunga i benefici attesi. All’aspettativa di un numero ridotto di vittime in alcuni scenari bellici si contrappone l’aspettativa di un ricorso più facile alle armi, di incentivi massicci a una nuova corsa alle armi, di rischi consistenti di destabilizzazione regionale e globale, e perfino di un indebolimento dei meccanismi di deterrenza nucleare basati sulla condizione di distruzione reciproca garantita. Per quanto riguarda quest’ultimo punto, è difficile pensare, dal punto di vista dell’etica delle conseguenze, a uno stato di cose meno desiderabile di una guerra nucleare, sia la nostra generazione sia per ogni generazione futura. Optare per la messa al bando preventiva delle armi autonome sembra perciò coincidere con l’adozione della regola collettiva di comportamento che comporta le conseguenze attese preferibili, su scala planetaria e sul lungo periodo, rispetto all’azione incompatibile di permetterne il dispiegamento.