IA e guerra, van Rooijen (Stop Killer Robots): “È una realtà senza regole. Serve un trattato prima che accada una catastrofe”
“Dodici anni fa la nostra era una misura preventiva, un atto lungimirante da parte della organizzazioni della società civile, che avevano capito che un giorno l’intelligenza artificiale sarebbe stata integrata nel settore militare. Inizialmente chiedevamo un divieto preventivo dei sistemi d’arma autonomi, ora la tecnologia si è sviluppata e l’intelligenza artificiale e l’autonomia sono sempre più integrate nelle attrezzature di molte forze armate, fuori da qualsiasi regolamentazione internazionale”. Prima di diventare direttrice esecutiva della campagna internazionale Stop Killer Robots, l’anno scorso, Nicole van Rooijen ha lavorato per anni per la Croce rossa internazionale Ginevra, occupandosi dell’assistenza ai civili nei teatri di guerra, come l’Afghanistan e Gaza. Giovedì van Rooijen è sbarcata a Roma, al Senato della Repubblica su iniziativa di Archivio Disarmo in collaborazione con Rete Italiana Pace e Disarmo, per fare il punto sulla campagna internazionale che, da dieci anni, cerca di raggiungere un consenso tra gli Stati per un trattato regolamentazione dell’uso delle armi autonome (o robot killer), ossia tutti quei dispositivi bellici che non richiedono il controllo umano per operare, dai cani robot con la mitragliatrice ai software che usano l’intelligenza artificiale per identificare i bersagli di raid aerei e missilistici. Strumenti che da qualche anno sono passati dalla fantascienza alla realtà più cruda, sui campi di battaglia più caldi come quello di Gaza, dell’Ucraina, della Libia, passando il controllo dei confini e per tutte le repressioni del dissenso in giro per il mondo. “Stop Killer Robots chiede un approccio su due livelli: 1) il divieto delle armi autonome che sono imprevedibili e non consentono un controllo umano significativo; 2) il divieto dei sistemi d’arma autonomi in grado di colpire persone; 3) la regolamentazione di tutti gli altri sistemi d’arma autonomi. L’obiettivo è che la decisione di premere il grilletto sia sempre una decisione etica e legale presa da un essere umano”.
Com’è portare avanti una campagna contro le armi autonome in una fase come questa, in cui i conflitti non fanno che aumentare?
È molto difficile, non lo nascondo. Ma anche per questo la nostra campagna è cruciale. Molti Paesi, soprattutto occidentali, si stanno riarmando in modo massiccio, è diffusa la percezione che il multilateralismo sia sotto minaccia, come anche il diritto internazionale. Sostenere oggi una campagna globale contro le armi autonome è più impegnativo che dieci anni fa, quando abbiamo iniziato. Ma siamo convinti sia necessario, quindi rimaniamo ottimisti: è nei momenti di incertezza che il diritto internazionale è più utile, per tutelarci dalle aggressioni. Il 2026 sarà l’anno in cui vedremo se, alla Convenzione delle Nazioni Unite sulle armi convenzionali (CCW), gli Stati daranno prova di leadership politica nel sostenere il diritto internazionale e nel procedere verso la negoziazione di uno strumento giuridicamente vincolante sui sistemi d’arma autonomi. È importante notare che questi sistemi d’arma possono essere utilizzati nel contesto di conflitti armati, operazioni di polizia o controllo delle frontiere. Tuttavia, per il momento, le discussioni all’interno della CCW si concentrano solo sui conflitti armati e sul diritto internazionale umanitario, il che non è sufficiente.
Qual è lo stato dell’arte delle adesioni della campagna?
Alla campagna hanno aderito oltre 270 ong di più di 70 Paesi, e continuiamo a crescere come coalizione. Oltre 125 Paesi del mondo hanno espresso sostegno a un nuovo strumento giuridicamente vincolante sui sistemi d’arma autonomi. Solo una dozzina di Stati non desidera alcuna regolamentazione.
E sono però le principali potenze globali e regionali…
Parliamo di Stati Uniti, Russia, Cina, Israele, India, le due Coree, la Bielorussia e la Polonia. Finora si sono dimostrati indisponibili a parlare di ogni forma di regolamentazione. In questa fase ci stiamo concentrando per convincerli a modificare le loro posizioni. Siamo forti della stragrande maggioranza degli Stati del mondo che, invece, . Ma certo, al Ccw c’è il problema del veto, ma poi potremo anche portare la risoluzione all’Assemblea generale dell’Onu, dove si vota a maggioranza… La fase attuale ci mette davanti a grande sfide, che però si possono trasformare in opportunità. Voglio dire, la postura attuale degli Stati Uniti nel mondo sta creando molta insicurezza nei Paesi europei e della NATO, e questo può aiutare a spingerli a rimodellare e ridefinire il diritto internazionale, insieme ad altri Paesi emergenti. Il trattato sulle armi autonome è una buona occasione. In fondo la questione è molto semplice: possiamo darci un regolamento adesso, oppure possiamo aspettare che si verifichi una catastrofe di proporzioni enormi per correre ai ripari, come è successo con il nucleare o con altri tipi di armamenti in passato. La traiettoria è tracciata, non c’è un altro modo in cui può finire.
Negli ultimi due anni in cui abbiamo visto l’intelligenza artificiale dispiegata attivamente sui terreni bellici, per esempio a Gaza ma anche in Ucraina, gli attori statali e i produttori di armi hanno presentato queste innovazioni come un modo per diminuire gli errori, per massimizzare gli effetti riducendo il costo umano della guerra. Insomma, per renderla più “pulita”. Cosa pensa di questi argomenti?
Che sono gli stessi argomenti usati per tutti i tipi di armi precedenti. Ricordiamo il caso dei droni, il discorso sull’eliminare l’aspetto delle reazioni emotive perché i piloti sono a chilometri di distanza dal campo di battaglia. Avrebbero dovuto rendere i raid più razionali e precisi, mi sembra superfluo dire che non è stato così. Sono stata in Afghanistan, ho visto come sono stati utilizzati gli attacchi con i droni e tutti gli errori che hanno commesso, la grande sofferenza umana che hanno causato. E non si può nemmeno dire che le forze armate così sofisticate della Nato abbiano vinto la guerra. Ora, è chiaro che le armi sono un business molto redditizio, e anche l’IA sta portando molti soldi a un gruppo molto ristretto di persone, e questo spiega il motivo per cui si sta accelerando tanto sulle armi autonome. La risposta alle domande di sicurezza, però, non può essere la tecnologia, ma il diritto internazionale. Il fatto è che il campo di battaglia è un ambiente altamente mutevole, e inserire tecnologie che non si comprendono appieno, che non si possono controllare appieno come l’intelligenza artificiale può portare a commettere molti errori e molti danni, visto che ha la capacità di distruggere esseri umani in massa. Inoltre, quando i governi parlano di riduzione delle vittime civili spesso si riferiscono ai propri soldati e ai propri civili, non considerano mai gli effetti sul nemico.
Che ruolo può avere l’Italia e quale l’Unione europea?
Penso che l’Italia svolga un ruolo importante anche all’interno delle discussioni di Ginevra nell’ambito della Ccw, ma più in generale come attore con un ruolo di primo piano nel garantire che si passi dalla proposta ai negoziati, insieme ad altri Stati europei come Francia, Germania.
L’Italia è anche un produttore di armamenti importante, con aziende come Leonardo…
È proprio ai Paesi produttori che dobbiamo chiedere di svolgere un ruolo di primo piano. Voglio dire, tutti guardano a loro, no? I Paesi senza industrie belliche significative possono aderire a un trattato, ma nessun regolamento sarà efficace se quelli che producono armi autonome sono assenti dal tavolo. Quindi sicuramente l’Italia come il Regno Unito, la Francia e la Germania, e naturalmente gli Stati Uniti, Israele, India e Cina sono quelli che devono darsi da fare più di tutti. Altrimenti sarà l’umanità a pagarne le conseguenze.
da organizzazioni della società civile lungimiranti, che hanno previsto che l’integrazione dell’intelligenza artificiale nel settore militare sarebbe stata un vero motivo di preoccupazione. Inizialmente la campagna chiedeva un divieto preventivo dei sistemi d’arma autonomi.
Ora la tecnologia si è sviluppata e l’intelligenza artificiale e l’autonomia sono sempre più integrate nelle attrezzature di molte forze armate, all’interno di qualsiasi regolamentazione internazionale.
L'articolo IA e guerra, van Rooijen (Stop Killer Robots): “È una realtà senza regole. Serve un trattato prima che accada una catastrofe” proviene da Il Fatto Quotidiano.