Per la prima volta nella storia, droni completamente autonomi avrebbero ucciso esseri umani senza alcun intervento diretto degli operatori, segnando il superamento di un’importante linea rossa in ambito etico e morale. La rivelazione arriva da Alexander Kokhanovskyy, imprenditore del settore della difesa ucraino, che parlando con un corrispondente della rivista New Scientist ha raccontato di come quanto descritto poche righe sopra sia avvenuto nel corso di un test condotto circa due anni fa lungo la linea del fronte.

Secondo il racconto, dieci quadricotteri equipaggiati con sistemi IA furono lanciati verso una zona di combattimento compresa tra Bakhmut e Chasiv Yar. Dopo aver percorso alcuni chilometri in modalità programmata, i droni avrebbero attivato una funzione denominata “Terminator mode”, in cui veniva affidato all’IA il compito di identificare ed ingaggiare dei bersagli in modo completamente autonomo. Una volta avviata la missione, non esisteva alcun collegamento con i velivoli, con gli operatori che non potevano ricevere immagini video dal drone, né tantomeno intervenire sulle decisioni prese dall’algoritmo. “Una volta lanciati, sappiamo che tutto ciò che verrà trovato in quell’area sarà distrutto”, ha dichiarato Kokhanovskyy. Per verificare gli effetti dell’operazione, sarebbero stati successivamente inviati droni pilotati da remoto nella stessa area, che avrebbero rendicontato la morte di alcuni soldati russi e la distruzione di un camion (pur non essendoci, appunto, prova diretta).

Se confermato, l’episodio rappresenterebbe un punto di svolta nel dibattito internazionale sulle cosiddette Lethal Autonomous Weapons Systems (Laws), sistemi in grado di selezionare e colpire obiettivi senza che un essere umano autorizzi l’azione finale. Finora erano emersi altri esempi di casi controversi (come quello dei droni turchi Kargu-2 in Libia citato da un rapporto delle Nazioni Unite nel 2021), ma nessuno aveva fornito prove così esplicite di vittime causate esclusivamente da un processo decisionale automatizzato.

L’episodio però, come sottolinea lo stesso Kokhanovskyy, è stato un caso isolato per fini di testing, e la modalità di completa autonomia non è mai stata più impiegata. In ossequio alle regole dell’Ucraina, che mantiene un approccio chiaro sull’impiego dell’IA nei sistemi d’arma, permettendone l’utilizzo esteso nell’individuazione e nel tracciamento dei bersagli, ma non per l’autorizzazione finale all’ingaggio, preservando lo human-in-the-loop.

Ma l’episodio rimane comunque un monito di come l’IA stia trasformando il campo di battaglia, e dei rischi che questa trasformazione contiene al suo interno. Rischi che hanno spinto alcuni attori a cercare di prevenire il verificarsi di situazioni simili a quella descritta dall’imprenditore ucraino. Tra questi c’è il segretario generale delle Nazioni Unite António Guterres, che ha più volte chiesto un divieto internazionale delle armi autonome letali, sostenendo che non vi sia spazio per sistemi capaci di decidere autonomamente sulla vita e sulla morte delle persone. Ma oltre a Guterres, tantissime organizzazioni umanitarie e numerosi esperti temono che l’eliminazione del giudizio umano possa aumentare il rischio di errori, colpire civili o rendere più difficile attribuire responsabilità legali per eventuali crimini di guerra.