Ad oggi più di 20 paesi hanno chiesto un divieto totale di robot killer anticipando una seduta delle Nazioni Unite la prossima settimana che si focalizzerà sulle armi autonome. Tuttavia sebbene ci sia un movimento globale in materia le posizioni dei diversi stati non sono tutte omogenee. In queste ore ricercatori del campo delle intelligenza artificiale provenienti da circa 30 paesi stanno boicottando un’università sudcoreana per timore che la recente creazione di un nuovo laboratorio in collaborazione con un’importante compagnia che si occupa di difesa possa condurre a produrre dei robot killer.
Sono più di 50 gli accademici di grande rilievo internazionale che hanno firmato una lettera che chiede il boicottaggio del Korea Advanced Institute of Science and Technology (Kaist) e del suo partner, un attivo produttore di sistemi militari per la difesa Hanwha Systems. Gli accademici dichiarano nel loro testo di non voler collaborare con l’università sud coreana o di ospitato ricercatori del Kaist per paura che ogni iniziativa possa contribuire ad accelerare la corsa per sviluppare armi autonome.
Toby Walsh, un professore dell’Università del New South Wales e organizzatore del boicottaggio, ha dichiarato: “Ci sono un sacco di grandi cose che si possono fare con l’AI, si possono salvare vite, anche in un contesto militare, ma dichiarare apertamente che l’obiettivo è sviluppare armi autonome e avere un partner come questo genera una grande preoccupazione. Questa [Kaist ndt] è un’università molto rispettata e sta collaborando con un partner eticamente molto discutibile che continua a violare le norme internazionali”. Di sicuro lo sviluppo di armi autonome peggiorerebbe la situazione della sicurezza nella penisola coreana.
Il boicottaggio arriva prima di una riunione delle Nazioni Unite a Ginevra la settimana prossima sulle armi autonome, nella cui previsione già più di 20 paesi hanno chiesto un bando totale dei robot killer. L’uso dell’AI in ambito militare ha scatenato la paura di una situazione simile a Terminator e sono state sollevate domande sulla precisione di tali armi e sulla loro capacità di distinguere gli amici dai nemici.
Hanwha è uno dei maggiori produttori di armi della Corea del Sud e produce munizioni a grappolo che sono vietate in 120 paesi in base a un trattato internazionale. La Corea del Sud, insieme a Stati Uniti, Russia e Cina, non hanno mai firmato questa convenzione.
Walsh si è iniziato a preoccupare quando ha letto un articolo del Korea Times che raccontava come Kaist stava per unirsi alla competizione globale per sviluppare armi autonome e ha prontamente scritto all’università ponendo alcune domande ma senza mai ricevere risposta.
Il presidente di Kaist, Sung-Chul Shin, ha detto di essere rattristato nel sentire parlare di boicottaggio. “Vorrei ribadire che Kaist non ha alcuna intenzione di impegnarsi nello sviluppo di sistemi di armi autonome letali e di robot killer”, ha detto Shin in una dichiarazione. “In quanto istituzione accademica, valutiamo i diritti umani e gli standard etici in misura molto elevata”, ha aggiunto. “Ribadisco ancora una volta che Kaist non condurrà alcuna attività di ricerca contro la dignità umana, comprese le armi autonome prive di un significativo controllo umano”.
Che cos’è Hanwha Systems?
Hanwha Systems fa parte di un grande conglomerato globale sud coreano che comprende finanza, edilizia, prodotti chimici e alberghi ed è una delle 10 maggiori aziende del paese. Fondata nel 1952, durante la guerra di Corea, aveva il nome di Korea Explosives Company. La società è stata esclusa dal fondo petrolifero nazionale norvegese, destinato a investire profitti per le generazioni future, per questioni etiche legate alla produzione di munizioni a grappolo. Le armi sono state bandite da un trattato firmato da 120 paesi, ma non dalla Corea del Sud.
I dipendenti di Hanwha, secondo i comunicati stampa della compagnia, erano pronti a “costruire un sistema di cooperazione attraverso la condivisione di programmi educativi e lo scambio di manodopera di ricerca” presso un centro di ricerca sull’intelligenza artificiale in una delle principali università coreane. Questo di fatto ha suscitato polemiche.
Negli ultimi anni, Hanwha ha individuato il Medio Oriente come “un mercato privilegiato e strategico” e ha cercato di espandersi con acquisizioni di aziende concorrenti. La società ha collaborato con la ditta indiana Larsen & Toubro per ottenere un contratto di armi di 660 milioni di dollari come parte dell’inizio di un piano per la revisione dell’esercito indiano. Ricordiamo che il presidente del gruppo, Kim Seung-youn, è stato condannato nel 2012, insieme a una serie di uomini d’affari coreani di alto profilo accusati di reati finanziari, per appropriazione indebita nel 2012.
Kaist ha aperto questo centro di ricerca per far convergere la difesa nazionale e l’intelligenza artificiale il 20 febbraio scorso, con Shin che ha dichiarato all’epoca che avrebbe “fornito una solida base per lo sviluppo della tecnologia di difesa nazionale”.
Il centro si concentrerà su “sistemi di comando e decisione basati su AI, algoritmi di navigazione compositi per veicoli sottomarini senza equipaggio su larga scala, sistemi di addestramento di velivoli intelligenti basati su intelligenza artificiale e tecnologia di rilevamento e riconoscimento di oggetti intelligenti basati su intelligenza artificiale”, recitava un annuncio prontamente cancellato.
La Dodaam Systems della Corea del Sud produce già un “robot da combattimento” completamente autonomo , una torretta fissa, in grado di rilevare bersagli fino a 3 km di distanza. I clienti includono gli Emirati Arabi Uniti e il Qatar ed è stato testato sul confine altamente militarizzato con la Corea del Nord, ma i dirigenti della compagnia hanno detto alla Bbc che nel 2015 ci sono state “restrizioni auto-imposte” che hanno richiesto che fosse sempre presente un uomo per effettuare un attacco letale.
Analogamente il drone militare Taranis costruito dai sistemi Bae del Regno Unito può funzionare tecnicamente in modo completamente autonomo, secondo Walsh, che ha detto che i robot killer hanno reso tutti meno sicuri.
“Lo sviluppo di armi autonome renderebbe peggiore la situazione della sicurezza nella penisola coreana, non certo la migliorerebbe”, ha affermato. “Se queste armi fossero fatte ovunque, alla fine si sarebbero sicuramente presentate in Corea del Nord e non avrebbero avuto esitazioni a usarle contro il Sud”. Ancora una volta il problema è squisitamente etico.
