Il rilascio del modello cinese Kimi K3 e le mosse di Washington e Pechino stanno riportando al centro una domanda: chi controlla davvero i sistemi intelligenti? Dai modelli di IA ai robot connessi fino alle automobili software-defined, il punto non è soltanto cosa raccolgono, ma chi può impartire istruzioni e aggiornamenti. È su queste capacità che si stanno ridefinendo la sicurezza nazionale e la regolazione del mercato della robotica. La riflessione di Silvio Revelli, amministratore delegato di volta.ai
Il 16 luglio Moonshot AI ha rilasciato Kimi K3, 2.800 miliardi di parametri, con i pesi attesi entro il 27: sarebbe il più grande modello aperto mai distribuito. Nelle stesse settimane il Congresso ha ristretto l’uso di alcuni modelli cinesi e il Pentagono ha difeso la scelta, mentre Pechino valuta controlli all’esportazione sui pesi dei modelli nazionali. Due governi si muovono in direzioni opposte sullo stesso oggetto. Non capita per le cose irrilevanti.
La ragione è che nessuno sa davvero cosa contenga una matrice di miliardi di parametri: non chi la scarica, non chi la ospita, nemmeno chi l’ha addestrata. Aperto significa che puoi leggerne ogni numero senza sapere nulla di ciò che il modello farà. L’ispezionabilità è una garanzia sulla distribuzione e una figura retorica sul contenuto.
Ma la domanda non si ferma al software. Allo stesso modo nessuno sa con chi parlano i chipset di telecamera, microfono e LiDar: quali endpoint contattano all’accensione, cosa viaggia dentro un pacchetto cifrato, quale firmware si sostituisce da solo dopo l’installazione. Opacità dei pesi, opacità del silicio: stessa domanda su due piani.
Pesi occidentali, chip occidentali. Perché? Non per patriottismo, ma per due funzioni che un dispositivo connesso svolge sempre insieme.
La prima è vedere. LiDar e telecamere costruiscono una rappresentazione dello spazio: planimetrie centimetriche, ritmi di presenza, percorsi, abitudini, identità. E con un click si possono attivare da remoto i microfoni che raccolgono conversazioni: anche quelle del politico o del dirigente industriale che il robottino l’ha ricevuto in regalo a Natale dalla figlia. A Teheran la rete di videosorveglianza costruita dallo Stato per il controllo interno è servita ad altri per ricostruire turni e spostamenti della scorta della leadership: ha funzionato come progettata, per qualcun altro.
La seconda è obbedire, ed è quella che nessuno guarda. Un robot non è una telecamera con le ruote: sceglie l’inquadratura invece di averla, attraversa lo spazio invece di guardarlo e, soprattutto, accetta istruzioni. E se è un robot che opera in autonomia, adotta dei princìpi che ne regolano il comportamento autonomo. Da chi, con quali credenziali, su quale canale, sotto quale legge e con quali eccezioni. Comprare un robot connesso significa cedere un volante. L’unica domanda che conta è dove si trovi la mano che lo tiene.
La scala è più larga di quanto si pensi. Si parte dal robot che pulisce i pavimenti, si passa per quelli che consegnano negli ospedali e pattugliano i magazzini, e si arriva all’automobile, ormai un robot. Il drive by wire ha sostituito il collegamento meccanico: sterzo, freno e acceleratore sono comandi elettronici. Nel software defined vehicle un aggiornamento remoto può modificare la risposta del pedale e la curva di frenata. Il volante che teniamo in mano è un sensore che inoltra una richiesta, e chi scrive il firmware decide come viene tradotta in movimento. Non è una metafora: è l’architettura.
Per questo la robotica è dual use per definizione, non per scelta del produttore. Nel diritto dei controlli all’esportazione un bene è dual use quando può servire a scopi civili e militari, e il giudizio si fonda sulla capacità, non sull’intenzione. Ciò che rende dual use un robot non è quello che fa: è quello che può essere riprogrammato a fare senza toccare un solo componente.
Washington ne ha tratto le conseguenze in diciotto mesi, e vuole vederci chiaro dentro un’opacità distribuita capillarmente nelle case dei suoi cittadini. Prima i droni, con DJI iscritta alla covered list della Fcc. Poi i router, con TP-Link. Poi le auto connesse, con la stretta di Biden sui veicoli con software e hardware cinesi. Poi i sensori: l’8 giugno la lista 1260H del Pentagono ha incluso i produttori di LiDar RoboSense e Hesai. Infine i robot stessi, con Unitree. Gli strumenti ci sono già: Sezione 889, American Security Robotics Act che definisce il veicolo terrestre senza pilota per pura funzione senza mai nominare l’uso militare, Guard Act, Sezione 163 del Ndaa. E in Canada la Corte Federale ha confermato l’ordine di cessazione contro Hikvision senza che nessuno dovesse dimostrare un danno: conta la capacità, non l’incidente.
Le aziende di robotica che orbitano sugli Usa hanno bisogno di attrezzarsi su tre cose. Elettronica Ndaa compliant, perché rifarla dopo costa dieci volte tanto. Metabolismo di fleet learning saldamente in giurisdizione occidentale, perché è qui che si definiscono i criteri dell’autonomia dei robot. E qui il cerchio si chiude sull’incipit: modelli di inferenza proprietari invece di pesi di provenienza non verificabile. Qualcuno ci è già: l’azienda che dirigo, volta.ai, applica questi criteri alla flotta di robot tagliaerba di consumo, dove nessuna norma li impone. È un motore metabolico di flotte, e le stesse competenze si trasferiscono a qualunque flotta di robot occidentale. Non è conformità anticipata. È aver capito che chi compra una macchina che si muove dentro casa non acquista un servizio: concede un accesso.
