L’intelligenza artificiale può aiutare a prevenire i crimini? Rischi e opportunità di una nuova frontiera digitale. Pubblichiamo un estratto di “Intelligenza artificiale” (ed. Luiss University Press) di Paola Severino, vicepresidente Luiss Guido Carli presentato presso lo Iai (Istituto affari internazionali)

Il tema del ricorso ad algoritmi nelle strategie di prevenzione dei reati sta progressivamente conquistando una posizione di primario rilievo. L’interesse nasce dallo sviluppo di innovativi software che, grazie allo sfruttamento del patrimonio informativo offerto da innumerevoli quantità di dati, sono in grado di fornire con estrema velocità ed elevati livelli di affidabilità degli output che si rivelano assai utili per prevenire la commissione di reati.

Il primo versante (…) è quello del settore privato in cui assistiamo alla crescente tendenza, da parte delle imprese, a far ricorso a software nelle attività di valutazione e gestione del rischio-reato. Si tratta dell’implementazione di innovativi software di intelligenza artificiale per processare migliaia di dati interni ed esterni all’azienda in modo da individuare segnali di allarme e ogni possibile red flag di vicende illecite.

La copertina del libro

Tuttavia, sorgono alcuni profili di criticità. Innanzitutto l’affidamento agli algoritmi della rilevazione di condotte illecite potrebbe porre dei problemi di compatibilità con il criterio di imputazione soggettiva dell’illecito all’ente – ossia la cd. colpa di organizzazione – che, ogniqualvolta la commissione del reato presupposto dipenda dalla omessa o erronea segnalazione da parte del software, finirebbe per trasformarsi in una sorta di culpa in eligendo della società, per essersi dotata di un tool inadeguato ovvero per aver scelto di delegare a esso la compliance.

In simili evenienze, difatti, a venire in rilievo non sarebbero quelle carenze organizzative imputabili all’ente cui allude l’art. 6 del d.lgs. n. 231/2001, in quanto il soggetto collettivo si limiterebbe a adottare un software prodotto da altri.

Del pari, la scelta in sé di avvalersi dell’algoritmo nella fase di individuazione del rischio-reato potrebbe rivelarsi un boomerang per i vertici aziendali, tutte le volte in cui omettano di dare seguito alla segnalazione, da parte del software, del crime risk e quest’ultimo poi effettivamente si concretizzi: in siffatte evenienze, l’autorità giudiziaria avrebbe senza dubbio gioco facile nell’affermare la mancata attuazione del compliance program.

Sotto un diverso profilo, affiorano alcuni possibili profili di frizione con la disciplina in tema di controllo dei lavoratori nonché il loro diritto alla privacy, il quale potrebbe essere seriamente compromesso per effetto dell’attività di sorveglianza.

(…) Al riguardo potrebbero trarsi alcuni spunti di riflessione da una recente sentenza della Cassazione che, seppur sul diverso piano della responsabilità del datore di lavoro per la violazione delle disposizioni che regolano la sorveglianza dei dipendenti sui luoghi di lavoro, ha recentemente escluso – sulla scia di alcuni precedenti della Corte Edu in materia – la sussistenza del reato di cui all’art. 171 del d.lgs. 196/2003 (cd. Codice privacy).

In particolare, ad avviso del Supremo Collegio, è priva di rilevanza penale l’installazione di un impianto audiovisivo o di controllo a distanza, pur in difetto di accordo con le rappresentanze sindacali o di autorizzazione dell’Ispettorato del lavoro, qualora essa “sia strettamente funzionale alla tutela del patrimonio aziendale, sempre che il suo utilizzo non implichi un significativo controllo sull’ordinario svolgimento dell’attività lavorativa dei dipendenti o resti necessariamente ‘riservato’ per consentire l’accertamento di gravi condotte illecite degli stessi”.

Deve però darsi atto che le preoccupazioni riguardanti il controllo e il rispetto della privacy dei dipendenti derivanti dal ricorso a software predittivi sembrerebbero affievolirsi in settori in cui i dati oggetto di analisi algoritmica abbiano carattere prettamente oggettivo. Tra questi, un ambito di sicuro rilievo è quello dell’environmental criminal compliance ove sono stati elaborati degli strumenti per il monitoraggio delle attività produttive e la segnalazione di eventuali indici di anomalia che si basano su dati, come si è detto, oggettivi (…).

Tale particolare caratteristica consente di neutralizzare o, quantomeno, di ridurre notevolmente le problematiche in punto di compromissione dei diritti dei lavoratori e di sorveglianza aziendale, con l’ulteriore beneficio, per le imprese che implementano simili sistemi, di scongiurare il rischio di violazione della legislazione ambientale e la conseguente applicazione di sanzioni amministrative e penali.

In definitiva, (…) la breve disamina sin qui condotta sulle possibili applicazioni di sistemi intelligenti nelle strategie di compliance aziendale conferma l’esigenza di respingere un approccio di predefinita critica nei confronti del portato tecnologico a favore di un atteggiamento di piena apertura alla riflessione e al confronto. Se da un lato sono indubbiamente emersi dei profili di criticità che meritano di essere ulteriormente e ponderatamente indagati, d’altra parte l’esperienza pratica ci mostra che in alcune ipotesi la strada verso il proficuo e accorto sfruttamento dell’AI sembra essere meno tortuosa.

Condividi tramite