L’IA non legge ma recensisce. Una pericolosa illusione tecnologica

Alcuni miei studenti hanno utilizzato dispositivi di intelligenza artificiale per farsi scrivere la recensione di un libro che avevo assegnato loro come esercizio didattico. Ma è sorto un problema serio.

Anche se consentono di scrivere recensioni, le app di AI non sono autorizzate – per ragioni di copyright – a leggere il libro, salvo i rari casi di un contratto specifico con l’editore. Di conseguenza, i testi delle IA non sono vere recensioni, ma collage di informazioni pubbliche sparse per il web. La riprova è che se chiedi a un app “sei sicura di aver letto il libro?”, questa risponde onestamente “no, perché non posso leggerlo”.

I big della IA dovrebbe pertanto dare solo informazioni su un determinato libro, forse anche riassunti, ma eliminare il termine “recensione” perché decisamente fuorviante, anzi fake. Chi non ha letto un libro non può recensirlo.

Ma il problema non è solo di natura giuridica, legato alla violazione delle norme di copyright, come è emerso nitidamente nella causa intentata dal New York Times a OpenAI e Microsoft. Se anche l’IA fosse autorizzata a leggere il testo integrale di un libro, ci si potrebbe aspettare al massimo un riassunto, non una vera recensione.

Le app IA non sono assolutamente in grado di esprimere un giudizio autonomo sul testo. Esse, infatti, non si basano su dati propri ma esclusivamente su criteri statistici derivanti da fonti pubbliche esterne.

Per questo il massimo che possono generare sono cocktail – più o meno ben confezionati – dei pareri raccolti nel web su basi quantitative. Se, ad esempio, la maggioranza dei dati è negativa, verrà fuori una “recensione” che stronca il libro.

È bene che i lettori sappiano che nonostante le promesse, l’IA non é in grado – per vincoli giuridici e per limiti tecnologici – di generare recensioni intelligenti.