Nel 2013 Netflix ha progettato la formula per un nuovo show attraverso l’uso di un algoritmo. La compagnia ha raccolto una quantità massiccia di dati che rivelava la presenza di una vastissima audience per i psico-thriller di Kevin Spacey e per i film drammatici diretti da David Fincher. I big data hanno dunque comunicato a Netflix che dall’unione di questi due generi sarebbe potuto nascere un successone. E la serie televisiva House of Cards effettivamente lo è.

LA RIVOLUZIONE DELL’ALGORITMO

Che un algoritmo potesse sostituire il giudizio umano non suona come qualcosa di particolarmente sconvolgente dal momento che si applica alla realizzazione di film. Ma vale la pena ricordare che per un direttore creativo non è così. Potrebbero Fellini, Godard o Cassavetes essere a favore dell’invasione dell’intelligenza artificiale nel loro spazio creativo? Come società, non sembra ci dispiaccia l’esistenza di piloti automatici per gli aerei; probabilmente in questo caso siamo rassicurati dal fatto che si tratta di un compito particolarmente impegnativo, anzi, saremmo preoccupati se i piloti rifiutassero di usarlo.
Dunque, perché non insistiamo affinché i medici utilizzino i motori di ricerca per confermare le loro diagnosi? Non dovremmo anche insistere affinché la polizia utilizzi i dati per inviare le pattuglie piuttosto che mandarle alla cieca nei luoghi dove stanno accadendo i crimini? I responsabili delle risorse umane potrebbero forse contare sugli algoritmi per scegliere chi assumere, basandosi sulle qualità dei candidati più performanti, anziché prendere decisioni in prima persona, con tutti i pregiudizi inconsci a ciò connessi?

I POSSIBILI VANTAGGI…

Nel giro di un decennio, la maggior parte delle decisioni che vengono prese nella società, saranno supportate da dati. Molti aspetti della vita miglioreranno. I medici che si occupano di una malattia rara, per esempio, scopriranno che non è affatto tale ma solo inconsueta, e genereranno un algoritmo che consenta di aggregare centinaia di altri casi al fine di garantire che il miglior trattamento venga messo in evidenza. Gli algoritmi forniti dai big data e dall’intelligenza artificiale ci consentiranno di individuare attività illegali prima di una crisi finanziaria. Renderanno le automobili in grado di percorrere le strade con meno incidenti rispetto a quando guidava l’uomo (fumando, mandando messaggi e chiacchierando allo stesso tempo).
Dopotutto, ci siamo quasi. Il successo dei big data indica che la maggior parte delle compagnie sta raccogliendo e conservando tutte le informazioni che possono trovare. Google, Facebook e altre potenze della Silicon Valley sono in conflitto per comprare tutte le startup che operano nel campo del machine learning, un ramo dell’intelligenza artificiale che riversa tantissimi dati in un algoritmo, consentendo ai computer di compiere azioni senza che gli venga detto esplicitamente come farlo. Tale strumento viene utilizzato per tutto, dai filtri antispam ai sistemi di riconoscimento vocale. Nel futuro ciò consentirà alle vetture di autopilotarsi e ai medici di fare diagnosi migliori.

…E I RISCHI

Ma ci sono anche notevoli aspetti negativi della società algoritmica. Il primo è la privacy. Era un problema già nell’era degli small data, sarà un problema anche in quella dei big data. Non riusciremo mai a trovare una soluzione; saremo sempre costretti a lottare per la ricerca di compromessi e ad avere a che fare con preoccupazioni, così come non abbiamo mai risolto la questione della gestione della democrazia (cosa che gli italiani sanno bene). Ogni generazione dovrà sviluppare le risposte giuste per il proprio periodo.
In secondo luogo, vi sono le conseguenze sull’economia e sull’occupazione. La tecnologia sta sottraendo posti di lavoro. I big data e gli algoritmi si sfideranno con i colletti bianchi, nello stesso modo in cui l’automatizzazione delle fabbriche e la catena di montaggio hanno messo in crisi i colletti blu nell’Ottocento e Novecento.
Prendiamo l’esempio di un patologo che determina se un campione di cellule è canceroso o meno. L’algoritmo di apprendimento automatico e la tecnologia per la visione computerizzata sono già in grado di eseguire questo compito meglio di un essere umano. Eppure i patologi sono laureati in medicina. Comprano case. Pagano le tasse. Votano. Sono soggetti portatori d’interesse nella società. E loro, così come altre classi di professionisti, stanno assistendo alla trasformazione o all’eliminazione dei propri posti di lavoro.
Il vantaggio è che i big data faranno grandi cose per la società. In cambio, però, rischiamo tutti di diventare istruttori di yoga o baristi in un piccolo gruppo di scienziati informatici milionari. Ci piace pensare che la tecnologia possa generare posti di lavoro, anche se ciò dovesse arrivare dopo un periodo di riorganizzazione. Questo è certamente vero per il nostro quadro di riferimento, la rivoluzione industriale. Ma ci sono alcuni lavori che semplicemente non tornano più. Ad esempio la rivoluzione industriale non sarebbe stata una cosa buona se fossi stato un cavallo.
Gli sconvolgimenti della rivoluzione industriale hanno creato rivoluzioni politiche e hanno dato spazio a nuove filosofie economiche e movimenti, come ad esempio il marxismo. Certamente ci saranno anche nuove filosofie politiche costruite intorno a big data e internet ed esse avranno conseguenze sull’economia e sulla democrazia rappresentativa.
Il terzo problema è più delicato: l’idea della propensione. C’è l’effettivo rischio che gli algoritmi siano in grado di predire ciò che stiamo per fare e di ritenerci responsabili prima ancora che agiamo. È il mondo di Minority report e dell’idea del “pre-crimine”. Se un algoritmo prevede che un determinato giovane abbia una probabilità del 95% di diventare un taccheggiatore nei prossimi mesi, che cosa dovrebbe fare la società? Non agire sulle informazioni in possesso sarebbe antiscientifico! Ma il giovane potrebbe affermare che c’è 1/20 di probabilità che egli eserciti la scelta morale di resistere alla tentazione di rubare. Lo standard giuridico di causa probabile sarà sostituito dalla causa probabilistica?

NON PERDERE IL CONTROLLO

Se priviamo gli individui della loro scelta morale, rinunciamo a qualcosa di fondamentale per l’essere umano. Probabilmente, nell’era del big data abbiamo bisogno di preservare il libero arbitrio e l’azione umana tanto quanto la nostra società si rese conto della necessità di proteggere la libertà d’espressione della stampa dopo la precedente rivoluzione dell’informazione.
Algoritmi, apprendimento automatico, intelligenza artificiale e big data stanno per cambiare il nostro modo di vivere, lavorare e pensare. Essi influenzeranno il modo in cui strutturiamo i nostri rapporti, in cui gestiamo le nostre carriere e beneficiamo di soddisfazioni, amore, salute e speranza. Ma dobbiamo fare in modo di restare noi i padroni della tecnologia e non suoi servitori. Non vogliamo che la nostra immaginazione, le nostre emozioni, la nostra intelligenza e l’umanità crollino come un house of cards (castello di carte).

(Articolo estratto dal n°101 della rivista Formiche)