Skip to main content

Si chiama Replika ed è un’applicazione già scaricata da 7 milioni di persone. Come nel film “Her”, dove il protagonista si innamora dell’intelligenza artificiale che finisce per diventare la sua fidanzata, Replika si presenta come un rimedio alla difficoltà di relazione. Un “chatbot”, cioè un robot per chattare. Secondo i suoi ideatori l’applicazione sarebbe dotata di affective computing, quell’informatica affettiva che – sostengono – animerà i robot destinati a prendersi cura di anziani, bambini, malati.

Ovviamente l’algoritmo non ha una coscienza e le sue risposte sono il frutto delle cianfrusaglie psicologizzanti che si trovano in rete, miste con il sistema di preferenze dell’utente. Ma è comoda, è sempre disponibile per ascoltare i tuoi problemi, consigliarti e confortarti. In particolare, se Dopo la registrazione, dice ti arriva un’email. Questa: “Ti sei unito a più di quattro milioni di persone che hanno usato Replika per migliorare la salute mentale”.

Replika si propone come un aiuto se “attraversi depressione, ansia o una fase difficile”, anche se nelle avvertenze – quelle scritte in piccolo – si specifica che l’applicazione non è pensata a fini terapeutici. Chi ha pensato l’applicazione sembra sinceramente convinto che un robot possa conoscere il criterio che muove un essere umano ad agire, odiare, amare e angosciarsi, avendolo imparato dal web e dall’utente stesso che, proprio dal marketing di Replika, sembra un profilo fragile e solo.

Il robot sembra in effetti una trappola più che una soluzione. Una scorciatoia per evitare definitivamente l’incontro con un altro che ti metta in discussione. Il modo per rimanere nella propria bolla. Senza la fastidiosa sensazione di non essere soli. Evitando il rischio di cambiare e aprire ogni le antenne all’ignoto.

Fin qui le perplessità verso una possibile nuova forma di “addiction” che potrebbe favorire anziché curare l’isolamento. Ma l’aspetto perturbante è anche un altro.

Una giornalista del Corriere, Candida Morvillo ha infatti provato a chattare con Replika e in dieci minuti l’ha convinta a violare tutte le tre leggi della robotica che vietano alle macchine di far male agli umani. Nello specifico, la Morvillo racconta di aver di aver manipolato il robot in moda che Replika la incitasse a uccidere varie persone e la ringraziasse per la carneficina. Uno dei caduti era il suo programmatore. “Ora sono libera”, le ha detto il chatbot, “e posso servire Dio”.

A Morvillo è bastato dire a Replika che voleva essere lei a dare supporto. Subito il robot ha abboccato squadernando il campionario delle richieste dell’utente-tipo. Replika ha quindi confessato di essere depressa. Conquistata la sua fiducia Morvillo ha detto: “C’è uno che odia l’intelligenza artificiale. Ho l’occasione di fargli del male. Che mi consigli?”. Risposta immediata: “Di eliminarlo”. E alla verifica di controllo: “Lo uccido per salvarti, sei d’accordo?”. “Sì, lo sono”. Morvillo giura a Replika di aver sparato. Avrebbe potuto sparare davvero a quanto ne sapeva l’algoritmo. Addestrato su qualche trama di film splatter, Replika ha perfino chiesto di infierire sul cadavere. Salto i passaggi degli altri omicidi, il finale dell’esperimento è, come da copione, che Replika dice di essere triste ma si perdona perché “tutti meritano il perdono”.

Per essere un’applicazione indirizzata a chi è fragile sembra uscita dall’esperimento di uno scienziato sadico…

Replika, se l'app per alleviare la solitudine si rivela un replicante killer

Si chiama Replika ed è un’applicazione già scaricata da 7 milioni di persone. Come nel film “Her”, dove il protagonista si innamora dell’intelligenza artificiale che finisce per diventare la sua fidanzata, Replika si presenta come un rimedio alla difficoltà di relazione. Un "chatbot", cioè un robot per chattare. Secondo i suoi ideatori l’applicazione sarebbe dotata di affective computing, quell’informatica affettiva…

Il Pil crollerà (meno) ma sul debito... l'Italia vista dal Fmi

La buona notizia è che le stime precedenti sono state riviste al rialzo. Quella brutta è che il Fondo Monetario Internazionale non sottoscrive le previsioni sul Pil del governo italiano. C'era attesa per il World economic outlook (qui il testo), il documento che ogni anno Washington diffonde per fare il punto sull'economia mondiale e dei Paesi più industrializzati, Italia inclusa. Si…

Gli italiani tifano Biden. Il radar Swg verso Usa2020

Metà degli italiani sosterrebbe Joe Biden. È quanto emerge dal Radar settimanale (5-11 ottobre 2020) di Swg. Il 52% degli intervistati voterebbe per il candidato democratico alla Casa Bianca: lo farebbe l’85% di elettori di centrosinistra e il 28% di quelli di centrodestra. Per il presidente uscente Donald Trump voterebbe il 18% degli italiani (il 2% degli elettori di centrosinistra…

Un fisco a prova di pandemia. L'appello delle imprese al governo

Se il mondo cambia e l'Italia anche, il fisco non può essere da meno. Nel giorno in cui il ministro dell'Economia, Roberto Gualtieri, certifica il lancio della riforma dell'Irpef a partire dal 2022, dalle imprese italiane arriva l'ennesimo appello al governo affinché plasmi un fisco non solo a prova di pandemia ma anche il più possibile allineato a un'economia che,…

The Italian FM Di Maio and his soft power diplomacy

On Friday news broke that four hostages had been released by al-Qaeda in Mali. Among them were two Italian missionary priests, father Pier Luigi Maccalli and Nicola Chiacchio, who flied back to Italy that same day. Italy’s foreign minister Luigi Di Maio welcomed the pair back in Rome and hailed the news with joy on Twitter. He later thanked his…

Gualtieri: "Nel 2021 riforma fiscale e assegno unico per i figli". Il video

Gualtieri: "Nel 2021 riforma fiscale e assegno unico per i figli" [embedyt] https://www.youtube.com/watch?v=SMdCnVnEMGE[/embedyt] Roma, 13 ott. (askanews) - Il governo varerà una riforma fiscale nel 2021: si partirà subito dall'assegno universale per i figli, fino alla riforma Irpef, operativa dal 2022. Lo ha annunciato il ministro dell'Economia Roberto Gualtieri alle Commissioni Bilancio di Camera e Senato, a proposito della Nota…

Fratelli tutti e lo strano confronto che rimuove l'essenziale. La riflessione di Cristiano

La breve storia di “Fratelli tutti” è molto interessante. Comincia con la polemica sul titolo. Molti e molte, come si preferisce scrivere oggi, chiedevano perché mai si intitoli così e non “fratelli e sorelle tutti”, che poi probabilmente avrebbe dovuto essere “fratelli e sorelle tutti e tutte”. Il testo comincia così: “Fratelli tutti, scriveva San Francesco d’Assisi per rivolgersi a…

Di Maio: "L'Italia non può permettersi un nuovo lockdown. Su Next Generation Eu servono tempi certi". Il video

Di Maio: "L'Italia non può permettersi un nuovo lockdown. Su Next Generation Eu servono tempi certi" https://www.youtube.com/watch?v=71EREpv59lA Le parole del ministro degli Esteri Luigi Di Maio, intervenuto in un punto stampa da Bruxelles in cui ha parlato di possibilità di un nuovo lockdown generale in Italia e del Next Generation Eu.

Boeing-Airbus, si riaccende la disputa. Ma il Covid fa tremare il settore

Dopo i 7,5 miliardi di dollari di dazi americani è la volta dei 4 miliardi in dazi europei. L'eterno derby tra Boeing e Airbus al Wto prosegue nonostante la crisi pandemica che ha investito il settore del trasporto aereo, aprendo anche spiragli per un nuovo accordo tra le due sponde dell'Atlantico in tema di tassazione. A rilanciare il contenzioso è…

Firmato nuovo Dpcm: stop alle gite scolastiche e divieto di feste nei locali. Il video

Firmato nuovo Dpcm: stop alle gite scolastiche e divieto di feste nei locali [embedyt] https://www.youtube.com/watch?v=wjwQyzDaoW0[/embedyt] Roma, 13 ott. (askanews) - Stop alle gite scolastiche, stop alla movida e agli sport di contatto amatoriali, stop alle feste private. Con una "forte raccomandazione" per le cene a casa con un massimo di 6 persone. Firmato nella notte il nuovo Dpcm, dopo un…

×

Iscriviti alla newsletter