L’oggettificazione cyber-socializzazione del deepFake è soltanto la prima delle facce del prisma della violenza di genere nell’ecosistema cyber-sociale. L’analisi di Arije Antinori
La violenza di genere ha radici culturali, quindi non possiamo non tener conto di una delle sue dimensioni cyber-sociali più “sinteticamente” dilaganti in quel mondo ancora oggi inappropriatamente definito “virtuale”, che ormai rappresenta una dimensione immanente dell’esistenza umana, all’interno di un vero e proprio ecosistema quotidianamente vissuto da ognuno di noi, ma sempre più immersivamente abitato dalle nostre figlie e dai nostri figli, spesso alla ricerca della propria costruzione identitaria.
In tale contesto, si assiste a una forma di uso malevole di Intelligenza Artificiale (MUAI), più precisamente di Generative AI (GenAI), per la produzione di deepFake, contenuti audio/video sintetici che attraverso la manipolazione e/o compilazione, possono essere percepiti come genuini dal fruitore, nonché di “shallow fakes” ossia prodotti molto approssimativi in termini qualitativi, ma comunque in grado di suscitare reazioni emotive.
Tali prodotti mediali utilizzati in ambito politico, sociale e militare, in modo sempre più organicamente strutturato ai fini disinformativi, si sono ampiamente diffusi negli ultimi cinque anni grazie alla massiva disseminazione, prima amatoriale, di contenuti di natura pornografica. La quasi totalità dei deepFake a sfondo sessuale riguarda contenuti non consensuali di natura sessuale che hanno come soggetto target, come vittima, la donna. Il deepFake Porn, o DeepPorn, rappresenta oggi un vero e proprio genere nel mercato del porno digitale, anzi lo definirei “Il mercato sintetico di genere”.
Donne influencer, VIP, della politica e di governo, come Alexandria Ocasio-Cortez o Giorgia Meloni, sono state e continuano a essere oggettificate sessualmente a causa del deepFaking, soprattutto all’interno di spazi di video-sharing, image-boarding o piattaforme social di nicchia. Qui, si condividono immagini e/o video realistici a sfondo sessuale o pornografico, che possono essere percepite come autentiche, nonché immagini e/o video, più o meno cartoonizzati, in cui è ben identificabile il volto della vittima integrato in corpi che sono il risultato di metamorfosi prevalentemente fantasy, fantascientifiche o hentai, spesso ispirate al gaming online. Vi sono contenitori con migliaia di video categorizzati per tag, fruibili in modo gratuito e intermediato, visitati ogni mese da milioni di utenti che prendono parte a un social commenting incontrollato, tossico e violento in cui si arriva sino all’incitamento allo stupro e all’uccisione delle donne.
Sul piano psicologico e sociale, la vittima vive ciò come una violazione della propria intimità, pubblicamente sovraesposta, si sente quindi umiliata, indifesa e vulnerabile, con impatti significativi, soprattutto in termini di fiducia, nell’ambito della propria socializzazione tanto online quanto offline.
Dal punto di vista criminologico, il deepFake può essere utilizzato ai danni delle donne in diversi modi, tra cui per esempio: alternativa sintetica di revenge porn post-relazionale, modalità estorsiva, forma più o meno organizzata di ricatto indiretto, molestie sessuali, ulteriore tattica di cyberstalking o, in modo più avanzato, come vera e propria integrazione nel mercato pedopornografico o come sottomercato “altro” rispetto a esso. Ma c’è anche un ulteriore mercato privato e sommerso del deepPorn in cui basta raccogliere qualche foto-profilo o immagini della futura e inconsapevole vittima, di una collega di una riunione online, di una giovane studentessa su TikTok o della vicina di casa su Instagram, meglio se di qualità alta, per poter richiedere a un costo medio a oggi di circa 50 dollari al minuto, video deepFakes “personalizzati” così da “concretizzare” le proprie fantasie sessuali, anche quelle sadico-violente ovviamente. Quindi, da un lato assistiamo all’ascesa di un nuovo fenomeno nel Porno che riguarda genericamente le cosiddette celebrities. Mentre, dall’altro, si osserva anche grazie al continuo sviluppo di servizi online low cost e di App per il deepNude – riproduzione algoritmicamente “immaginata”, della vittima nuda, al di là del suo reale aspetto – così da poter vedere nuda la donna fotografata poco prima a sua insaputa-, fare face swapping – montare il volto di una persona sul corpo di un’altra – con il proprio cellulare, all’emergere di un mobile deepFaking che definirei fenomeno di “deepFaking di prossimità”, non solo in termini cyber-sociali, ma di vicinanza fisica del target, che vede tutte le donne, nella loro quotidianità, potenziali vittime.
Tralasciando qui per necessità di sintesi, le interdipendenze con fenomeni tra cui il redpilling, la (pseudo-)ideologia Incel, l’estremismo violento, il cospirazionismo, la violenza memetica, e più in generale l’odio online, la prevenzione e anticipazione della violenza di genere sono oggi una priorità. Ritengo, quindi, necessario promuovere percorsi educativi di riconoscimento/rispetto dell’alterità, in funzione di prevenzione della violenza di genere che pongano l’attenzione in modo sistemico e organico, tanto online quanto offline, sull’educazione alla simmetria socio-relazionale, all’emotività alle competenze cyber-socio-relazionali, alla sessualità, che oggi passano imprescindibilmente anche, se non talvolta in modo esclusivo, attraverso l’esperienza cyber-sociale. Ciò anche al fine di evitare tra l’altro che la pornografia online, da forma di rappresentazione, di intrattenimento, per adulti, sia impropriamente identificata e/o ritenuta dalle giovani generazioni, da un lato, come surrogato machista della conoscenza della sessualità per mezzo di pratiche da replicare in modo meccanicamente performativo – che spesso riproducono anche nel linguaggio l’asimmetria di genere-, e dall’altro, come educazione sessuale tout court, considerando la disintermediazione dell’esperienza cyber-sociale, l’assenza di efficaci limitazioni all’accesso e, non ultima, la profonda solitudine cyber-sociale delle e dei giovani.
L’autore ha inteso volutamente non riportare immagini esemplificative e riferimenti a contenuti/contenitori citati nell’articolo, nel rispetto a tutte le donne vittima di violenza, a cui ognuno di noi è tenuto, ogni giorno, a dare ascolto, sostegno, spazio espressivo e di denuncia, nonché purtroppo sempre più spesso…memoria.
*Arije Antinori, docente di Criminology nel corso internazionale in Cognitive Forensic Sciences e membro del Laboratorio di Violenza Interpersonale (Inter.Vi.Re) della Sapienza Università di Roma, esperto europeo di terrorismo, esperto dell’Osservatorio Europeo sull’Odio Online (EOOH), ERCOR Researcher presso RAN Policy Support.
