La tempesta mediatica che flagella Facebook da settimane ha un nome e un volto: Frances Haugen, data scientist con un master a Harvard e una lunga carriera nell’ambiente delle big tech, tra cui due anni a Facebook presso l’unità di integrità civica. È lei la whistleblower dietro ai Facebook Files, i documenti interni trapelati nelle ultime settimane attraverso il Wall Street Journal che gettano luce sui pericoli nascosti tra gli algoritmi dell’azienda di Palo Alto.

Tra le altre cose, quei file correlano l’utilizzo di Instagram e le ripercussioni negative – tra cui depressione e disturbi dell’alimentazione – tra i più giovani, specie le ragazze. Hanno anche corroborato ciò che gli esperti vanno dicendo da anni, ossia che gli algoritmi di big F sono tarati per promuovere contenuti polarizzanti ed estremi.

Secondo Haugen i documenti provano che l’azienda di Mark Zuckerberg abbia deciso di anteporre “i propri astronomici profitti” alla risoluzione di questi problemi, scoraggiando le ricerche interne sulle criticità dei propri prodotti. Per questo la whistleblower ha deciso di lasciare l’azienda con un gigantesco archivio di documenti compromettenti.

La testimonianza al Senato…

Martedì la data scientist ha testimoniato per quattro ore davanti al Senato americano. Ha fornito un quadro chiaro e approfondito del funzionamento degli algoritmi, ha indicato quali parti fossero responsabili per la promozione di contenuto nocivo, e ha descritto i modi e i tempi in cui l’azienda le ha sospese (durante la campagna elettorale americana) per poi rispolverarle subito dopo le elezioni.

Haugen ha spiegato che l’unità di integrità sociale, quella in cui lavorava, fu sciolta subito dopo le elezioni. Secondo lei tutto ciò ha contribuito all’assalto al Congresso del 6 gennaio. “Il fatto che quel giorno abbiano dovuto riaccendere [le limitazioni] è profondamente problematico,” ha detto, come anche il fatto che queste misure di sicurezza nemmeno esistano per le versioni dei prodotti non in lingua inglese.

La whistleblower ha anche riferito come internamente Facebook sia preoccupata per il declino degli utenti più giovani, e stia studiando dei sistemi per raggiungerli nuovamente – a tutti i costi. In seguito alle rivelazioni su Instagram e le ragazzine, l’azienda ha deciso di sospendere lo sviluppo di una versione dell’app mirata ai giovanissimi (10-12 anni). “Non mi stupirebbe se continuassero a svilupparla”, ha detto.

… la via da seguire …

Il nocciolo della questione, ha dichiarato Haugen al Senato, è che non ci si può fidare della capacità di Facebook di autoregolarsi. “Le piattaforme hanno il pieno controllo sui loro algoritmi. Facebook non dovrebbe avere via libera sulle scelte che fa per prioritizzare la propria crescita, la viralità [dei contenuti] e la reattività rispetto alla sicurezza pubblica”.

Secondo la whistleblower Facebook non risolverà il problema senza l’aiuto delle istituzioni. Un’opinione condivisa dallo stesso Zuckerberg; pur criticando la deposizione dell’ex dipendente, martedì il Ceo e azionista di maggioranza di Facebook ha ammesso in una nota interna che “dopo un certo punto” le decisioni sulle questioni che hanno un impatto sociale spettano al Parlamento.

Le rivelazioni di Haugen hanno rafforzato la spinta dei parlamentari americani per regolamentare più severamente le big tech. È allo studio una legislazione federale sulla privacy degli utenti (dal sapore vagamente europeo) e la revisione della legge che garantisce ai social il diritto di non essere citati in giudizio per le decisioni che prendono su come gli algoritmi promuovono i contenuti.

… e la strada europea

L’affaire ha fatto drizzare le antenne di coloro che a Strasburgo si stanno occupando del Digital Services Act (Dsa), ossia il pacchetto di leggi che regolamenterà le piattaforme digitali in Europa. La relatrice principale del disegno di legge, Christel Schaldemose (Socialisti democratici) e la relatrice ombra Alexandra Geese (Verdi) hanno fatto sapere di essere in contatto con Haugen e che approfondiranno le sue rivelazioni attraverso un’inchiesta parlamentare.

“La gestione dei nostri spazi condivisi sui social media deve avvenire attraverso istituzioni controllate democraticamente, proprio come accade nelle parti della nostra società che non si trovano nel regno digitale”, ha scritto Schaldemose. Secondo lei le aziende devono garantire l’accesso ai propri algoritmi a società civile, legislatori e accademici, perché “è l’unico modo per avere un dibattito pubblico sui loro effetti”.

Da parte sua Geese ha condannato il programma noto come XChech, uno degli elementi-chiave emersi dai Facebook Papers, che di fatto esclude i profili social delle persone influenti dalle normali pratiche di moderazione e permette loro di diffondere contenuti più estremi. Questi doppi standard non sono tollerabili, ha scritto l’europarlamentare dei Verdi, aggiungendo che serve regolamentare “i modelli di business [che] beneficiano dell’amplificazione della disinformazione a scapito di contenuti veritieri”.

Le due relatrici hanno colto il caso Hauges al balzo per spingere verso un ulteriore irrigidimento del Dsa. “Finora, né il pubblico né i legislatori sono stati in grado di ottenere una visione così profonda di [questi] meccanismi che sono diventati troppo potenti. I documenti finalmente mettono tutti i fatti sul tavolo per permetterci di adottare una legge sui servizi digitali più forte”. Non una buona notizia per chi spera che l’Europa possa competere con Stati Uniti e Cina nelle nuove tecnologie: una regolamentazione troppo rigida rischia di bloccare l’innovazione e scoraggiare gli investimenti, già insufficienti a rivaleggiare con i giganti globali.