Le principali aziende tecnologiche, tra cui Google, Apple e Discord, hanno permesso alle persone di registrarsi rapidamente su siti Internet dannosi “undress”, che utilizzano l’intelligenza artificiale per rimuovere i vestiti dalle foto reali per far apparire le vittime “nude” senza il loro consenso. Più di una dozzina di questi siti Internet deepfake utilizzano pulsanti di accesso delle aziende tecnologiche da mesi.
Un’analisi di WIRED ha scoperto che 16 dei più grandi cosiddetti siti net di “svestizione” e “nudificazione” utilizzano l’infrastruttura di accesso di Google, Apple, Discord, Twitter, Patreon e Line. Questo approccio consente alle persone di creare facilmente account sui siti net deepfake, offrendo loro una parvenza di credibilità, prima di pagare per i crediti e generare immagini.
Sebbene bot e siti net che creano immagini intime non consensuali di donne e ragazze esistano da anni, il loro numero è aumentato con l’introduzione dell’intelligenza artificiale generativa. Questo tipo di abuso “non-vestito” è allarmantemente diffuso, con ragazzi adolescenti che presumibilmente creano immagini dei loro compagni di classe. Le aziende tecnologiche sono state lente advert affrontare la portata dei problemi, affermano i critici, con i siti net che compaiono in alto nei risultati di ricerca, pubblicità a pagamento che li promuovono sui social media e app che compaiono negli app retailer.
“Questa è la continuazione di una tendenza che normalizza la violenza sessuale contro donne e ragazze da parte di Massive Tech”, afferma Adam Dodge, avvocato e fondatore di EndTAB (Ending Expertise-Enabled Abuse). “Le API di accesso sono strumenti di convenienza. Non dovremmo mai rendere la violenza sessuale un atto di convenienza”, afferma. “Dovremmo erigere muri attorno all’accesso a queste app e invece stiamo dando alle persone un ponte levatoio”.
Gli strumenti di accesso analizzati da WIRED, che vengono distribuiti tramite API e metodi di autenticazione comuni, consentono alle persone di utilizzare account esistenti per unirsi ai siti Internet deepfake. Il sistema di accesso di Google è apparso su 16 siti Internet, quello di Discord su 13 e quello di Apple su sei. Il pulsante di X period su tre siti Internet, mentre Patreon e il servizio di messaggistica Line apparivano entrambi sugli stessi due siti Internet.
WIRED non nomina i siti net, poiché consentono abusi. Molti fanno parte di reti più ampie e sono di proprietà delle stesse persone o aziende. I sistemi di login sono stati utilizzati nonostante le aziende tecnologiche abbiano ampiamente regole che stabiliscono che gli sviluppatori non possono utilizzare i loro servizi in modi che consentirebbero danni, molestie o invadono la privateness delle persone.
Dopo essere stati contattati da WIRED, i portavoce di Discord e Apple hanno dichiarato di aver rimosso gli account degli sviluppatori collegati ai loro siti net. Google ha affermato che prenderà provvedimenti contro gli sviluppatori quando scoprirà che i suoi termini sono stati violati. Patreon ha affermato di vietare gli account che consentono la creazione di immagini esplicite e Line ha confermato di stare indagando, ma ha affermato di non poter commentare siti net specifici. X non ha risposto a una richiesta di commento sul modo in cui vengono utilizzati i suoi sistemi.
Nelle ore successive a quando Jud Hoffman, vicepresidente di fiducia e sicurezza di Discord, ha detto a WIRED di aver interrotto l’accesso dei siti net alle sue API per aver violato la sua politica per gli sviluppatori, uno dei siti net di undress ha pubblicato su un canale Telegram che l’autorizzazione tramite Discord period “temporaneamente non disponibile” e ha affermato che stava tentando di ripristinare l’accesso. Quel servizio di undress non ha risposto alla richiesta di WIRED di commentare le sue operazioni.
Rapida espansione
Da quando la tecnologia deepfake è emersa verso la wonderful del 2017, il numero di video e immagini intime non consensuali creati è cresciuto esponenzialmente. Mentre i video sono più difficili da produrre, la creazione di immagini tramite siti net e app “undress” o “nudify” è diventata comune.
“Dobbiamo essere chiari sul fatto che questa non è innovazione, è abuso sessuale”, afferma David Chiu, avvocato della città di San Francisco, che ha recentemente avviato una causa contro i siti net di nudità e svestizione e i loro creatori. Chiu afferma che i 16 siti net su cui si concentra la causa del suo ufficio hanno avuto circa 200 milioni di visite solo nei primi sei mesi di quest’anno. “Questi siti net sono coinvolti in uno sfruttamento orribile di donne e ragazze in tutto il mondo. Queste immagini vengono utilizzate per intimidire, umiliare e minacciare donne e ragazze”, afferma Chiu.