L’allarme lo ha appena lanciato la MIT Technology Review: c’è un’app online che in un click trasforma qualsiasi donna in una porno attrice agli occhi del mondo intero.
La MIT Technology Review ha scelto di non pubblicare né il nome dell’app né il link per accedervi per evitare di farle pubblicità ma la descrizione è sufficiente a dare un’idea inequivocabile sul suo funzionamento e sui rischi connessi al suo uso.
L’app funziona così: chiunque carica sui server della società che la gestisce la foto di una donna, cliccando su un enorme pulsante blu e l’intelligenza artificiale – la stessa utilizzata per la produzione dei famosi deep fake – fa il resto nella sostanza incollando il volto della malcapitata su immagini a contenuto esplicito realizzate tanto bene da rendere pressoché impossibile, specie a un occhio non allenato, riconoscere il “fotomontaggio”.
Le foto e i video così realizzati, a quel punto, sono pronti per essere condivisi ovunque nell’ecosistema digitale, socialnetwork generalisti, siti pornografici e servizi user generated content inclusi, segnando irreparabilmente il destino della malcapitata.
Per carità, si sa da tempo che il risultato era accessibile e che prima o poi sarebbe accaduto ma ora avere il servizio online, a disposizione di chiunque, gratuitamente e in una manciata di click fa toccare con mano quanto sia facile violentare digitalmente una donna a colpi di algoritmi e qualche immagine.
Basti pensare che secondo una ricerca USA, il 95% delle immagini attualmente in circolazione, create attraverso un deepfake, è a carattere pornografico.
E il successo di pubblico dei servizi di questo genere è, a dir poco, significativo: uno degli ultimi siti basati su questo genere di tecnologia, ad agosto, ha totalizzato, prima di essere chiuso, quasi sette milioni di visualizzazioni.
Lo scenario è semplicemente insostenibile perché dopo che una delle immagini o dei video prodotti utilizzando l’app in questione entra in circolazione nell’ecosistema digitale non c’è niente ma niente davvero che si possa fare per restituire alla vittima il pieno controllo sulla sua identità, la sua vita, la sua dignità.
