I deepfake, o media sintetici in cui una persona in un’immagine o in un video esistente viene sostituita con la somiglianza di qualcun altro, esistono ormai da un po’ di tempo. Sebbene ci siano alcuni vantaggi nella tecnologia, molte persone l’hanno sfruttata per creare porno deepfake. Ciò ha costretto molte piattaforme come Reddit , Twitter e Facebook a vietare tali media sui loro siti web.
Anche il servizio di live streaming video Twitch sta assumendo una posizione più dura contro i deepfake. In un recente post , il servizio ha annunciato che non tollererà più “immagini sintetiche di sfruttamento non consensuali” (NCEI). La società sta ora sottolineando che la promozione, la creazione o la condivisione intenzionale di NCEI sintetici può comportare una sospensione a tempo indeterminato al primo reato. Anche se NCEI viene mostrato brevemente, verrà rimosso e comporterà una punizione. Questi aggiornamenti verranno lanciati alla fine di questo mese, secondo Twitch.
Questo sviluppo arriva dopo che uno streamer di Twitch a gennaio ha trasmesso in streaming una finestra del browser che mostrava i volti degli altri streamer QTCinderella, Pokimane e Maya Higa attaccati ai corpi di donne nude. Lo streamer in seguito si è scusato, dicendo che “ha cliccato su un fottuto link alle 2 del mattino” e la sua morale non lo ha raggiunto.
Nell’ambito delle sue repressioni contro NCEI, Twitch si è consultato con l’esperta di sicurezza, professore di diritto e vicepresidente della Cyber Civil Rights Initiative Danielle Keats Citron ed esperti della UK Revenge Porn Helpline. “Imparando da esperti con anni di esperienza, possiamo prendere in prestito dai migliori standard e pratiche del settore quando decidiamo come proteggere la nostra comunità”, ha dichiarato Twitch nel suo blog. La piattaforma sta anche conducendo un Creator Camp il 14 marzo per comprendere i danni dell’NCEI, come individuarlo, cosa fare se lo trovi e come proteggerti online.
