I funzionari della Corea del Sud stanno aumentando le sanzioni penali per le persone che realizzano deepfakes sessualmente espliciti, mentre il Paese asiatico combatte contro l’ondata di utenti che realizzano e condividono pornografia falsa sui social media.
I creatori di pornografia deepfake utilizzano foto di donne e, senza il loro permesso, le manipolano in video e immagini sessualmente espliciti; i risultati condivisi raccolgono poi centinaia di migliaia di visualizzazioni su piattaforme come l’app di messaggistica Telegram.
Giovedì il governo sudcoreano e il People Power Party (PPP) al governo si sono impegnati ad aumentare la pena detentiva massima da cinque a sette anni per chi intende realizzare e distribuire materiale deepfake sessualmente esplicito. La Corea del Sud sta anche spingendo per la creazione di una linea diretta con l’app di messaggistica Telegram, che ospita molti di questi deepfake.
Telegram non ha risposto immediatamente alla richiesta di commento da parte di Fortune.
L’arresto del fondatore di Telegram Pavel Durov a Parigi ha ravvivato una controversia in Corea del Sud, dove migliaia di utenti condividono immagini sessualmente esplicite generate al computer sulla piattaforma di social media.
All’inizio di questo mese, un’indagine della polizia ha scoperto una chat di gruppo di Telegram con 1.200 membri, in cui gli utenti condividevano non solo deepfakes ma anche informazioni personali come indirizzi e Id degli studenti.
Secondo il Wall Street Journal, una pagina web che elenca le scuole e le università colpite dalle reti di deepfake da martedì ha ottenuto tre milioni di visualizzazioni.
Martedì il presidente Yoon Suk-Yeol ha chiesto un’indagine approfondita sui crimini sessuali digitali e ha convocato una riunione di gabinetto d’emergenza per mercoledì.
Sempre mercoledì, il Centro di assistenza per le vittime di abusi sessuali online della Corea del Sud, finanziato dallo Stato, ha dichiarato che negli ultimi sei anni ci sono state almeno 2.000 vittime di reati di deepfake, ma il numero reale è probabilmente molto più alto. Oltre il 30% delle vittime che hanno cercato aiuto erano minorenni, secondo l’agenzia statale.
Le celebrità sudcoreane rappresentano oltre la metà di tutta la pornografia deepfake a livello mondiale, secondo uno studio del 2023 della società di cybersicurezza Security Hero. Quasi tutti gli esempi hanno preso di mira le donne.
Telegram al microscopio
La campagna della Corea del Sud contro i deepfakes coincide con il recente arresto del fondatore di Telegram Pavel Durov, avvenuto lo scorso fine settimana. Durov sta affrontando diverse accuse in Francia che includono la complicità nella diffusione di immagini sessuali di bambini sull’app e attualmente gli è stato impedito di lasciare il Paese.
Telegram è ampiamente utilizzato in Asia, in particolare in mercati come l’India e l’Indonesia.
Nel 2017, l’Indonesia ha bloccato l’ accesso a Telegram per timore che la piattaforma venisse utilizzata per diffondere “propaganda radicale e terroristica”. Jakarta ha revocato il divieto un mese dopo, dopo che Telegram ha accettato di migliorare le sue procedure per bloccare i contenuti radicali.
Quest’anno l’Indonesia ha nuovamente minacciato di bloccare Telegram, questa volta per la diffusione di contenuti relativi al gioco d’azzardo online.
I media indiani riportano inoltre che il governo sta indagando su Telegram per il suo ruolo nel facilitare l’estorsione e il gioco d’azzardo.
Secondo Demand Sage, un fornitore di soluzioni di reporting e analisi dei dati, gli utenti di Telegram sono circa 100 milioni e 27 milioni rispettivamente in India e Indonesia.
Questa storia è stata pubblicata originariamente su Fortune.com
(L’immagine in evidenza è di Chung Sung-Jun/Pool – AFP via GETTY IMAGES).
