Poco dopo aver lanciato un canale YouTube nel novembre dello scorso anno, Loiek, una 21enne ucraina, ha scoperto che la sua immagine era stata presa e fatta girare attraverso l'intelligenza artificiale per creare alter ego sulle piattaforme cinesi di social media.
I suoi sosia digitali - come "Natasha" - sostenevano di essere donne russe che parlavano fluentemente il cinese e che volevano ringraziare la Cina per il suo sostegno alla Russia e guadagnare un po' di soldi vendendo prodotti come le caramelle russe.
Inoltre, gli account falsi avevano centinaia di migliaia di follower in Cina, molti di più della stessa Loiek.
"Si tratta letteralmente della mia faccia che parla in mandarino e, sullo sfondo, vedo il Cremlino e Mosca, e parlo di quanto siano grandi la Russia e la Cina", ha detto Loiek a Reuters. "È stato davvero inquietante, perché sono cose che non direi mai nella vita".
Il caso di Loiek è rappresentativo di un numero crescente di quelle che a prima vista sembrano essere donne russe sui social media cinesi, che mostrano il loro amore per la Cina in un cinese fluente e dicono di cercare di sostenere la Russia in guerra vendendo importazioni dalla loro patria.
Tuttavia, nessuna di loro esiste. Sono generate dall'AI appropriandosi di clip di donne reali trovate online, spesso a loro insaputa, e i video che i falsi avatar creano sono utilizzati per vendere prodotti a uomini cinesi single, dicono gli esperti.
Gli account creati con l'immagine di Loiek hanno centinaia di migliaia di follower e hanno venduto decine di migliaia di dollari in prodotti, tra cui caramelle. Alcuni dei post contengono un disclaimer che indica che potrebbero essere stati creati utilizzando l'AI.
Avatar come quello di Loiek fanno leva sulla partnership Russia-Cina "senza limiti", dichiarata tra i due Paesi nel 2022, quando il Presidente russo Vladimir Putin visitò Pechino pochi giorni prima che la Russia invadesse l'Ucraina.
Jim Chai, amministratore delegato di XMOV, un'azienda che sviluppa tecnologia AI avanzata e che non è coinvolta nella situazione di Loiek, afferma che la tecnologia per creare tali immagini è "molto comune perché molte persone la usano in Cina".
"Per esempio, per produrre il mio umano digitale 2D, devo solo girare un video di 30 minuti di me stesso e poi, una volta terminato, rielaborare il video. Naturalmente, sembra molto reale e, ovviamente, se si cambia la lingua, l'unica cosa da regolare è la sincronizzazione delle labbra", ha detto Chai.
L'intelligenza artificiale è un argomento molto discusso e la storia di Loiek fa luce sui rischi delle sue applicazioni potenzialmente illegali o non etiche, in quanto i potenti strumenti per la creazione e la diffusione di contenuti diventano comuni in tutto il mondo.
Le preoccupazioni sul contributo dell'AI alla disinformazione, alle fake news e al materiale protetto da copyright si sono intensificate negli ultimi mesi, in seguito alla crescente popolarità dei sistemi di AI generativa come Chat GPT.
A gennaio, la Cina ha pubblicato una bozza di linee guida per la standardizzazione dell'industria dell'AI, proponendo di formare più di 50 standard nazionali e di settore entro il 2026.
L'AI Act dell'Unione Europea, che impone severi obblighi di trasparenza sui sistemi di AI ad alto rischio, è entrato in vigore questo mese, stabilendo un potenziale punto di riferimento globale.
Tuttavia, Xin Dai, professore associato presso la Facoltà di Giurisprudenza dell'Università di Pechino, ha affermato che la regolamentazione sta cercando di mettersi al passo con il ritmo dello sviluppo dell'IA.
"Possiamo solo prevedere che, con strumenti sempre più potenti per la creazione di informazioni, la creazione di contenuti e la diffusione di contenuti, saranno disponibili praticamente ogni minuto successivo", ha detto Dai.
"Credo che l'aspetto critico sia che il volume è semplicemente troppo grande... non solo in Cina, ma anche in Internet in generale", ha aggiunto. (Redazione di Antoni Slodkowski e Kevin Krolicki e Miral Fahmy)
