Le aziende devono adottare strumenti avanzati per individuare e sradicare la disinformazione e i contenuti deepfake, al fine di contrastare i crescenti rischi di interferenze elettorali e frodi finanziarie. È quanto sollecita un rapporto pubblicato venerdì dall'Unione Internazionale delle Telecomunicazioni (ITU) delle Nazioni Unite.
I deepfake, come immagini e video generati dall'intelligenza artificiale e audio che imitano in modo convincente persone reali, rappresentano rischi sempre maggiori, sottolinea l'ITU nel documento presentato durante l'"AI for Good Summit" di Ginevra.
L'ITU ha richiesto l'adozione di standard solidi per contrastare i contenuti multimediali manipolati e ha raccomandato che i distributori di contenuti, come le piattaforme social, utilizzino strumenti di verifica digitale per autenticare immagini e video prima della loro diffusione.
«La fiducia nei social media è crollata notevolmente perché le persone non sanno più cosa è vero e cosa è falso», ha dichiarato Bilel Jamoussi, responsabile del Dipartimento dei Gruppi di Studio presso il Bureau di Standardizzazione dell'ITU. Combattere i deepfake rappresenta una delle principali sfide a causa della capacità dell'IA generativa di creare contenuti multimediali realistici, ha aggiunto.
Leonard Rosenthol di Adobe, azienda leader nei software di editing digitale che affronta il fenomeno dei deepfake dal 2019, ha evidenziato l'importanza di stabilire la provenienza dei contenuti digitali per aiutare gli utenti a valutarne l'affidabilità.
«Abbiamo bisogno che sempre più piattaforme in cui gli utenti consumano contenuti mostrino queste informazioni... Quando scorri il tuo feed vuoi sapere: 'posso fidarmi di questa immagine, di questo video...'», ha affermato Rosenthol.
La dottoressa Farzaneh Badiei, fondatrice della società di ricerca sulla governance digitale Digital Medusa, ha sottolineato la necessità di un approccio globale al problema, dato che attualmente non esiste un organismo internazionale unico incaricato di individuare i materiali manipolati.
«Se abbiamo una frammentazione di standard e soluzioni, i deepfake dannosi possono risultare ancora più efficaci», ha dichiarato a Reuters.
L'ITU sta attualmente sviluppando standard per il watermarking dei video - che rappresentano l'80% del traffico internet - per incorporare dati di provenienza come l'identità del creatore e i timestamp.
Tomaz Levak, fondatore della svizzera Umanitek, ha esortato il settore privato a implementare in modo proattivo misure di sicurezza e ad educare gli utenti.
«L'IA diventerà solo più potente, veloce e intelligente... Dovremo rafforzare le competenze delle persone per evitare che diventino vittime di questi sistemi», ha concluso.
