La startup OpenAI, sostenuta da Microsoft, si è trovata lunedì a essere bersaglio di un reclamo sulla privacy da parte del gruppo di difesa NOYB, per la presunta mancata correzione di informazioni errate fornite dal suo chatbot di intelligenza artificiale generativa ChatGPT, che potrebbe violare le norme sulla privacy dell'UE.

ChatGPT, che ha dato il via al boom della GenAI alla fine del 2022, è in grado di imitare la conversazione umana e di svolgere compiti come la creazione di riassunti di testi lunghi, la scrittura di poesie e persino la generazione di idee per una festa a tema.

NOYB ha detto che il denunciante nel suo caso, che è anche un personaggio pubblico, ha chiesto a ChatGPT il suo compleanno e gli è stata fornita ripetutamente un'informazione errata, invece di dire agli utenti che il chatbot non dispone dei dati necessari.

Il gruppo ha detto che OpenAI ha rifiutato la richiesta del denunciante di rettificare o cancellare i dati, affermando che non era possibile correggere i dati e che inoltre non ha rivelato alcuna informazione sui dati trattati, le loro fonti o i destinatari.

NOYB ha dichiarato di aver presentato un reclamo all'autorità austriaca per la protezione dei dati, chiedendole di indagare sul trattamento dei dati da parte di OpenAI e sulle misure adottate per garantire l'accuratezza dei dati personali elaborati dai grandi modelli linguistici dell'azienda.

"È chiaro che le aziende non sono attualmente in grado di rendere i chatbot come ChatGPT conformi alla legge dell'Unione Europea, quando elaborano i dati delle persone", ha affermato Maartje de Graaf, avvocato di NOYB per la protezione dei dati, in un comunicato.

"Se un sistema non è in grado di produrre risultati accurati e trasparenti, non può essere utilizzato per generare dati sulle persone. La tecnologia deve seguire i requisiti legali, non il contrario", ha affermato.

In passato, OpenAI ha riconosciuto la tendenza dello strumento a rispondere con "risposte plausibili ma errate o insensate", un problema che considera impegnativo da risolvere.