OpenAI, guidata da Sam Altman, ha dichiarato giovedì di aver interrotto cinque operazioni di influenza segrete che cercavano di utilizzare i suoi modelli di intelligenza artificiale per "attività ingannevoli" su Internet.

L'azienda di intelligenza artificiale ha affermato che gli attori minacciosi hanno utilizzato i suoi modelli di intelligenza artificiale per generare commenti brevi, articoli più lunghi in una serie di lingue, nomi inventati e biografie per gli account dei social media negli ultimi tre mesi.

Queste campagne, che includevano attori di minacce provenienti da Russia, Cina, Iran e Israele, si sono anche concentrate su temi quali l'invasione dell'Ucraina da parte della Russia, il conflitto a Gaza, le elezioni indiane, la politica in Europa e negli Stati Uniti, tra gli altri.

Le operazioni ingannevoli erano un "tentativo di manipolare l'opinione pubblica o di influenzare i risultati politici", ha dichiarato OpenAI in un comunicato.

Il rapporto dell'azienda di San Francisco è l'ultimo a suscitare preoccupazioni per la sicurezza sul potenziale uso improprio della tecnologia Gen AI, che può produrre rapidamente e facilmente testi, immagini e audio simili a quelli umani.

OpenAI, sostenuta da Microsoft, ha dichiarato martedì di aver formato un Comitato per la sicurezza che sarà guidato da membri del consiglio di amministrazione, tra cui l'amministratore delegato Sam Altman, mentre inizia l'addestramento del suo prossimo modello di AI.

Le campagne ingannevoli non hanno beneficiato di un maggiore coinvolgimento del pubblico o di una maggiore portata grazie ai servizi dell'azienda di AI, ha affermato OpenAI nella dichiarazione.

OpenAI ha affermato che queste operazioni non hanno utilizzato esclusivamente materiale generato dall'AI, ma hanno incluso testi scritti manualmente o meme copiati da Internet.

Separatamente, Meta Platforms, nel suo rapporto trimestrale sulla sicurezza di mercoledì, ha dichiarato di aver trovato contenuti "probabilmente generati dall'AI" utilizzati in modo ingannevole sulle sue piattaforme Facebook e Instagram, tra cui commenti che lodavano la gestione della guerra a Gaza da parte di Israele, pubblicati sotto i post di organizzazioni giornalistiche globali e di legislatori statunitensi. (Servizio di Jaspreet Singh a Bengaluru; Redazione di Alan Barona)