Il laboratorio di intelligenza artificiale OpenAI sta formando un nuovo team per creare processi democratici per modellare il modo in cui il suo software di intelligenza artificiale dovrebbe essere governato per affrontare i pregiudizi e altri fattori, ha detto l'azienda sostenuta da Microsoft in un post sul blog martedì.

Il team "Allineamento Collettivo" è una continuazione del lavoro di un programma di sovvenzioni per il finanziamento di esperimenti di processi democratici, annunciato nel maggio 2023, ha detto l'azienda di San Francisco. Il programma si è concluso di recente.

"Mentre continuiamo a perseguire la nostra missione verso modelli superintelligenti che potenzialmente potrebbero essere visti come parti integranti della nostra società... è importante dare alle persone l'opportunità di fornire input direttamente", ha detto a Reuters Tyna Eloundou, ingegnere ricercatore e membro fondatore del nuovo team di OpenAI.

Per garantire, ad esempio, che solo gli esseri umani possano votare, OpenAI potrebbe collaborare con Worldcoin, un progetto di criptovaluta fondato dal CEO di OpenAI Sam Altman che offre un modo per distinguere gli esseri umani dai bot AI, ha detto Teddy Lee, un product manager che è l'altro membro del team di due persone.

Lee ha osservato che il team non ha ancora fatto piani concreti per integrare Worldcoin.

Dal lancio di ChatGPT da parte di OpenAI alla fine del 2022, la tecnologia AI generativa in grado di creare una prosa incredibilmente autorevole a partire da messaggi di testo ha conquistato il pubblico, rendendo il programma una delle app con la crescita più rapida di tutti i tempi.

Tuttavia, ci sono preoccupazioni sulla capacità dell'AI di creare immagini "deepfake" e altre disinformazioni, soprattutto in vista della campagna elettorale degli Stati Uniti del 2024. I critici affermano che i sistemi di AI come ChatGPT hanno pregiudizi intrinseci a causa degli input utilizzati per plasmare le loro opinioni, e gli utenti hanno trovato esempi di risultati razzisti o sessisti dal software di AI.

Il nuovo team OpenAI sta cercando attivamente di assumere un ingegnere ricercatore e uno scienziato ricercatore, ha detto Eloundou. Il team lavorerà a stretto contatto con il team "Human Data" di OpenAI, che costruisce l'infrastruttura per la raccolta di input umani sui modelli AI dell'azienda, e con altri team di ricerca. (Servizio di Anna Tong a San Francisco; Redazione di Paul Simao)