Gli impegni dei fornitori e dei pagatori di servizi sanitari seguono quelli di 15 aziende leader nel settore dell'AI, tra cui Google, OpenAI e Microsoft, partner di OpenAI, per sviluppare modelli di AI in modo responsabile.

Il governo di Biden sta spingendo per stabilire dei parametri intorno all'IA, che sta guadagnando rapidamente capacità e popolarità, mentre la regolamentazione rimane limitata.

"L'amministrazione sta facendo leva su ogni leva a sua disposizione per far progredire l'IA responsabile nei settori legati alla salute", ha detto il funzionario della Casa Bianca, aggiungendo che l'IA ha un enorme potenziale di beneficio per i pazienti, i medici e il personale ospedaliero, se gestita in modo responsabile.

Biden ha emesso un ordine esecutivo il 30 ottobre che richiede agli sviluppatori di sistemi di IA che presentano rischi per la sicurezza nazionale degli Stati Uniti, l'economia, la salute pubblica o la sicurezza, di condividere i risultati dei test di sicurezza con il Governo prima di rilasciarli al pubblico.

I fornitori che hanno firmato gli impegni includono Oscar, Curai, Devoted Health, Duke Health, Emory Healthcare e WellSpan Health, ha detto il funzionario della Casa Bianca in un comunicato.

"Dobbiamo rimanere vigili per realizzare la promessa dell'IA di migliorare i risultati sanitari", ha detto il funzionario. "Senza test appropriati, mitigazioni del rischio e supervisione umana, gli strumenti abilitati all'AI utilizzati per le decisioni cliniche possono commettere errori che sono costosi nel migliore dei casi - e pericolosi nel peggiore".

In assenza di un'adeguata supervisione, le diagnosi dell'IA possono essere distorte in base al sesso o alla razza, soprattutto quando l'IA non viene addestrata su dati che rappresentano la popolazione che viene trattata, ha detto il funzionario.

I principi alla base del piano dell'Amministrazione chiedono alle aziende di informare gli utenti ogni volta che ricevono contenuti in gran parte generati dall'AI e non rivisti o modificati da persone, e di monitorare e affrontare i danni che le applicazioni potrebbero causare.

Le aziende che sottoscrivono gli impegni si impegnano a sviluppare gli usi dell'AI in modo responsabile, comprese le soluzioni che fanno progredire l'equità sanitaria, espandono l'accesso alle cure, rendono le cure accessibili, coordinano le cure per migliorare i risultati, riducono il burnout dei medici e migliorano l'esperienza dei pazienti.