La NAACP ha presentato mercoledì un piano d'azione volto a impedire che l'intelligenza artificiale aggravi le disuguaglianze razziali nella sanità statunitense, chiedendo audit sui bias e standard "equity-first" mentre ospedali, aziende tecnologiche e regolatori adottano strumenti basati sull'IA.
Il rapporto di 75 pagine, Building a Healthier Future: Designing AI for Health Equity, avverte che gli algoritmi utilizzati per diagnosi, trattamenti e decisioni assicurative rischiano di perpetuare pregiudizi e "punti ciechi culturali" se sviluppati senza un adeguato coinvolgimento e supervisione.
"La NAACP chiede un'azione urgente per integrare equità, trasparenza e partecipazione comunitaria in ogni fase dello sviluppo dell'IA in ambito sanitario," si legge nel rapporto, condiviso in anteprima con Reuters. Tra le raccomandazioni figurano report sulla trasparenza, consigli di governance dei dati e partenariati basati sulla comunità.
Si tratta dell'ultimo passo nella campagna annuale della NAACP per inserire l'equità nelle tecnologie sanitarie emergenti, un'iniziativa che il gruppo considera centrale per la propria missione di tutela dei diritti civili e per colmare i divari tra gli americani neri. L'organizzazione sta organizzando briefing, mobilitando iniziative a livello statale e pianificando una spinta legislativa per fissare limiti etici chiari.
La NAACP collabora inoltre con ospedali, aziende tecnologiche e università per sperimentare standard di equità e sviluppare strumenti di alfabetizzazione comunitaria.
"Quando si ha a disposizione uno strumento così potente e si osservano i risultati e l'accesso alla salute, dobbiamo partecipare al dibattito per garantire che dati errati non vengano utilizzati per aggravare le disparità tra le comunità," ha dichiarato Derrick Johnson, presidente della NAACP, in un'intervista.
Il rapporto, sviluppato in collaborazione con la casa farmaceutica francese Sanofi, illustra un quadro di governance articolato su tre livelli.
"In generale, per governance dell'IA intendiamo la creazione di principi, concetti e strutture che assicurino che lo sviluppo e l'implementazione dell'IA avvengano in modo intenzionale, etico e senza replicare o amplificare le disparità storiche," ha spiegato il presidente della task force, il dottor S. Craig Watkins, professore presso la University of Texas ad Austin.
La NAACP collabora anche con altre organizzazioni per i diritti civili e la salute ed è nelle prime fasi di elaborazione di proposte legislative, secondo la dottoressa Chris Pernell, direttrice del NAACP Center for Health Equity. L'associazione parteciperà presto a un briefing al Congresso sull'uso dell'IA nell'ambito delle "malattie rare".
"Stiamo riflettendo con maggiore intenzionalità su come coinvolgere i legislatori neri in tutti gli Stati Uniti per mostrare come i quadri regolatori e le proposte di policy possano essere sviluppati in modo etico e centrati sull'equità," ha dichiarato Pernell.
L'iniziativa potrebbe incontrare ostacoli. La spinta verso l'equità nella salute arriva mentre programmi di diversità, equità e inclusione subiscono crescenti ridimensionamenti nel mondo aziendale e nel governo federale degli Stati Uniti. I critici sostengono che le politiche attente alla razza discriminino i bianchi e altri gruppi, ma esperti e leader dei diritti civili affermano che tali politiche sono necessarie per affrontare le disuguaglianze sistemiche, comprese quelle sanitarie.
Il rapporto sottolinea che studi dimostrano come algoritmi addestrati su dataset incompleti possano non individuare diagnosi nei pazienti neri o raccomandare cure meno aggressive. Utilizzando i tassi di mortalità materna tra le donne nere come caso di studio, la NAACP avverte che senza interventi, tali disparità potrebbero ampliarsi con la diffusione dell'IA priva di protocolli adeguati.
Le donne nere hanno una probabilità tre volte superiore rispetto alle donne bianche di morire per cause legate alla gravidanza, secondo i Centers for Disease Control and Prevention.
"Il messaggio costante della NAACP è che dobbiamo inquadrare l'equità sanitaria come una questione di esperienza umana," ha concluso Pernell.
