Il governo keniano affida la salute all’intelligenza artificiale

Nel 2024, l’anno in cui il Kenya è stato scosso da proteste senza precedenti contro la legge di bilancio e l’alto costo della vita, il governo del presidente William Ruto ha lanciato un controverso esperimento nel settore sanitario basato sull’intelligenza artificiale (ia). L’idea era usarla per calcolare quanto ogni cittadino avrebbe potuto permettersi di pagare per accedere alle cure sanitarie. L’esperimento è partito anche se c’erano molti dubbi sul suo effettivo funzionamento e le simulazioni avevano presentato delle notevoli falle. Il risultato è che il nuovo sistema ha caricato il grosso dei costi sanitari sui più poveri, rivela un’inchiesta pubblicata il 4 maggio dai giornalisti e dalle giornaliste del consorzio formato da Africa Uncensored, Lighthouse Reports e The Guardian.

Al centro di tutto c’è la Social health authority (Sha), fondata nel novembre 2023 con l’obiettivo di razionalizzare l’assicurazione sanitaria pubblica in Kenya stabilendo dei contributi annuali che variano in base al reddito. Il problema, spiega l’inchiesta, è che il governo non sa quanto guadagnano i cittadini perché solo il 17 per cento ha un impiego formale, con una busta paga. Il resto lavora nell’economia informale.

Quindi circa centomila volontari aiutano gli abitanti dei quartieri più poveri a registrarsi alla Sha, rispondendo alle domande più varie: che tipo di bagno usi? di cos’è fatto il tetto della tua casa? possiedi una radio? Le loro risposte dovrebbero servire a stabilire quanto sono ricchi e a inserirli nelle fasce di reddito. In teoria chi guadagna di meno dovrebbe pagare le tariffe minime o essere curato gratis. Ma questo non succede: come rivela Grace, una delle intervistate, anche per le persone più povere di Nairobi, la città dove lavora, l’ia stabilisce incomprensibilmente delle somme al di fuori dalla loro portata.

Il consorzio giornalistico ci ha messo mesi a capire perché, arrivando alla conclusione che il sistema fin dall’inizio era progettato in modo fallace. E, anche se i consulenti del governo avevano avvisato che era iniquo in un modo quasi incorreggibile, si è deciso di andare avanti lo stesso.“In tutto il mondo, gli algoritmi ormai determinano chi dovrebbe ricevere un prestito per una casa, essere assunto per un lavoro o condannato per un crimine.

L’intelligenza artificiale è spesso presentata come la soluzione a problemi di lunga data. Nella maggior parte dei casi è usata per prendere decisioni che riguardano gruppi di persone: in Kenya, per esempio, per stabilire chi può ricevere prestiti studenteschi o sussidi alimentari. Ma quello dell’Sha è il primo sistema progettato per valutare il reddito di ogni famiglia del paese. E, visto che determina l’accesso all’assistenza sanitaria, le sue scelte possono diventare questione di vita o di morte”, notano i giornalisti.

L’errore di partenza è stato affidarsi a un parametro molto criticato per calcolare la ricchezza delle famiglie: il Proxy means test (Pmt), un sistema di verifica dei mezzi finanziari attraverso dei sostituti, cioè una serie di dati (tipo di casa, tipo di pavimento, possesso di una radio…) che poi sono usati per stimare il reddito. Questo test è stato introdotto dagli economisti dello sviluppo dagli anni novanta in poi, ma ha molti detrattori, e soprattutto non è mai stato adottato su scala così ampia.I giornalisti del consorzio sono riusciti a ottenere la lista dei dati richiesti per effettuare il calcolo e hanno verificato se le previsione corrispondeva ai reali mezzi a disposizione delle famiglie. Tuttavia, si sono resi conto che “la formula conteneva un difetto intrinseco: sovrastimava i redditi dei poveri e sottostimava quelli dei ricchi”. Poteva capitare che a una famiglia povera fosse attribuito un reddito anche doppio rispetto a quello reale.

Questi difetti erano stati notati, anche a livello governativo, ma le pressioni per lanciare il nuovo sistema erano troppo forti e venivano da un “livello molto alto”. Oggi, conclude l’inchiesta, “la Sha è sull’orlo del collasso. Dei più di venti milioni di iscritti, solo cinque milioni pagano regolarmente i premi.

Alcuni ospedali hanno i bilanci in rosso poiché i rimborsi promessi dalla Sha non vengono corrisposti. Altri ospedali sono stati coinvolti in una frode che avrebbe causato alla Sha perdite per più di 12,7 miliardi di scellini keniani (84 milioni di euro). A marzo l’ex vicepresidente Rigathi Gachagua ha dichiarato che ‘la Sha crollerà entro sei mesi’, un’affermazione respinta dal presidente Ruto”.

Nella sua campagna elettorale nel 2023 Ruto aveva annunciato che avrebbe dato a tutti i keniani e le keniane l’assistenza sanitaria e che non “avrebbe lasciato indietro nessuno”. Ma le soluzioni che ha promosso con tanta insistenza non sono sicuramente all’altezza delle aspettative e, in fin dei conti, nota il Guardian, la sua riforma non è neanche così avanzata e “improntata all’ia” come lui si era vantato.