A mesterséges intelligencia egyre nagyobb szerepet játszik az egészségügyben, de komoly gondot jelenthet, ha a technológia mögött álló adatok torzak vagy hiányosak. Egy nemrég publikált átfogó tanulmány rávilágít, hogyan lehet csökkenteni az AI elfogultságát, és milyen lépések szükségesek egy igazságosabb, átláthatóbb rendszer kialakításához, ami tényleg áttörést jelenthet a szakértelem és a munkaerő egyre súlyosabb hiányával küzdő egészségügyben. A STANDING Together névre keresztelt kutatást, amelyet 58 ország több mint 350 szakértőjének közreműködésével végeztek, a Birminghami Egyetem tudósai vezették.
A mesterséges intelligenciát az egészségügyben is gyakran azokkal az adatokkal „tanítják”, amelyeket korábbi páciensektől gyűjtöttek, de ezek az adatbázisok sok esetben nem tükrözik a teljes társadalmi sokszínűséget, így a kisebbségi csoportok képviselete például jelentősen alulmaradhat.
„Az adatokat egy tükörhöz érdemes hasonlítani: ha a tükör torz, a valóság is torzulva jelenik meg. A problémát azonban nem lehet egyszerűen az adatok kozmetikázásával megoldani; a forrásnál kell orvosolni a gondokat” – fogalmazott Dr. Xiao Liu, a tanulmány mesterséges intelligenciával és digitális egészségügyi technológiákkal foglalkozó vezető kutatója.
A STANDING Together tanulmány több fontos ajánlást fogalmazott meg az AI elfogultságának csökkentése érdekében:
- Sokszínű adatbázisok használata: Az orvosi mesterséges intelligencia fejlesztéséhez olyan adatokat kell felhasználni, amelyek megfelelő képet adnak a társadalom minden csoportjáról, beleértve a kisebbségeket és más alulreprezentált közösségeket.
- Átláthatóság biztosítása: Az egészségügyi adatok publikálóinak azonosítaniuk kell a torzításokat és hiányosságokat.
- Adatok megfelelőségének vizsgálata: Az AI-fejlesztők számára lehetőséget kell biztosítani, hogy felmérjék, az adott adatbázis mennyire alkalmas a céljaikra.
- Elfogultság tesztelése: Egyértelmű iránymutatásokat kell kialakítani arra vonatkozóan, hogyan lehet azonosítani, ha az AI egyes csoportokkal szemben elfogult.
Dominic Cushnan, az NHS England mesterséges intelligenciáért felelős helyettes igazgatója szerint ezek az ajánlások időszerűek és kulcsfontosságúak. „Az AI eszközök izgalmas lehetőségeket rejtenek, de csak akkor, ha igazságosan és felelősségteljesen alkalmazzuk őket. Az NHS AI Lab teljes mértékben támogatja a STANDING Together javaslatainak bevezetését, hogy mérsékeljük az AI elfogultságát.”
A mesterséges intelligencia óriási potenciállal rendelkezik az egészségügyben, legyen szó diagnosztikáról, kezelések tervezéséről vagy az egészségügyi rendszerek optimalizálásáról. A technológia igazságos működése érdekében ugyanakkor elengedhetetlen a megfelelő szabályozás és a sokszínű adatok használata – állapítja meg a tanulmány.
Gábor János, NEW technology