Får hälso- och sjukvården verkligen den opartiska behandling den förtjänar av Artificiell Intelligens (AI)? En grupp forskare vid Massachusetts Institute of Technology (MIT) har undersökt denna fråga och avslöjar några oroande resultat om AI-bias inom hälso- och sjukvården.
Avslöjande av rötterna till bias i AI inom hälso- och sjukvården
Varje individ, oavsett deras unika fysiska egenskaper eller identitet, bör ha rätt till kvalitativ hälso- och sjukvård. Trots detta möter vissa grupper ofta orättvisa inom hälso- och sjukvårdssystemet, främst på grund av inbyggda ojämlikheter och fördomar i medicinsk diagnos och behandling. MIT-forskarna har upptäckt att AI och maskininlärning kan förvärra dessa skillnader, särskilt för underrepresenterade delgrupper. Denna bias kan ha en betydande påverkan på hur dessa grupper diagnostiseras och behandlas.
Identifiering av förändringar som leder till AI-bias
Forskningsteamet, lett av Marzyeh Ghassemi, biträdande professor vid MIT:s avdelning för elektroteknik och datavetenskap, publicerade en rapport som analyserar ursprunget till skillnader som kan uppstå inom AI. De identifierade fyra typer av ’subpopulationsförändringar’ som kan leda till bias i AI-modeller. Dessa inkluderar:
- Falska korrelationer
- Attributobalans
- Klassobalans
- Attributgeneralisering
Dessa förändringar kan orsaka att AI-modellerna, som generellt sett presterar bra, stöter på problem när de hanterar underrepresenterade delgrupper. Till exempel kan en attributobalans i en dataset där det fanns 100 män som diagnosticerats med lunginflammation för varje kvinna som diagnosticerats med samma sjukdom, leda till att modellen bättre upptäcker lunginflammation hos män än hos kvinnor.
Är det möjligt för AI-modeller att vara opartiska?
MIT-teamet har lyckats minska förekomsten av falska korrelationer, klassobalans och attributobalans genom att förbättra ’klassificeraren’ och ’kodaren’. De har dock ännu inte hittat en lösning för ’attributgeneralisering’. För närvarande undersöker de allmänna dataset med tiotusentals patienter och röntgenbilder av bröstet för att avgöra om rättvisa inom medicinsk diagnos och behandling kan uppnås i maskininlärningsmodeller. De erkänner dock behovet av en bättre förståelse för källorna till orättvisa och hur de sipprar in i det nuvarande systemet.
När vi fortsätter att utforska de komplexa dynamikerna kring AI-bias inom hälso- och sjukvården är det viktigt att komma ihåg att det ultimata målet är att säkerställa en rättvis och likvärdig behandling för alla patienter. Precis som investerare förlitar sig på plattformar som cryptoview.io för att navigera den ofta biaserade världen av kryptomarknader måste hälso- och sjukvårdspersonal också söka verktyg och strategier som hjälper till att motverka bias i AI-modeller.
