Ontvangt het domein van de gezondheidszorg echt de onbevooroordeelde behandeling die het verdient van Artificial Intelligence (AI)? Een groep onderzoekers van het Massachusetts Institute of Technology (MIT) heeft zich verdiept in deze vraag en onthult enkele verontrustende bevindingen over vooringenomenheid van AI in de gezondheidszorg.
De Oorzaken van Vooringenomenheid in AI in de Gezondheidszorg Onthullen
Iedere individu, ongeacht zijn unieke fysieke kenmerken of identiteit, zou recht moeten hebben op kwalitatieve gezondheidszorg. Toch worden bepaalde groepen vaak geconfronteerd met oneerlijkheid in het gezondheidszorgsysteem, grotendeels door ingebakken ongelijkheden en vooroordelen in medische diagnose en behandeling. De onderzoekers van MIT hebben ontdekt dat AI en machine learning deze ongelijkheden mogelijk kunnen verergeren, vooral voor ondervertegenwoordigde subgroepen. Deze vooringenomenheid kan aanzienlijke gevolgen hebben voor de diagnose en behandeling van deze groepen.
De Verschuivingen die Leiden tot Vooringenomenheid in AI Identificeren
Het onderzoeksteam, onder leiding van Marzyeh Ghassemi, universitair docent aan de afdeling Elektrotechniek en Informatica van MIT, heeft een paper gepubliceerd waarin de oorsprong van de ongelijkheden die kunnen ontstaan in AI worden geanalyseerd. Ze hebben vier soorten ‘subpopulatieverschuivingen’ geïdentificeerd die kunnen leiden tot vooringenomenheid in AI-modellen. Deze omvatten:
- Onjuiste correlaties
- Onevenwichtigheid van attributen
- Onevenwichtigheid van klassen
- Attribuutgeneralisatie
Deze verschuivingen kunnen ervoor zorgen dat de AI-modellen, die over het algemeen goed presteren, moeite hebben met het omgaan met ondervertegenwoordigde subgroepen. Bijvoorbeeld, in een dataset waarin er 100 mannen waren gediagnosticeerd met longontsteking voor elke vrouw die dezelfde diagnose kreeg, kan een onevenwichtigheid van attributen ertoe leiden dat het model beter presteert bij het detecteren van longontsteking bij mannen dan bij vrouwen.
Is het Mogelijk voor AI-modellen om Zonder Vooringenomenheid te Werken?
Het MIT-team is erin geslaagd om de voorkomen van onjuiste correlaties, onevenwichtigheid van klassen en onevenwichtigheid van attributen te verminderen door de ‘classifier’ en ‘encoder’ te verbeteren. Ze hebben echter nog geen oplossing gevonden voor de ‘attribuutgeneralisatie’-verschuiving. Ze onderzoeken momenteel openbare datasets van tienduizenden patiënten en röntgenfoto’s van de borst om te bepalen of eerlijkheid in medische diagnose en behandeling kan worden bereikt in machine learning-modellen. Desalniettemin erkennen ze de behoefte aan een beter begrip van de bronnen van oneerlijkheid en hoe deze in het huidige systeem doorsijpelen.
Terwijl we de complexe dynamiek van vooringenomenheid van AI in de gezondheidszorg blijven verkennen, is het cruciaal om te onthouden dat het uiteindelijke doel is om een eerlijke behandeling voor alle patiënten te waarborgen. Net zoals investeerders vertrouwen op platforms zoals cryptoview.io om door de vaak vooringenomen wereld van cryptocurrency-markten te navigeren, moeten gezondheidsprofessionals ook tools en strategieën zoeken die helpen om vooringenomenheid in AI-modellen tegen te gaan.
