¿Recibe realmente el ámbito de la salud el tratamiento imparcial que merece de la Inteligencia Artificial (IA)? Un grupo de investigadores del Instituto de Tecnología de Massachusetts (MIT) ha profundizado en esta pregunta, revelando algunos hallazgos preocupantes sobre el sesgo de la IA en la atención médica.
Descubriendo las raíces del sesgo en la IA de atención médica
Cada individuo, independientemente de sus características físicas o identidades únicas, debería tener derecho a recibir atención médica de calidad. Sin embargo, ciertos grupos a menudo enfrentan injusticias en el sistema de atención médica, en gran parte debido a desigualdades y sesgos arraigados en el diagnóstico y tratamiento médico. Los investigadores del MIT han descubierto que la IA y el aprendizaje automático podrían empeorar estas disparidades, especialmente para los subgrupos subrepresentados. Este sesgo puede afectar significativamente cómo se diagnostica y trata a estos grupos.
Identificando los cambios que provocan el sesgo de la IA
El equipo de investigación, liderado por Marzyeh Ghassemi, profesora asistente en el Departamento de Ciencia y Ingeniería Eléctrica del MIT, publicó un artículo que analiza los orígenes de las disparidades que pueden surgir en la IA. Identificaron cuatro tipos de ‘cambios de subpoblación’ que pueden llevar a un sesgo en los modelos de IA. Estos incluyen:
- Correlaciones espurias
- Desbalance de atributos
- Desbalance de clases
- Generalización de atributos
Estos cambios pueden hacer que los modelos de IA, que generalmente tienen un buen rendimiento, se tropiecen al tratar con subgrupos subrepresentados. Por ejemplo, en un conjunto de datos donde había 100 hombres diagnosticados con neumonía por cada mujer diagnosticada con lo mismo, un desbalance de atributos podría hacer que el modelo funcione mejor al detectar neumonía en hombres que en mujeres.
¿Es posible que los modelos de IA operen sin sesgos?
El equipo del MIT ha logrado reducir la aparición de correlaciones espurias, desbalance de clases y desbalance de atributos al mejorar el ‘clasificador’ y el ‘codificador’. Sin embargo, aún no han encontrado una solución para el cambio de ‘generalización de atributos’. Actualmente están examinando conjuntos de datos públicos de decenas de miles de pacientes y radiografías de tórax para determinar si se puede lograr la equidad en el diagnóstico y tratamiento médico en los modelos de aprendizaje automático. No obstante, reconocen la necesidad de una mejor comprensión de las fuentes de injusticia y cómo se filtran en el sistema actual.
A medida que continuamos explorando la dinámica intrincada del sesgo de la IA en la atención médica, es crucial recordar que el objetivo final es garantizar un tratamiento equitativo y justo para todos los pacientes. Así como los inversores confían en plataformas como cryptoview.io para navegar por el mundo a menudo sesgado de los mercados de criptomonedas, los profesionales de la salud también deben buscar herramientas y estrategias que ayuden a contrarrestar el sesgo en los modelos de IA.
