Является ли область здравоохранения действительно получающей беспристрастное обращение от искусственного интеллекта (AI)? Группа исследователей из Массачусетского технологического института (MIT) вглядывается в этот вопрос, раскрывая некоторые тревожные результаты о предвзятости AI в здравоохранении.
Раскрытие корней предвзятости в здравоохранении AI
Каждый человек, независимо от его уникальных физических характеристик или идентичности, имеет право на качественное здравоохранение. Однако, определенные группы часто сталкиваются с несправедливостью в системе здравоохранения, в значительной степени из-за укоренившихся неравенств и предубеждений в медицинской диагностике и лечении. Исследователи из MIT обнаружили, что AI и машинное обучение могут усугубить эти различия, особенно для малопредставленных подгрупп. Эта предвзятость может значительно влиять на то, как эти группы диагностируются и лечатся.
Выявление сдвигов, приводящих к предвзятости AI
Исследовательская группа под руководством Марзие Гасеми, доцента отдела электротехники и инженерии MIT, опубликовала статью, анализирующую источники неравенств, которые могут возникать в AI. Они выделили четыре типа ‘сдвигов подпопуляции’, которые могут привести к предвзятости в моделях AI. Они включают:
- Ложные корреляции
- Неравенство атрибутов
- Неравенство классов
- Обобщение атрибутов
Эти сдвиги могут вызвать проблемы в работе моделей AI, которые в целом показывают хорошие результаты, при работе с малопредставленными подгруппами. Например, в наборе данных, где каждый мужчина получил диагноз пневмонии на каждую женщину с таким же диагнозом, неравенство атрибутов может привести к лучшему определению пневмонии у мужчин, чем у женщин.
Возможно ли работа AI моделей без предвзятости?
Команда MIT смогла сократить появление ложных корреляций, неравенства классов и неравенства атрибутов, улучшив ‘классификатор’ и ‘кодировщик’. Однако они до сих пор не нашли решение для сдвига ‘обобщения атрибутов’. В настоящее время они изучают публичные наборы данных десятков тысяч пациентов и рентгеновских снимков грудной клетки, чтобы определить, можно ли достичь справедливости в медицинской диагностике и лечении в моделях машинного обучения. Тем не менее, они признают необходимость более глубокого понимания источников несправедливости и того, как они проникают в текущую систему.
Пока мы продолжаем исследовать сложные динамики предвзятости AI в здравоохранении, важно помнить, что окончательная цель — обеспечить справедливое и равное обращение со всеми пациентами. Как инвесторы полагаются на платформы вроде cryptoview.io для навигации в мире криптовалютных рынков, медицинские специалисты также должны искать инструменты и стратегии, которые помогут противодействовать предвзятости в моделях AI.
