医疗领域是否真正受到人工智能（AI）的公正对待？麻省理工学院的一组研究人员对此问题进行了深入探讨，揭示了医疗人工智能中的一些令人担忧的发现。
揭示医疗人工智能中偏见的根源
每个人，无论其独特的身体特征或身份如何，都应享有优质医疗保健。然而，某些群体在医疗体系中经常面临不公平，这主要是由于医疗诊断和治疗中根深蒂固的不公平和偏见。麻省理工学院的研究人员发现，人工智能和机器学习可能会加剧这些差异，尤其是对于代表性不足的亚群体。这种偏见可能会显著影响对这些群体的诊断和治疗。
识别导致人工智能偏见的变化
由麻省理工学院电气科学与工程系助理教授Marzyeh Ghassemi领导的研究团队发布了一篇分析人工智能中可能出现的差异根源的论文。他们确定了四种导致人工智能模型中偏见的“亚群体变化”，包括：
- 虚假相关
- 属性不平衡
- 类别不平衡
- 属性泛化
这些变化可能导致人工智能模型在处理代表性不足的亚群体时出现问题。例如，在一个数据集中，男性被诊断为肺炎的数量比女性多100倍，属性不平衡可能导致模型在检测男性肺炎时表现比在检测女性肺炎时更好。
人工智能模型是否可能没有偏见？
麻省理工学院的团队通过增强“分类器”和“编码器”来减少虚假相关、类别不平衡和属性不平衡的发生。然而，他们尚未找到解决“属性泛化”变化的方法。他们目前正在研究数以万计的患者和胸部X射线的公共数据集，以确定机器学习模型中是否可以实现医疗诊断和治疗的公平性。尽管如此，他们承认需要更好地了解不公平的来源以及它们如何渗入当前的系统中。
在我们继续探索医疗人工智能中复杂的动态时，关键是要记住最终目标是确保所有患者得到公平和公正的治疗。就像投资者依靠cryptoview.io等平台来应对常常带有偏见的加密货币市场一样，医疗专业人员也必须寻求帮助对抗人工智能模型中的偏见的工具和策略。
