هل يتلقى مجال الرعاية الصحية العلاج العادل الذي يستحقه حقًا من الذكاء الاصطناعي؟ قدم مجموعة من الباحثين في معهد ماساتشوستس للتكنولوجيا (MIT) دراسة حول هذا السؤال، كشفت عن بعض النتائج المقلقة حول تحيز الذكاء الاصطناعي في مجال الرعاية الصحية.
كشف جذور التحيز في الذكاء الاصطناعي في الرعاية الصحية
يجب أن يكون لكل فرد، بغض النظر عن خصائصه الجسدية أو هويته الفريدة، الحق في الحصول على رعاية صحية ذات جودة. ومع ذلك، يواجه بعض الفرق العرقية والاجتماعية والاقتصادية غالبًا ظلمًا في نظام الرعاية الصحية، نتيجة لتفاوتات وتحيزات جذورها في تشخيص وعلاج الأمراض. اكتشف الباحثون في MIT أن الذكاء الاصطناعي وتعلم الآلة يمكن أن يزيدا هذه الاختلافات، خاصة بالنسبة للفئات الفرعية غير الممثلة. يمكن أن يؤثر هذا التحيز بشكل كبير على كيفية تشخيص وعلاج هذه الفئات.
تحديد التحولات التي تؤدي إلى تحيز الذكاء الاصطناعي
فريق البحث، بقيادة مرزية غاسمي، أستاذ مساعد في قسم العلوم الكهربائية والهندسة في MIT، قدم ورقة تحليلية لأصول التفاوتات التي يمكن أن تظهر في الذكاء الاصطناعي. اكتشفوا أربعة أنواع من “تحولات الفئات الفرعية” التي يمكن أن تؤدي إلى تحيز في نماذج الذكاء الاصطناعي. تشمل هذه:
- ارتباطات عرضية
- تفاوت السمة
- تفاوت الفئة
- تعميم السمة
يمكن أن تتسبب هذه التحولات في أن يتعثر النماذج الذكية، التي عادة ما تعمل بشكل جيد، عند التعامل مع الفئات الفرعية غير الممثلة. على سبيل المثال، في مجموعة بيانات حيث توجد 100 ذكر تم تشخيصهم بالتهاب رئوي لكل أنثى تم تشخيصها بنفس المرض، يمكن أن يؤدي تفاوت السمة إلى أن يكون النموذج أفضل في اكتشاف التهاب الرئة في الرجال من النساء.
هل يمكن للنماذج الذكية أن تعمل بدون تحيز؟
تمكن فريق MIT من تقليل حدوث الارتباطات العرضية وتفاوت السمة وتفاوت الفئة عن طريق تحسين الـ ‘مصنف’ والـ ‘مشفر’. ومع ذلك، لم يتمكنوا بعد من إيجاد حل لتحول ‘تعميم السمة’. حاليًا، يقومون بدراسة مجموعات بيانات عامة تتضمن عشرات الآلاف من المرضى وصور أشعة الصدر لتحديد ما إذا كان يمكن تحقيق العدالة في تشخيص وعلاج الأمراض في نماذج تعلم الآلة. ومع ذلك، يعترفون بأنه يجب فهم مصادر الظلم بشكل أفضل وكيفية تسربها إلى النظام الحالي.
مع استمرارنا في استكشاف الديناميات المعقدة لـ تحيز الذكاء الاصطناعي في مجال الرعاية الصحية، من الأمر أن نتذكر أن الهدف النهائي هو ضمان المعاملة العادلة والعادلة لجميع المرضى. تمامًا كما يعتمد المستثمرون على منصات مثل cryptoview.io للتنقل في عالم أسواق العملات المشفرة المتحيزة في كثير من الأحيان، يجب على الأطباء والمهنيين في مجال الرعاية الصحية أيضًا البحث عن الأدوات والاستراتيجيات التي تساعد في مواجهة التحيز في نماذج الذكاء الاصطناعي.
