क्या हेल्थकेयर वास्तव में कृत्रिम बुद्धिमत्ता (AI) से निष्पक्ष व्यवहार प्राप्त कर रहा है? मेसाचुसेट्स प्रौद्योगिकी संस्थान (MIT) के अनुसंधानकर्ताओं का एक समूह इस सवाल में खोज कर रहा है, जिसमें हेल्थकेयर में AI पक्षपात के बारे में कुछ चिंताजनक खोजों की जानकारी है।
हेल्थकेयर AI में पक्षपात की जड़ें उजागर करना
हर व्यक्ति, उनकी विशिष्ट शारीरिक विशेषताओं या पहचान के बावजूद, गुणवत्ता हेल्थकेयर के हकदार होने का अधिकारी होता है। फिर भी, निश्चित समूह अक्सर हेल्थकेयर प्रणाली में अनुचितता का सामना करते हैं, जो मेडिकल निदान और उपचार में स्थानीय असमानता और पक्षपात के कारण अधिक बढ़ाती हैं। MIT अनुसंधानकर्ताओं ने खोजा है कि AI और मशीन लर्निंग इन असमानताओं को और भी बढ़ा सकते हैं, खासकर संज्ञानहीन उपसमूहों के लिए। यह पक्षपात इन समूहों के निदान और उपचार पर कैसे प्रभाव डालता है, इसमें बहुत प्रभाव हो सकता है।
AI में पक्षपात के कारणों की पहचान करना
मार्ज़ीये घासेमी द्वारा नेतृत्वित अनुसंधान टीम, जो MIT के विद्युत विज्ञान और इंजीनियरिंग विभाग में सहायक प्रोफ़ेसर हैं, ने एक रिपोर्ट जारी की है, जिसमें AI में पक्षपात के उद्भव के मूल कारणों का विश्लेषण किया गया है। उन्होंने AI मॉडल्स में पक्षपात के चार प्रकार की पहचान की हैं, जिनमें निम्नलिखित शामिल हैं:
- अवांछित सहबंधितताएँ
- गुण संतुलन
- वर्ग संतुलन
- गुण सामान्यीकरण
ये परिवर्तन उन AI मॉडल्स को जो आमतौर पर अच्छा काम करते हैं, स्थानीय उपसमूहों के साथ दोषधारी हो सकते हैं। उदाहरण के लिए, एक डेटासेट में जहां हर महिला के साथ एक ही रोगी के साथ निदान किया गया हो, गुण संतुलन महिलाओं में निदान को पुरुषों की तुलना में अच्छी तरह से पकड़ने के लिए मॉडल को बेहतर कर सकता है।
क्या AI मॉडलों को पक्षपात के बिना चलाना संभव है?
MIT टीम ने ‘वर्गीकरणकारी’ और ‘इंकोडर’ को सुधारकर अवांछित सहबंधितता, वर्ग संतुलन और गुण संतुलन के घटने का प्रबंधन किया है। हालांकि, उन्हें ‘गुण सामान्यीकरण’ परिवर्तन के लिए अभी तक कोई समाधान नहीं मिला है। वे वर्तमान में लाखों मरीज़ों और छाती की एक्सरे के सार्वजनिक डेटासेटों का परीक्षण कर रहे हैं, ताकि मशीन लर्निंग मॉडल में मेडिकल निदान और उपचार में न्याय की प्राप्ति की जा सके। फिर भी, उन्होंने अन्याय के स्रोतों की बेहतर समझ और उन्हें मौजूदा प्रणाली में कैसे प्रवेश करते हैं, इसके लिए एक बेहतर समझ की आवश्यकता को स्वीकार किया है।
जबकि हम हेल्थकेयर में AI पक्षपात के जटिल गतिविधियों की खोज करते हैं, इस बात को ध्यान में रखना महत्वपूर्ण है कि अंतिम लक्ष्य सभी मरीज़ों के लिए न्यायसंगत और इंसाफ़ी उपचार सुनिश्चित करना है। जिस तरह निवेशक क्रिप्टोकरेंसी बाजारों की अक्सर पक्षपातपूर्ण दुनिया में cryptoview.io जैसे प्लेटफ़ॉर्म पर निर्भर करते हैं, हेल्थकेयर पेशेवरों को भी AI मॉडलों में पक्षपात के खिलाफ़ लड़ने में मदद करने वाले उपकरण और रणनीतियों की तलाश करनी चाहिए।
