एआई का अदृश्य अपराधी: भीतर के पूर्वाग्रह को उजागर करना

जैसा कि इसे विभिन्न हालिया साहित्य में परिभाषित किया गया है कैस्टेलनोवो एट अल। (2022)संभावित स्थान शब्द की समझ को देखते हुए निष्पक्षता को विस्तृत किया जा सकता है। जैसा कि यह मौजूद है, संभावित स्थान (पीएस) किसी व्यक्ति की क्षमताओं और ज्ञान की सीमा को संदर्भित करता है, भले ही वह किसी निश्चित जनसांख्यिकीय समूह से संबंधित हो। पीएस की अवधारणा की इस परिभाषा को देखते हुए, निष्पक्षता को समान पीएस के दो व्यक्तियों के बीच उपचार की समानता के रूप में आसानी से परिभाषित किया जा सकता है, भले ही पूर्वाग्रह उत्प्रेरण मापदंडों (जैसे जाति, आयु या लिंग) में उनके देखने योग्य और छिपे हुए अंतर कुछ भी हों। इस परिभाषा से कोई भी विचलन, जिसे अवसरों की समानता भी कहा जाता है, पूर्वाग्रह का स्पष्ट संकेत है और आगे की जांच की आवश्यकता है।  

पाठकों के बीच अभ्यासकर्ता यह देख सकते हैं कि यहां परिभाषित कुछ हासिल करना हमारी दुनिया में मौजूद अंतर्निहित पूर्वाग्रहों को देखते हुए पूरी तरह से असंभव हो सकता है। यह सच है! जिस दुनिया में हम रहते हैं, इस दुनिया में होने वाली घटनाओं से एकत्र किए गए सभी डेटा सहित, बहुत ऐतिहासिक और सांख्यिकीय पूर्वाग्रह के अधीन है। यह, वास्तव में, ऐसे "पक्षपाती" डेटा पर प्रशिक्षित पूर्वानुमान मॉडल पर पूर्वाग्रह के प्रभावों को एक दिन पूरी तरह से कम करने के आत्मविश्वास को कम करता है। हालाँकि, विभिन्न तरीकों के उपयोग के माध्यम से, पूर्वाग्रह के प्रभावों को कम करने का प्रयास किया जा सकता है। ऐसा होने पर, इस ब्लॉग पोस्ट के बाकी हिस्सों में इस्तेमाल की गई शब्दावली पूर्वाग्रह के प्रभाव को पूरी तरह से कम करने के बजाय इसे कम करने के विचार की ओर स्थानांतरित हो जाएगी।

ठीक है! तो अब यह विचार सामने आ गया है कि पूर्वाग्रह क्या है और कोई इसके अस्तित्व का संभावित मूल्यांकन कैसे कर सकता है; हालाँकि, यदि हम समस्या से ठीक से निपटना चाहते हैं, तो हमें यह जानना होगा कि ये सभी पूर्वाग्रह कहाँ से उत्पन्न होते हैं।