AI को नदेखेको अपराधी: भित्र पूर्वाग्रह खोल्दै

जसरी हालैका विभिन्न साहित्यमा यसलाई परिभाषित गरिएको छ Castelnovo et al। (२०२२), निष्पक्षता शब्द सम्भाव्य स्थान को बुझाइ दिएमा विस्तार गर्न सकिन्छ। जसरी यो अवस्थित छ, सम्भावित ठाउँ (PS) ले कुनै निश्चित जनसांख्यिकीय समूहसँग सम्बन्धित भएता पनि व्यक्तिको क्षमता र ज्ञानको सीमालाई जनाउँछ। PS को अवधारणाको यो परिभाषालाई ध्यानमा राख्दै, एकले समान PS का दुई व्यक्तिहरू बीचको व्यवहारको समानता हो भनेर सजिलै परिभाषित गर्न सक्छ, पूर्वाग्रह उत्पन्न गर्ने मापदण्डहरू (जस्तै जाति, उमेर, वा लिङ्ग) मा तिनीहरूको अवलोकनयोग्य र लुकेका भिन्नताहरू भएता पनि। यस परिभाषाबाट कुनै पनि विचलन, जसलाई अवसरको समानता पनि भनिन्छ, पूर्वाग्रहको स्पष्ट संकेत हो र थप अनुसन्धानको योग्यता हो।  

हाम्रो संसारमा अवस्थित अन्तर्निहित पूर्वाग्रहहरूलाई ध्यानमा राख्दै यहाँ परिभाषित गरिए अनुसार केही हासिल गर्न पूर्ण रूपमा असम्भव हुन सक्छ भन्ने कुरा पाठकहरूका बीचका अभ्यासीहरूले याद गर्न सक्छन्। त्यो सत्य हो! हामी बस्ने संसार, यस संसारका घटनाहरूबाट सङ्कलन गरिएका सबै तथ्याङ्कहरू सहित, धेरै ऐतिहासिक र सांख्यिकीय पूर्वाग्रहको अधीनमा छ। यसले, वास्तवमा, यस्तो "पक्षपाती" डेटामा प्रशिक्षित भविष्यवाणी मोडेलहरूमा पूर्वाग्रहको प्रभावहरूलाई पूर्ण रूपमा कम गर्ने एक दिनको आत्मविश्वासलाई कम गर्छ। यद्यपि, विभिन्न विधिहरू प्रयोग गरेर, कसैले पूर्वाग्रहको प्रभावहरूलाई कम गर्न प्रयास गर्न सक्छ। यो मामला हो, यस ब्लग पोस्ट(हरू) को बाँकी भागमा प्रयोग गरिएको शब्दावलीले यसलाई पूर्ण रूपमा कम गर्नुको सट्टा पूर्वाग्रहको प्रभावलाई कम गर्ने विचारमा परिवर्तन गर्नेछ।

ल! त्यसोभए अब जब पूर्वाग्रह भनेको के हो र कसरी यसको अस्तित्वको सम्भावित मूल्याङ्कन गर्न सकिन्छ भन्ने बारे एउटा विचार ल्याइएको छ; यदि हामी समस्यालाई राम्ररी समाधान गर्न चाहन्छौं, तथापि, यी सबै पूर्वाग्रहहरू कहाँबाट उत्पन्न हुन्छन् भनेर हामीले जान्न आवश्यक छ।