Süni intellektin görünməmiş günahkarı: İçindəki qərəzliyi aradan qaldırmaq
Bias blog seriyası: 1-ci hissə
giriş
Getdikcə süni intellekt formaları olan dünyamızda mürəkkəb qərarlar qəbul etmək vəzifəsi daşıyan maşınlar getdikcə daha çox yayılır. Biznes, yüksək riskli qərarların qəbulu kimi müxtəlif sahələrdə və son bir neçə il ərzində tibb sektorunda AI-nin istifadəsini göstərən artan ədəbiyyat var. Bununla belə, bu artan yayılma ilə insanlar sözügedən sistemlərdəki meyllərə diqqət yetirdilər; Yəni, mahiyyət etibarı ilə məlumatlardakı nümunələri izləmək üçün nəzərdə tutulsa da, müxtəlif cinsiyyətçi və ayrı-seçkilik davranışlarının müşahidə oluna bilməsi mənasında qərəzlilik əlamətləri göstərdilər. Ən son Avropa AI Aktı, həmçinin bu qərəz məsələsini kifayət qədər geniş əhatə edir və bununla bağlı problemlərin həlli üçün zəmin yaradır.
Texniki sənədlərin bütün illərində insanlar müəyyən demoqrafik göstəricilərə qarşı bu əyri davranış növünü təsvir etmək üçün “qərəzlilik” terminindən istifadə etməyə meyllidirlər; mənası dəyişən, çaşqınlıq yaradan və ona müraciət işini çətinləşdirən söz.
Bu məqalə qərəz mövzusunu əhatə edən bir sıra bloq yazılarının birincisidir. Bu seriyada biz sizə süni intellektdə qərəzlilik haqqında aydın, həzm edilə bilən bir anlayış verməyi hədəfləyəcəyik. Biz qərəzi ölçmək və minimuma endirmək yollarını təqdim edəcəyik və bu yolda daha ədalətli sistemlərə sintetik məlumatların rolunu araşdıracağıq. Sintetik məlumatların yaradılması üzrə aparıcı oyunçu olan Syntho-nun bu səylərə necə töhfə verə biləcəyinə də nəzər salacağıq. Beləliklə, istər hərəkətə keçə bilən fikirlər axtaran bir təcrübəçi olsanız, istərsə də bu mövzu ilə maraqlanırsınız, doğru yerdəsiniz.
Fəaliyyətdə qərəz: Real Dünya Nümunəsi
Siz maraqlana bilərsiniz: "Süni intellektdə bu qərəzlilik vacibdir, amma bu mənim üçün, adi insanlar üçün nə deməkdir?" Həqiqət budur ki, təsir çox genişdir, çox vaxt görünməzdir, lakin güclüdür. AI-də qərəzlilik sadəcə akademik konsepsiya deyil; bu, ciddi nəticələri olan real dünya problemidir.
Nümunə olaraq Hollandiya uşaq rifahı qalmaqalını götürək. Minimum insan müdaxiləsi ilə ədalətli və səmərəli nəticələr əldə etmək üçün yaradılan bir vasitə olan avtomatlaşdırılmış sistem qərəzli idi. O, səhv məlumatlara və fərziyyələrə əsaslanaraq minlərlə valideyni saxtakarlığa görə qeyd etdi. Nəticə? Ailələr süni intellekt sistemindəki qərəzlərə görə qarışıqlıqlara, şəxsi reputasiyalara xələl gətirməyə və maliyyə çətinliklərinə məruz qalır. Məhz bu kimi nümunələr AI-də qərəzliliyin aradan qaldırılmasının aktuallığını vurğulayır.
Mənbə: “2030-cu ilə qədər təzminat ödəyin” 2023. ABŞ
Ancaq bununla da dayanmayaq. Bu hadisə təcrid olunmuş qərəzli bir hadisə deyil. Süni intellektdə qərəzliyin təsiri həyatımızın bütün sahələrini əhatə edir. İşə kimin işə götürülməsindən, kimin kredit üçün təsdiqlənməsindən, kimin hansı tibbi müalicə almasından tutmuş – qərəzli AI sistemləri mövcud bərabərsizlikləri davam etdirə və yenilərini yarada bilər.
Bunu nəzərə alın: qərəzli tarixi məlumatlar əsasında hazırlanmış süni intellekt sistemi, yaxşı ixtisaslı namizədi sadəcə cinsinə və ya etnik mənsubiyyətinə görə işdən məhrum edə bilər. Və ya qərəzli AI sistemi, poçt koduna görə layiqli namizədə kredit verməkdən imtina edə bilər. Bunlar sadəcə hipotetik ssenarilər deyil; onlar indi baş verir.
Tarixi qərəz və Ölçmə qərəzi kimi xüsusi qərəz növləri bu cür qüsurlu qərarlara gətirib çıxarır. Onlar məlumatlara xasdır, cəmiyyətdəki qərəzlərə dərin kök salır və müxtəlif demoqrafik qruplar arasında qeyri-bərabər nəticələrdə əks olunur. Onlar proqnozlaşdırıcı modellərin qərarlarını təhrif edə və ədalətsiz rəftarla nəticələnə bilər.
Böyük planda süni intellektdə qərəzlilik, cəmiyyətimizi və həyatımızı incə şəkildə formalaşdıran, çox vaxt fərqinə varmadığımız şəkildə səssiz təsiredici rol oynaya bilər. Bütün bu yuxarıda qeyd olunan məqamlar sizi niyə dayandırmaq üçün tədbirlər görülmədiyini və bunun mümkün olub-olmadığını soruşmağa vadar edə bilər.
Həqiqətən də, yeni texnoloji irəliləyişlərlə belə problemin həlli getdikcə daha əlçatan olur. Bununla belə, bu problemi həll etmək üçün ilk addım onun varlığını və təsirini anlamaq və etiraf etməkdir. Hələlik, onun varlığının etirafı yaradılıb və “anlaşma” məsələsi hələ də qeyri-müəyyən qalır.
Qərəzliyi başa düşmək
tərəfindən təqdim edilən qərəzin orijinal tərifi olsa da Kembric lüğəti süni intellektə aid olduğu üçün sözün əsas məqsədindən çox da uzaqlaşmır, hətta bu tək tərif üçün çoxlu müxtəlif şərhlər edilməlidir. kimi tədqiqatçılar tərəfindən təqdim edilən taksonomiyalar Hellström və başqaları (2020) və Kliegr (2021), qərəzliliyin tərifinə dair daha dərin anlayışlar təmin edir. Bu sənədlərə sadə bir nəzər saldıqda, problemin effektiv həlli üçün terminin tərifinin çox daraltılmasının tələb olunduğunu aşkar edəcək.
Hadisələrin dəyişməsi olsa da, qərəzin mənasını optimal şəkildə müəyyənləşdirmək və çatdırmaq üçün əksini, yəni Ədaləti daha yaxşı müəyyən etmək olar.
Ədalətliliyin müəyyən edilməsi
kimi müxtəlif son ədəbiyyatlarda müəyyən edildiyi kimi Castelnovo və b. (2022), ədalətlilik potensial məkan termini anlayışı əsasında işlənib hazırlana bilər. Mövcud olduğu kimi, potensial məkan (PS) müəyyən bir demoqrafik qrupa mənsubiyyətindən asılı olmayaraq bir insanın imkan və biliklərinin həcmini ifadə edir. PS konsepsiyasının bu tərifini nəzərə alsaq, ədalətliliyi, qərəzliliyə səbəb olan parametrlərdə (məsələn, irq, yaş və ya cins kimi) müşahidə olunan və gizli fərqlərindən asılı olmayaraq, bərabər PS-yə malik iki fərd arasında rəftarın bərabərliyi kimi asanlıqla müəyyən etmək olar. Fürsətlərin Bərabərliyi adlanan bu tərifdən hər hansı bir sapma qərəzin açıq göstəricisidir və əlavə araşdırmaya dəyər.
Oxucular arasında olan praktiklər, dünyamızda mövcud olan qərəzləri nəzərə alsaq, burada müəyyən edilmiş bir şeyə nail olmağın tamamilə qeyri-mümkün ola biləcəyini fərq edə bilərlər. Bu doğrudur! Yaşadığımız dünya, bu dünyada baş verən hadisələrdən toplanan bütün məlumatlar ilə birlikdə çoxlu tarixi və statistik qərəzliyə məruz qalır. Bu, həqiqətən, bir günün belə "qərəzli" məlumatlar üzərində öyrədilmiş proqnozlaşdırıcı modellərə təsirini tamamilə yumşaltmaq inamını azaldır. Bununla belə, müxtəlif üsullardan istifadə etməklə qərəzin təsirlərini minimuma endirməyə cəhd etmək olar. Belə olan halda, bu bloq yazılarının qalan hissəsində istifadə olunan terminologiya qərəzin təsirini tam yumşaltmaq əvəzinə onu minimuma endirmək fikrinə keçəcək.
Tamam! Beləliklə, indi qərəzin nə olduğu və onun mövcudluğunu potensial olaraq necə qiymətləndirmək barədə bir fikir irəli sürüldü; Əgər problemi düzgün həll etmək istəyiriksə, bütün bu qərəzlərin haradan qaynaqlandığını bilməliyik.
Mənbələri və növlərini başa düşmək
Mövcud tədqiqatlar maşın öyrənməsində müxtəlif qərəzlilik növləri haqqında dəyərli fikirlər təqdim edir. kimi Mehrabi və s. al. (2019) maşın öyrənməsində qərəzləri bölməyə davam etdik, qərəzləri 3 əsas kateqoriyaya bölmək olar. Məhz bunlardan:
- Alqoritmə verilənlər: verilənlərin özündən yaranan qərəzləri əhatə edən kateqoriya. Bu, zəif məlumat toplanması, dünyada mövcud olan qərəzlər və s.
- İstifadəçiyə alqoritm: alqoritmlərin dizaynından və funksionallığından irəli gələn qərəzlərə diqqət yetirən kateqoriya. Buraya alqoritmlərin qeyri-obyektiv nəticələrə səbəb ola biləcək müəyyən məlumat nöqtələrini necə şərh edə biləcəyi, çəkə biləcəyi və ya nəzərdən keçirə biləcəyi daxildir.
- İstifadəçidən Məlumata: istifadəçinin sistemlə qarşılıqlı əlaqəsindən yaranan qərəzlərə aiddir. İstifadəçilərin verilənləri daxil etmə tərzi, onlara xas olan qərəzləri və ya hətta sistem çıxışlarına olan etibarları nəticələrə təsir edə bilər.
Şəkil 1: Data mining üçün CRISP-DM çərçivəsinin vizuallaşdırılması; məlumatların əldə edilməsində geniş istifadə olunur və qərəzliliyin yarana biləcəyi mərhələlərin müəyyən edilməsi prosesinə aiddir.
Adlar qərəzlilik formasının göstəricisi olsa da, bu çətir şərtləri altında təsnif edilə bilən qərəzlərin növləri ilə bağlı hələ də suallar ola bilər. Oxucularımız arasında olan həvəskarlar üçün bu terminologiya və təsnifatla bağlı bəzi ədəbiyyata keçidlər təqdim etdik. Bu bloq yazısında sadəlik üçün vəziyyətə uyğun olan bir neçə seçilmiş qərəzliyi əhatə edəcəyik (demək olar ki, hamısı alqoritm kateqoriyasına aid məlumatlardır). Xüsusi qərəzlilik növləri aşağıdakılardır:
- Tarixi qərəz: Müxtəlif sosial qruplarda və ümumilikdə cəmiyyətdə dünyada mövcud olan təbii qərəzlərin yaratdığı məlumatlara xas olan qərəzlilik növü. Məhz bu məlumatların dünyada mövcud olması səbəbindən onu müxtəlif seçmə və xüsusiyyət seçimi vasitələri ilə azaltmaq mümkün deyil.
- Ölçmə qərəzi və təmsilçilik qərəzi: Bu iki yaxından əlaqəli qərəz məlumat dəstinin müxtəlif alt qruplarında qeyri-bərabər miqdarda “əlverişli” nəticələr olduqda baş verir. Bu cür qərəzlilik proqnozlaşdırıcı modellərin nəticələrini təhrif edə bilər
- Alqoritmik Qərəz: Sırf istifadə olunan alqoritmlə əlaqəli qərəz. Keçirilən testlərdə də müşahidə edildiyi kimi (məqalədə daha ətraflı təsvir edilmişdir), bu cür qərəzlilik verilmiş alqoritmin ədalətliliyinə böyük təsir göstərə bilər.
Maşın öyrənməsində qərəzlə bağlı bu əsas anlayışlar problemi sonrakı yazılarda daha effektiv həll etmək üçün istifadə olunacaq.
Final düşüncələr
Süni intellekt daxilində qərəzliliyin bu kəşfində biz onun getdikcə süni intellektlə idarə olunan dünyamızda göstərdiyi dərin təsirləri işıqlandırdıq. Hollandiya uşaq rifahı qalmaqalı kimi real dünya nümunələrindən tutmuş qərəzli kateqoriyaların və növlərin mürəkkəb nüanslarına qədər, qərəzliyi tanımaq və anlamaq çox vacibdir.
Qərəzlərin yaratdığı çətinliklər - istər tarixi, istər alqoritmik, istərsə də istifadəçi tərəfindən induksiya edilmiş olsun - əhəmiyyətli olsa da, onlar aşılmaz deyil. Qərəzliyin mənşəyini və təzahürlərini möhkəm dərk etməklə, biz onları həll etmək üçün daha yaxşı təchiz olunmuşuq. Bununla belə, tanınma və anlama yalnız başlanğıc nöqtələridir.
Bu seriyada irəlilədikcə, növbəti diqqətimiz əlimizdə olan maddi alətlər və çərçivələr üzərində olacaq. AI modellərində qərəzliyin dərəcəsini necə ölçə bilərik? Və daha da vacibi, onun təsirini necə minimuma endirmək olar? Bunlar, süni intellekt inkişaf etməyə davam etdikcə, o, həm ədalətli, həm də təsirli bir istiqamətdə bunu təmin edərək, növbəti araşdıracağımız aktual suallardır.
Məlumat sintetikdir, lakin komandamız realdır!
Syntho ilə əlaqə saxlayın və mütəxəssislərimizdən biri sintetik məlumatların dəyərini öyrənmək üçün işıq sürətində sizinlə əlaqə saxlayacaq!