AI's Unseen Culprit: Unraveling the Bias In
Bias Blog Series: Part 1
Introduction
Hauv peb lub ntiaj teb ntawm kev txawj ntse ntau ntxiv, cov tshuab uas ua haujlwm nrog kev txiav txim siab nyuaj tau dhau los ua ntau dua. Muaj lub cev loj hlob ntawm cov ntaub ntawv qhia txog kev siv AI hauv ntau yam xws li Kev Lag Luam, kev txiav txim siab muaj feem cuam tshuam, thiab ob peb xyoos dhau los hauv kev kho mob. Txawm li cas los xij, nrog qhov kev loj hlob zuj zus tuaj, cov neeg tau pom txog kev nyiam hauv cov kab ke hais; Ntawd yog, thaum lub sijhawm tsim los ua raws li cov qauv hauv cov ntaub ntawv, lawv tau pom cov cim ntawm kev ntxub ntxaug, hauv kev nkag siab tias ntau yam kev sib deev thiab kev ntxub ntxaug tuaj yeem pom. Tsis ntev los no European AI Act, kuj tseem hais txog qhov teeb meem ntawm qhov kev xav tsis zoo no ntau dua thiab teeb tsa lub hauv paus rau kev daws teeb meem cuam tshuam nrog nws.
Thoob plaws hauv lub xyoo ntawm cov ntaub ntawv kev txawj ntse, tib neeg tau nyiam siv lo lus "kev tsis ncaj ncees" los piav txog hom kev coj cwj pwm no rau qee cov pej xeem; ib lo lus uas nws lub ntsiab lus txawv, ua rau tsis meej pem thiab nyuaj rau txoj hauj lwm ntawm kev hais txog nws.
Kab lus no yog thawj zaug hauv cov ntawv tshaj tawm blog hais txog lub ntsiab lus ntawm kev tsis ncaj ncees. Hauv cov yeeb yaj kiab no, peb yuav tsom kom muab koj qhov kev nkag siab meej, digestible ntawm kev tsis ncaj ncees hauv AI. Peb mam li qhia txoj hauv kev los ntsuas thiab txo qis kev tsis ncaj ncees thiab tshawb nrhiav lub luag haujlwm ntawm cov ntaub ntawv hluavtaws hauv txoj hauv kev no kom muaj kev ncaj ncees ntau dua. Peb tseem yuav muab rau koj saib yuav ua li cas Syntho, tus thawj coj hauv kev tsim cov ntaub ntawv hluavtaws, tuaj yeem pab txhawb rau qhov kev siv zog no. Yog li, txawm tias koj yog tus kws kho mob tab tom nrhiav kev nkag siab zoo lossis tsuas yog xav paub txog cov ncauj lus no, koj nyob hauv qhov chaw zoo.
Kev Ncaj Ncees hauv Kev Ua: Ib Piv Txwv Hauv Ntiaj Teb tiag
Tej zaum koj yuav xav tsis thoob, "Qhov kev tsis ncaj ncees hauv AI yog txhua yam tseem ceeb, tab sis nws txhais li cas rau kuv, rau cov neeg zoo tib yam?" Qhov tseeb yog, qhov cuam tshuam yog nyob deb, feem ntau pom tsis pom tab sis muaj zog. Kev tsis ncaj ncees hauv AI tsis yog lub tswv yim kev kawm nkaus xwb; nws yog qhov teeb meem tiag tiag nrog rau qhov tshwm sim loj.
Siv cov Dutch kev noj qab haus huv cov menyuam yaus scandal ua piv txwv. Lub kaw lus automated, supposedly ib lub cuab yeej tsim los tsim kom muaj kev ncaj ncees thiab muaj txiaj ntsig nrog kev cuam tshuam rau tib neeg tsawg, yog kev tsis ncaj ncees. Nws yuam kev ntau txhiab tus niam txiv rau kev dag ntxias raws li cov ntaub ntawv tsis raug thiab kev xav. Qhov tshwm sim? Cov tsev neeg cuam tshuam rau hauv kev kub ntxhov, lub koob npe nrov ntawm tus kheej raug puas tsuaj, thiab kev txom nyem nyiaj txiag, tag nrho vim yog kev tsis ncaj ncees hauv AI System. Nws yog cov piv txwv zoo li no uas qhia txog qhov ceev ntawm kev hais txog kev tsis ncaj ncees hauv AI.
Source: “Compensatie ouders toeslagenaffaire kan zomaar tot 2030 duren", 2023. Teb Chaws Asmeskas
Tab sis cia peb tsis txhob nyob ntawd. Qhov xwm txheej no tsis yog ib qho kev sib cais ntawm kev tsis ncaj ncees ua rau muaj kev puas tsuaj. Qhov cuam tshuam ntawm kev tsis ncaj ncees hauv AI txuas mus rau txhua qhov chaw ntawm peb lub neej. Los ntawm leej twg tau txais kev ntiav rau txoj haujlwm, leej twg tau txais kev pom zoo rau qiv, rau leej twg tau txais kev kho mob zoo li cas - AI cov txheej txheem tuaj yeem ua rau muaj kev tsis sib xws thiab tsim cov tshiab.
Xav txog qhov no: AI system tau kawm txog cov ntaub ntawv keeb kwm tsis zoo tuaj yeem tsis lees paub tus neeg sib tw ua haujlwm tau zoo vim yog lawv poj niam txiv neej lossis haiv neeg. Lossis ib qho kev tsis ncaj ncees AI yuav tsis lees txais qiv nyiaj rau tus neeg sib tw tsim nyog vim tias lawv cov lej xa tuaj. Cov no tsis yog cov xwm txheej hypothetical xwb; lawv tshwm sim tam sim no.
Cov hom kev tsis ncaj ncees tshwj xeeb, xws li Keeb Kwm Bias thiab Kev Ntsuas Kev Ntsuas, ua rau cov kev txiav txim siab tsis zoo. Lawv yog cov muaj nyob rau hauv cov ntaub ntawv, tob tob nyob rau hauv lub social biases, thiab muaj kev cuam tshuam nyob rau hauv cov kev tshwm sim tsis sib npaug ntawm cov pab pawg neeg sib txawv. Lawv tuaj yeem skew qhov kev txiav txim siab ntawm cov qauv kev kwv yees thiab ua rau muaj kev kho tsis ncaj ncees.
Nyob rau hauv lub tswv yim loj ntawm tej yam, kev tsis ncaj ncees hauv AI tuaj yeem ua raws li tus neeg tsis mloog lus, ua rau peb lub neej thiab peb lub neej, feem ntau ntawm txoj kev peb tsis paub. Tag nrho cov ntsiab lus saum toj no tuaj yeem ua rau koj nug yog vim li cas ho tsis tau ua kom nres, thiab seb nws puas tuaj yeem ua tau.
Tseeb tiag, nrog kev txhim kho thev naus laus zis tshiab nws tau nkag mus tau yooj yim dua los daws cov teeb meem no. Thawj kauj ruam los daws qhov teeb meem no, txawm li cas los xij, yog kom nkag siab thiab lees paub nws qhov muaj nyob thiab cuam tshuam. Txog tam sim no, kev lees paub ntawm nws lub neej tau raug tsim, tawm hauv qhov teeb meem ntawm "kev nkag siab" tseem tsis meej.
Nkag siab Bias
Whilst lub ntsiab txhais ntawm kev tsis ncaj ncees raws li qhia los ntawm lub Phau ntawv qhia Cambridge Tsis txhob yuam kev deb dhau ntawm lub hom phiaj tseem ceeb ntawm lo lus raws li nws hais txog AI, ntau qhov kev txhais lus sib txawv yuav tsum tau ua los ntawm cov lus txhais no. Taxonomies, xws li cov uas nthuav tawm los ntawm cov kws tshawb fawb xws li Hellström thiab al (2020) thiab Kliegr (2021), muab kev nkag siab tob rau hauv lub ntsiab lus ntawm kev tsis ncaj ncees. Ib qho yooj yim saib ntawm cov ntaub ntawv no yuav qhia, txawm li cas los xij, qhov kev nqaim loj ntawm lub ntsiab lus ntawm lub ntsiab lus yuav tsum tau ua kom daws tau qhov teeb meem zoo.
Txawm hais tias yog qhov kev hloov pauv ntawm cov xwm txheej, txhawm rau txhawm rau txhawm rau txheeb xyuas qhov zoo thiab qhia lub ntsiab lus ntawm kev tsis ncaj ncees ib tus tuaj yeem txhais qhov txawv, uas yog Kev Ncaj Ncees.
Txhais Kev Ncaj Ncees
Raws li nws tau txhais nyob rau hauv ntau yam ntaub ntawv tsis ntev los no xws li Castelnovo et al. (2022), kev ncaj ncees tuaj yeem piav qhia raws li kev nkag siab ntawm lub sijhawm muaj peev xwm. Raws li nws muaj, qhov chaw muaj peev xwm (PS) yog hais txog qhov muaj peev xwm thiab kev paub ntawm ib tus neeg txawm tias lawv koom nrog qee pawg neeg pej xeem. Muab lub ntsiab lus ntawm PS lub tswv yim no, ib tus tuaj yeem txhais tau yooj yim ntawm kev ncaj ncees los ua qhov sib npaug ntawm kev kho mob ntawm ob tus neeg sib npaug PS, tsis hais lawv qhov kev pom thiab zais qhov sib txawv hauv kev tsis ncaj ncees rau qhov tsis sib xws (xws li haiv neeg, hnub nyoog, lossis poj niam txiv neej). Ib qho kev hloov pauv los ntawm cov ntsiab lus no, tseem hu ua Equality of Opportunities, yog qhov qhia meej txog kev tsis ncaj ncees thiab qhov zoo rau kev tshawb nrhiav ntxiv.
Cov kws tshaj lij ntawm cov neeg nyeem tuaj yeem pom tias ua tiav qee yam raws li tau hais tseg ntawm no yuav ua tsis tau kiag li muab qhov kev tsis ncaj ncees uas muaj nyob hauv peb lub ntiaj teb. Qhov ntawd muaj tseeb! Lub ntiaj teb peb nyob hauv, nrog rau tag nrho cov ntaub ntawv sau los ntawm qhov tshwm sim hauv lub ntiaj teb no, muaj ntau yam keeb kwm thiab kev tsis ncaj ncees. Qhov no, qhov tseeb, txo qis kev ntseeg siab ntawm ib hnub tag nrho txo qhov cuam tshuam ntawm kev tsis ncaj ncees rau cov qauv kev kwv yees tau kawm ntawm cov ntaub ntawv "kev tsis ncaj ncees" no. Txawm li cas los xij, los ntawm kev siv ntau txoj hauv kev, ib tus tuaj yeem sim txo qhov cuam tshuam ntawm kev tsis ncaj ncees. Qhov no yog qhov teeb meem, cov lus siv nyob rau hauv tas li ntawm qhov blog post (s) yuav hloov mus rau lub tswv yim ntawm kev txo qis qhov cuam tshuam ntawm kev tsis ncaj ncees es tsis yog tag nrho mitigating nws.
Okay! Yog li tam sim no hais tias ib lub tswv yim tau raug coj tawm ntawm qhov kev tsis ncaj ncees yog dab tsi thiab yuav ua li cas ib tus tuaj yeem ntsuas nws lub neej; Yog tias peb xav daws qhov teeb meem kom raug, txawm li cas los xij, peb yuav tsum paub qhov twg tag nrho cov kev tsis ncaj ncees no tshwm sim los ntawm.
Nkag siab txog Qhov Chaw thiab hom
Cov kev tshawb fawb uas twb muaj lawm muab kev nkag siab zoo rau ntau hom kev tsis ncaj ncees hauv kev kawm tshuab. Raws li Mehrabi ib. al. (2019) tau pib faib kev tsis ncaj ncees hauv kev kawm tshuab, ib tus tuaj yeem faib kev tsis ncaj ncees rau hauv 3 pawg loj. Namely cov:
- Cov ntaub ntawv rau algorithm: ib pawg encomapssing biases uas yog los ntawm cov ntaub ntawv nws tus kheej. Tej zaum yuav tshwm sim los ntawm kev sau cov ntaub ntawv tsis zoo, kev tsis ncaj ncees uas muaj nyob hauv ntiaj teb, thiab lwm yam.
- Algorithm rau Cov Neeg Siv: ib qeb tsom rau kev tsis ncaj ncees uas tshwm sim los ntawm kev tsim thiab kev ua haujlwm ntawm cov algorithms. Nws suav nrog yuav ua li cas algorithms tuaj yeem txhais, ntsuas, lossis xav txog qee cov ntaub ntawv cov ntsiab lus ntawm lwm tus, uas tuaj yeem ua rau cov txiaj ntsig tsis ncaj ncees.
- Tus neeg siv rau cov ntaub ntawv: cuam tshuam rau kev tsis ncaj ncees uas tshwm sim los ntawm cov neeg siv kev cuam tshuam nrog lub kaw lus. Cov yam ntxwv uas cov neeg siv nkag mus rau cov ntaub ntawv, lawv qhov kev tsis ncaj ncees, lossis txawm tias lawv txoj kev ntseeg siab hauv qhov system tso tawm tuaj yeem cuam tshuam cov txiaj ntsig.
Daim duab 1: Kev pom ntawm CRISP-DM lub moj khaum rau cov ntaub ntawv mining; feem ntau siv rau hauv cov ntaub ntawv mining thiab cuam tshuam rau cov txheej txheem ntawm kev txheeb xyuas cov theem uas tsis ncaj ncees tuaj yeem tshwm sim.
Txawm hais tias cov npe yog qhov qhia txog kev tsis ncaj ncees, ib tus yuav tseem muaj lus nug txog hom kev tsis ncaj ncees uas ib tus tuaj yeem txheeb xyuas raws li cov ntsiab lus ntawm lub kaus. Rau cov neeg nyiam ntawm peb cov neeg nyeem, peb tau muab txuas rau qee cov ntaub ntawv ntsig txog cov ntsiab lus no thiab kev faib tawm. Rau lub hom phiaj ntawm kev yooj yim nyob rau hauv no blog ncej, peb yuav npog ob peb xaiv kev tsis ncaj ncees uas muaj feem xyuam rau qhov teeb meem (Yuav luag tag nrho cov ntawm cov ntaub ntawv qeb rau algorithm). Cov hom kev tsis ncaj ncees tshwj xeeb yog raws li hauv qab no:
- Keeb Kwm Kev Ncaj Ncees: Ib hom kev tsis ncaj ncees muaj nyob rau hauv cov ntaub ntawv tshwm sim los ntawm kev tsis ncaj ncees uas muaj nyob hauv lub ntiaj teb hauv ntau pawg neeg sib txawv thiab tib neeg feem ntau. Nws yog vim qhov tseeb ntawm cov ntaub ntawv no nyob hauv lub ntiaj teb uas nws tsis tuaj yeem txo qis los ntawm ntau txoj hauv kev ntawm cov qauv thiab kev xaiv tshwj xeeb.
- Kev ntsuas Bias & Kev Sawv Cev Tsis Txaus Siab: Ob qhov kev tsis sib haum xeeb zoo sib xws tshwm sim thaum cov pab pawg sib txawv ntawm cov ntaub ntawv muaj qhov tsis sib xws ntawm cov txiaj ntsig "tseem ceeb". Hom kev tsis ncaj ncees no tuaj yeem cuam tshuam qhov tshwm sim ntawm cov qauv kev kwv yees
- Algorithmic Bias: Kev tsis ncaj ncees muaj feem xyuam nrog cov algorithm hauv kev siv. Raws li kuj tau pom nyob rau hauv cov kev ntsuam xyuas tau khiav (ntxiv rau ntxiv nyob rau hauv tus ncej), hom kev tsis ncaj ncees no tuaj yeem muaj txiaj ntsig zoo rau kev ncaj ncees ntawm qhov muab algorithm.
Cov kev nkag siab hauv paus ntsiab lus ntawm kev tsis ncaj ncees hauv kev kawm tshuab yuav raug siv txhawm rau txhawm rau daws qhov teeb meem zoo dua hauv cov lus tom ntej.
kawg
Hauv qhov kev tshawb nrhiav ntawm kev tsis ncaj ncees hauv kev txawj ntse, peb tau pom qhov cuam tshuam loj heev uas nws muaj nyob hauv peb lub ntiaj teb AI uas tau tsav los. Los ntawm cov piv txwv tiag tiag xws li Dutch tus me nyuam txoj kev noj qab haus huv scandal mus rau qhov sib txawv nuances ntawm kev tsis ncaj ncees pawg thiab hom, nws pom tseeb tias kev lees paub thiab kev nkag siab tsis zoo yog qhov tseem ceeb.
Txawm hais tias cov teeb meem tshwm sim los ntawm kev tsis ncaj ncees - txawm tias lawv yog keeb kwm, algorithmic, lossis cov neeg siv khoom - yog qhov tseem ceeb, lawv tsis tuaj yeem cuam tshuam. Nrog rau kev nkag siab ruaj khov ntawm lub hauv paus pib thiab qhov tshwm sim ntawm kev tsis ncaj ncees, peb tau zoo dua los daws lawv. Txawm li cas los xij, kev lees paub thiab kev nkag siab tsuas yog cov ntsiab lus pib.
Raws li peb mus tom ntej hauv cov koob no, peb qhov kev tsom mus tom ntej yuav yog ntawm cov cuab yeej siv tau thiab cov txheej txheem ntawm peb qhov kev pov tseg. Peb ntsuas qhov kev tsis ncaj ncees hauv AI qauv li cas? Thiab tseem ceeb tshaj, peb yuav txo nws qhov cuam tshuam li cas? Cov no yog cov lus nug tseem ceeb uas peb yuav piav qhia ntxiv mus, kom ntseeg tau tias thaum AI txuas ntxiv hloov zuj zus, nws ua li ntawd nyob rau hauv kev coj ncaj ncees thiab ua tau zoo.
Cov ntaub ntawv yog hluavtaws, tab sis peb pab neeg yog tiag tiag!
Hu rau Syntho thiab ib tus ntawm peb cov kws tshaj lij yuav ntsib nrog koj ntawm qhov nrawm ntawm lub teeb los tshawb xyuas tus nqi ntawm cov ntaub ntawv hluavtaws!