ʻO AI's Unseen Culprit: Wehewehe i ka Bias Within
Moʻomanaʻo blog Bias: ʻāpana 1
Introduction
I loko o ko mākou honua o nā ʻano hana akamai, ʻoi aku ka nui o nā mīkini i hana ʻia me ka hoʻoholo paʻakikī. Ke ulu nei ka nui o nā palapala e hōʻike ana i ka hoʻohana ʻana o AI ma nā ʻano kikowaena like ʻole e like me Business, ka hoʻoholo hoʻoholo kiʻekiʻe, a i nā makahiki i hala iho nei i ka ʻoihana olakino. Me kēia ulu nui ʻana, akā naʻe, ua ʻike ka poʻe e pili ana i nā ʻano o nā ʻōnaehana i ʻōlelo ʻia; ʻO ia hoʻi, ʻoiai ua hoʻolālā maoli ʻia e hahai maʻemaʻe i nā hiʻohiʻona o ka ʻikepili, ua hōʻike lākou i nā hōʻailona o ka manaʻoʻiʻo, ma ke ʻano e hiki ke ʻike ʻia nā ʻano like ʻole a me ka hoʻokae. ʻO ka mea i hala iho nei ʻEulopa AI Act, e uhi nui ana i ka hihia o ia manaʻo kuhi hewa a hoʻokumu i kumu no ka hoʻoponopono ʻana i nā pilikia e pili ana me ia.
I loko o nā makahiki o ka palapala ʻenehana, ua hoʻohana ka poʻe i ka huaʻōlelo "bias" e wehewehe i kēia ʻano ʻano skewed i kekahi mau demographic; he huaʻōlelo i ʻokoʻa ke ʻano, e huikau a paʻakikī i ka hana o ka hoʻoponopono ʻana.
ʻO kēia ʻatikala ka mea mua ma kahi ʻano o nā pou blog e uhi ana i ke kumuhana o ka bias. Ma kēia pūʻulu, manaʻo mākou e hāʻawi iā ʻoe i kahi ʻike maopopo a hiki ke hoʻopaʻa ʻia i ka bias ma AI. E hoʻolauna mākou i nā ala e ana a hōʻemi i ka bias a e ʻimi i ke kuleana o ka ʻikepili synthetic ma kēia ala i nā ʻōnaehana kūpono. E hāʻawi pū mākou iā ʻoe i kahi ʻike pehea e hiki ai iā Syntho, kahi mea pāʻani koʻikoʻi i ka hana ʻikepili synthetic, ke kōkua i kēia hana. No laila, inā he loea ʻoe e ʻimi nei i nā ʻike hiki ke hana a ʻimi wale paha i kēia kumuhana, aia ʻoe ma kahi kūpono.
ʻO Bias in Action: A Real-World Example
E noʻonoʻo paha ʻoe, "He mea koʻikoʻi kēia manaʻo i AI, akā he aha ke ʻano iaʻu, no ka poʻe maʻamau?" ʻO ka ʻoiaʻiʻo, ua lōʻihi ka hopena, ʻike pinepine ʻole akā ikaika. ʻAʻole ʻo Bias i AI he manaʻo hoʻonaʻauao wale nō; he pilikia maoli me nā hopena koʻikoʻi.
E lawe i ka hōʻino koʻikoʻi o ke keiki Dutch ma ke ʻano he laʻana. ʻO ka ʻōnaehana automated, i manaʻo ʻia he mea hana i hana ʻia e hoʻopuka i nā hopena kūpono a maikaʻi hoʻi me ka liʻiliʻi o ka hana kanaka. Ua hōʻailona hewa i nā tausani o nā mākua no ka hoʻopunipuni e pili ana i nā ʻikepili hewa a me nā manaʻo. Ka hopena? ʻO nā ʻohana i hoʻolei ʻia i loko o ka haunaele, nā inoa pilikino i hōʻino ʻia, a me nā pilikia kālā, nā mea āpau ma muli o nā manaʻo i loko o kahi Pūnaehana AI. He mau hiʻohiʻona e like me kēia e hōʻike ana i ka wikiwiki o ka kamaʻilio ʻana i ka bias ma AI.
Puna: “ʻO ka uku hoʻopaʻi no ka hoʻopaʻa ʻana i ka 2030 duren", 2023. NO
Akā, ʻaʻole kākou e hoʻōki ma laila. ʻAʻole kēia hanana he hihia kaʻawale o ka manaʻo hoʻopōʻino. Hoʻonui ʻia ka hopena o ka bias ma AI i nā kihi āpau o ko mākou ola. Mai ka mea i hoʻolimalima ʻia no kahi hana, ka mea i ʻae ʻia no kahi hōʻaiʻē, a i ka mea e loaʻa i ke ʻano o ka lāʻau lapaʻau - hiki i nā ʻōnaehana AI biased ke hoʻomau i nā like ʻole i loaʻa a hana i nā mea hou.
E noʻonoʻo i kēia: hiki i kahi ʻōnaehana AI i hoʻomaʻamaʻa ʻia ma ka ʻikepili mōʻaukala biased hiki ke hōʻole i kahi moho kūpono i kahi hana ma muli o ko lākou kāne a i ʻole ka lāhui. A i ʻole kahi ʻōnaehana AI biased hiki ke hōʻole i kahi hōʻaiʻē i kahi moho kūpono ma muli o kā lākou postcode. ʻAʻole kēia mau hiʻohiʻona hypothetical wale nō; ke hana nei lākou i kēia manawa.
ʻO nā ʻano kikoʻī kikoʻī, e like me Historical Bias a me Measurement Bias, alakaʻi i nā hoʻoholo hewa. Aia lākou i loko o ka ʻikepili, paʻa loa i nā manaʻo pilikanaka, a ʻike ʻia i nā hopena like ʻole ma waena o nā hui demographic like ʻole. Hiki iā lākou ke hoʻololi i nā hoʻoholo o nā hiʻohiʻona wānana a hopena i ka hana kūpono ʻole.
Ma ka hoʻolālā nui o nā mea, hiki i ka bias ma AI ke hana ma ke ʻano he mea hoʻoheheʻe leo ʻole, hoʻohālikelike i ko mākou kaiāulu a me ko mākou ola, pinepine i nā ala a mākou i ʻike ʻole ai. ʻO kēia mau manaʻo a pau i ʻōlelo ʻia ma luna nei e alakaʻi iā ʻoe i ka nīnau no ke aha i hana ʻole ʻia ai nā hana e hooki ai, a inā paha hiki.
ʻOiaʻiʻo, me nā holomua ʻenehana hou e lilo i mea maʻalahi e hoʻoponopono i ia pilikia. ʻO ka hana mua i ka hoʻoponopono ʻana i kēia pilikia, ʻo ia ka hoʻomaopopo a hoʻomaopopo i kona ola a me kona hopena. I kēia manawa, ua hoʻokumu ʻia ka ʻae ʻana i kona ola ʻana, me ka waiho ʻana i ka mea o ka "hoʻomaopopo" ʻaʻole maopopo loa.
Ka hoomaopopo ana i ka Bias
ʻOiai ka wehewehe mua ʻana o ka bias e like me ka mea i hōʻike ʻia e ka puke wehewehe ʻōlelo Cambridge ʻaʻole i ʻauwana loa mai ke kumu nui o ka huaʻōlelo e pili ana iā AI, nui nā wehewehe ʻokoʻa e hana ʻia i kēia wehewehe hoʻokahi. ʻO nā ʻauhau, e like me nā mea i hōʻike ʻia e nā mea noiʻi e like me Hellström et al (2020) a Kliegr (2021), hāʻawi i nā ʻike hohonu i ka wehewehe ʻana o ka bias. ʻO ka nānā maʻalahi i kēia mau pepa e hōʻike ʻia, akā naʻe, pono ka haʻikiʻi nui o ka wehewehe ʻana o ka huaʻōlelo e hoʻoponopono pono ai i ka pilikia.
ʻOiai he hoʻololi i nā hanana, i mea e wehewehe maikaʻi ai a hōʻike i ke ʻano o ka bias hiki ke wehewehe maikaʻi i ka mea kūʻē, ʻo ia ka Fairness.
Ka wehewehe ʻana i ka Pono
E like me ka wehewehe ʻana i nā palapala like ʻole e like me Castelnovo et al. (2022), hiki ke ho'ākāka 'ia ke kaulike ma muli o ka ho'omaopopo 'ana i ka hua'ōlelo o ka hakahaka. E like me ia e noho nei, pili ka hakahaka kūpono (PS) i ka nui o ka hiki a me ka ʻike o ke kanaka me ka nānā ʻole i ko lākou pili ʻana i kekahi hui demographic. Ma muli o kēia wehewehe ʻana o ka manaʻo o PS, hiki i kekahi ke wehewehe maʻalahi i ke kaulike ʻana i ka like o ka mālama ʻana ma waena o nā kānaka ʻelua o ka PS like, me ka nānā ʻole i kā lākou ʻokoʻa ʻike a hūnā ʻia i nā ʻāpana hoʻohālikelike (e like me ka lāhui, ka makahiki, a me ke kāne). ʻO kēlā me kēia hoʻololi ʻana mai kēia wehewehe ʻana, i kapa ʻia hoʻi ʻo Equality of Opportunities, he hōʻailona maopopo o ka manaʻo ʻole a pono e hoʻokolokolo hou ʻia.
E ʻike paha ka poʻe hoʻomaʻamaʻa ma waena o ka poʻe heluhelu he mea hiki ʻole ke hoʻokō i kekahi mea e like me ka wehewehe ʻana ma ʻaneʻi ma muli o nā manaʻo kūʻokoʻa i ko kākou honua. He ʻoiaʻiʻo kēlā! ʻO ka honua a mākou e noho nei, a me nā ʻikepili a pau i hōʻiliʻili ʻia mai nā hanana i kēia ao, pili i ka nui o ka mōʻaukala a me ka helu helu. ʻO kēia, ʻoiaʻiʻo, e hōʻemi i ka hilinaʻi o ka lā hoʻokahi e hoʻēmi piha i ka hopena o ka manaʻo i nā hiʻohiʻona wānana i hoʻomaʻamaʻa ʻia ma ia ʻikepili "biased". Eia nō naʻe, ma o ka hoʻohana ʻana i nā ʻano hana like ʻole, hiki i kekahi ke hoʻāʻo e hōʻemi i ka hopena o ka bias. ʻO kēia ka hihia, ʻo nā huaʻōlelo i hoʻohana ʻia ma ke koena o kēia pou blog e hoʻololi i ka manaʻo o ka hoʻēmi ʻana i ka hopena o ka bias ma mua o ka hoʻēmi ʻana.
ʻAe! I kēia manawa ua hoʻopuka ʻia kahi manaʻo e pili ana i ke ʻano o ke ʻano a pehea e hiki ai i kekahi ke loiloi i kona ola ʻana; Inā makemake mākou e hoʻoponopono pono i ka pilikia, akā naʻe, pono mākou e ʻike i kahi i puka mai ai kēia mau manaʻo.
Ka hoomaopopo ana i na Puna a me na ano
Hāʻawi ka noiʻi e kū nei i nā ʻike koʻikoʻi i nā ʻano like ʻole o ka biases i ke aʻo ʻana i ka mīkini. As Mehrabi et. al. (2019) ua hoʻomau i ka hoʻokaʻawale ʻana i nā manaʻo i ka aʻo ʻana i ka mīkini, hiki i kekahi ke hoʻokaʻawale i nā biases i 3 mau ʻāpana nui. ʻO ia hoʻi nā:
- ʻIkepili i ka Algorithm: kahi ʻāpana e hoʻopili ana i nā manaʻo i puka mai i ka ʻikepili ponoʻī. Hiki paha ia ma muli o ka hōʻiliʻili ʻana i ka ʻikepili maikaʻi ʻole, nā manaʻo kūlohelohe i ka honua, etc.
- Algorithm i ka mea hoʻohana: kahi ʻāpana e kālele ana i nā manaʻo pili i ka hoʻolālā a me ka hana o nā algorithms. Hoʻopili ia i ka wehewehe ʻana, ke kaupaona ʻana, a i ʻole ka noʻonoʻo ʻana i kekahi mau helu ʻikepili ma luna o nā mea ʻē aʻe, hiki ke alakaʻi i nā hopena ʻino.
- Mea hoʻohana i ka ʻikepili: pili i nā manaʻo e kū mai ana mai ka pilina o ka mea hoʻohana me ka ʻōnaehana. ʻO ke ʻano o ka hoʻokomo ʻana o nā mea hoʻohana i ka ʻikepili, ko lākou mau manaʻo pilikino, a i ʻole ko lākou hilinaʻi ʻana i nā hoʻopuka ʻōnaehana hiki ke hoʻololi i nā hopena.
Kiʻi 1: He hiʻohiʻona o ka CRISP-DM framework no ka ʻimi ʻikepili; hoʻohana maʻamau i ka ʻimi ʻikepili a pili i ke kaʻina hana o ka ʻike ʻana i nā pae e hiki ai ke kū ʻia ke ʻano.
ʻOiai ke hōʻike ʻia nei nā inoa i ke ʻano o ke ʻano o ka bias, e nīnau paha kekahi e pili ana i ke ʻano o ka biases e hoʻokaʻawale ʻia ma lalo o kēia mau huaʻōlelo. No ka poʻe hoihoi i waena o kā mākou poʻe heluhelu, ua hāʻawi mākou i nā loulou i kekahi mau puke e pili ana i kēia huaʻōlelo a me ka hoʻokaʻawale ʻana. No ka maʻalahi o kēia pou moʻomanaʻo, e uhi mākou i kekahi mau koho koho e pili ana i ke kūlana (ʻaneʻane nā mea āpau o ka ʻikepili helu i ka algorithm). ʻO nā ʻano kikoʻī o ka biases penei:
- Historical Bias: He ʻano kuʻuna i loaʻa i ka ʻikepili i hoʻokumu ʻia e nā manaʻo kūlohelohe e kū nei ma ka honua i nā hui kaiaulu like ʻole a me ka lehulehu ma ke ʻano nui. Ma muli o ke ʻano o kēia ʻikepili i ka honua ʻaʻole hiki ke hoʻēmi ʻia ma o nā ʻano like ʻole o ka laʻana a me ke koho hiʻohiʻona.
- Ke Ana Hoʻohālikelike a me ka Hōʻike Hōʻikeʻike: Loaʻa kēia mau mea pili pili ʻelua ke loaʻa i nā pūʻulu liʻiliʻi like ʻole o ka ʻikepili i nā huina like ʻole o nā hopena "maikaʻi". No laila, hiki i kēia ʻano hoʻohālikelike ke hoʻololi i ka hopena o nā hiʻohiʻona wānana
- Algorithmic Bias: Pili pili wale i ka algorithm i hoʻohana ʻia. E like me ka mea i ʻike ʻia ma nā hoʻāʻo i holo (i wehewehe ʻia ma ka pou), hiki ke loaʻa i kēia ʻano bias ke hopena nui i ka pono o kahi algorithm i hāʻawi ʻia.
E hoʻohana ʻia kēia mau ʻike kumu o ka bias i ke aʻo ʻana i ka mīkini i mea e hoʻoponopono pono ai i ka pilikia ma nā pou hope.
hope aipoalani
Ma kēia ʻimi ʻana i ka bias i loko o ka naʻauao artificial, ua hoʻomālamalama mākou i nā manaʻo hohonu e paʻa nei i kā mākou honua e hoʻonui ʻia e AI. Mai nā hiʻohiʻona o ka honua maoli e like me ka hōʻino koʻikoʻi o nā keiki Dutch a hiki i nā nuances koʻikoʻi o nā kāʻei a me nā ʻano, ʻike ʻia ʻo ka ʻike a me ka hoʻomaopopo ʻana i ke ʻano he mea nui.
ʻOiai ʻo nā pilikia i hoʻopuka ʻia e nā biases - inā he mōʻaukala, algorithmic, a i ʻole ka mea hoʻohana - he mea koʻikoʻi, ʻaʻole hiki ke lanakila. Me ka paʻa paʻa ʻana i ke kumu a me nā hōʻike ʻana o ka bias, ʻoi aku ka mākaukau e hoʻoponopono iā lākou. Eia naʻe, ʻo ka ʻike a me ka hoʻomaopopo ʻana ʻo ia wale nō nā wahi hoʻomaka.
Ke neʻe nei mākou i mua i kēia pūʻulu, ʻo kā mākou mea e manaʻo ai e pili ana i nā mea hana a me nā hoʻolālā i kā mākou makemake. Pehea mākou e ana i ka nui o ka bias i nā hiʻohiʻona AI? A ʻo ka mea nui, pehea mākou e hōʻemi ai i kona hopena? ʻO kēia nā nīnau koʻikoʻi a mākou e noʻonoʻo ai i ka wā e hiki mai ana, e hōʻoiaʻiʻo ana i ka hoʻomau ʻana o AI i ka ulu ʻana, hana ia i kahi ala kūpono a me ka hana.
He synthetic ka ʻikepili, akā ʻoiaʻiʻo kā mākou hui!
Kāhea iā Syntho a ʻo kekahi o kā mākou poʻe loea e launa pū me ʻoe i ka wikiwiki o ka māmā e ʻimi i ka waiwai o ka ʻikepili synthetic!