د AI نه لیدل شوی مجرم: دننه د تعصب خلاصول
د تعصب بلاګ لړۍ: لومړۍ برخه
پېژندنه
زموږ د استخباراتو په مخ په زیاتیدونکي مصنوعي ډولونو نړۍ کې ، ماشینونه چې د پیچلو پریکړو کولو دنده لري ورځ تر بلې ډیریږي. د ادبیاتو یو مخ پر ودې بدن شتون لري چې په مختلفو ډومینونو کې د AI کارول په ګوته کوي لکه سوداګرۍ، د لوړ ونډې پریکړه کول، او په تیرو څو کلونو کې په طبي سکتور کې. که څه هم د دې مخ پر ودې پراخوالي سره، خلکو په دې سیسټمونو کې د تمایلاتو په اړه پام کړی؛ دا، په داسې حال کې چې په طبیعي ډول ډیزاین شوي ترڅو په ډاټا کې د نمونو تعقیب کړي، دوی د تعصب نښې ښودلې، په دې معنی چې مختلف جنسیت او تبعیض چلند لیدل کیدی شي. وروستي د اروپا د AI قانوند دې ډول تعصب موضوع هم په پراخه کچه پوښي او د دې سره تړلو ستونزو سره د مبارزې لپاره بنسټ جوړوي.
د تخنیکي اسنادو د کلونو په اوږدو کې، خلکو د "تعصب" اصطلاح کارولو ته لیوالتیا ښودلې ترڅو د ځینو ډیموګرافیکونو په وړاندې د دې متضاد ډول چلند تشریح کړي؛ یوه کلمه چې معنی یې توپیر لري، د ګډوډۍ لامل کیږي او د حل کولو دنده پیچلې کوي.
دا مقاله د بلاګ پوسټونو لړۍ کې لومړۍ ده چې د تعصب موضوع پوښي. په دې لړۍ کې، موږ به تاسو ته په AI کې د تعصب روښانه، د هضم وړ پوهه درکړو. موږ به د تعصب اندازه کولو او کمولو لارې چارې معرفي کړو او په دې لاره کې د مصنوعي معلوماتو رول نور عادلانه سیسټمونو ته وپلټو. موږ به تاسو ته دا هم وګورو چې څنګه سنتو، د مصنوعي معلوماتو تولید کې مخکښ لوبغاړی، پدې هڅو کې مرسته کولی شي. نو، که تاسو یو متخصص یاست چې د عمل وړ بصیرت په لټه کې یاست یا یوازې د دې موضوع په اړه لیوالتیا لرئ، تاسو په سم ځای کې یاست.
په عمل کې تعصب: یوه ریښتینې نړۍ بیلګه
تاسو شاید حیران یاست، "په AI کې دا تعصب ټول مهم دی، مګر دا زما لپاره، د عادي خلکو لپاره څه معنی لري؟" حقیقت دا دی چې اغیزه خورا لرې ده، ډیری وختونه ناڅرګند مګر قوي. په AI کې تعصب یوازې اکاډمیک مفهوم نه دی؛ دا یوه ریښتینې نړۍ ستونزه ده چې جدي پایلې لري.
د مثال په توګه د هالنډ د ماشومانو د هوساینې مسله واخلئ. اتوماتیک سیسټم، په پام کې نیولو سره یوه وسیله چې د لږ تر لږه بشري مداخلې سره د عادلانه او اغیزمنو پایلو د تولید لپاره جوړه شوې وه، تعصب و. دې د غلطو معلوماتو او انګیرنو پراساس په زرګونو والدین په غلط ډول د درغلیو لپاره بیرغ وکړ. نتیجه؟ کورنۍ ګډوډۍ ته اچول شوي، شخصي شهرت زیانمن شوی، او مالي سختۍ، دا ټول د AI سیسټم کې د تعصب له امله دي. دا د دې په څیر مثالونه دي چې په AI کې د تعصب په نښه کولو بیړنۍ اړتیا په ګوته کوي.
سرچینه: "د 2030 کال په اوږدو کې د دې لپاره تاوان ورکول کیږي 2023. د امریکا
مګر راځئ چې هلته ونه درېږو. دا پیښه د تعصب د ویجاړولو یوه جلا قضیه نه ده. په AI کې د تعصب اغیز زموږ د ژوند ټولو برخو ته غزیدلی. له چا څخه د دندې لپاره ګمارل کیږي ، څوک د پور لپاره تصویب کیږي ، څوک کوم ډول طبي درملنه ترلاسه کوي - د AI متعصب سیسټمونه کولی شي موجوده نابرابرۍ دوامداره کړي او نوي رامینځته کړي.
دې ته پام وکړئ: د AI سیسټم چې په تعصبي تاریخي معلوماتو کې روزل شوی کولی شي یو ښه وړ نوماند د دوی د جنسیت یا توکم له امله له دندې څخه انکار وکړي. یا یو متعصب AI سیسټم ممکن د پوسټ کوډ له امله مستحق نوماند ته پور رد کړي. دا یوازې فرضي سناریوګانې ندي؛ دوی همدا اوس پیښیږي.
د تعصب ځانګړي ډولونه، لکه تاریخي تعصب او د اندازه کولو تعصب، د دې ډول غلطو پریکړو لامل کیږي. دوی په ډیټا کې شامل دي، په ژوره توګه په ټولنیزو تعصبونو کې ریښې لري، او د مختلفو ډیموګرافیک ګروپونو ترمنځ غیر مساوي پایلو کې منعکس کیږي. دوی کولی شي د وړاندوینې ماډلونو پریکړې ودروي او د غیر عادلانه چلند پایله ولري.
د شیانو په لوی سکیم کې ، په AI کې تعصب کولی شي د خاموش نفوذ کونکي په توګه عمل وکړي ، په لنډ ډول زموږ ټولنه او زموږ ژوند رامینځته کوي ، ډیری وختونه په داسې لارو کې چې موږ حتی نه پوهیږو. دا ټول پورته ذکر شوي ټکي ممکن تاسو ته د دې پوښتنې لامل شي چې ولې د مخنیوي لپاره اقدامات نه دي شوي، او ایا دا حتی ممکنه ده.
په حقیقت کې، د نوي ټیکنالوژیکي پرمختګونو سره دا د ورته ستونزې حل کولو لپاره په زیاتیدونکي توګه د لاسرسي وړ کیږي. په هرصورت، د دې ستونزې د حل لپاره لومړی ګام د دې شتون او اغیزې درک او اعتراف دی. د اوس لپاره ، د دې شتون اعتراف رامینځته شوی ، د "پوهیدو" موضوع لاهم مبهم پاتې کیږي.
د تعصب پوهه
پداسې حال کې چې د تعصب اصلي تعریف لکه څنګه چې د لخوا وړاندې شوی د کیمبرج قاموس د کلمې اصلي هدف څخه ډیر لرې نه ځي ځکه چې دا د AI سره تړاو لري، ډیری مختلف تفسیرونه باید د دې واحد تعریف څخه جوړ شي. Taxonomies، لکه څنګه چې د څیړونکو لخوا وړاندې شوي لکه Hellström et al (2020) او کلیګر (۲۰۲۱)د تعصب په تعریف کې ژورې بصیرت وړاندې کړئ. په دې لیکنو کې یو ساده نظر به دا په ډاګه کړي چې په اغیزمنه توګه د ستونزې حل کولو لپاره د اصطلاح تعریف خورا لنډول اړین دي.
په داسې حال کې چې د پیښو د بدلون په حال کې، د تعصب معنی په ښه توګه تعریف او بیانولو لپاره یو څوک کولی شي برعکس ښه تعریف کړي، دا عادلانه ده.
د انصاف تعریف
لکه څنګه چې په مختلفو ادبیاتو کې تعریف شوی لکه Castelnovo et al. (۲۰۲۲)، عادلانه د احتمالي ځای اصطلاح په اړه د پوهیدو په صورت کې توضیح کیدی شي. لکه څنګه چې دا شتون لري، احتمالي ځای (PS) د یو فرد د وړتیاوو او پوهې حد ته اشاره کوي پرته له دې چې د یو ځانګړي ډیموکراتیک ګروپ پورې تړاو ولري. د PS د مفکورې دې تعریف ته په پام سره، یو څوک کولی شي په اسانۍ سره د دوه مساوي PS د افرادو ترمنځ د چلند مساوات تعریف کړي، پرته له دې چې د تعصب پارامترونو کې د لیدلو وړ او پټ توپیرونو په پام کې نیولو سره (لکه نسل، عمر، یا جنسیت). د دې تعریف څخه هر ډول انحراف، چې د فرصتونو مساوات هم ویل کیږي، د تعصب روښانه نښه ده او د نورو تحقیقاتو وړتیا لري.
د لوستونکو په منځ کې متخصصین شاید پام وکړي چې د یو څه لاسته راوړل لکه څنګه چې دلته تعریف شوي زموږ په نړۍ کې د موجودو تعصباتو په پام کې نیولو سره ممکن په بشپړ ډول ناممکن وي. دا رښتیا ده! هغه نړۍ چې موږ پکې ژوند کوو، په دې نړۍ کې د پیښو څخه راټول شوي ټولو معلوماتو سره، د ډیری تاریخي او احصایوي تعصب تابع دي. دا، په حقیقت کې، د یوې ورځې باور په بشپړ ډول د وړاندوینې ماډلونو په اړه د تعصب اغیزې کموي چې په ورته "متعصب" معلوماتو کې روزل شوي. په هرصورت، د مختلفو میتودونو په کارولو سره، یو څوک کولی شي د تعصب اغیزې کمې کړي. دا قضیه ده، د دې بلاګ پوسټونو په پاتې برخه کې کارول شوي اصطلاحات به د تعصب اغیزې کمولو نظر ته واړوي نه دا چې په بشپړه توګه یې کم کړي.
سمه ده! نو اوس چې یو نظر وړاندې شوی چې تعصب څه شی دی او څنګه کولی شي په احتمالي توګه د دې شتون ارزونه وکړي. که موږ غواړو ستونزه په سمه توګه حل کړو، په هرصورت، موږ باید پوه شو چې دا ټول تعصبات له کوم ځای څخه سرچینه اخلي.
د سرچینو او ډولونو پوهیدل
موجوده څیړنه د ماشین زده کړې مختلف ډوله تعصبونو ته ارزښتناکه لید وړاندې کوي. لکه محرابي او. al. (۲۰۱۹) د ماشین زده کړې کې تعصبونو ویشلو ته دوام ورکړی، یو څوک کولی شي تعصب په 3 لویو کټګوریو ویشلی شي. د بیلګې په توګه:
- الګوریتم ته ډیټا: یوه کټګوري پوښل شوي تعصبونه چې پخپله د ډیټا څخه سرچینه اخلي. دا ممکن د ضعیف معلوماتو راټولولو له امله رامینځته شي ، په نړۍ کې شتون لرونکي تعصبونه او داسې نور.
- د کارونکي لپاره الګوریتم: یوه کټګورۍ چې په تعصب تمرکز کوي چې د الګوریتم ډیزاین او فعالیت څخه رامینځته کیږي. پدې کې شامل دي چې څنګه الګوریتمونه د نورو په پرتله د ځینې ډیټا ټکي تشریح، وزن، یا په پام کې نیسي، کوم چې کولی شي د تعصب پایلو المل شي.
- ډیټا ته کارونکي: د هغه تعصبونو پورې اړه لري چې د سیسټم سره د کارونکي متقابل عمل څخه رامینځته کیږي. هغه طریقه چې د کاروونکو ډاټا داخلوي، د دوی اصلي تعصب، یا حتی د سیسټم په پایلو باندې د دوی باور کولی شي پایلې اغیزمنې کړي.
شکل 1: د معلوماتو کان کیندنې لپاره د CRISP-DM چوکاټ یوه لید؛ په عمومي ډول د معلوماتو کان کیندنې کې کارول کیږي او د هغه مرحلو پیژندلو پروسې پورې اړه لري چیرې چې تعصب شتون لري.
په داسې حال کې چې نومونه د تعصب بڼه څرګندوي، یو څوک ممکن لاهم د تعصب ډولونو په اړه پوښتنې ولري چې کیدای شي د دې چتر شرایطو لاندې طبقه بندي شي. د خپلو لوستونکو په منځ کې د لیوالتیا لپاره، موږ د دې اصطلاحاتو او طبقې په اړه د ځینو ادبیاتو لینکونه چمتو کړي دي. د دې بلاګ پوسټ کې د سادګۍ لپاره، موږ به یو څو انتخابي تعصبونه پوښښ کړو کوم چې د وضعیت سره تړاو لري (تقریبا ټول د الګوریتم لپاره د کټګورۍ ډاټا دي). د تعصب ځانګړي ډولونه په لاندې ډول دي:
- تاریخي تعصب: د معلوماتو یو ډول تعصب دی چې د طبیعي تعصبونو له امله رامینځته کیږي چې په نړۍ کې په بیلابیلو ټولنیزو ډلو او ټولنه کې په عمومي ډول شتون لري. دا په نړۍ کې د دې معلوماتو د وراثت له امله دی چې دا د نمونې کولو او ځانګړتیاو انتخاب د مختلفو وسیلو له لارې نشي کم کیدی.
- د اندازه کولو تعصب او نمایندګي تعصب: دا دوه نږدې تړاو لري کله چې د ډیټاسیټ مختلف فرعي ګروپونه د "مناسب" پایلو غیر مساوي مقدار ولري. له همدې امله دا ډول تعصب کولی شي د وړاندوینې موډلونو پایلې کمې کړي
- الګوریتمیک تعصب: تعصب په خالص ډول د کارولو الګوریتم پورې اړه لري. لکه څنګه چې په ازموینو کې هم لیدل شوي (په پوسټ کې نور توضیح شوي) ، دا ډول تعصب کولی شي د ورکړل شوي الګوریتم په انصاف باندې خورا لوی تاثیر ولري.
د ماشین زده کړې په برخه کې د تعصب دا بنسټیز پوهاوی به په راتلونکو پوسټونو کې د ستونزې په اغیزمنه توګه حل کولو لپاره وکارول شي.
وروستۍ ليدتوګه:
په مصنوعي استخباراتو کې د تعصب په دې سپړنه کې، موږ هغه ژورې اغیزې روښانه کړې چې دا زموږ په مخ په زیاتیدونکي AI پرمختللې نړۍ کې لري. د ریښتیني نړۍ مثالونو څخه لکه د هالنډ د ماشومانو د هوساینې سکینډل څخه د تعصب کټګوریو او ډولونو پیچلي باریکیو پورې ، دا څرګنده ده چې د تعصب پیژندل او پوهیدل خورا مهم دي.
پداسې حال کې چې د تعصبونو لخوا رامینځته شوي ننګونې - که دوی تاریخي وي، الګوریتمیک وي، یا د کاروونکي هڅول - د پام وړ دي، دوی د پام وړ ندي. د تعصب په اصلیت او څرګندونو باندې په کلکه درک سره ، موږ د دوی په نښه کولو لپاره ښه مجهز یو. په هرصورت، پیژندنه او پوهه یوازې د پیل ټکي دي.
لکه څنګه چې موږ په دې لړۍ کې پرمخ ځو، زموږ راتلونکی تمرکز به زموږ په اختیار کې د پام وړ وسیلو او چوکاټونو باندې وي. موږ څنګه د AI ماډلونو کې د تعصب کچه اندازه کړو؟ او تر ټولو مهم، موږ څنګه د هغې اغیز راکم کړو؟ دا هغه فشاري پوښتنې دي چې موږ به یې په راتلونکي کې وڅیړو، دا ډاډ ترلاسه کول چې AI پرمختګ ته دوام ورکوي، دا په داسې یو لوري کې ترسره کوي چې دواړه عادلانه او فعال وي.
ډاټا مصنوعي ده، مګر زموږ ټیم ریښتیا دی!
له سنتو سره اړیکه ونیسئ او زموږ یو متخصص به د مصنوعي معلوماتو ارزښت سپړلو لپاره د ر light ا سرعت سره تاسو سره اړیکه ونیسي!