Гунаҳкори ноаёни AI: Рафъ кардани ғараз дар дохили
Силсилаи блоги ғаразнок: қисми 1
Муқаддима
Дар ҷаҳони мо, ки шаклҳои торафт сунъии зеҳн доранд, мошинҳое, ки барои қабули қарорҳои мураккаб вазифадоранд, торафт бештар паҳн мешаванд. Шумораи афзояндаи адабиёт вуҷуд дорад, ки истифодаи AI дар соҳаҳои гуногун, аз қабили тиҷорат, қабули қарорҳои баланд ва дар тӯли чанд соли охир дар соҳаи тибро нишон медиҳад. Бо ин паҳншавии афзоянда, одамон дар бораи тамоюлҳои системаҳои зикршуда мушоҳида карданд; Яъне, гарчанде ки табиатан барои риояи намунаҳои маълумот тарҳрезӣ шудааст, онҳо аломатҳои бадгумонӣ нишон доданд, ба ин маъно, ки рафтори гуногуни ҷинсӣ ва табъизро мушоҳида кардан мумкин аст. Ба наздикй Санади аврупоии AI, инчунин масъалаи чунин таассубро ба таври васеъ фаро мегирад ва барои ҳалли мушкилоти марбут ба он замина мегузорад.
Дар тӯли солҳои таҳияи ҳуҷҷатҳои техникӣ, одамон майл доштанд, ки истилоҳи "ғаразнок" -ро барои тавсифи ин навъи рафтори каҷ нисбат ба демографии муайян истифода баранд; калимае, ки маънояш гуногун буда, боиси парешонхотирй ва мушкили кори халлу фасли он мегардад.
Ин мақола аввалин дар як силсила мақолаҳои блогест, ки мавзӯи ғаразро фаро мегирад. Дар ин силсила, мо ҳадаф дорем, ки ба шумо фаҳмиши возеҳ ва ҳазмшавандаро дар бораи ғаразнокӣ дар AI диҳем. Мо роҳҳои андозагирӣ ва кам кардани ғаразро ҷорӣ хоҳем кард ва нақши маълумоти синтетикиро дар ин роҳ ба системаҳои одилонатар меомӯзем. Мо инчунин ба шумо маълумот медиҳем, ки чӣ гуна Syntho, як бозигари пешбари тавлиди додаҳои синтетикӣ метавонад дар ин талош саҳм гузорад. Ҳамин тавр, хоҳ шумо таҷрибаомӯз ҳастед, ки дар ҷустуҷӯи фаҳмишҳои қобили амал ҳастед ё танҳо ба ин мавзӯъ кунҷкоб ҳастед, шумо дар ҷои дуруст ҳастед.
Ғараз дар амал: Намунаи воқеии ҷаҳон
Шояд шумо дар ҳайрат бошед: "Ин ғараз дар AI ҳама муҳим аст, аммо ин барои ман, барои одамони оддӣ чӣ маъно дорад?" Ҳақиқат ин аст, ки таъсир хеле васеъ аст, аксар вақт ноаён, вале қавӣ аст. Ғараз дар АИ танҳо мафҳуми академӣ нест; ин пробле-маи реалиест, ки окибатхои чиддй дорад.
Ҷанҷоли некӯаҳволии кӯдакони Ҳолландро мисол мегирем. Системаи автоматикунонидашуда, гӯё асбобест, ки барои тавлиди натиҷаҳои одилона ва муассир бо дахолати ҳадди ақали инсон сохта шудааст, ғаразнок буд. Он ҳазорон волидайнро барои қаллобӣ дар асоси маълумот ва тахминҳои нодуруст қайд кард. Натиҷа? Оилаҳое, ки ба изтироб афтодаанд, обрӯи шахсӣ осеб дидаанд ва мушкилоти молиявӣ, ҳама аз сабаби ғаразнокӣ дар системаи AI. Ин мисолҳост, ки таъхирнопазирии рафъи ғаразро дар AI таъкид мекунанд.
Сарчашма: "Ҷубронпулӣ то 2030 то соли XNUMX", 2023. ИМА
Аммо биёед дар ин ҷо бас нашавем. Ин ҳодиса як ҳодисаи ҷудогонаи ғаразнок нест. Таъсири ғараз дар AI ба тамоми гӯшаҳои ҳаёти мо паҳн мешавад. Аз кӣ ба кор киро мешавад, кӣ барои қарз тасдиқ мешавад, то кӣ чӣ гуна табобати тиббӣ мегирад - системаҳои ғаразноки AI метавонад нобаробарии мавҷударо идома диҳад ва нобаробариҳои нав эҷод кунад.
Инро ба назар гиред: системаи AI, ки аз рӯи маълумоти ғаразноки таърихӣ омӯзонида шудааст, метавонад номзади соҳибихтисосро танҳо аз рӯи ҷинс ё этникии онҳо аз кор маҳрум кунад. Ё системаи ғаразноки AI метавонад қарзро ба номзади сазовор бо сабаби индекси почта рад кунад. Инҳо танҳо сенарияҳои фарзиявӣ нестанд; онҳо ҳоло рӯй дода истодаанд.
Намудҳои мушаххаси ғаразҳо, ба монанди ғарази таърихӣ ва ғарази андозагирӣ, ба чунин қарорҳои нодуруст оварда мерасонанд. Онҳо ба маълумотҳо хос буда, дар ғаразҳои иҷтимоӣ реша гирифтаанд ва дар натиҷаҳои нобаробар дар байни гурӯҳҳои гуногуни демографӣ инъикос меёбанд. Онҳо метавонанд қарорҳои моделҳои пешгӯиро таҳриф кунанд ва боиси муносибати беадолатона шаванд.
Дар нақшаи бузурги чизҳо, ғаразнокӣ дар AI метавонад ҳамчун таъсиргузори хомӯш амал кунад, ки ҷомеа ва ҳаёти моро ба таври нозук ташаккул диҳад, аксар вақт мо ҳатто дарк намекунем. Ҳамаи ин нуктаҳои дар боло зикршуда метавонанд шуморо ба савол диҳанд, ки чаро барои боздоштани чораҳо андешида нашудаанд ва оё ин ҳатто имконпазир аст?
Воқеан, бо пешрафтҳои нави технологӣ барои ҳалли чунин мушкилот бештар дастрастар мегардад. Бо вуҷуди ин, қадами аввалин барои ҳалли ин мушкилот фаҳмидан ва эътироф кардани мавҷудият ва таъсири он аст. Дар ҳоли ҳозир, эътирофи мавҷудияти он эҷод шудааст, ки масъалаи "фаҳмидани" ҳанӯз хеле норавшан боқӣ мемонад.
Фаҳмидани ғараз
Дар ҳоле ки таърифи аслии ғараз, ки аз ҷониби Луғати Кембриҷ аз ҳадафи асосии калима дур нест, зеро он ба AI марбут аст, ҳатто аз ин таърифи якхела тафсирҳои зиёди гуногун бояд дод. Таксономияҳо, аз қабили онҳое, ки тадқиқотчиён пешниҳод кардаанд, ба монанди Hellström ва дигарон (2020) ва Клиегр (2021), дар бораи таърифи ғаразнок фаҳмиши амиқтар фароҳам меорад. Бо вуҷуди ин, як нигоҳи оддӣ ба ин ҳуҷҷатҳо маълум хоҳад кард, ки барои ҳалли самараноки мушкилот маҳдуд кардани таърифи истилоҳ зарур аст.
Дар ҳоле ки тағирёбии рӯйдодҳо, барои ба таври оптималӣ муайян кардан ва интиқол додани маънои ғаразро метавон баръакс беҳтар муайян кард, яъне Инсоф аст.
Муайян кардани адолат
Чунон ки дар адабиётхои гуногуни охирин муайян карда шудааст, ба монанди Кастельново ва дигарон. (2022), адолатро метавон бо дарки фаҳмиши истилоҳи фазои эҳтимолӣ таҳия кард. Тавре ки вуҷуд дорад, фазои потенсиалӣ (ФС) ба дараҷаи қобилиятҳо ва донишҳои фард новобаста аз мансубияти онҳо ба як гурӯҳи муайяни демографӣ ишора мекунад. Бо дарназардошти ин таърифи мафҳуми PS, метавон ба осонӣ адолатро ҳамчун баробарии муносибат байни ду шахси дорои PS-и баробар, новобаста аз фарқиятҳои мушоҳидашаванда ва пинҳонии онҳо дар параметрҳои ғаразнок (ба монанди нажод, синну сол ё ҷинс) муайян кардан мумкин аст. Ҳама гуна дуршавӣ аз ин таъриф, ки онро Баробарии Имкониятҳо низ меноманд, далели равшани ғаразнокӣ ва ба таҳқиқи минбаъда аст.
Таҷрибаомӯзон дар байни хонандагон метавонанд аҳамият диҳанд, ки ноил шудан ба чизе, ки дар ин ҷо муайян карда шудааст, бо назардошти ғаразҳои хоси дар ҷаҳони мо мавҷудбуда комилан ғайриимкон аст. Ин дуруст аст! Ҷаҳоне, ки мо дар он зиндагӣ мекунем, дар баробари ҳама маълумоте, ки аз рӯйдодҳои ин ҷаҳон ҷамъоварӣ шудааст, ба ғаразҳои зиёди таърихӣ ва оморӣ дучор мешавад. Ин, воқеан, эътимоди як рӯзро коҳиш медиҳад, ки таъсири ғаразро ба моделҳои пешгӯишаванда, ки аз рӯи чунин маълумоти "ғаразнок" таълим дода шудаанд, комилан кам мекунад. Бо вуҷуди ин, бо истифода аз усулҳои гуногун, метавон кӯшиш кард, ки таъсири ғаразро ба ҳадди ақал расонад. Дар ин сурат, истилоҳоте, ки дар боқимондаи ин пост(ҳо)-и блог истифода мешавад, ба ғояи кам кардани таъсири ғаразнок, на ба пуррагӣ кам кардани он мегузарад.
Хуб! Ҳамин тавр, ҳоло, ки андешае ба миён омад, ки ғараз чист ва чӣ гуна метавон мавҷудияти онро арзёбӣ кард; Аммо агар мо хоҳем, ки мушкилотро дуруст ҳал кунем, мо бояд донем, ки ин ҳама ғаразҳо аз куҷо сарчашма мегиранд.
Фаҳмидани манбаъҳо ва намудҳо
Тадқиқоти мавҷуда дар бораи намудҳои гуногуни ғаразҳо дар омӯзиши мошин фаҳмиши арзишманд медиҳад. Чун Меҳробӣ ва ғайра. ал. (2019) ба тақсим кардани ғаразҳо дар омӯзиши мошинҳо идома доданд, метавон ғаразҳоро ба 3 категорияи асосӣ тақсим кард. Аз ҷумла онҳое, ки:
- Маълумот ба алгоритм: категорияе, ки ғаразҳоро дар бар мегирад, ки аз худи додаҳо сарчашма мегиранд. Шояд ин дар натиҷаи ҷамъоварии ками маълумот, ғаразҳои хоси дар ҷаҳон мавҷудбуда ва ғ.
- Алгоритм ба корбар: категорияе, ки ба ғаразҳо, ки аз тарҳрезӣ ва функсияҳои алгоритмҳо бармеоянд, тамаркуз мекунад. Он дар бар мегирад, ки чӣ гуна алгоритмҳо метавонанд нуқтаҳои муайяни маълумотро нисбат ба дигарон тафсир, баркашанд ё баррасӣ кунанд, ки ин метавонад ба натиҷаҳои ғаразнок оварда расонад.
- Корбар ба маълумот: ба ғаразҳое дахл дорад, ки аз ҳамкории корбар бо система бармеоянд. Тарзи ворид кардани маълумот, ғаразҳои хоси онҳо ё ҳатто эътимоди онҳо ба натиҷаҳои система метавонад ба натиҷаҳо таъсир расонад.
Расми 1: Тасвири визуалии чаҳорчӯбаи CRISP-DM барои истихроҷи додаҳо; одатан дар истихроҷи додаҳо истифода мешавад ва ба раванди муайян кардани марҳилаҳое, ки дар он ғараз метавонад ба вуҷуд ояд, алоқаманд аст.
Гарчанде ки номҳо нишон медиҳанд, ки шакли ғаразнок бошанд, то ҳол саволҳо дар бораи намудҳои ғаразҳоро дар зери ин истилоҳҳои чатр гурӯҳбандӣ кардан мумкин аст. Барои дӯстдорони хонандагони мо, мо ба баъзе адабиётҳои марбут ба ин истилоҳот ва таснифот истинод додем. Барои соддагӣ дар ин пости блог, мо якчанд ғаразҳои интихобшударо, ки ба вазъият мувофиқанд, фаро хоҳем гирифт (Қариб ҳамаи онҳо аз маълумоти категорияи алгоритм мебошанд). Намудҳои мушаххаси ғаразҳо инҳоянд:
- Ғарази таърихӣ: Як намуди ғаразе, ки ба маълумотҳо хос аст, ки дар натиҷаи ғаразҳои табиие, ки дар ҷаҳон дар гурӯҳҳои гуногуни иҷтимоӣ ва умуман ҷомеа мавҷуданд, ба вуҷуд омадааст. Маҳз аз сабаби мавҷудияти ин маълумот дар ҷаҳон аст, ки онро тавассути воситаҳои гуногуни интихоб ва интихоби хусусиятҳо коҳиш додан мумкин нест.
- Ғарази андозагирӣ ва ғарази намояндагӣ: Ин ду ғарази ба ҳам алоқаманд вақте рух медиҳанд, ки зергурӯҳҳои гуногуни маҷмӯи маълумот миқдори нобаробари натиҷаҳои "мусоид" доранд. Аз ин рӯ, ин намуди ғараз метавонад натиҷаи моделҳои пешгӯиро таҳриф кунад
- Ғарази алгоритмӣ: Гарави сирф ба алгоритми истифодашаванда алоқаманд аст. Тавре ки дар санҷишҳои гузаронидашуда низ мушоҳида шудааст (дар ин бора дар ин мақола муфассал шарҳ дода шудааст), ин намуди ғараз метавонад ба адолати алгоритми додашуда таъсири бузург расонад.
Ин фаҳмишҳои бунёдии ғаразнок дар омӯзиши мошинҳо барои ҳалли самараноки мушкилот дар паёмҳои баъдӣ истифода хоҳанд шуд.
Thoughts хотимавӣ
Дар ин таҳқиқи ғараз дар доираи зеҳни сунъӣ, мо оқибатҳои амиқи онро дар ҷаҳони афзояндаи AI-и мо равшан кардем. Аз мисолҳои воқеии ҷаҳонӣ, ба монанди ҷанҷоли некӯаҳволии кӯдакони Ҳолланд то нозукиҳои мураккаби категорияҳо ва намудҳои ғараз, маълум аст, ки эътироф ва фаҳмидани ғаразнокӣ муҳим аст.
Гарчанде ки мушкилоте, ки ғаразҳо ба вуҷуд меоранд - хоҳ онҳо таърихӣ, алгоритмӣ ё аз ҷониби корбар ба вуҷуд омадаанд - муҳиманд, онҳо бартарафнашаванда нестанд. Бо дарки дақиқи пайдоиш ва зуҳуроти ғараз, мо барои ҳалли онҳо беҳтар муҷаҳҳазем. Бо вуҷуди ин, эътироф ва фаҳмиш танҳо нуктаҳои ибтидоӣ мебошанд.
Вақте ки мо дар ин силсила пеш меравем, тамаркузи навбатии мо ба асбобҳо ва чаҳорчӯбаҳои моддӣ дар ихтиёри мо хоҳад буд. Мо дараҷаи ғаразро дар моделҳои AI чӣ гуна чен мекунем? Ва муҳимтар аз ҳама, мо чӣ гуна таъсири онро кам мекунем? Инҳо саволҳои мубрамиест, ки мо дар оянда онҳоро меомӯзем ва кафолат медиҳем, ки ҳангоми таҳаввул идома ёфтани AI ин корро дар самте анҷом медиҳад, ки ҳам одилона ва ҳам иҷрокунанда бошад.
Маълумот синтетикӣ аст, аммо дастаи мо воқеӣ аст!
Бо Syntho тамос гиред ва яке аз коршиносони мо бо суръати рӯшноӣ бо шумо тамос мегирад, то арзиши маълумоти синтетикиро омӯзед!