AI এর অদেখা অপরাধী: পক্ষপাতের ভিতর উন্মোচন করা

তবে আসুন সেখানে থামি না। এই ঘটনাটি পক্ষপাতিত্ব ধ্বংসের বিচ্ছিন্ন ঘটনা নয়। AI-তে পক্ষপাতিত্বের প্রভাব আমাদের জীবনের সমস্ত কোণে প্রসারিত। কাকে চাকরির জন্য নিয়োগ দেওয়া হয়, কে ঋণের জন্য অনুমোদন পায়, কে কী ধরনের চিকিৎসা পায় - পক্ষপাতদুষ্ট এআই সিস্টেম বিদ্যমান অসমতাকে স্থায়ী করতে পারে এবং নতুনগুলি তৈরি করতে পারে।

এটি বিবেচনা করুন: পক্ষপাতমূলক ঐতিহাসিক তথ্যের উপর প্রশিক্ষিত একটি AI সিস্টেম শুধুমাত্র তাদের লিঙ্গ বা জাতিগততার কারণে একজন সু-যোগ্য প্রার্থীকে চাকরি অস্বীকার করতে পারে। অথবা একটি পক্ষপাতদুষ্ট এআই সিস্টেম তাদের পোস্টকোডের কারণে একজন যোগ্য প্রার্থীকে ঋণ অস্বীকার করতে পারে। এগুলো শুধু অনুমানমূলক দৃশ্যকল্প নয়; তারা এখন ঘটছে.

ঐতিহাসিক পক্ষপাত এবং পরিমাপের পক্ষপাতের মতো নির্দিষ্ট ধরণের পক্ষপাতগুলি এই ধরনের ত্রুটিপূর্ণ সিদ্ধান্তের দিকে পরিচালিত করে। তারা তথ্যের অন্তর্নিহিত, সামাজিক পক্ষপাতের মধ্যে গভীরভাবে প্রোথিত, এবং বিভিন্ন জনসংখ্যার গোষ্ঠীর মধ্যে অসম ফলাফলে প্রতিফলিত হয়। তারা ভবিষ্যদ্বাণীমূলক মডেলের সিদ্ধান্তগুলিকে তিরস্কার করতে পারে এবং অন্যায় আচরণের ফলস্বরূপ।

জিনিসের বিশাল পরিকল্পনায়, AI-তে পক্ষপাতিত্ব একটি নীরব প্রভাবক হিসাবে কাজ করতে পারে, সূক্ষ্মভাবে আমাদের সমাজ এবং আমাদের জীবনকে গঠন করতে পারে, প্রায়শই এমনভাবে আমরা বুঝতে পারি না। এই সমস্ত উপরে উল্লিখিত পয়েন্টগুলি আপনাকে প্রশ্ন করতে পারে কেন থামানোর জন্য পদক্ষেপ নেওয়া হয়নি এবং এটি সম্ভব কিনা।

প্রকৃতপক্ষে, নতুন প্রযুক্তিগত অগ্রগতির সাথে এই ধরনের সমস্যা মোকাবেলা করার জন্য এটি ক্রমবর্ধমান আরও অ্যাক্সেসযোগ্য হয়ে ওঠে। এই সমস্যা মোকাবেলার প্রথম পদক্ষেপ, তবে, এর অস্তিত্ব এবং প্রভাব বোঝা এবং স্বীকার করা। আপাতত, এর অস্তিত্বের স্বীকৃতি তৈরি করা হয়েছে, "বোঝার" ব্যাপারটিকে এখনও বেশ অস্পষ্ট করে রেখেছে।