الگورتھم کا تعصب (الگورتھمک بائیس): کمپیوٹر معاشرے کی پرانی نا انصافیوں کو فیصلوں میں کیسے دہرا دیتا ہے؟

عام تاثر یہ پایا جاتا ہے کہ انسان تو ذاتی پسند ناپسند یا رشوت کی بنیاد پر غلط فیصلہ کر سکتا ہے لیکن کمپیوٹر چونکہ صرف اعداد اور ریاضی پر چلتا ہے، اس لیے اس کے فیصلے بالکل غیر جانبدار ہوں گے۔ بدقسمتی سے یہ تاثر درست نہیں۔ جب کوئی بینک قرض کی منظوری کے لیے یا کوئی ملٹی نیشنل ادارہ نئی بھرتیوں کے لیے خودکار الگورتھم استعمال کرتا ہے تو اکثر پسماندہ محلوں کے باصلاحیت نوجوانوں یا خواتین کو غیر ارادی طور پر مسترد کر دیا جاتا ہے۔

اس تکنیکی مسئلے کو فیصلہ ساز کمپیوٹر کوڈ کا جانبدارانہ رویہ (الگورتھمک تعصب یا Algorithmic Bias) کہتے ہیں۔ کمپیوٹر کے پاس انصاف اور برابری کا کوئی اپنا ضمیر نہیں ہوتا۔ وہ صرف وہی فارمولے سیکھتا ہے جو اسے دکھائے گئے ماضی کے ریکارڈ میں پہلے سے موجود ہوتے ہیں۔

تجارتی کوٹھی کا پرانا منشی اور بھرتی کے رجسٹر

اس صورتحال کو سمجھنے کے لیے کسی پرانے تجارتی ادارے کے کٹ حجتی منشی کی مثال سوچیے۔ مالک نے منشی سے کہا کہ پچھلے تیس سال کے رجسٹر دیکھ کر نئے منیجرز بھرتی کرو۔ منشی نے دیکھا کہ پچھلی تین دہائیوں میں افسر کے عہدے پر ہمیشہ صرف چند مخصوص محلوں کے امیر افراد ہی رکھے گئے تھے۔ منشی نے پرانی انسانی نا انصافی کو اہلیت کی نشانی سمجھ لیا اور دوسرے علاقوں کے بہترین امیدواروں کی درخواستیں ردی کی ٹوکری میں پھینک دیں۔

کمپیوٹر ماڈل بھی اسی منشی کی طرح تین بڑی وجوہات کی بنا پر تعصب پھیلاتا ہے:

• ماضی کے ریکارڈ میں نمائندگی کی کمی (سیمپلنگ تعصب یا Sampling Bias): اگر کمپیوٹر کی تربیت کے دوران پسماندہ طبقات کا ڈیٹا کم شامل کیا گیا ہو تو ماڈل ان کے بارے میں منفی اور غلط اندازے لگاتا ہے۔
• ماضی کے فیصلوں کو ہی حتمی معیار ماننا (گراؤنڈ ٹروتھ لیبلز یا Ground-Truth Labels): پرانے افسران نے جن غلط بنیادوں پر لوگوں کو مسترد کیا، کمپیوٹر نے انہی فیصلوں کو کامیابی کی واحد شرط مان لیا۔
• بالواسطہ متبادل اشارے (پراکسی متغیرات یا Proxy Variables): اگر آپ الگورتھم سے ذات، مذہب یا جنس کا خانہ ہٹا بھی دیں، تو وہ پوسٹل کوڈ یا اسکول کے نام سے طبقے کا اندازہ لگا کر وہی تفریق دہرا دیتا ہے۔

اس کے نتیجے میں ایک خودکار شیطانی چکر (الگورتھمک فیڈ بیک لوپ یا Feedback Loop) بن جاتا ہے: جس طبقے کو قرض یا ملازمت نہیں ملتی وہ مالی طور پر پسماندہ رہ جاتا ہے، اور کمپیوٹر اگلی بار ان کے ڈیٹا کو دیکھ کر انکار کو مزید صحیح سمجھنے لگتا ہے۔ اس کا نتیجہ معاشرے پر منفی اور غیر مساوی اثر (ڈسپیریٹ امپیکٹ یا Disparate Impact) کی شکل میں سامنے آتا ہے۔

الگورتھم کے غلط فیصلوں پر سوال اٹھانے اور دفاع کے طریقے

کمپیوٹر کے فیصلے کو حتمی فیصلہ مت سمجھیے۔ اگر آپ کے ساتھ کسی خودکار نظام میں نا انصافی ہو تو اپنے حقوق کے لیے یہ راستے اختیار کیجیے:

• فیصلے کی تفصیلی وجوہات مانگیے اور محض 'سسٹم نے مسترد کیا ہے' پر مطمئن ہونے کے بجائے تحریری جواز طلب کیجیے۔
• انسانی جائزے کا حق استعمال کیجیے تاکہ کسی بااختیار افسر سے درخواست کی فائل دوبارہ انسانی بنیادوں پر جانچنے کی استدعا کی جا سکے۔
• غیر جانبدارانہ جانچ کا مطالبہ (کاؤنٹر فیکچوئل آڈٹ یا Counterfactual Auditing): اداروں سے سوال کیجیے کہ اگر نام یا پتہ تبدیل کر دیا جائے تو کیا کمپیوٹر کا فیصلہ وہی رہے گا۔