اے آئی کے من گھڑت دعوے (ہیلوسینیشن): جب چیٹ بوٹ مکمل اعتماد سے غلط باتیں گھڑنے لگے

جب آپ کسی بات چیت والے کمپیوٹر پروگرام (چیٹ بوٹ) سے تاریخ، کتاب کا حوالہ یا دکان کا پتہ پوچھتے ہیں تو فوراً بااعتماد اور رواں جواب مل جاتا ہے۔ تصدیق پر معلوم ہوتا ہے کہ واقعہ کسی اور سال پیش آیا تھا، مصنف نے وہ الفاظ کبھی نہیں لکھے تھے، اور دکان برسوں پہلے بند ہو چکی تھی۔ جواب بولنے کی روانی کے باعث سچا لگا، لیکن معلومات بالکل فرضی اور من گھڑت تھیں۔

مصنوعی ذہانت میں اس عمل کو فرضی دعوے یا سراب دیکھنا (جسے تکنیکی زبان میں ہیلوسینیشن کہتے ہیں) کہا جاتا ہے۔ کمپیوٹر نہ خواب دیکھتا ہے اور نہ جان بوجھ کر انسانوں سے جھوٹ بولتا ہے۔ یہ الجھن ماڈلز کی بنیادی ساخت سے پیدا ہوتی ہے۔ یہ کمپیوٹر سسٹمز سچی معلومات کی الماریاں نہیں بلکہ اعداد و شمار کے حساب سے چلنے والے اندازہ ساز نظام (شماریاتی انجن) ہیں، جن کا کام محض یہ تخمینہ لگانا ہوتا ہے کہ جملے میں اگلا لفظ کون سا سب سے مناسب رہے گا۔

حقائق کی تلاش کے بجائے الفاظ کے امکانات کا اندازہ

سوال پوچھنے پر سسٹم آپ کے جملے کو چھوٹے حسابی ٹکڑوں (ٹوکنز) میں بانٹتا ہے اور ان کا موازنہ پڑھائی گئی تحریروں کے ذخیرے (ٹریننگ ڈیٹا) سے کرتا ہے۔ کمپیوٹر کا حسابی فارمولا (الگورتھم) ہر قدم پر ممکنہ الفاظ کا جائزہ لے کر ایک قدرتی تسلسل کا انتخاب کرتا ہے۔ ماڈل گرامر کو ترجیح دیتا ہے، لیکن یاد رکھیے فصاحت کا مطلب سچائی نہیں ہوتا۔ چونکہ سسٹم مادی دنیا کو نہیں دیکھ سکتا، اس لیے وہ جملوں کو زمینی حقائق سے نہیں پرکھتا۔ اگر کوئی غلط بات بھی گرامر کے لحاظ سے درست ہو، تو وہ اسے سچ کی طرح پیش کر دیتا ہے۔

روانی کے ساتھ گھڑی گئی غلط بیانی کے خطرات

تخلیقی تحریر میں خیالی باتیں بے ضرر ہو سکتی ہیں، مگر سنجیدہ اور پیشہ ورانہ کاموں میں ان کے شدید خطرات ہیں۔ عدالتوں میں ایسے چونکا دینے والے واقعات ہوئے جہاں وکلاء نے ایسی نظائر پیش کیں جن کے نمبر اور فیصلے کمپیوٹر نے خود گھڑ لیے تھے۔ تعلیم میں طلبہ کو فرضی کتابوں اور مقالوں کے حوالے مل جاتے ہیں۔ طب کے شعبے میں ماڈل اصل علامات کے ساتھ فرضی ادویات ملا کر پیش کر سکتا ہے، جو مریضوں کے لیے جان لیوا ثابت ہو سکتا ہے۔

تلاش کی بنیاد پر تصدیق اور تخیل پر قابو

فرضی جوابات روکنے کے لیے انجینئرز ماڈلز کو بیرونی معتبر معلومات سے جوڑتے ہیں، جس طریقہ کار کو تلاش پر مبنی سچائی کا سہارا لینا (سرچ گراؤنڈنگ) اور مصدقہ دستاویزات لا کر جواب تیار کرنا (ریٹریول آگمنٹڈ جنریشن یا RAG) کہا جاتا ہے۔ صرف اندرونی یادداشت پر بھروسا کرنے کے بجائے، سسٹم پہلے انٹرنیٹ یا مصدقہ ریکارڈز سے متعلقہ اقتباسات تلاش کرتا ہے۔ پھر ماڈل اپنا جواب صرف انہی مستند حقائق کے دائرے میں تیار کرتا ہے، جس سے تحریر اصل ذرائع سے جڑ جاتی ہے۔

سسٹم میں تخیل اور آزادی کو قابو کرنے کا ایک پیمانہ (ٹمپریچر) ہوتا ہے۔ جب اسے صفر کے قریب رکھا جائے تو الگورتھم سب سے عام اور متوقع الفاظ چنتا ہے، جس سے جواب بالکل یکساں، محتاط اور سنجیدہ رہتا ہے۔ ٹمپریچر بڑھانے پر وہ غیر متوقع اور اچھوتے الفاظ لیتا ہے؛ اس سے کہانی نویسی میں نکھار آتا ہے، لیکن ماڈل کے بھٹکنے اور فرضی دعوے گھڑنے کا خطرہ بھی بڑھ جاتا ہے۔

سوال میں واضح حدود مقرر کر کے رہنمائی

آپ سوال پوچھنے کا انداز بدل کر بھی کمپیوٹر کو من گھڑت باتیں بنانے سے روک سکتے ہیں۔ جب آپ بغیر تصدیق کے کوئی کھلا اور الجھا ہوا سوال پوچھتے ہیں، جیسے کسی نامعلوم سال کے قانون کی تفصیل، تو ماڈل جواب دینے کا دباؤ محسوس کرتا ہے۔ وہ خالی جگہ پر کرنے کے لیے فرضی قانون خود ہی تراش لیتا ہے۔

اب اس کا موازنہ واضح اور پابند ہدایات (محدود پرامپٹ) سے کیجیے: آپ ماڈل کو کہیں کہ 'نیچے دیے گئے نوٹس کا خلاصہ کریں، اور اگر ان میں حتمی تاریخ موجود نہ ہو تو صاف لکھیں کہ تاریخ درج نہیں ہے'۔ معلومات خود فراہم کر کے اور جواب نہ آنے پر معذرت کرنے کی اجازت دے کر آپ اندازوں پر سخت پابندی لگا دیتے ہیں۔ یوں ماڈل فرضی باتیں بنانے کے بجائے دی گئی معلومات تک محدود رہتا ہے۔

روزمرہ تحقیق کے لیے عملی اور محفوظ عادات

اے آئی کا محفوظ استعمال یہ ہے کہ اسے تحریر سنوارنے والا ایک مددگار سمجھیں، حتمی سچائی بتانے والی کوئی غیبی مشین نہیں۔ آپ ای میل کا مسودہ بنانے میں اس سے مدد لیں، لیکن جب بھی بات تاریخوں، قوانین یا پیسوں کی ہو تو ان کی تصدیق سرکاری ریکارڈز اور مستند کتب سے خود کیجیے۔

سب سے ضروری اصول یہ ہے کہ چیٹ بوٹ سے اس کے اپنے ہی دیے گئے جواب کی تصدیق نہ مانگیں۔ جب اس سے پوچھا جائے کہ 'کیا فلاں کتاب واقعی موجود ہے؟'، تو وہ اپنی غلطی چھپانے کے لیے اکثر فرضی ناشر اور جھوٹے صفحات کا اضافہ کر دیتا ہے۔ آزادانہ طور پر کتاب یا مستند ویب سائٹ سے خود تصدیق کرنا ہی آپ کو اس کے میٹھے لسانی دھوکے سے محفوظ رکھتا ہے۔