اوپن اے آئی کی جانب سے جاری ایک نئی تحقیق میں انکشاف کیا گیا ہے کہ بڑے لینگویج ماڈلز، جیسے GPT-5 اور چیٹ جی پی ٹی، اکثر ہیلوسینیشنز کا شکار ہو جاتے ہیں۔
اوپن اے آئی کی تحقیقی رپورٹ کے مطابق بڑے لینگویج ماڈلز اکثر ایسے جملے اور معلومات فراہم کرتے ہیں جو بظاہر درست لگتے ہیں مگر حقیقت میں غلط یا فرضی ہوتے ہیں۔
رپورٹ کے مطابق یہ مسئلہ بنیادی طور پر پری ٹریننگ کے عمل اور موجودہ ایویلیوایشن سسٹمز کی خامیوں کے باعث پیدا ہوتا ہے، اسی وجہ سے بعض اوقات چیٹ بوٹس بار بار محققین کی ذاتی یا تعلیمی معلومات غلط بتاتے ہیں۔
پاکستان میں سائبر سکیورٹی بحران، 18 کروڑ 40 لاکھ سے زائد شہریوں کا ذاتی ڈیٹا فروخت
رپورٹ میں ایک مثال دی گئی کہ چیٹ بوٹ بار بار ایک محقق کے ذاتی اور تعلیمی معلومات غلط فراہم کرتا رہا، یہ صورتحال واضح کرتی ہے کہ موجودہ جانچ کا نظام صرف درست جوابات کے تناسب کو دیکھتے ہیں، لیکن یہ پرکھنے میں ناکام رہتے ہیں کہ ماڈل غیر یقینی صورتحال میں محتاط جواب دے رہا ہے یا نہیں۔
تحقیق میں تجویز کیا گیا ہے کہ ایسے نئے ٹیسٹنگ سسٹمز متعارف کرائے جائیں جو ماڈلز کو پراعتماد مگر غلط جواب دینے پر سزا اور غیر یقینی صورتحال کو تسلیم کرنے پر انعام دیا جائے، تاکہ چیٹ بوٹس صرف درست معلومات ہی فراہم نہ کریں بلکہ جب شک ہو تو واضح طور پر اپنی غیر یقینی کا اظہار کریں۔