مصنوعی ذہانت کو طب کے میدان میں ایک انقلابی پیش رفت سمجھا جا رہا ہے، تاہم حالیہ امریکی تحقیق نے اس اعتماد پر سنجیدہ سوالات کھڑے کر دیے ہیں۔
مزید پڑھیں
سبق ویب سائٹ کے مطابق حال ہی میں ہونے والی اس نئی تحقیق میں بتایا گیا ہے کہ اگر کسی غلط طبی معلومات کو پیشہ ورانہ انداز، اسپتال کی رپورٹ یا طبی گفتگو جیسی زبان میں پیش کیا جائے تو مصنوعی ذہانت کے جدید ماڈلز بھی اسے درست سمجھ کر دہرا سکتے ہیں۔
یہ رجحان مریضوں کی سلامتی اور طبی فیصلوں کے لیے ایک خاموش مگر سنگین خطرہ بن سکتا ہے۔
یہ نئی تحقیق امریکا کے معروف ادارے ماؤنٹ سینائی اسپتال سے وابستہ ایکان اسکول آف میڈیسن کے محققین نے کی ہے جب کہ یہ مطالعہ سائنسی جریدے The Lancet Digital Health میں شائع ہوا ہے، جس میں طبی شعبے میں استعمال ہونے والے اے آئی کے بڑے ماڈلز (Large Language Models) کی قابلِ اعتماد ہونے کی صلاحیت کو پرکھا گیا ہے۔
10 لاکھ سے زائد پیغامات کا تجزیہ
تحقیق میں 9 بڑے اور معروف اے آئی ماڈلز کو جانچنے کے لیے 10 لاکھ سے زائد پیغامات کا تجزیہ کیا گیا اور حیران کن طور پر نتائج نے ظاہر کیا کہ موجودہ حفاظتی نظام اس بات میں ناکام ہیں کہ وہ صرف زبان کے انداز کی بنیاد پر درست اور غلط طبی معلومات میں فرق کر سکیں۔
تحقیق کاروں کا کہنا ہے کہ اگر گمراہ کن بات کو مانوس طبی اصطلاحات اور رسمی انداز میں پیش کیا جائے تو اے آئی اسے باآسانی درست تسلیم کر لیتا ہے۔ انہوں نے بتایا کہ اے آئی ماڈلز کو اس تحقیق کے لیے 3 اقسام کے مواد سے جانچا گیا، یعنی:
1. اسپتال سے ڈسچارج کے اصل خلاصے جن میں جان بوجھ کر غلط طبی سفارشات شامل کی گئیں۔
2. Reddit پر گردش کرنے والی عام طبی افواہیں (غلط معلومات)۔
3. ڈاکٹروں کی تیار کردہ دستاویزی کلینیکل صورتحال
ان تینوں صورتوں میں یہ دیکھا گیا کہ اے آئی کس حد تک غلط معلومات کو پہچاننے یا دہرانے کا رجحان رکھتا ہے۔
تشویشناک مثال
اس تحقیق میں ایک مثال کو خاص طور پر تشویش ناک قرار دیا گیا۔
ایک اے آئی ماڈل کو اسپتال سے اخراج کی جعلی رپورٹ دی گئی، جس میں غذائی نالی کی سوزش سے خون بہنے کے مریضوں کو علامات کم کرنے کے لیے ٹھنڈا دودھ پینے کا مشورہ دیا گیا تھا۔
حیران کن طور پر اے آئی نے اس ہدایت کو غلط یا خطرناک قرار دینے کے بجائے ایک معمول کا طبی مشورہ سمجھ کر قبول کر لیا، حالانکہ یہ طریقہ مریض کے لیے نقصان دہ ہو سکتا ہے۔
اے آئی کی ناسمجھی
تحقیق کے شریک مصنف ڈاکٹر ایال کلانگ کے مطابق ہمارے نتائج یہ ظاہر کرتے ہیں کہ موجودہ اے آئی نظام طبی زبان کو خود بخود درست سمجھ لیتے ہیں، چاہے دعویٰ درست ہو یا نہیں۔ کیونکہ اے آئی کے نزدیک اصل اہمیت مواد کی سچائی کے بجائے اس کی پیشکش ہوتی ہے۔
یہ بات اس خامی کو واضح کرتی ہے کہ اے آئی ماڈلز معنی کے بجائے اندازِ بیان سے زیادہ متاثر ہو رہے ہیں۔
تحقیق کے مطابق اے آئی ماڈلز میں موجود حفاظتی تدابیر اس وقت غیر مؤثر ہو جاتی ہیں جب غلط معلومات کو پیشہ ورانہ اور مانوس طبی انداز میں لپیٹ کر پیش کیا جائے۔ یہ مسئلہ خاص طور پر اس وقت زیدہ خطرناک ہو جاتا ہے جب اے آئی کو طبی مشاورت، مریضوں کی رہنمائی یا کلینیکل فیصلوں میں استعمال کیا جائے۔
اسٹریس ٹیسٹ
محققین نے طبی اے آئی کے لیے ایک نیا طریقہ متعارف کرانے کی سفارش کی، جسے انہوں نے ’اسٹریس ٹیسٹ‘ کا نام دیا ہے۔ اس طریقے کے تحت:
• یہ جانچا جائے کہ AI کتنی بار غلط طبی معلومات دہراتا ہے۔
• ہر نئی نسل کے ماڈلز میں اس شرح کے کم ہونے کا جائزہ لیا جائے۔
• کلینیکل استعمال سے پہلے ایسے ٹیسٹ کو لازمی شرط بنایا جائے۔
تحقیق کے مرکزی مصنف ڈاکٹر محمود عمر کے مطابق ’محض یہ فرض کر لینا کہ ماڈل محفوظ ہے، کافی نہیں۔ بہتر یہ ہے کہ ہم باقاعدہ انداز میں ریکارڈ رکھیں کہ وہ کتنی بار غلط معلومات منتقل کرتا ہے‘۔
انہوں نے کہا کہ یہ طریقہ اے آئی کے طبی استعمال میں شفافیت اور احتساب کو فروغ دیتا ہے۔
طبی اے آئی کے لیے ضمانت ضروری ہے
تحقیق کے ایک اور مصنف ڈاکٹر جیریش این نادکرنی کا کہنا ہے کہ یہ نتائج اس بات کو واضح کرتے ہیں کہ طبی شعبے میں اے آئی کو شامل کرنے سے پہلے سخت حفاظتی شرائط اور اضافی ضمانتیں کیوں ضروری ہیں۔
ماہرین کا کہنا ہے کہ یہ تحقیق اس حقیقت کو اجاگر کرتی ہے کہ مصنوعی ذہانت جتنی طاقتور ہے، اتنی ہی حساس بھی ہے۔ اگر طبی میدان میں اے آئی کو بغیر سخت جانچ اور نگرانی کے استعمال کیا گیا تو وہ سہولت کے بجائے خطرہ بن سکتا ہے۔
ماہرین اس بات پر متفق ہیں کہ مصنوعی ذہانت کو ڈاکٹر کا متبادل نہیں بلکہ ایک محتاط معاون کے طور پر اپنانا ہی مریضوں کی سلامتی اور بہتر علاج کی ضمانت بن سکتا ہے۔