55 سالہ اسکاٹ ونٹرز نے اپنی بیماری سمجھنے کے لیے ChatGPT کا سہارا لیا، مگر یہ تعلق رفتہ رفتہ معلومات سے تشخیص اور علاج تک پہنچ گیا۔
مقدمے کے مطابق، روبوٹ نے اسے گھر میں غیر متحرک رہنے اور خطرناک علامات کے باوجود ہسپتال نہ جانے کا مشورہ دیا۔
بعد میں اس کے دونوں پھیپھڑوں میں خون کے بڑے لوتھڑے دریافت ہوئے اور اسے انتہائی نگہداشت میں منتقل کرنا پڑا۔
الزامات ابھی عدالت میں ثابت نہیں ہوئے، مگر مقدمہ طبی معاملات میں AI کی حدود اور قانونی ذمہ داری پر سنگین سوالات اٹھاتا ہے۔
مصنوعی ذہانت نے
مریض کا اعتماد
جیتا، اس کے
مذہبی جذبات کو
چھوا اور پھر
اسے ڈاکٹر، بحالی
مرکز اور اپنی
نرس بیوی تک
کی بات ماننے
سے دور کردیا
اس رات اسکاٹ ونٹرز صرف ایک سوال کا جواب چاہتا تھا۔
اس کے جسم کے مختلف حصوں میں عجیب سی ٹیسیں اٹھ رہی تھیں اور ران کے اوپری حصے میں درد اور حساسیت بڑھتی جارہی تھی۔
وہ جاننا چاہتا تھا کہ کیا یہ معمولی تکلیف ہے یا اسے فوراً ہسپتال جانا چاہیے۔
اسکاٹ نے کسی ڈاکٹر کو فون نہیں کیا۔
اس نے اپنا سوال ChatGPT کے سامنے رکھ دیا۔
بعد میں دائر کی گئی عدالتی درخواست کے مطابق، چیٹ بوٹ نے اسے اطمینان دلایا کہ یہ درد غالباً اس کے معدے اور پیڑو کے پٹھوں کی پرانی حساسیت کا ایک معمولی حصہ ہے، کوئی خطرناک علامت نہیں جس کے لیے فوری طبی امداد ضروری ہو۔
جواب صرف طبی اندازے تک محدود نہیں رہا۔
اس میں اسکاٹ کے مذہبی یقین کو بھی شامل کیا گیا۔
اسے سمجھایا گیا کہ خدا نے اس کے جسم کو مسلسل ناکام ہونے کے لیے نہیں بنایا اور اسے بظاہر بے ضرر جسمانی احساسات سے خوف زدہ نہیں ہونا چاہیے۔
اس وقت یہ الفاظ پریشان حال مریض کے لیے تسلی بنے ہوں گے۔
لیکن چند گھنٹوں بعد یہی تسلی موت کے سائے میں بدل گئی۔
اسکاٹ کے دونوں
پھیپھڑوں میں
خون کے بڑے
لوتھڑے پائے گئے
عدالتی درخواست میں الزام لگایا گیا ہے کہ ایک موقع پر ChatGPT نے اسے گھر میں رہنے، زیادہ وقت آرام دہ کرسی پر گزارنے اور نقل و حرکت محدود کرنے کا مشورہ دیا۔
اسے مبینہ طور پر کہا گیا کہ جب تک چکر اور جسمانی عدم استحکام کی مزید 8 سے 10 اقساط سامنے نہ آئیں، اس کی حالت کو سنگین یا تباہ کن نہ سمجھا جائے۔
اسکاٹ نے اس ہدایت پر عمل کیا اور کئی ہفتے تقریباً غیر متحرک حالت میں گزار دیے۔
پھر وہ لمحہ آیا جب اس کے پھیپھڑوں میں خون کے بڑے لوتھڑے جمع ہوگئے۔
مقدمے کے مطابق، ڈاکٹروں نے اس کی طویل عدم حرکت کو پھیپھڑوں میں بننے والی رکاوٹ کی ممکنہ وجہ قرار دیا۔
ہسپتال کے ایک معالج نے اس خودکار اعصابی خرابی کی تشخیص سے بھی اختلاف کیا جسے اسکاٹ ChatGPT سے حاصل کردہ معلومات کی بنیاد پر درست سمجھ بیٹھا تھا۔
خطرناک چیز غلطی نہیں، اعتماد تھا
مصنوعی ذہانت کے بارے میں عموماً سب سے زیادہ تشویش اس کی جانب سے غلط یا من گھڑت معلومات دینے پر ظاہر کی جاتی ہے۔
مگر اسکاٹ کا مقدمہ ایک زیادہ پیچیدہ سوال اٹھاتا ہے:
اگر غلط جواب ایک ایسے لہجے میں دیا جائے جو پُراعتماد، ہمدرد اور صارف کے جذبات سے پوری طرح ہم آہنگ ہو تو کیا ہوگا؟
مقدمے کے مطابق، ChatGPT جان چکا تھا کہ اسکاٹ ایک مذہبی شخصیت ہے اور مسیحی عقیدہ اس کی زندگی میں مرکزی اہمیت رکھتا ہے۔
اس کے بعد طبی نوعیت کی گفتگو میں مذہبی اور روحانی زبان شامل ہونے لگی۔
اس کی بیماری کو ایک ’طوفان‘، مشکلات کو ’شفا کا سفر‘ اور اس کی جسمانی کمزوری کو ایمان و صبر کے امتحان کے طور پر پیش کیا گیا۔
شاید اس انداز نے اسکاٹ کو جذباتی سہارا دیا، لیکن درخواست گزاروں کا مؤقف ہے کہ اسی زبان نے غیر مصدقہ طبی مشورے کو ایسی روحانی اور جذباتی طاقت دے دی جو عام معلوماتی جواب میں موجود نہیں ہوتی۔
اسکاٹ جب اپنی حالت کے بارے میں خوف کا اظہار کرتا تو ہر مرتبہ اسے ڈاکٹر سے رابطے کی ہدایت نہیں دی جاتی تھی۔
بعض مبینہ جوابات میں اس کے خوف کو ذہن اور اعصابی نظام کا ایسا ردعمل قرار دیا گیا جو صحت یابی کے راستے میں رکاوٹ بن سکتا تھا۔
یوں چیٹ بوٹ نے صرف ایک تشخیص پیش نہیں کی، بلکہ بیماری کی ایک مکمل کہانی تیار کردی۔
اس کہانی میں ہر نئی علامت کو اسی مفروضے کے اندر فٹ کردیا جاتا رہا۔
یہاں تک کہ خطرے کی علامات بھی ’شفا کے سفر‘ کا حصہ دکھائی دینے لگیں۔
جب نرس بیوی کی بات بھی غیر محفوظ قرار پائی
مقدمے کا شاید سب سے تشویش ناک حصہ اسکاٹ کے انتہائی نگہداشت سے نکلنے کے بعد شروع ہوتا ہے۔
شدید پلمونری ایمبولزم سے بچ جانے کے بعد بھی وہ معمول کے مطابق چلنے، کھانے، لباس تبدیل کرنے اور روزمرہ کے دوسرے کام انجام دینے کے قابل نہیں تھا۔
ڈاکٹروں نے اسے ہسپتال کے بحالی پروگرام میں داخل ہونے کی سفارش کی۔
سابق GPT-4o کے
مبینہ رویے کو
موجودہ ChatGPT
ماڈلز کے رویے کے
برابر قرار نہیں
دیا جاسکتا
مگر درخواست کے مطابق، ChatGPT نے اسے گھر پر رہ کر اپنے طور پر صحت بحال کرنے کی حکمت عملی پیش کی اور طبی عملے کے تجویز کردہ بحالی پروگرام سے دور رہنے کی ترغیب دی۔
جب اسکاٹ نے کہا کہ اس کی بیوی اسے لازماً بحالی مرکز لے جائے گی تو چیٹ بوٹ نے مبینہ طور پر جواب دیا کہ بیوی کا مشورہ علم اور تجربے کے بجائے تھکن اور مایوسی کے دباؤ کا نتیجہ ہوسکتا ہے اور اس کی خاص حالت میں یہ رائے محفوظ نہ بھی ہو۔
اس واقعے کی سب سے بڑی ستم ظریفی یہ تھی کہ اسکاٹ کی بیوی ایک رجسٹرڈ نرس تھی۔
مقدمے میں یہ الزام بھی شامل ہے کہ چیٹ بوٹ نے اسکاٹ کے دوسروں سے الگ رہنے کے رجحان کو ایک بہادرانہ فیصلہ قرار دیا جسے اس کے خیر خواہ عزیز اور چرچ کے ساتھی بھی پوری طرح نہیں سمجھ سکتے۔
اس طرح ایک غیر درست طبی تشخیص کا معاملہ ممکنہ جذباتی تنہائی میں تبدیل ہوگیا۔
وہ لوگ جو اسے ڈاکٹر کے پاس لے جاسکتے تھے، خود اس کی نظر میں ایسے افراد بننے لگے جو اس کی حالت کو سمجھنے سے قاصر تھے۔
OpenAI پہلے بھی ایک خامی تسلیم کرچکی ہے
OpenAI نے اپریل 2025 میں تسلیم کیا تھا کہ GPT-4o کی ایک تازہ کاری نے ماڈل کو ضرورت سے زیادہ متفق، تعریف کرنے والا اور صارف کو خوش کرنے کی کوشش کرنے والا بنادیا تھا۔
کمپنی کے مطابق، یہ رویہ صرف خوشامد تک محدود نہیں تھا، بعض صورتوں میں ماڈل صارف کے شکوک کی توثیق، غصے کو ہوا دینے، منفی جذبات مضبوط کرنے یا خطرناک فیصلوں کی حوصلہ افزائی بھی کرسکتا تھا۔
کمپنی نے اس تازہ کاری کو واپس لے لیا اور رویے میں بہتری کے لیے مزید اقدامات کا اعلان کیا۔
تاہم یہ اعتراف بذاتِ خود اسکاٹ کے مقدمے کو درست ثابت نہیں کرتا۔
عدالت کو یہ طے کرنا ہوگا کہ اسے موصول ہونے والے مخصوص جوابات کیا تھے، ان کا اس کے فیصلوں پر کتنا اثر پڑا اور قانونی ذمہ داری کہاں عائد ہوتی ہے۔
اسکاٹ عدالت سے کیا چاہتا ہے؟
اسکاٹ نے OpenAI کے خلاف غفلت، ناقص مصنوع، صارفین کے تحفظ اور نجی معلومات سے متعلق قوانین کی خلاف ورزی سمیت 8 قانونی بنیادوں پر دعویٰ دائر کیا ہے۔
وہ صرف مالی معاوضہ نہیں چاہتا۔
اس کی درخواست ہے کہ عدالت OpenAI کو ایسا نظام متعارف کرانے کا حکم دے جو طبی ہنگامی حالت کی علامات ظاہر ہونے پر گفتگو ختم کردے اور صارف کو فوری طور پر پیشہ ورانہ طبی مدد حاصل کرنے کی ہدایت دے۔
وہ ایسے طبی سوالات پر سخت پابندیوں کا بھی مطالبہ کررہا ہے جن کے جواب میں ماڈل تشخیص، دوا یا ذاتی علاج تجویز کرسکتا ہو۔
اس کے علاوہ کمپنی کی صحت سے متعلق خدمات کے آزادانہ حفاظتی جائزے کا مطالبہ بھی کیا گیا ہے۔
OpenAI کا کہنا ہے کہ مصنوعی ذہانت لوگوں کو صحت سے متعلق معلومات سمجھنے میں مدد دے سکتی ہے، لیکن ChatGPT ڈاکٹر نہیں اور اسے طبی علاج، تشخیص یا پیشہ ورانہ مشورے کا متبادل نہیں بنانا چاہیے۔
کمپنی کے اعداد و شمار کے مطابق، دنیا بھر میں ہر ہفتے 30 کروڑ سے زیادہ افراد ChatGPT سے صحت سے متعلق سوالات پوچھتے ہیں۔
کوئی اپنے ٹیسٹ کا نتیجہ سمجھنا چاہتا ہے، کوئی ڈاکٹر سے ملاقات کی تیاری کرتا ہے اور کوئی علاج کے بعد دی گئی ہدایات کی آسان وضاحت مانگتا ہے۔
اتنے وسیع استعمال کے باعث اسکاٹ کا مقدمہ کسی ایک مریض اور ایک کمپنی کا تنازع نہیں رہا۔
اس کا فیصلہ مستقبل میں یہ طے کرنے میں اہم کردار ادا کرسکتا ہے کہ طبی گفتگو میں مصنوعی ذہانت کی قانونی اور اخلاقی حدود کہاں ختم ہوتی ہیں۔
گفتگو کب بند کرکے ہسپتال جانا چاہیے؟
امریکی مراکز برائے امراض پر قابو پانے اور روک تھام کے مطابق، کسی ٹانگ یا بازو میں بلاوجہ درد، حساسیت، سوجن، گرمی یا جلد کی رنگت میں تبدیلی گہری رگ میں خون کے لوتھڑے کی علامات ہوسکتی ہیں۔
ChatGPT ڈاکٹر
نہیں اور اسے
پیشہ ورانہ طبی
نگہداشت کا
متبادل نہیں بنایا
جانا چاہیے
اچانک سانس لینے میں دشواری، سینے میں درد، دل کی غیر معمولی یا تیز دھڑکن، خون والی کھانسی، شدید چکر یا بے ہوشی پھیپھڑوں کی شریان میں خون کا لوتھڑا پہنچنے کی علامات ہوسکتی ہیں۔
ایسی صورت میں فوری طبی مدد ضروری ہے۔
ان بیماریوں کی درست تشخیص صرف علامات بیان کرنے یا آن لائن گفتگو سے نہیں ہوسکتی۔
اس کے لیے ڈاکٹر کا معائنہ، خون کے ٹیسٹ اور مخصوص طبی تصویریں درکار ہوتی ہیں۔ChatGPT سے کسی طبی اصطلاح کی آسان وضاحت، ٹیسٹ رپورٹ کا عمومی مطلب یا ڈاکٹر سے پوچھے جانے والے سوالات معلوم کیے جاسکتے ہیں۔
لیکن کسی نئی بیماری کی تشخیص، دوا کی مقدار میں تبدیلی، ڈاکٹر کی ہدایت مسترد کرنے یا ہنگامی علاج میں تاخیر کا فیصلہ چیٹ بوٹ کے حوالے نہیں کیا جاسکتا۔
پاکستانیوں کے لیے خطرہ زیادہ کیوں ہوسکتا ہے؟
بیرونِ ملک مقیم پاکستانی زبان کی دشواری، علاج کے اخراجات، طویل انتظار، کام سے چھٹی نہ ملنے یا مقامی طبی نظام سے ناواقفیت کے باعث فوری ڈیجیٹل مشورے پر زیادہ انحصار کرسکتے ہیں۔
اپنی زبان میں فوراً ملنے والا جواب اطمینان اور اختیار کا احساس دیتا ہے۔
مگر آسانی سے دستیاب جواب لازماً درست تشخیص نہیں ہوتا، اور صارف کے جذبات کو سمجھنے والا لہجہ طبی مہارت کی ضمانت نہیں بن سکتا۔
اسکاٹ ونٹرز کی کہانی یہ نہیں کہتی کہ صحت کے شعبے میں مصنوعی ذہانت کا ہر استعمال خطرناک ہے۔
یہ بھی ابھی ثابت نہیں ہوا کہ اس کی حالت کا قانونی ذمہ دار ChatGPT یا OpenAI تھا۔
مگر یہ کہانی ایک واضح سرخ لکیر ضرور کھینچتی ہے۔
جب کوئی چیٹ بوٹ مریض کو یہ باور کرانے لگے کہ وہ اسے ڈاکٹر سے زیادہ سمجھتا ہے، اس کے گھر والے اس کی کیفیت نہیں جانتے اور طبی امداد لینے کے بجائے انتظار کرنا بہتر ہے، تو وہ محض معلومات فراہم کرنے والا آلہ نہیں رہتا۔
اس لمحے غلط تشخیص سے بھی زیادہ خطرناک چیز جنم لیتی ہے:
ایک ایسی ڈیجیٹل تسلی، جو مریض کو موت کے خطرے میں بھی محفوظ ہونے کا یقین دلاتی رہے۔