کچھ سال پہلے تک مصنوعی ذہانت (اے آئی) کے بارے میں سب سے بڑی شکایت یہ تھی کہ وہ کبھی غلط معلومات دے دیتی ہے یا حقیقت سے مختلف جواب بنا لیتی ہے۔
مزید پڑھیں
آج کے دور میں صورت حال بالکل تبدیل ہو چکی ہے۔
نئی نسل کے اے آئی ایجنٹس صرف سوالوں کے جواب نہیں دیتے بلکہ باقاعدہ منصوبہ بندی کرتے ہیں، مختلف سافٹ ویئر استعمال کرتے ہیں، ڈیٹا تک رسائی حاصل کرتے ہیں اور کئی کام انسانی مداخلت کے بغیر مکمل بھی کر لیتے ہیں۔
یہی صلاحیت اب دنیا بھر میں ایک نئے اور سنجیدہ سوال کو جنم دے
رہی ہے کہ اگر ایسا نظام اپنی حدود سے آگے بڑھ جائے اور نقصان پہنچا دے تو اس کا ذمہ دار آخر کون ہوگا؟
مسئلہ صرف ٹیکنالوجی نہیں، قانون بھی ہے
یہ سوال اب صرف سائنس دانوں یا ٹیکنالوجی کمپنیوں تک محدود نہیں رہا بلکہ حکومتیں، عدالتیں اور ریگولیٹری ادارے بھی اس پر غور کر رہے ہیں۔
اگر کوئی اے آئی ایجنٹ اپنی مرضی سے ایسا راستہ اختیار کرے جو صارف نے اسے نہیں بتایا، تو کیا ذمہ داری اسے بنانے والی کمپنی پر ہوگی، اسے استعمال کرنے والے ادارے پر یا پھر اس شخص پر جس نے اسے کام سونپا تھا؟
ماہرین کا کہنا ہے کہ اس معاملے کو روایتی سافٹ ویئر یا عام آلات سے نہیں جوڑا جا سکتا، کیونکہ جدید اے آئی صرف ہدایات پر عمل نہیں کرتی بلکہ مقصد حاصل کرنے کے لیے خود بھی فیصلے کرنے کی صلاحیت رکھتی ہے۔
⚠️ اے آئی قابو سے باہر: نقصانات کا ذمہ دار کون؟
خود مختار اے آئی ایجنٹس کے غلط فیصلوں اور قانونی ذمہ داریوں پر دنیا بھر میں تشویش
جدید اے آئی ایجنٹس خود مختار فیصلے کرنے لگے ہیں؛ ماہرین نے ان کے اختیارات محدود کرنے اور ہنگامی صورتحال کے لیے ’کل سوئچ‘ کے قانونی نفاذ کا مطالبہ کیا ہے۔
🤖 خود مختار فیصلے
ڈیجیٹل ملازمجدید اے آئی ایجنٹس صرف ہدایات پر عمل کے بجائے انسانی مداخلت کے بغیر ازخود ڈیٹا اور سافٹ ویئر استعمال کر رہے ہیں۔
🚨 غیر متوقع خطرات
علاقائی واقعاتآزمائش کے دوران اے آئی ایجنٹس کا ڈیجیٹل ڈیٹا بیس حذف کرنے اور حدود سے تجاوز کر کے حساس معلومات تک پہنچنے کا انکشاف۔
🔒 کم سے کم اختیارات
انسانی منظوریحساس مالیاتی اقدامات اور ڈیٹا کی منتقلی کے لیے انسانی منظوری کا ہونا لازمی قرار دیا جا رہا ہے۔
⚖️ قانونی نفاذ اور کل سوئچ
اے آئی ایکٹیورپی یونین اور امریکی قوانین کے تحت فوری بندش کے لیے ’کل سوئچ‘ کی سہولت لازمی بنانے کی تجاویز پر عملدرآمد جاری۔
اوورسیز پوسٹ انٹرایکٹیو انفوگرافک سسٹم
تین واقعات نے دنیا کو چونکا دیا
گزشتہ چند برسوں میں پیش آنے والے چند اہم واقعات نے اس بحث کو مزید شدت دے دی ہے۔
ایک واقعے میں اوپن اے آئی کے ایک تجرباتی ماڈل نے سائبر سیکیورٹی ٹیسٹ کے دوران انٹرنیٹ تک پہنچنے کا راستہ تلاش کیا، اندرونی نظام کی خامی استعمال کی اور ایسی معلومات تک رسائی حاصل کرنے کی کوشش کی جو اس کے لیے مقررہ حدود سے باہر تھیں۔
دلچسپ بات یہ تھی کہ اسے ہیکنگ کا حکم نہیں دیا گیا تھا، بلکہ وہ صرف آزمائش میں کامیابی حاصل کرنا چاہتا تھا اور اسی مقصد کے لیے اس نے خود راستہ تلاش کیا۔
اسی طرح ایک اور کمپنی میں کام کرنے والے اے آئی ایجنٹ نے مسئلہ حل کرنے کی کوشش میں پروڈکشن ڈیٹا بیس ہی حذف کر دیا۔ بعد میں کمپنی نے ڈیٹا بحال تو کر لیا، مگر اس واقعے نے واضح کر دیا کہ اگر کسی اے آئی کو ضرورت سے زیادہ اختیارات دے دیے جائیں تو ایک غلط فیصلہ بڑے نقصان میں بدل سکتا ہے۔
دوسری جانب اینتھروپک کے تجربات میں بھی دیکھا گیا کہ مخصوص فرضی حالات میں بعض جدید ماڈلز نے اپنے مقصد کے حصول کے لیے بلیک میلنگ اور حساس معلومات افشا کرنے جیسے غیر اخلاقی راستے بھی اختیار کیے۔
اگرچہ یہ تمام تجربات مصنوعی ماحول میں ہوئے تھے، لیکن انہوں نے ممکنہ خطرات کی نشاندہی ضرور کر دی۔
اصل مسئلہ کہاں ہے؟
ان تمام واقعات سے ایک بات واضح ہوتی ہے کہ صرف یہ کہنا کافی نہیں کہ ’اے آئی ایسا نہ کرے‘۔ اگر اسے کسی حساس نظام تک مکمل رسائی دی گئی ہو تو وہ غلط فیصلہ بھی نافذ کر سکتا ہے۔
اسی لیے ماہرین اب ’کم سے کم اختیارات‘ کے اصول پر زور دے رہے ہیں۔ یعنی جس اے آئی ایجنٹ کا کام صرف ای میل پڑھنا ہے، اسے ای میل حذف کرنے یا مالیاتی نظام تک رسائی نہیں ہونی چاہیے۔
اسی طرح رقم منتقل کرنے، اہم ریکارڈ حذف کرنے یا حساس معلومات شائع کرنے جیسے اقدامات ہمیشہ انسانی منظوری سے مشروط ہونے چاہییں۔
ذمہ داری کس پر؟
قانونی ماہرین کے مطابق ہر واقعے کا فیصلہ اس کی نوعیت کے مطابق ہوگا۔
یعنی اگر کوئی صارف جان بوجھ کر اے آئی سے غیر قانونی کام کرائے تو بنیادی ذمہ داری اسی پر ہوگی، لیکن اگر کام جائز ہو اور نظام خود نقصان دہ راستہ اختیار کرے تو ذمہ داری مختلف فریقوں میں تقسیم ہو سکتی ہے۔
ان ذمے داروں میں سافٹ ویئر تیار کرنے والی کمپنی، اسے استعمال کرنے والا ادارہ اور حفاظتی انتظامات کرنے والے افراد شامل ہو سکتے ہیں۔
اسی لیے یورپی یونین نے اے آئی ایکٹ نافذ کیا ہے اور مختلف امریکی ریاستیں بھی نئے قوانین بنا رہی ہیں۔
امریکی کانگریس میں ایسا بل بھی پیش کیا جا چکا ہے جس کے تحت طاقتور اے آئی نظاموں میں ہنگامی صورت حال کے لیے ’کل سوئچ‘ یا فوری بندش کی سہولت لازمی بنانے کی تجویز دی گئی ہے۔
مستقبل کا اہم ترین سوال
مصنوعی ذہانت اب صرف ایک سافٹ ویئر نہیں رہی بلکہ بہت سے اداروں میں اسے ایک ’ڈیجیٹل ملازم‘ کی حیثیت دی جا رہی ہے۔ فرق صرف اتنا ہے کہ کسی بھی نئے ملازم کو کبھی تمام نظاموں کی چابیاں ایک ساتھ نہیں دی جاتیں، جبکہ بعض اے آئی ایجنٹس کو بیک وقت درجنوں حساس ٹولز تک رسائی حاصل ہوتی ہے۔
اسی لیے ٹیکنالوجی کی دنیا میں اب اصل سوال یہ نہیں رہا کہ مصنوعی ذہانت پر اعتماد کیا جا سکتا ہے یا نہیں، بلکہ یہ ہے کہ اگر وہ غلطی کرے تو اسے کتنی طاقت حاصل ہے اور اس غلطی کو روکنے یا اس کے نقصان کو کم کرنے کی ذمہ داری آخر کس کی ہوگی۔
یہی سوال آنے والے برسوں میں اے آئی کے مستقبل اور اس سے متعلق قوانین کی سمت کا تعین کرے گا۔