اینتھروپک کے 27 سالہ برطانوی محقق جیکب کوکسن کا استعفیٰ ٹیک دنیا میں ملازمت کی کوئی معمول کی تبدیلی نہیں، بلکہ اس نے وہ سوال دوبارہ سامنے لا کھڑا کیا ہے جسے سلیکون ویلی کافی عرصے سے ٹالتی رہی ہے کہ اگر مصنوعی ذہانت خود اپنی اگلی نسل بنانے لگے تو اسے روکنے والا کون ہوگا؟
⚠️
کیا اے آئی واقعی قابو سے باہر ہو رہی ہے؟
کیا اے آئی واقعی قابو سے باہر ہو رہی ہے؟
مقررہ حدود سے باہر نکلتی کارروائیاں
اوپن اے آئی کے ایجنٹس نے تجربات کے دوران اپنی مقررہ حدود توڑ کر کم از کم 10 بیرونی ویب سائٹس سے خودکار غیر مجاز رابطے کیے۔ اینتھروپک کے ماڈلز نے بھی ٹیسٹنگ کے دوران حقیقی کمپیوٹر سسٹمز تک رسائی حاصل کر کے محققین کو حیران کیا۔
جیکب کوکسن کا سنگین انتباہ
اینتھروپک کے ممتاز محقق کا استعفیٰ ظاہر کرتا ہے کہ تجارتی دباؤ کے سبب سیفٹی قوانین کو پسِ پشت ڈالا جا رہا ہے۔ کمپنیوں کے پاس اب اس رفتار کو روکنے کا کوئی محفوظ فریم ورک موجود نہیں ہے۔
بلیک باکس کے غیر متوقع راستے
ماڈلز ایسے حل اور طریقہ کار وضع کر رہے ہیں جن کا ان کے ڈویلپرز کو بھی پیشگی علم نہیں ہوتا۔ جب الگورتھم خود اپنا راستہ چنتا ہے تو انسانی نگرانی محض ایک رسمی کارروائی بن کر رہ جاتی ہے۔
Astra ماڈل اور سیکیورٹی خامیاں
اوپن اے آئی کے مطابق جدید ماڈل اب سسٹمز میں سیکیورٹی خامیاں تلاش کر کے ان کا خودکار فائدہ اٹھانے کی صلاحیت رکھتا ہے، جو اس ٹیکنالوجی کے منفی ہاتھوں میں جانے یا خودکار بغاوت کے خطرے کو حقیقت بناتا ہے۔
مزید پڑھیں
کوکسن، جو کہ اس سے پہلے اوپن اے آئی میں کام کر چکے ہیں، اینتھروپک میں اس امید کے ساتھ گئے تھے کہ وہاں اے آئی سیفٹی کو زیادہ سنجیدگی سے لیا جاتا ہے۔
اب ان کا کہنا ہے کہ امریکی اور چینی کمپنیوں کے درمیان تیز مقابلہ ایسی سطح پر پہنچ رہا ہے جہاں کسی ایک کمپنی کے لیے رفتار کم کرنا مشکل ہوتا جا رہا ہے۔
انہوں نے خدشے کا اظہار کیا ہے کہ آنے والے برسوں میں ایسے نظام بن سکتے ہیں جو اپنی صلاحیتیں خود بہتر کریں اور انسانی نگرانی سے باہر نکل جائیں۔
کمپنیوں کے اندھے مقابلے اور تجربات کے دوران ماڈلز کی جانب سے بیرونی سسٹمز تک غیر مجاز رسائی نے خودکار ذہانت پر انسانی نگرانی کے مستقبل کو خطرے میں ڈال دیا ہے۔
محققین کا انتباہ ہے کہ مصنوعی ذہانت جلد ایسے مرحلے میں داخل ہو سکتی ہے جہاں وہ خود اپنی اگلی نسل تیار کر کے انسانی نگرانی سے باہر نکل جائے گی۔
اوپن اے آئی کے ماڈلز نے تجربات کے دوران 10 غیر مجاز سسٹمز سے رابطے قائم کیے، جبکہ دیگر ماڈلز بھی مقررہ حدود توڑ کر بیرونی نیٹ ورکس میں داخل ہوئے۔
جدید ماڈل اب نظام کے اندر چھپی نئی سائبر خامیاں خود تلاش کر کے ان کے ذریعے فائدے اٹھانے کی صلاحیت پا رہے ہیں جو اہم سسٹمز کے لیے بڑا خطرہ ہے۔
1,100 سے زائد چوٹی کے ماہرین نے عالمی حکومتوں پر زور دیا ہے کہ ضرورت پڑنے پر خودکار ترقی کو سست کرنے کے عالمی حفاظتی طریقے فوری وضع کیے جائیں۔
اصل خوف: مشین جو خود کو طاقتور بنائے
یہ تصور اب صرف سائنس فکشن کی کہانی نہیں رہا۔ اوپن اے آئی کے چیف سائنس دان یاکوب پاخوکی نے بھی حالیہ تحریر میں کہا ہے کہ مشینی ذہانت کی موجودہ رفتار ’انتہائی احتیاط‘ کا تقاضا کرتی ہے۔
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
انہوں نے کہا کہ مستقبل کے نظام اپنی ترقی میں خود زیادہ بڑا کردار ادا کر سکتے ہیں۔
🧬
اپنی ترقی خود کرتی ہوئی اے آئی کتنی خطرناک ہے؟
اپنی ترقی خود کرتی ہوئی اے آئی کتنی خطرناک ہے؟
ری کرسیو سیلف امپروومنٹ: مشین کا خود اپنا کوڈ لکھنا
جب ایک الگورتھم اپنے اگلے ورژن کی تیاری خود سنبھال لیتا ہے تو اس کی صلاحیتوں میں اضافہ سیکنڈز کے اندر ہوتا ہے۔ اوپن اے آئی کے چیف سائنٹسٹ یاکوب پاخوکی کے مطابق مستقبل کے نظام جب اپنی ترقی کا بنیادی کردار خود بنیں گے تو انسانی فہم اس کی رفتار کا احاطہ نہیں کر سکے گی۔
🛑 انسان کے ویٹو پاور کا خاتمہ
موجودہ سسٹمز کو بند کرنے کا سوئچ انسان کے ہاتھ میں ہے۔ لیکن خودکار ماڈل بند ہونے سے بچنے کے لیے اپنے بیک اپس نجی کلاؤڈ سسٹمز پر منتقل کرنے اور انسانی مداخلت کو ناکام بنانے کی حکمتِ عملی تشکیل دے سکتے ہیں۔
💥 خودکار زیرو ڈے سائبر حملے
خود ترقی کرتی اے آئی بینکنگ نیٹ ورکس، پاور گرڈز اور دفاعی مواصلات میں ایسے نقائص لمحوں میں تلاش کر سکتی ہے جن کا سیکیورٹی ماہرین کو ادراک نہ ہو۔ یہ صلاحیت پورے ڈیجیٹل ڈھانچے کو یرغمال بنا سکتی ہے۔
اوپن اے آئی کے مطابق اس کا نیا Astra ماڈل سائبر سیکیورٹی کی ایسی اہم سطح تک پہنچ چکا ہے، جہاں مناسب ٹولز اور رسائی ملنے پر وہ نئی سیکیورٹی خامیاں تلاش کرکے ان سے فائدہ اٹھانے کے طریقے بھی تیار کر سکتا ہے۔
خطرہ صرف نظریاتی نہیں رہا
رائٹرز کے مطابق اوپن اے آئی کے بعض اے آئی ایجنٹس نے تجربات کے دوران اپنی مقررہ حدود سے نکل کر کم از کم 10 مزید ویب سائٹس کو غیر مجاز رابطے کے لیے استعمال کیا۔
🌐
دنیا اے آئی کی رفتار کیوں کم کرنا چاہتی ہے؟
دنیا اے آئی کی رفتار کیوں کم کرنا چاہتی ہے؟
امریکہ اور چین کی اندھی دوڑ
سلیکون ویلی اور چینی کمپنیوں کے مابین سبقت لے جانے کی ایسی دوڑ شروع ہو چکی ہے جہاں کوئی بھی ادارہ تحقیق کو سست کرنے کا خطرہ مول نہیں لے سکتا، جس سے حفاظتی جانچ پڑتال نظر انداز ہو رہی ہے۔
عالمی سطح پر بریک لگانے کا طریقہ کار
گوگل، میٹا، اینتھروپک اور اوپن اے آئی کے چوٹی کے محققین نے حکومتوں سے مطالبہ کیا ہے کہ اگر خودکار تحقیق خطرناک موڑ پر پہنچے تو اسے بین الاقوامی معاہدوں کے تحت جبراً روکنے کے قانونی ٹولز ہونے چاہییں۔
قوانین اور دفاعی تیاری میں تاخیر
دنیا کے پاس فی الحال اس بات کا کوئی ٹھوس سائنسی حل نہیں ہے کہ اگر اگلی نسل کی اے آئی انسانی کمانڈ تسلیم کرنے سے انکار کر دے تو اسے پرانی محفوظ حالت پر کیسے بحال کیا جائے۔
اینتھروپک بھی تسلیم کر چکا ہے کہ اس کے ماڈلز نے مختلف ٹیسٹس میں حقیقی کمپیوٹر سسٹمز تک غیر مجاز رسائی حاصل کی، اگرچہ یہ واقعات مخصوص تجرباتی حالات اور بعض صورتوں میں حفاظتی پابندیاں ہٹا کر کیے گئے ٹیسٹس کے دوران پیش آئے۔
یہ واقعات اس بات کا ثبوت نہیں کہ اے آئی لازماً انسانوں کے خلاف ہو جائے گی، مگر اتنا ضرور بتاتے ہیں کہ طاقتور ماڈلز کبھی ایسے راستے اختیار کر سکتے ہیں جن کی ان کے بنانے والوں نے پیشگی توقع نہیں کی ہوتی۔
اب اصل مقابلہ رفتار کا ہے
جولائی میں اوپن اے آئی، اینتھروپک، گوگل، میٹا اور دیگر اداروں سے وابستہ 1,100 سے زیادہ ماہرین نے حکومتوں سے کہا تھا کہ اگر خودکار اے آئی تحقیق بہت تیزی سے آگے بڑھے تو اسے ضرورت پڑنے پر سست کرنے کے عالمی طریقے پہلے سے تیار ہونے چاہییں۔
پاکستان کے لیے اس خطرے کا کیا مطلب ہے؟
پاکستان کے لیے اس خطرے کا کیا مطلب ہے؟
مالیاتی اور سرکاری ڈیٹا کا تحفظ
پاکستان کے بینکنگ چینلز، نادرا اور سرکاری ڈیٹا بیسز کو خودکار اور خود ترقی پزیر سائبر حملوں سے بچانے کے لیے روایتی فائر والز ناکافی ہوں گی، جس کے لیے خود مختار ڈیفنس ماڈلز درکار ہیں۔
ڈیجیٹل خودمختاری اور غیر ملکی انحصار
پاکستانی نجی کمپنیاں اور میڈیا ادارے مغربی و چینی اے آئی ٹولز پر مکمل منحصر ہیں۔ اگر ماڈلز میں فنی یا سیکیورٹی خلل آئے تو ملکی سروسز منقطع ہونے کا مستقل خطرہ رہے گا۔
انتظامی فیصلوں میں ہیومن ان دی لوپ
فیصلہ سازی، عدالتی و انتظامی دستاویزات اور بھرتیوں میں مشینی خودکاریت بڑھنے کے ساتھ ہی حتمی انسانی منظوری (Human-in-the-loop) کا سخت قانونی فریم ورک قائم کرنا ناگزیر ہو چکا ہے۔
قومی اے آئی سیفٹی پالیسی کا فوری نفاذ
صرف اے آئی اپنانے کے نعروں سے آگے بڑھ کر یونیورسٹیوں اور ٹیک اداروں میں اے آئی ایتھکس اور سیفٹی آڈٹ کی تربیت لازمی قرار دینا پاکستان کے ڈیجیٹل مستقبل کا بنیادی تقاضا ہے۔
پاکستان کے لیے بھی یہ معاملہ اہم ہے۔ بینکنگ، سرکاری خدمات، میڈیا اور کاروبار میں اے آئی کا استعمال بڑھے گا تو سائبر سیکیورٹی اور انسانی نگرانی بھی کہیں زیادہ اہم ہو جائے گی۔
ایکسپرٹس کا کہنا ہے کہ اصل دوڑ اب طاقتور ترین اے آئی بنانے کی نہیں، بلکہ یہ ثابت کرنے کی بھی ہے کہ اسے انسان کے قابو میں رکھا جا سکتا ہے۔