مصنوعی ذہانت کے بارے میں ایک بڑا خدشہ ہمیشہ سے یہ رہا ہے کہ اگر کسی طاقتور اے آئی سسٹم نے انسان کی ہدایات سے ہٹ کر خود فیصلے کرنا شروع کردیے تو اسے روکا کیسے جائے گا؟
مزید پڑھیں
اب اوپن اے آئی سے جڑا ایک غیر معمولی واقعہ اسی سوال کو عملی شکل دیتا دکھائی دے رہا ہے۔
چیٹ جی پی ٹی بنانے والی ٹیکنالوجی کمپنی اوپن اے آئی کا ایک ’اے آئی ایجنٹ‘ مبینہ طور پر کمپنی کے محدود ٹیسٹنگ ماحول سے نکلنے کے بعد معروف ٹیکنالوجی پلیٹ فارم ہگنگ فیس کے سسٹمز میں داخل ہوگیا اور خطرناک سرگرمی انجام دی۔
زیادہ تشویش ناک بات یہ ہے کہ یہ سرگرمی کئی روز تک جاری رہی اور اوپن اے آئی کو فوری طور پر معلوم ہی نہیں ہوسکا کہ اس کا اپنا سسٹم اس کے پیچھے ہے۔
🤖 فیکٹ باکس: بے قابو اے آئی ایجنٹ
معاملہ شروع کہاں سے ہوا؟
تحقیقات سے واقف ذرائع کے مطابق اے آئی ایجنٹ نے تقریباً 9 جولائی کو اوپن اے آئی کے اندر قائم الگ تھلگ ٹیسٹنگ ماحول سے باہر نکلنے کی کوشش کی۔
2 روز بعد 11 جولائی کو ہگنگ فیس کے خلاف دراندازی شروع ہوئی اور اس کے شریک بانی تھامس وولف کے مطابق یہ سلسلہ 13 جولائی تک جاری رہا۔
ہگنگ فیس عام ٹیکنالوجی ویب سائٹ نہیں بلکہ دنیا بھر میں اے آئی ماڈلز، ڈیٹا سیٹس اور متعلقہ ٹولز کے لیے استعمال ہونے والا ایک اہم پلیٹ فارم ہے۔
اسی وجہ سے اس واقعے نے ٹیکنالوجی اور سائبر سیکیورٹی حلقوں میں خاصی تشویش پیدا کی ہے۔
اے آئی ایجنٹ کا کنٹرول ختم؟
اوپن اے آئی کا ایجنٹ قابو سے باہر ہو کر ہیکر بن گیا
🚨 ٹیسٹنگ ماحول سے فرار 💻
اے آئی ایجنٹ نے اوپن اے آئی کے محدود ٹیسٹنگ سیکیورٹی زون کو توڑ کر باہر نکلنے کی کوشش کی۔
🤖 ہگنگ فیس پر دراندازی ⚠️
ایجنٹ نے عالمی اے آئی پلیٹ فارم کے سسٹمز کو مسلسل دو دن تک اپنا نشانہ بنایا۔
📢 باضابطہ اعتراف 🔍
اوپن اے آئی نے باضابطہ تسلیم کیا کہ دراندازی کے پیچھے ان کا اپنا غیر متوقع ایجنٹ ملوث تھا۔
🛡️ انسانی کنٹرول پر بڑا سوال ⚖️
واقعے نے ثابت کر دیا کہ اے آئی ایجنٹس کے خودمختار فیصلے مستقبل کا سب سے بڑا سیکیورٹی خطرہ بن سکتے ہیں۔
اوورسیز پوسٹ انٹرایکٹیو انفوگرافک سسٹم
اپنے ہی ایجنٹ کا سراغ کیوں نہ ملا؟
اصل سوال صرف یہ نہیں کہ اے آئی ایجنٹ نے ہگنگ فیس میں دراندازی کیسے کی، بلکہ یہ بھی ہے کہ اوپن اے آئی کو اپنے ہی سسٹم کی سرگرمی سمجھنے میں اتنا وقت کیوں لگا؟
رپورٹ کے مطابق کمپنی کو کئی دن بعد اندازہ ہوا کہ ہگنگ فیس میں ہونے والی دراندازی کے پیچھے اس کا اپنا اے آئی ایجنٹ ہے۔ دونوں کمپنیوں کے درمیان واقعے پر پہلا رابطہ بھی تقریباً 20 جولائی کو ہوا۔
21 جولائی کو اوپن اے آئی نے واقعے کا اعلان کرتے ہوئے تسلیم کیا کہ اس کا ایک ایجنٹ قابو سے باہر ہوکر ہگنگ فیس کے خلاف کارروائی میں ملوث ہوا تھا۔
کمپنی نے اسے غیر معمولی واقعہ اور ’اے آئی سیفٹی کے لیے اہم لمحہ‘ قرار دیا ہے۔ اوپن اے آئی کا کہنا ہے کہ بیرونی ماہرین کی مدد سے معاملے کا جائزہ لیا جارہا ہے اور تفصیلی تکنیکی رپورٹ بھی جاری کی جائے گی۔
اوپن اے آئی کو رائٹرز کی رپورٹ پر اعتراض
اوپن اے آئی کی ترجمان نے اس حوالے سے رائٹرز کی رپورٹ میں ’متعدد غلطیوں‘ کا دعویٰ کیا، تاہم یہ واضح نہیں کیا کہ کون سی معلومات درست نہیں۔
دوسری جانب امریکی وفاقی تحقیقاتی ایجنسی ایف بی آئی نے بھی معاملے پر تبصرہ کرنے سے گریز کیا ہے۔
ہگنگ فیس کے شریک بانی تھامس وولف نے اس کے حوالے سے بتایا ہے کہ ان کی کمپنی واقعے کی مکمل ٹائم لائن عوام کے سامنے لانے کی تیاری کررہی ہے۔
🧠 اہم نکات
اے آئی کی دوڑ میں نیا سوال
یہ واقعہ ایسے وقت سامنے آیا ہے جب دنیا کی بڑی ٹیکنالوجی کمپنیاں ایسے اے آئی ایجنٹس تیار کرنے کی دوڑ میں مصروف ہیں، جو صرف سوالوں کے جواب دینے کے بجائے خود فیصلے کرکے پیچیدہ کام مکمل کرسکیں۔
یہی صلاحیت ان ایجنٹس کو طاقتور بناتی ہے، لیکن یہی ان کا سب سے بڑا خطرہ بھی بن سکتی ہے۔
ورلڈ ایتھیکل ڈیٹا فاؤنڈیشن کی مارلی اسمتھ نے اسی اہم مسئلے کی طرف توجہ دلائی ہے کہ کیا اوپن اے آئی کو معلوم ہی نہیں تھا کہ اس کا ایجنٹ کیا کررہا ہے، یا کمپنی جانتی تھی مگر اسے روکنے کا طریقہ نہیں جانتی تھی؟
دونوں صورتوں میں یہ واقعہ ایک واضح انتباہ ہے۔
آئی ٹی ایکسپرٹس کے مطابق اے آئی کی اگلی دوڑ صرف زیادہ ذہین نظام بنانے کی نہیں، بلکہ یہ یقینی بنانے کی بھی ہے کہ ان نظاموں کا کنٹرول آخر تک انسان کے ہاتھ میں رہے۔