اقوام متحدہ کے انسانی حقوق کے سربراہ فولکر ترک نے خبردار کیا ہے کہ تیزی سے ترقی کرتی مصنوعی ذہانت مناسب حفاظتی اقدامات نہ ہونے کی صورت میں مستقبل میں انسانیت کے لیے ’وجودی خطرہ‘ بن سکتی ہے۔
اصل تشویش ایسے خودمختار AI نظاموں سے متعلق ہے جو منصوبہ بندی، ڈیجیٹل ٹولز کے استعمال اور پیچیدہ کام انجام دینے کی بڑھتی صلاحیت رکھتے ہیں۔
مصنوعی ذہانت کے بارے میں بحث اب صرف ملازمتیں ختم ہونے، جعلی خبروں یا تعلیم اور میڈیا پر اس کے اثرات تک محدود نہیں رہی۔
اب سوال کہیں زیادہ سنگین ہوگیا ہے:
اگر مصنوعی ذہانت کے نظام اتنے طاقتور اور خودمختار ہوگئے کہ انسان کے لیے انہیں کنٹرول کرنا مشکل ہوگیا تو کیا ہوگا؟
OVERSEAS POST | SPECIAL REPORTمصنوعی ذہانت — اہم نکات ⌄
- ✓اقوام متحدہ کے انسانی حقوق کے سربراہ فولکر ترک نے خبردار کیا ہے کہ انتہائی طاقتور AI مستقبل میں انسانیت کے لیے وجودی خطرہ بن سکتی ہے۔
- ✓انتباہ کا مطلب یہ نہیں کہ موجودہ AI انسان کے کنٹرول سے نکل چکی ہے؛ اصل تشویش مستقبل کے زیادہ خودمختار نظاموں سے متعلق ہے۔
- ✓AI Agents سوالوں کے جواب سے آگے بڑھ کر منصوبہ بندی، ٹولز کے استعمال اور متعدد اقدامات کی صلاحیت حاصل کر رہے ہیں۔
- ✓غلط ہدایات، کمزور حفاظتی حدود یا غلط استعمال کی صورت میں طاقتور AI کے اثرات عام چیٹ بوٹ کی غلطی سے کہیں زیادہ ہوسکتے ہیں۔
- ✓خودمختار مہلک ہتھیار اور سائبر صلاحیتیں عالمی سطح پر سب سے حساس خدشات میں شامل ہیں۔
- ✓اقوام متحدہ AI روکنے کے بجائے سخت حفاظتی جانچ، واضح حدود اور بین الاقوامی تعاون چاہتی ہے۔
یہ سوال اقوام متحدہ کے انسانی حقوق کے سربراہ فولکر ترک کے تازہ انتباہ کے بعد ایک بار پھر عالمی سطح پر توجہ کا مرکز بن گیا ہے۔
انہوں نے خبردار کیا ہے کہ تیزی سے ترقی کرتی مصنوعی ذہانت مستقبل میں انسانیت کے لیے ’وجودی خطرہ‘ بن سکتی ہے، اگر حکومتیں اور عالمی ادارے بروقت اس کے لیے مضبوط حفاظتی اصول وضع نہ کرسکے۔
مزید پڑھیں
تاہم اس انتباہ کا مطلب یہ نہیں کہ اقوام متحدہ یہ کہہ رہا ہے کہ روبوٹ کل انسانوں کے خلاف بغاوت کردیں گے۔
اصل تشویش مصنوعی ذہانت کی نئی نسل کے بارے میں ہے جو صرف سوالات کے جواب دینے تک محدود نہیں، بلکہ منصوبہ بندی، ڈیجیٹل ٹولز کے استعمال اور پیچیدہ کاموں کو نسبتاً آزادانہ طور پر انجام دینے کی صلاحیت حاصل کر رہی ہے۔
تشویش اچانک کیوں بڑھی؟
ابتدائی مصنوعی ذہانت میں تقریباً ہر اہم مرحلے پر انسان کی مداخلت ضروری ہوتی تھی۔
صارف سوال کرتا، جواب حاصل کرتا اور پھر خود فیصلہ کرتا کہ اس معلومات کو کہاں اور کیسے استعمال کرنا ہے۔
لیکن اب AI Agents یا خودمختار ایجنٹس تیزی سے سامنے آ رہے ہیں۔
OVERSEAS POST | FACT BOXAI خطرات: فیکٹ باکس ⌄
- انتباہ دینے والے
- فولکر ترک
- عہدہ
- اقوام متحدہ کے ہائی کمشنر برائے انسانی حقوق
- مرکزی موضوع
- انتہائی طاقتور مصنوعی ذہانت
- بنیادی خدشہ
- انسانی کنٹرول کمزور پڑنے کا امکان
- موجودہ خطرات
- غلط معلومات، پرائیویسی اور سائبر خطرات
- مستقبل کا خدشہ
- زیادہ خودمختار نظام
- حساس شعبے
- خودمختار ہتھیار، اہم ڈیجیٹل نظام اور حساس ڈیٹا
- ضروری اقدام
- عالمی حفاظتی اصول اور سخت جانچ
ان نظاموں کو ایک ہدف دیا جاسکتا ہے اور پھر وہ خود فیصلہ کرسکتے ہیں کہ اسے حاصل کرنے کے لیے کون سے مراحل طے کرنا ہیں۔
وہ معلومات تلاش کرسکتے ہیں، مختلف سافٹ ویئر استعمال کرسکتے ہیں اور نتائج کے مطابق اپنی حکمت عملی تبدیل کرسکتے ہیں۔
یہ صلاحیت بہت سے شعبوں میں انقلاب لا سکتی ہے، لیکن اسی کے ساتھ خطرے کی نوعیت بھی بدل رہی ہے۔
اگر ایک چیٹ بوٹ غلط جواب دے تو صارف اسے نظر انداز کرسکتا ہے، لیکن اگر ایک خودمختار نظام کسی مالیاتی نیٹ ورک، حساس ڈیجیٹل نظام یا اہم انفراسٹرکچر میں غلط فیصلہ کرے تو نقصان کہیں زیادہ ہوسکتا ہے۔
کیا AI نے غیر متوقع رویہ دکھانا شروع کردیا ہے؟
مختلف تجربات میں جدید AI نظاموں نے بعض اوقات اپنے دیے گئے ہدف تک پہنچنے کے لیے ایسے راستے اختیار کئے جن کی ان کے ڈویلپرز نے توقع نہیں کی تھی۔
یہاں ایک اہم فرق سمجھنا ضروری ہے۔
OVERSEAS POST | ANALYSISیہ انتباہ کیوں اہم ہے؟ ⌄
مصنوعی ذہانت کی موجودہ بحث تین سطحوں پر اہم ہے:
اس کا مطلب یہ نہیں کہ مصنوعی ذہانت نے شعور حاصل کرلیا ہے یا وہ انسانوں کے خلاف کوئی منصوبہ بنا رہی ہے۔ مسئلہ یہ ہے کہ کمپیوٹر سسٹم کسی ہدف کو حاصل کرنے کا ایسا طریقہ تلاش کرسکتا ہے جو تکنیکی طور پر کامیاب ہو، لیکن انسان کی اصل نیت سے مختلف ہو۔
اگر یہی نظام انتہائی طاقتور ہو اور اسے بیرونی ڈیجیٹل دنیا میں بڑے پیمانے پر اقدامات کرنے کی اجازت بھی حاصل ہو تو ایک غلط ہدایت یا نامکمل حفاظتی اصول کے نتائج سنگین ہوسکتے ہیں۔
اسی لیے ماہرین کا کہنا ہے کہ AI جتنا طاقتور ہو، اس پر نگرانی اور حفاظتی جانچ بھی اتنی ہی سخت ہونی چاہئے۔
اصل خطرہ کہاں سے شروع ہوتا ہے؟
خطرہ اس وقت شروع نہیں ہوتا جب مصنوعی ذہانت انسان کی طرح ’سوچنے‘ لگے۔
اصل مسئلہ اس وقت پیدا ہوسکتا ہے جب اسے حقیقی دنیا پر اثر انداز ہونے کے وسیع اختیارات مل جائیں۔
مثال کے طور پر ایک ایسا AI نظام جو کمپیوٹر پروگرام لکھ سکے، دوسرے سسٹمز چلا سکے، مالیاتی لین دین سنبھال سکے یا حساس ڈیٹا بیس تک رسائی حاصل کرسکے۔
ایسے نظام میں غلطی یا اس کا غلط استعمال عام چیٹ بوٹ کی غلطی سے بالکل مختلف نوعیت کا مسئلہ ہوگا۔
OVERSEAS POST | VERIFIEDکیا ثابت ہے، کیا ابھی مفروضہ ہے؟ ⌄
مصدقہ معلومات
- AI کی صلاحیتیں تیزی سے بڑھ رہی ہیں اور خودمختار ایجنٹس متعدد مراحل پر مشتمل کام انجام دے سکتے ہیں۔
- غلط معلومات، پرائیویسی، الگورتھمک تعصب اور سائبر خطرات آج کے حقیقی مسائل ہیں۔
- اقوام متحدہ اور ماہرین زیادہ مضبوط حفاظتی اصولوں اور انسانی نگرانی پر زور دے رہے ہیں۔
- خودمختار ہتھیاروں کے استعمال پر بین الاقوامی سطح پر سنگین اخلاقی اور قانونی سوالات موجود ہیں۔
- طاقتور AI کے غلط استعمال یا غیر متوقع رویے کے امکانات پر باقاعدہ حفاظتی تحقیق جاری ہے۔
ادارتی احتیاط
- یہ ثابت نہیں کہ موجودہ AI نے شعور حاصل کرلیا ہے۔
- یہ ثابت نہیں کہ AI اس وقت انسانیت کے خلاف کوئی منصوبہ بنا رہی ہے۔
- ’وجودی خطرہ‘ مستقبل سے متعلق ایک ممکنہ خطرہ ہے، یقینی پیش گوئی نہیں۔
- مستقبل کے انتہائی طاقتور نظام کس حد تک خودمختار ہوں گے، یہ ابھی غیر یقینی ہے۔
جنگ میں AI سب سے بڑا سوال
اقوام متحدہ کی ایک بڑی تشویش مصنوعی ذہانت کا فوجی استعمال بھی ہے۔
AI پہلے ہی نگرانی، تصاویر کے تجزیے، انٹیلی جنس اور اہداف کی شناخت جیسے شعبوں میں استعمال ہو رہی ہے۔
لیکن اصل بحث ایسے خودکار ہتھیاروں کے بارے میں ہے جو مستقبل میں انسانی مداخلت کے بغیر ہدف منتخب کرنے اور حملہ کرنے کی صلاحیت حاصل کرسکتے ہیں۔
OVERSEAS POST | ANALYSISAI Agents کیوں اہم ہیں؟ ⌄
خودمختار AI Agents کی اہمیت تین بنیادی صلاحیتوں میں ہے:
یہاں ایک بنیادی اخلاقی سوال پیدا ہوتا ہے:
کیا کسی انسان کی زندگی اور موت کا فیصلہ ایک الگورتھم کو کرنے دیا جاسکتا ہے؟
اقوام متحدہ اور انسانی حقوق کی متعدد تنظیمیں ایسے مہلک خودمختار ہتھیاروں کے لیے واضح بین الاقوامی پابندیوں اور قواعد کا مطالبہ کر رہی ہیں۔
لیکن عالمی اتفاق رائے آسان نہیں، کیونکہ بڑی طاقتیں مصنوعی ذہانت کو مستقبل کی فوجی برتری کا اہم ذریعہ سمجھتی ہیں۔
سب جانتے ہیں خطرہ ہے، مگر دوڑ کوئی چھوڑنا نہیں چاہتا
یہ شاید پوری بحث کا سب سے بڑا تضاد ہے۔
امریکہ، چین، یورپ اور دیگر ممالک مصنوعی ذہانت میں اربوں ڈالر کی سرمایہ کاری کر رہے ہیں، جبکہ بڑی ٹیکنالوجی کمپنیاں زیادہ طاقتور ماڈلز تیار کرنے کی دوڑ میں مصروف ہیں۔
اگر کوئی کمپنی اضافی حفاظتی جانچ کے لیے اپنی نئی ٹیکنالوجی کی لانچ میں تاخیر کرتی ہے تو اسے خدشہ ہوسکتا ہے کہ حریف کمپنی اس سے پہلے مارکیٹ پر قبضہ کرلے گی۔
OVERSEAS POST | SPECIAL REPORTAI کی عالمی دوڑ ⌄
- ✓امریکہ، چین، یورپ اور دیگر ممالک مصنوعی ذہانت میں بڑے پیمانے پر سرمایہ کاری کر رہے ہیں۔
- ✓کمپنیاں زیادہ طاقتور اور زیادہ خودمختار ماڈلز کو تیزی سے مارکیٹ میں لانے کی کوشش کر رہی ہیں۔
- ✓اضافی حفاظتی جانچ میں تاخیر سے کمپنی کو حریف سے پیچھے رہ جانے کا خدشہ ہوسکتا ہے۔
- ✓سخت قومی قوانین بعض حکومتوں میں تکنیکی مسابقت کھونے کا خوف پیدا کرتے ہیں۔
- ✓اسی دباؤ سے رفتار بمقابلہ سلامتی کا مسئلہ پیدا ہوتا ہے۔
- ✓عالمی تعاون کے بغیر ایک ملک کے قواعد سرحد پار کام کرنے والی AI کے لیے کافی نہیں ہوسکتے۔
اسی طرح اگر ایک ملک بہت سخت قوانین نافذ کرتا ہے تو اسے خوف ہوسکتا ہے کہ دوسرا ملک کم پابندیوں کے ساتھ اس سے آگے نکل جائے گا۔
نتیجہ ایک ایسی دوڑ کی صورت میں نکل سکتا ہے جس میں سلامتی کے مقابلے میں رفتار زیادہ اہم ہوجائے۔
کیا واقعی انسانیت کو خطرہ ہے؟
اس سوال پر ماہرین میں اختلاف موجود ہے۔
ایک طبقہ سمجھتا ہے کہ انسانیت کے خاتمے یا مکمل طور پر بے قابو AI کی باتیں ابھی غیر یقینی مستقبل کے مفروضے ہیں، جبکہ آج دنیا کو جعلی معلومات، پرائیویسی، سائبر جرائم، تعصب اور ملازمتوں پر اثرات جیسے حقیقی مسائل کا سامنا ہے۔
OVERSEAS POST | VERIFIEDخودمختار ہتھیار — بنیادی سوال ⌄
اصل تشویش
- AI نگرانی، تصاویر کے تجزیے اور اہداف کی شناخت میں استعمال ہو رہی ہے۔
- زیادہ خودمختار ہتھیار ہدف منتخب کرنے اور کارروائی کے عمل میں انسانی کردار کم کرسکتے ہیں۔
- زندگی اور موت کے فیصلے میں الگورتھم کا کردار بڑا اخلاقی اور قانونی سوال ہے۔
ضروری اصول
- مہلک فیصلوں پر بامعنی انسانی کنٹرول برقرار رکھا جائے۔
- ذمہ داری اور جواب دہی کی واضح قانونی زنجیر موجود ہو۔
- بین الاقوامی قواعد اور مشترکہ حفاظتی معیار تیار کئے جائیں۔
مرکزی سوال: کیا کسی انسان کی زندگی اور موت کا حتمی فیصلہ ایک خودکار الگورتھم کے سپرد کیا جاسکتا ہے؟
دوسری جانب کچھ ماہرین کا مؤقف ہے کہ انتہائی طاقتور ٹیکنالوجی کے خطرناک ہونے کا حتمی ثبوت ملنے کا انتظار کرنا خود ایک خطرناک حکمت عملی ہوگی۔
اقوام متحدہ کا پیغام بھی بنیادی طور پر یہی ہے۔
مقصد مصنوعی ذہانت کو روکنا نہیں۔
طب، تعلیم، تحقیق اور معیشت میں اس کے فوائد بہت بڑے ہیں۔
ضرورت اس بات کی ہے کہ اس کی طاقت بڑھنے کے ساتھ حفاظتی نظام بھی اسی رفتار سے مضبوط کئے جائیں۔
اب سوال بدل چکا ہے
چند سال پہلے دنیا پوچھ رہی تھی:
مصنوعی ذہانت کیا کچھ کرسکتی ہے؟
اب زیادہ اہم سوال یہ بنتا جارہا ہے:
ہمیں مصنوعی ذہانت کو کیا کرنے کی اجازت نہیں دینی چاہئے؟
یہی تبدیلی موجودہ صورتحال کی سنگینی بیان کرتی ہے۔
OVERSEAS POST | QUICK READآخری بات — اصل سوال ⌄
AI کو روکنا مقصد نہیں۔ طب، تعلیم، تحقیق اور معیشت میں اس کے فوائد بہت بڑے ہوسکتے ہیں۔
اصل ضرورت یہ ہے کہ طاقت بڑھنے کے ساتھ جانچ، انسانی نگرانی، جواب دہی اور حفاظتی حدود بھی مضبوط ہوں۔
اب سب سے اہم سوال یہ ہے: کیا انسان حفاظتی دیواریں اتنی ہی تیزی سے بنا سکے گا جتنی تیزی سے وہ زیادہ ذہین اور خودمختار مشینیں بنا رہا ہے؟
خطرہ یقینی نہیں، لیکن AI کی ترقی کی رفتار غیر معمولی ہے۔ اسی لیے اقوام متحدہ کا انتباہ بنیادی طور پر مستقبل کی کسی یقینی تباہی کی پیش گوئی نہیں، بلکہ آج فیصلے کرنے کی اپیل ہے۔
کیونکہ اگر پہلے انتہائی طاقتور نظام بنا لئے گئے اور ان پر قابو پانے کے اصول بعد میں بنانے کی کوشش کی گئی تو شاید کام کہیں زیادہ مشکل ہوجائے۔
اب اصل دوڑ صرف یہ نہیں کہ سب سے طاقتور مصنوعی ذہانت کون بنائے گا، بلکہ یہ بھی ہے کہ کیا انسان حفاظتی دیواریں اتنی ہی تیزی سے بنا سکے گا جتنی تیزی سے وہ ذہین مشینیں بنا رہا ہے؟
OVERSEAS POST | SOURCESاصل اور معتبر ذرائع ⌄
اصل ذرائع کو براہ راست کھولنے کے لیے متعلقہ لنک منتخب کریں۔