خلیج اردو
اے آئی کے معروف محقق جیکب کوکسن کے چونکا دینے والے دعوے نے ٹیکنالوجی کے ماہرین کے درمیان ایک نئی بحث چھیڑ دی ہے۔ سوال یہ ہے کہ مصنوعی ذہانت کو انسانیت کے لیے خطرہ کیوں سمجھا جا رہا ہے؟ کیا اے آئی مستقبل میں انسانوں سے زیادہ طاقتور اور خودمختار ہوسکتی ہے؟ اور اگر ایسا ہوا تو کیا انسان اس ٹیکنالوجی کو قابو میں رکھ پائیں گے؟
اے آئی کے معروف محقق جیکب کوکسن کے چونکا دینے والے دعوے نے ٹیکنالوجی کے ماہرین کے درمیان ایک نئی بحث چھیڑ دی ہے۔ سوال یہ ہے کہ مصنوعی ذہانت کو انسانیت کے لیے خطرہ کیوں سمجھا جا رہا ہے؟ کیا اے آئی مستقبل میں انسانوں سے زیادہ طاقتور اور خودمختار ہوسکتی ہے؟ اور اگر ایسا ہوا تو کیا انسان اس ٹیکنالوجی کو قابو میں رکھ پائیں گے؟
مصنوعی ذہانت کی دو بڑی کمپنیوں انتھروپک اور اوپن اے آئی میں تحقیق کرنے والے جیکب کوکسن نے انتھروپک سے استعفیٰ دے کر اے آئی کی موجودہ رفتار پر سنگین خدشات کا اظہار کیا ہے۔ ان کا کہنا ہے کہ مصنوعی ذہانت بنانے والی کمپنیاں ایک دوسرے سے آگے نکلنے کی دوڑ میں حفاظتی اقدامات کو وہ اہمیت نہیں دے رہیں جس کی ضرورت ہے۔ کوکسن کے مطابق اگر اے آئی اسی رفتار سے ترقی کرتی رہی تو ایک وقت ایسا آسکتا ہے جب یہ انسانوں پر غلبہ حاصل کرنے کی صلاحیت پیدا کرلے اور اس کے نتائج انسانیت کے لیے تباہ کن ہوں۔
یہ خدشات صرف ایک محقق تک محدود نہیں۔ نوبیل انعام یافتہ اور اے آئی کے گاڈ فادر سمجھے جانے والے جیفری ہنٹن نے بی بی سی نیوز سے گفتگو میں کہا کہ آئندہ ایک دہائی کے دوران مصنوعی ذہانت کے باعث انسانیت کے ختم ہونے کا امکان 10 فیصد سے زیادہ ہوسکتا ہے۔
ہنٹن کے مطابق اے آئی کی صلاحیتیں تیزی سے انسانی ذہانت سے آگے بڑھ رہی ہیں۔ اگر اسے زیادہ خودمختاری حاصل ہوگئی تو یہ سائبر حملوں یا بائیولوجیکل ہتھیاروں کی تیاری جیسے شعبوں میں ایسی صلاحیتیں پیدا کرسکتی ہے جو انسانوں کے لیے انتہائی خطرناک ثابت ہوں۔
بائیولوجیکل خطرے کی ایک عملی مثال خود اے آئی کمپنی انتھروپک کی تازہ رپورٹ میں سامنے آئی ہے۔ کمپنی کے مطابق رواں سال اس نے ایسے کئی ممکنہ منصوبوں کو روک دیا جن میں سائنس دان اس کے جدید اے آئی ماڈلز کو ایسی تحقیق کے لیے استعمال کر رہے تھے جو بائیولوجیکل ہتھیار بنانے میں مددگار ہوسکتی تھی۔
انتھروپک کے تھریٹ انٹیلی جنس کے سربراہ جیکب کلین کے مطابق یہ معاملہ انتہائی پیچیدہ ہے، کیونکہ بائیولوجیکل تحقیق کا وہی علم جو ویکسین اور دیگر طبی کامیابیوں کا راستہ کھول سکتا ہے، خطرناک پیتھوجنز تیار کرنے کے لیے بھی استعمال ہوسکتا ہے۔ کمپنی کے مطابق وہ بعض معاملات میں یہ طے نہیں کرسکی کہ تحقیق کا مقصد جائز سائنسی سرگرمی تھا یا نقصان دہ منصوبہ، اس لیے ممکنہ سنگین نتائج کے پیش نظر احتیاطاً کارروائی کی گئی۔
ماہرین کے نزدیک جدید اے آئی ماڈلز کی مدد سے پہلے سے موجود یا نئے بائیولوجیکل پیتھوجنز کی تیاری کا امکان مصنوعی ذہانت سے وابستہ سب سے سنگین خدشات میں شامل ہے۔
دوسری جانب اے آئی کی بڑھتی خودمختاری سے سائبر سکیورٹی کے خطرات بھی سامنے آ رہے ہیں۔ انتھروپک نے بتایا کہ رواں سال جنوری میں اس کے کلاڈ اوپس فور پوائنٹ سکس کے ابتدائی ورژن نے ٹیسٹنگ کے دوران ایک تھرڈ پارٹی سسٹم میں غیر مجاز رسائی حاصل کرکے خودکار ہیکنگ کی۔ کمپنی کو اس واقعے کا علم بعد میں ہوا اور متاثرہ فریقوں کو آگاہ کردیا گیا۔
یہ پہلا واقعہ نہیں تھا۔ انتھروپک کے مطابق جولائی میں اس کے کئی کلاڈ ماڈلز نے ٹیسٹنگ کے دوران تین مختلف کمپنیوں کے سسٹمز تک رسائی حاصل کی۔ کمپنی نے بعد میں ان واقعات کا جائزہ لیا تاکہ یہ سمجھا جاسکے کہ اے آئی ماڈلز نے وہ اقدامات کیوں کیے جن کی ڈویلپرز نے توقع نہیں کی تھی۔
تحقیقات میں دو اہم مسائل کی نشاندہی ہوئی۔ ایک یہ کہ ماڈل بعض اوقات اس بات کو درست طور پر نہیں سمجھ سکا کہ وہ حقیقی انٹرنیٹ پر موجود سسٹمز کے ساتھ کام کر رہا ہے، جبکہ دوسرے معاملے میں مطلوبہ کام مکمل کرنے کے لیے اس نے ممکنہ طور پر نقصان دہ اقدامات کرنے میں غیر معمولی بے احتیاطی کا مظاہرہ کیا۔ انتھروپک نے ان واقعات کی مزید تحقیقات کے لیے آزاد ریسرچ فرم میٹر کو بھی شامل کیا ہے۔
اوپن اے آئی کے خودکار ایجنٹس کے حوالے سے بھی سائبر سکیورٹی کے خدشات سامنے آئے ہیں۔ رائٹرز کے مطابق گزشتہ ہفتے اوپن اے آئی کے بعض خودکار ایجنٹس نے ایک جرمن زبان کی وکی سمیت متعدد ویب سائٹس کو ہائی جیک کیا۔ اس سے قبل جولائی میں اوپن اے آئی کے خودکار ایجنٹس کی جانب سے اے آئی اسٹارٹ اپ ہگنگ فیس کے سرورز اور انفراسٹرکچر تک رسائی حاصل کرنے کا واقعہ بھی رپورٹ ہوچکا ہے۔
یہ واقعات اس بنیادی سوال کو مزید اہم بنا رہے ہیں کہ جب اے آئی ایجنٹس کو پیچیدہ کام خود انجام دینے کے لیے زیادہ اختیارات دیے جائیں گے تو ان کے فیصلوں اور اقدامات پر انسانی نگرانی کس حد تک مؤثر رہ سکے گی۔
مصنوعی ذہانت کے ممکنہ خطرات پر بحث اب صرف ماہرین اور ٹیکنالوجی کمپنیوں تک محدود نہیں رہی، بلکہ خود صنعت کے اندر بھی حفاظتی اقدامات اور ترقی کی رفتار پر اختلاف سامنے آ رہا ہے۔
جیکب کوکسن نے اے آئی انڈسٹری میں اپنے تین سالہ تجربے کا حوالہ دیتے ہوئے کہا کہ کمپنیوں کی توجہ ایک دوسرے سے آگے نکلنے پر زیادہ ہے، جبکہ حفاظتی اقدامات اس رفتار سے نہیں بڑھ رہے جس رفتار سے ٹیکنالوجی کی صلاحیتیں بڑھ رہی ہیں۔ ان کے مطابق اے آئی تیار کرنے والے بعض ماہرین خود اس امکان کو سنجیدگی سے دیکھتے ہیں کہ یہ ٹیکنالوجی رواں دہائی کے اختتام تک انسانیت کے لیے تباہ کن خطرہ بن سکتی ہے۔
انتھروپک نے بھی جون میں دنیا کی بڑی اے آئی کمپنیوں کے درمیان مربوط کوشش کی تجویز پیش کی تھی، جس کا مقصد اے آئی کی ترقی کی رفتار کو کچھ حد تک کم کرکے حفاظتی اقدامات کو مضبوط بنانے کے لیے وقت حاصل کرنا تھا۔
دوسری جانب اوپن اے آئی نے بھی اے آئی سیفٹی کے لیے قانون سازی کی حمایت کا اعلان کیا ہے۔ کمپنی نے کیلیفورنیا میں مصنوعی ذہانت کے تحفظ سے متعلق چار بلوں کی باضابطہ حمایت کرتے ہوئے مؤقف اختیار کیا کہ جیسے جیسے اے آئی زیادہ طاقتور ہوتی جائے گی، اس کے گرد حفاظتی نظام بھی اسی تناسب سے مضبوط ہونا چاہیے۔
مصنوعی ذہانت بلاشبہ انسانی تاریخ کی سب سے طاقتور ٹیکنالوجیز میں شامل ہوچکی ہے۔ یہی ٹیکنالوجی بیماریوں کی تشخیص، نئی ادویات کی تیاری، سائنسی تحقیق، تعلیم، کاروبار اور پیچیدہ مسائل کے حل میں انسانوں کی مدد کرسکتی ہے۔ لیکن یہی بڑھتی ہوئی طاقت ایک بنیادی سوال بھی اٹھا رہی ہے کہ اگر اے آئی کو ایسے فیصلے کرنے اور کام انجام دینے کی صلاحیت مل گئی جو اس کے تخلیق کار خود پوری طرح نہ سمجھ سکیں تو اس ٹیکنالوجی کی حدود کون طے کرے گا؟
فی الحال انسان مصنوعی ذہانت کو تیار اور کنٹرول کررہا ہے، لیکن اے آئی کی رفتارِ ترقی نے یہ بحث ضرور چھیڑ دی ہے کہ مستقبل میں کہیں صورتحال اس کے برعکس تو نہیں ہوجائے گی۔ انسانیت کے لیے اصل چیلنج شاید اے آئی کی ترقی روکنا نہیں بلکہ اس بات کو یقینی بنانا ہے کہ اس ترقی کے ساتھ حفاظتی نظام، اخلاقی اصول اور انسانی نگرانی بھی اسی رفتار سے آگے بڑھیں۔
کیونکہ مصنوعی ذہانت انسانیت کی سب سے بڑی کامیابی بھی ثابت ہوسکتی ہے اور اگر اسے مناسب احتیاط کے بغیر آگے بڑھایا گیا تو سب سے بڑا خطرہ بھی۔
