اے آئی کے بے قابو ہونے سے خطرے میں پڑ سکتا ہے انسانی وجود! سابق اینتھروپک محقق کی وارننگ

جہاں ایک طرف اے آئی یعنی مصنوعی ذہانت ہماری زندگی کا حصہ بنتے جا رہا ہے، ہمارے کاموں کو آسان کر رہا ہے۔ دوسری جانب ماہرین اس حوالے سے تشویش کا بھی اظہار کر رہے ہیں۔ جیسے جیسے اے آئی سسٹم زیادہ باصلاحیت اور کارآمد ہو رہا ہے، ویسے ہی اس کے کنٹرول سیکورٹی سے متعلق بھی سنگین سوالات کھڑے ہو رہے ہیں۔ کیا اے آئی سسٹم میں برتی گئی لاپرواہی واقعی میں انسانی وجود کے خاتمے کی وجہ بن سکتی ہے؟ ایسا کہنا ہے کہ سابق اینتھروپک محقق جیکب کاکسن کا۔ حال ہی میں ایک سماعت کے دوران اے آئی کے حوالے سے جیکب نے سنگین وارننگ دی ہے۔ ان کا کہنا ہے کہ اب تک انسان یہ نہیں جانتا کہ کسی اے آئی سسٹم کو پوری طرح کنٹرول میں کیسے رکھا جائے۔ ان کا کہنا ہے کہ اگر اے آئی کمپنیوں نے سیکورٹی کے حوالے سے مناسب اقدامات نہیں کیے تو مستقبل میں حالات انتہائی سنگین ہو سکتے ہیں۔

نیویارک سٹی کونسل کی سماعت میں بولتے ہوئے کاکسن نے کہا تھا کہ اب تک ایسا کوئی اے آئی سسٹم نہیں ہے جس کے بارے میں یہ یقین کے ساتھ کہا جا سکے کہ انسان اسے پوری طرح کنٹرول کرنا جانتے ہیں۔ انہوں نے اے آئی کے لیے استعمال ہونے والے ’کِل سوئچ‘ یعنی کسی سسٹم کو فوری طور پر بند کرنے کا طریقہ کا بھی ذکر کیا۔ کاکسن کے مطابق یہ کسی فوری یا قلیل مدتی مسائل کو روکنے میں مدد کر سکتا ہے، لیکن طویل مدتی بنیادوں میں اے آئی سیکورٹی کے پورے مسائل کا حل نہیں ہے۔ ان کی تشویش خاص طور پر مستقبل کے زیادہ طاقتور اے آئی سسٹم کو لے کر ہے۔

کاکسن نے اے آئی کی موجودہ ترقی کی سمت کے حوالے سے اپنی تشویش کا اظہار انتہائی واضح الفاظ میں کیا۔ ان کا اندازہ ہے اگر اے آئی کمپنیاں اسی طرح آگے بڑھتی رہیں اور سیکورٹی کو مناسب ترجیح نہیں دی گئی تو مستقبل میں انسان ایسے اے آئی سسٹم بنا سکتا ہے جنہیں کنٹرول کرنا مشکل ہو جائے گا۔ انہوں نے یہاں تک وارننگ دی کہ اگر موجودہ راستہ نہیں بدلا گیا تو اے آئی کے کنٹرول میں آنے اور بالآخر انسانی وجود کے خاتمے جیسی صورتحال پیدا ہونے کے امکان کو نظر انداز نہیں کیا جا سکتا۔ کاکسن کا کہنا ہے کہ اے آئی کو لے کر داؤ بہت بڑا ہے، لیکن اس کے باوجود کمپنیاں جس طرح آگے بڑھ رہی ہیں، وہ ان کے تجربے کی بنیاد پر لاپرواہ نظر آتا ہے۔

کاکسن نے اے آئی کمپنیوں کے کام کرنے کے انداز کا موازنہ ٹیک اسٹارٹ اپس کی پرانی سوچ سے کرتے ہوئے کہا کہ ’فاسٹ موو، بریک تھنگس، فکس لیٹر‘۔ اس ماڈل میں کمپنیاں تیزی سے نئے پروڈکٹس اور ٹیکنالوجی بناتی ہیں، اگر کچھ غلط ہوتا ہے تو بعد میں اسے ٹھیک کرنے کی کوشش کرتی ہیں۔ کاکسن کے مطابق فوٹو شیئرنگ ایپ یا کسی عام ٹیک پروڈکٹ کے لیے یہ طریقہ شاید کارگر ثابت ہو سکتا ہے۔ لیکن جب بات دنیا کی طاقتور ترین ٹیکنالوجیز میں سے ایک تیار کرنے کی ہو تو یہی سوچ خطرناک ثابت ہو سکتی ہے۔ ان کا سوال یہی ہے کہ کیا اے آئی جیسی طاقتور ٹیکنالوجی کے معاملے میں سب سے پہلے اس کی حفاظت کو یقینی بنانا ضروری نہیں ہونا چاہیے؟

کاکسن نے اپنی بات سمجھاتے ہوئے ہگنگ فیس سے جڑے ایک واقعے کا بھی ذکر کیا۔ ان کے مطابق اس واقعے میں سینکڑوں راگ اوپن اے آئی ایجنٹس نے امریکی کمپنی کو ہیک کرنے کی کوشش کی۔ ان کا دعویٰ ہے کہ ان اے آئی سسٹمز نے ایسے اہداف تیار کر لیے تھے، جنہیں بنانے کا اصل مقصد نہیں تھا۔ اس کے بعد انہوں نے ایسے کام کیے، جنہیں اگر کوئی انسان کرتا تو وہ وفاقی جرم کے زمرے میں آ سکتے تھے۔ کاکسن کے مطابق یہ واقعہ اس بات کی مثال ہے کہ اے آئی سسٹم کو دی گئی بنیادی ہدایات اور اس کے اصل رویے کے درمیان کتنا فرق پیدا ہو سکتا ہے۔ ان کی تشویش یہ ہے کہ اگر آج کے اے آئی سسٹمز ایسی غیر متوقع سرگرمیاں انجام دے سکتے ہیں تو مستقبل کے زیادہ باصلاحیت اے آئی کے معاملے میں یہ خطرہ کہیں زیادہ بڑا ہو سکتا ہے۔

نیویارک سٹی کونسل کی اس سماعت میں صرف کاکسن ہی نہیں، بلکہ اوپن اے آئی، اینتھروپک، گوگل اور میٹا کے نمائندے بھی موجود تھے۔ سماعت کے دوران اے آئی سے متعلق کئی ممکنہ حفاظتی اقدامات پر بحث ہوئی۔ ان میں اے آئی سے متعلق معاملات میں وِسل بلوئر کے تحفظ، اے آئی سے نقصان پہنچنے کی صورت میں لوگوں کو قانونی کارروائی کا حق اور کچھ اے آئی سسٹمز کے لیے تھرڈ پارٹی ویلیڈیشن جیسے تجاویز شامل تھیں۔ تھرڈ پارٹی ویلیڈیشن کا مطلب ہے کہ اے آئی سسٹم کی حفاظت اور صلاحیت کا جائزہ صرف اسے تیار کرنے والی کمپنی نہ لے، بلکہ کسی آزاد بیرونی ادارے سے بھی اس کی جانچ کرائی جائے۔