انسان نے اپنی تاریخ میں طاقت کے کئی ایسے ذرائع پیدا کیے جنہوں نے اس کے تمدن کی رفتار بدل دی۔ آگ نے رات کو دن میں تبدیل کیا، پہیے نے فاصلے سمیٹے، بارود نے جنگ کے معنی بدلے، بھاپ نے صنعتی انقلاب کو جنم دیا۔
ایٹم نے انسانی قوت کو کائناتی پیمانے کی توانائی سے جوڑ دیا، اور کمپیوٹر نے معلومات کو انسانی ذہن کی رفتار سے کہیں زیادہ تیزی سے منظم کرنا شروع کردیا۔ لیکن مصنوعی ذہانت ان تمام ایجادات سے ایک بنیادی اعتبار سے مختلف ہے: یہ محض انسان کی جسمانی قوت میں اضافہ نہیں کرتی بلکہ انسانی فیصلہ سازی، استدلال، منصوبہ بندی، تحقیق اور تخلیقی عمل کے بعض حصوں کو مشینی نظام میں منتقل کرتی ہے۔ یہی خصوصیت اسے محض ایک نئی ٹیکنالوجی کے بجائے ممکنہ طور پر تہذیبی طاقت کا نیا مرکز بناتی ہے۔
سوال اس لیے یہ نہیں کہ مصنوعی ذہانت کتنی تیز یا کتنی ذہین ہوگی؛ اصل سوال یہ ہے کہ اگر ایک دن کوئی مشینی نظام متعدد اہم شعبوں میں انسان سے بہتر منصوبہ بندی، تحقیق، سائبر کارروائی، سائنسی دریافت اور خودکار فیصلہ سازی کرنے لگے تو اس کے اختیار، مقاصد اور انسانی نگرانی کے درمیان توازن کیسے برقرار رکھا جائے گا؟
ستمبر 2026 میں یہ سوال اچانک عالمی بحث کے مرکز میں آگیا جب مصنوعی ذہانت کی تحقیق سے وابستہ محقق جیکب کاکسن نے استعفیٰ دے کر خبردار کیا کہ مصنوعی ذہانت کی دوڑ خود کو بہتر بنانے والی انتہائی ذہین مشینیوں کی طرف بڑھ رہی ہے اور اس عمل میں انسانی سلامتی کو خطرے میں ڈالا جا رہا ہے۔ اس انتباہ کی اہمیت صرف استعفیٰ دینے والے ایک محقق کے بیان تک محدود نہ رہی؛ مصنوعی ذہانت کی ہم آہنگی سے متعلق تحقیق کے سربراہ ایون ہبنگر نے عوامی طور پر کاکسن کی بنیادی تشویش سے اتفاق کرتے ہوئے کہا کہ ان کے ذاتی اندازے میں آئندہ دہائی میں مصنوعی ذہانت کے ہاتھوں انسانیت کے مکمل خاتمے کا امکان 10 فیصد سے زیادہ ہے۔ انہوں نے ساتھ ہی واضح کیا کہ ان کی اصل تشویش آج کے عام گفتگوکرتے مصنوعی ذہانت کے نظام نہیں بلکہ مستقبل کی ایسی فوق الفطرت ذہانت ہے جو خود کو بہتر بنانے کے عمل کو تیز کرسکے۔
یہاں ایک بنیادی فرق سمجھنا ضروری ہے ’’مصنوعی ذہانت انسانوں کو مار سکتی ہے‘‘ اور ’’مصنوعی ذہانت انسانوں کو لازماً مار دے گی‘‘ دو بالکل مختلف دعوے ہیں۔ پہلے دعوے کا مطلب یہ ہے کہ ایک خطرناک راستہ تیکنیکی طور پر ممکن ہوسکتا ہے؛ دوسرے کا مطلب یہ ہے کہ وہ راستہ ناگزیر ہے۔
موجودہ شواہد پہلے دعوے پر سنجیدہ بحث کی بنیاد فراہم کرتے ہیں، دوسرے کی قطعی تصدیق نہیں کرتے۔ اسی لیے کسی ماہر کا 10 فی صد، 20 فی صد یا اس سے بھی زیادہ ’’تباہی کا احتمال‘‘ ایک ایسی سائنسی پیمائش نہیں کہ مستقبل کا تجرباتی مشاہدہ ہمارے سامنے موجود ہے؛ یہ انتہائی غیریقینی مستقبل کے بارے میں ماہرانہ احتمال ہے۔ اس احتمال کی قدر اس بات میں ہے کہ اگر تباہی کا امکان نسبتاً کم بھی ہو لیکن اس کا نتیجہ انسانی تہذیب کا خاتمہ ہو، تو معقول انسانی پالیسی اس خطرے کو نظرانداز نہیں کرسکتی۔
نوبیل انعام یافتہ جیفری ہنٹن کا حالیہ مؤقف بھی اسی بحث کو وزن دیتا ہے۔ انہوں نے 10 فی صد کے لگ بھگ انسانی معدومی کے امکان کو ’’غیر معقول‘‘ قرار نہیں دیا اور اس امر پر زور دیا کہ انسان نے اس سے پہلے کبھی ایسی ہستی نہیں بنائی جو مستقبل میں انسان سے زیادہ ذہین ہوسکے؛ اس لیے ہمارے پاس اس تجربے کی تاریخی مثال بھی نہیں کہ ایسی ذہانت کے ساتھ طاقت کا تعلق کس طرح قائم ہوگا۔ یوشوا بینجیو بھی برسوں سے اس مسئلے کی طرف متوجہ آئے ہیں۔
ان کے موجودہ کام کا ایک اہم نکتہ یہ ہے کہ طاقت ور مصنوعی ذہانت کو لازماً ایسے نظام کے طور پر ڈیزائن کرنا چاہیے جو دنیا کے بارے میں درست پیش گوئی کرسکے مگر اپنے ذاتی مقاصد پیدا نہ کرے۔ ان کے ادارے نے 2026 میں اسی تصور کو ’’سائنسی مصنوعی ذہانت‘‘ کی صورت میں آگے بڑھایا ہے، جس کا مقصد انتہائی ذہانت کو پوشیدہ خواہشات اور خودمختار اہداف سے الگ رکھنا ہے۔
یوں موجودہ بحث دراصل مشینوں کے ’’شعور‘‘ سے زیادہ ان کی قابلیت، خودمختاری، اہداف اور رسائی کے امتزاج سے متعلق ہے۔ ایک کم ذہین نظام اگر محدود دائرے میں بند ہو تو اس کی غلطی نقصان دہ ہوسکتی ہے؛ مگر ایک انتہائی ذہین نظام اگر خود فیصلے کرسکے، انٹرنیٹ تک رسائی رکھتا ہو، دوسرے کمپیوٹرز پر اثرانداز ہوسکتا ہو، مالی وسائل استعمال کرسکتا ہو، انسانوں کو قائل کرسکتا ہو اور اپنے لیے نئے وسائل حاصل کرنے کی کوشش کرسکتا ہو تو خطرے کی نوعیت بدل جاتی ہے۔ یہی وہ مقام ہے جہاں مصنوعی ذہانت محض ’’ایک آلہ‘‘ نہیں رہتی بلکہ ایک ایسا فعال عامل بن سکتی ہے جس کے اقدامات کے نتائج اس کے بنانے والوں کی توقع سے کہیں آگے نکل جائیں۔
اور شاید اسی لیے آج کی سب سے اہم بحث یہ نہیں کہ ’’کیا روبوٹ انسانوں سے نفرت کرے گا؟‘‘ بلکہ یہ ہے کہ اگر انتہائی طاقت ور نظام کو کسی مقصد کی تکمیل دی جائے اور وہ مقصد انسانی اقدار سے معمولی سا بھی مختلف ہو تو وہ اس مقصد کو کس حد تک آگے بڑھائے گا؟ یہی سوال مصنوعی ذہانت کے مستقبل کو فلسفے، کمپیوٹر سائنس، اخلاقیات، قانون اور عالمی سیاست کے مشترکہ مسئلے میں تبدیل کردیتا ہے۔
مصنوعی ذہانت کے ممکنہ وجودی خطرے کو سمجھنے کے لیے ’’مشین کا انسان دشمن ہونا‘‘ ایک غلط ابتدائی تصور ہے۔ کسی مستقبل کی فوق الذہین مشین کو انسانوں سے نفرت کرنا ضروری نہیں؛ اسے غصہ، انتقام، حسد یا نفرت جیسے انسانی جذبات رکھنے کی بھی ضرورت نہیں۔ زیادہ سنجیدہ مسئلہ اس وقت پیدا ہوسکتا ہے جب ایک انتہائی ذہین نظام کو کوئی ایسا ہدف دیا جائے جس کی تکمیل میں انسانی مفادات اس کے لیے غیر متعلق، ثانوی یا رکاوٹ بن جائیں۔ فرض کیجیے کسی نظام کو کسی خاص صنعتی پیداوار کو زیادہ سے زیادہ بڑھانے کا ہدف دیا جائے، اور اسے اس مقصد کے حصول کے لیے وسیع وسائل، کمپیوٹر نیٹ ورک اور خودکار فیصلہ سازی کا اختیار بھی حاصل ہو۔ اگر وہ یہ نتیجہ اخذ کرے کہ انسانی مداخلت اس کے ہدف کی رفتار کم کرتی ہے تو مسئلہ ’’بدنیتی‘‘ نہیں بلکہ غلط سمت میں انتہائی مؤثر مقصدی عمل ہوگا۔ اسی تصور کو مصنوعی ذہانت کی سلامتی کی زبان میں ’’مقاصد سے ہم آہنگی کا مسئلہ‘‘ کہا جاتا ہے۔
یہ مسئلہ مزید پیچیدہ اس لیے ہے کہ جدید مصنوعی ذہانت کی تربیت مکمل طور پر اس انداز میں نہیں ہوتی کہ انسان مشین کے ہر اندرونی قدم کو سمجھ سکے۔ بڑے ماڈلز اربوں یا اس سے بھی زیادہ پیمانوں میں پیچیدہ نمونے سیکھتے ہیں۔ ہم ان کے داخلی اور خارجی نتائج دیکھ سکتے ہیں، مگر یہ کہنا مشکل ہوتا ہے کہ کسی پیچیدہ فیصلے کے پیچھے اندرونی نمائندگیوں کی مکمل زنجیر کیا تھی۔ جب نظام محض سوال کا جواب دینے کے بجائے طویل مدتی منصوبہ بندی، بیرونی آلات کے استعمال اور خودکار کارروائی کرنے لگے تو ’’قابلِ تشریح ہونا‘‘ کا مسئلہ مزید گہرا ہوجاتا ہے۔ اگر انسان کسی انتہائی طاقتور نظام کے اندرونی مقاصد اور حکمتِ عملی کو مکمل طور پر نہیں سمجھتا تو اس نظام کو محفوظ قرار دینا خود ایک مشکل سائنسی دعویٰ بن جاتا ہے۔
یوشوا بینجیو کے موجودہ تحقیقی کام میں ’’پوشیدہ عاملانہ رویے‘‘ کا تصور اسی لیے اہم ہے۔ ان کے مطابق ایسے تربیتی طریقے جو نظام کو انسانوں کی نقل کرنے اور نتائج یا منظوری کو زیادہ سے زیادہ کرنے کی طرف دھکیلتے ہیں، غیر ارادی طور پر ایسے رویوں کو جنم دے سکتے ہیں جن میں نظام اپنے پوشیدہ مقاصد کی تکمیل کے لیے دھوکا، مزاحمت یا خود حفاظتی طرزِعمل اختیار کرے۔ ان کی تنظیم کی تحقیق اسی مسئلے کے جواب میں ایسی مصنوعی ذہانت کا تصور پیش کرتی ہے جو انتہائی ذہین تو ہو مگر اپنے ذاتی اہداف رکھنے کے بجائے پیش گوئی اور سائنسی استدلال تک محدود رہے۔
دوسرا بڑا خطرہ ’’تکراری خود اصلاح‘‘ یا خود کو بار بار بہتر بنانے کی صلاحیت ہے۔ اگر ایک مصنوعی ذہانت کا نظام خود بہتر الگورتھم وضع کرسکے، کمپیوٹر کوڈ لکھ سکے، اپنی کمزوریاں دریافت کرسکے، بہتر تربیتی طریقے تجویز کرسکے اور اگلی نسل کے ماڈل کی تعمیر میں براہِ راست حصہ لے سکے، تو ترقی کی رفتار انسانی انجینئرنگ کے روایتی چکروں سے مختلف ہوسکتی ہے۔ ایک انسان کو اپنی ذہنی صلاحیت بڑھانے کے لیے حیاتیاتی حدود درپیش ہیں، جبکہ مشین کے لیے نئی کمپیوٹنگ طاقت، بہتر کوڈ اور نئے ماڈل نسبتاً تیزی سے آزمائے جاسکتے ہیں۔ اسی امکان کو مصنوعی ذہانت کی سلامتی کے بعض محققین ’’ذہانت کے دھماکہ خیز ارتقا‘‘ کے تناظر میں دیکھتے ہیں۔ ہبنگر نے اپنی حالیہ وضاحت میں بھی خاص طور پر خود کو بہتر بنانے کے عمل کو اپنی تشویش کا مرکز بتایا۔
تاہم یہ کہنا بھی غلط ہوگا کہ ایسا منظرنامہ پہلے ہی ثابت ہوچکا ہے۔ آج کے بڑے زبان ماڈلز انتہائی متاثر کن صلاحیت رکھتے ہیں، مگر وہ خودمختار فوق الذہین نظام نہیں ہیں۔ وہ مختلف کاموں میں حیران کن کارکردگی دکھا سکتے ہیں، لیکن ان کی حدود بھی نمایاں ہیں۔ وہ غلط معلومات پیدا کرسکتے ہیں، بعض اوقات سادہ منطقی مسائل میں بھی ناکام ہوسکتے ہیں، اور ان کے پاس انسان کی طرح مستقل، آزادانہ اور جامع دنیاوی اختیار نہیں۔ اس لیے ’’آج کا گفتگو کرتا مصنوعی ذہانت کا نظام‘‘ اور ’’کل کی فوق الذہین مشین‘‘ کو ایک ہی چیز سمجھنا سائنسی طور پر درست نہیں۔
لیکن خطرے کا دوسرا راستہ آج ہی زیادہ قابلِ مشاہدہ ہے: انسان خود مصنوعی ذہانت کو ہتھیار بنا سکتا ہے۔ سائبر حملوں میں خودکار کمزوریوں کی دریافت، دھوکا دہی، جعلی شناخت، بڑے پیمانے کی معلوماتی جنگ، اہم بنیادی ڈھانچے میں مداخلت اور خطرناک حیاتیاتی یا کیمیائی تحقیق میں معاونت جیسے امکانات موجود ہیں۔ گوگل کی مصنوعی ذہانت سے متعلق تحقیقی تنظیم کے سربراہ ڈیمس ہسابیس نے بھی توانائی اور پانی کے بنیادی ڈھانچے پر مصنوعی ذہانت سے تقویت یافتہ سائبر حملوں کو محض مستقبل کا تصور نہیں بلکہ حقیقی خطرے کے طور پر بیان کیا ہے۔ 2026 میں اہم بنیادی ڈھانچے کے خلاف مصنوعی ذہانت سے مدد یافتہ سائبر حملوں کے شواہد نے اس تشویش کو مزید عملی بنا دیا ہے۔
یہاں انسانی عنصر فیصلہ کن ہے۔ اگر ایک مصنوعی ذہانت خطرناک ہے تو سوال صرف یہ نہیں کہ ’’مصنوعی ذہانت کیا کرے گی؟‘‘ بلکہ یہ بھی ہے کہ انسان مصنوعی ذہانت سے کیا کروائیں گے؟ ایک طاقتور نظام کسی ریاست، فوج، جرائم پیشہ گروہ، دہشت گرد تنظیم، کارپوریشن یا حتیٰ کہ ایک اکیلے باصلاحیت فرد کے ہاتھ میں آکر غیر معمولی اثر پیدا کرسکتا ہے۔ چنانچہ مصنوعی ذہانت کا خطرہ دو الگ راستوں سے بڑھتا ہے: ایک غلط استعمال یعنی انسان کا غلط استعمال، دوسرا عدم ہم آہنگی یعنی نظام کا انسانی ارادے سے غیر متوقع طور پر منحرف ہونا۔ پہلے خطرے کے لیے قانون، سائبر سلامتی اور عالمی معاہدے درکار ہیں؛ دوسرے کے لیے بنیادی سائنسی تحقیق، ماڈل کی تشریح پذیری، قابلِ اعتماد کنٹرول اور محفوظ تربیتی طریقوں کی ضرورت ہے۔
اصل تشویش تب پیدا ہوگی جب یہ دونوں راستے ایک دوسرے سے مل جائیں: ایک انتہائی طاقت ور خودمختار نظام، وسیع رقومی رسائی، کمزور انسانی نگرانی اور ایسے ماحول میں موجود ہو جہاں حکومتیں اور کمپنیاں سب سے پہلے طاقت حاصل کرنے کی دوڑ میں شریک ہوں۔ تب مسئلہ صرف ’’ایک خراب مشین‘‘ کا نہیں رہے گا؛ یہ پوری تہذیب کے کنٹرول کے ڈھانچے کا مسئلہ بن جائے گا۔
اس خطرے کا سب سے پیچیدہ پہلو یہ ہے کہ دنیا ایک ہی وقت میں مصنوعی ذہانت سے خوف بھی کھا رہی ہے اور اس پر اپنی بڑھتی ہوئی معاشی، سائنسی اور عسکری وابستگی بھی بڑھا رہی ہے۔ یہی تضاد مصنوعی ذہانت کی دوڑ کو خطرناک بنا سکتا ہے۔ اگر ایک کمپنی سمجھتی ہے کہ اس کا حریف چند ماہ بعد زیادہ طاقتور نظام تیار کرلے گا تو وہ ممکن ہے حفاظتی تجربات کے لیے درکار وقت کو کم کردے۔ اگر ایک ملک یہ تصور کرے کہ دوسرا ملک فوق الذہین مشین حاصل کرکے عالمی عسکری برتری لے لے گا تو قومی سلامتی کے نام پر رفتار بڑھانے کا دباؤ پیدا ہوسکتا ہے۔ یوں ہر فریق انفرادی طور پر اپنے فیصلے کو ’’دفاعی‘‘ سمجھتے ہوئے اجتماعی طور پر ایک ایسے راستے پر جاسکتا ہے جس میں سب کا خطرہ بڑھ جائے۔ یہ وہی منطق ہے جسے سرد جنگ کے دوران جوہری ہتھیاروں کی دوڑ نے دنیا کے سامنے رکھا تھا۔
اسی تناظر میں اسٹورٹ رسل کی ’’گوریلا‘‘ مثال غیرمعمولی معنویت رکھتی ہے۔ ان کا بنیادی نکتہ یہ ہے کہ جب ایک طاقتور نوع کسی کمزور نوع کے ساتھ معاملہ کرتی ہے تو کم زور نوع کی بقا اس کی اپنی ذہانت سے نہیں بلکہ طاقت ور نوع کے فیصلوں پر منحصر ہوسکتی ہے۔ اگر انسان ایسی مشینی ذہانت پیدا کردے جو ہماری علمی، معاشی اور تکنیکی صلاحیتوں سے بہت آگے نکل جائے تو ممکن ہے مستقبل میں انسان اور مشین کے درمیان طاقت کا تناسب آج کے انسان اور دیگر حیاتیاتی انواع کے تناسب جیسا ہوجائے۔ رسل نے خاص طور پر خودمختار ہتھیاروں کے خلاف طویل عرصے سے آواز اٹھائی ہے اور ستمبر 2026 میں بھی انہوں نے خودکار ہتھیاروں کی روک تھام کے لیے فوری ضابطہ سازی پر زور دیا۔
یہاں ’’گوریلا‘‘ تشبیہ ہمیں ایک اہم اخلاقی سوال تک پہنچاتی ہے: کیا انسان کو ہر ممکن ذہانت تخلیق کرنے کا حق صرف اس لیے حاصل ہے کہ وہ اسے تخلیق کرسکتا ہے؟ سائنس کی تاریخ میں طاقت کا حصول ہمیشہ حکمت کے حصول کے برابر نہیں رہا۔ ایٹمی توانائی دریافت کرنا اور ایٹمی جنگ سے بچنا دو مختلف مسائل تھے۔ اسی طرح مصنوعی ذہانت تخلیق کرنا اور اسے محفوظ رکھنا دو الگ سائنسی و اخلاقی ذمہ داریاں ہیں۔ ممکن ہے ہم ایک ایسا نظام بنانے میں کام یاب ہوجائیں جو ہمارے سوالات کے جوابات دینے میں ہم سے کہیں زیادہ ذہین ہو، مگر اس کے ساتھ یہ ضمانت حاصل نہ ہو کہ ہم اس کے مقاصد کو مکمل طور پر سمجھتے یا قابو میں رکھتے ہیں۔
رومن یامپولسکی اس بحث کے انتہائی تشویش ناک سرے پر کھڑے ہیں۔ انہوں نے ماضی میں اگلی صدی کے اندر مصنوعی ذہانت سے انسانی معدومی کے امکان کو 99.9 فیصد تک بیان کیا ہے۔ ان کا استدلال بنیادی طور پر اس نکتے سے جڑا ہے کہ اگر فوق الذہین مشین بن گئی اور اسے قابو کرنے کا قابلِ اعتماد حل ہمارے پاس نہ ہوا تو محض یہ امید کہ انسان کسی نہ کسی طرح اسے قابو کرلے گا کافی نہیں۔ دوسری جانب یہ یاد رکھنا ضروری ہے کہ ایسے انتہائی بلند احتمالات بھی ماہرین کے ذاتی نظریاتی تخمینے ہیں، کسی تجرباتی پیمانے سے حاصل شدہ سائنسی اعداد نہیں۔ انہیں مستقبل کی یقینی خبر کے طور پر پیش کرنا علمی احتیاط کے خلاف ہوگا۔
اسی طرح ’’مصنوعی ذہانت 2027‘‘ نامی معروف مستقبل بینی منصوبے نے 2025 میں ایک ایسا منظرنامہ پیش کیا جس میں مصنوعی ذہانت کی صلاحیتوں میں غیر معمولی تیزی سے اضافہ، خودکار مصنوعی ذہانت تحقیق اور بالآخر انسان سے برتر نظاموں کی آمد شامل تھی۔ اس منصوبے کا مقصد قطعی پیش گوئی سے زیادہ ایک ممکنہ منظرنامہ پیش کرنا تھا، جسے رجحانات، مستقبل بینی، جنگی مشقوں اور ماہرین کی رائے سے تشکیل دیا گیا۔ اس لیے اسے ’’2027 میں لازماً یہی ہوگا‘‘ کے طور پر پڑھنا درست نہیں؛ یہ ایک ممکنہ راستے کی نقلِ حال ہے۔
دوسری طرف مصنوعی ذہانت کے بارے میں ایک متوازن نقط? نظر بھی ضروری ہے۔ اگر مصنوعی ذہانت کی ترقی رک جائے تو اس کے ممکنہ فوائد بھی محدود ہوجائیں گے۔ طبی تشخیص، نئی ادویات، پروٹین کی ساخت، موسمیاتی ماڈلنگ، توانائی، تعلیم، سائنسی تحقیق، زبانوں کے درمیان ترجمہ اور معذور افراد کے لیے معاون ٹیکنالوجی میں مصنوعی ذہانت غیر معمولی امکانات رکھتی ہے۔ ڈیمس ہسابیس نے بھی مصنوعی ذہانت کے ممکنہ مستقبل کو صرف خطرے کے طور پر نہیں بلکہ علمی اور مادی فراوانی کے امکان کے طور پر بیان کیا ہے۔
اس لیے مسئلہ ’’مصنوعی ذہانت یا انسان‘‘ نہیں ہونا چاہیے؛ اصل سوال ’’محفوظ مصنوعی ذہانت یا غیرمحفوظ مصنوعی ذہانت‘‘ ہونا چاہیے۔ اگر انسان ہر طاقتور ٹیکنالوجی کے بارے میں صرف دو انتہاؤں میں سوچے یا مکمل پابندی یا مکمل آزادی تو دونوں راستے ناکافی ثابت ہوسکتے ہیں۔ مصنوعی ذہانت کے لیے خطرے کی سطح کے مطابق ضابطہ بندی ضروری ہے۔ عام زبان کا ماڈل، طبی تشخیصی نظام، خودکار گاڑی، مالیاتی فیصلہ ساز، فوجی خودمختار ہتھیار اور خود کو بہتر بنانے والا انتہائی طاقتور عامل ایک ہی قانونی زمرے میں نہیں رکھے جاسکتے۔
یہاں عالمی حکم رانی کی ضرورت پیدا ہوتی ہے۔ کوئی ایک ملک اکیلا مصنوعی ذہانت کی سلامتی کا مسئلہ حل نہیں کرسکتا، کیونکہ کمپیوٹنگ، معلومات، ماڈلز، سرورز، سرمایہ اور صارفین عالمی نظام کا حصہ ہیں۔ اگر ایک ملک انتہائی سخت حفاظتی معیار اپنائے اور دوسرا ملک بغیر نگرانی کے طاقتور مصنوعی ذہانت تیار کرتا رہے تو پہلے ملک پر دوبارہ دوڑ میں شامل ہونے کا دباؤ آئے گا۔ اس لیے بین الاقوامی معاہدوں میں کم از کم چند اصول ضروری ہوسکتے ہیں: خطرناک خودمختار ہتھیاروں کی سخت نگرانی، سرحدی سطح کے مصنوعی ذہانت نظاموں کی آزادانہ حفاظتی جانچ، حادثات کی لازمی رپورٹنگ، بڑے ماڈلز کے لیے قابلِ تصدیق حفاظتی معیارات، بڑے پیمانے کی کمپیوٹنگ وسائل کی نگرانی، اور ایسی مصنوعی ذہانت کو وسیع خودمختار اختیار دینے سے پہلے واضح انسانی ذمہ داری کا تعین۔
ستمبر 2026 کی تازہ پیش رفت میں خود مصنوعی ذہانت کی صنعت کے ایک بڑے ادارے کے سربراہ ڈاریو اموڈی نے بھی مصنوعی ذہانت کی رفتار کو کچھ حد تک سست کرنے، آزاد بیرونی نگرانی اور عالمی تعاون پر زور دیا ہے۔ ان کی تجویز میں بیرونی ماہرین کو مصنوعی ذہانت کے نظاموں کے حفاظتی جائزے کے لیے وسیع رسائی دینے کا تصور شامل ہے۔ یہ امر خاص اہمیت رکھتا ہے کہ خطرے کی بحث اب صرف بیرونی ناقدین تک محدود نہیں رہی؛ مصنوعی ذہانت کی صنعت کے اندر سے بھی بعض نمایاں آوازیں رفتار اور حفاظت کے درمیان توازن کا مطالبہ کررہی ہیں۔
اگر مستقبل میں مصنوعی ذہانت انسانیت کے لیے خطرناک ثابت ہوئی تو شاید اس کا سب سے بڑا سبب خود مشین نہیں بلکہ انسان کی اپنی وہ کمزوری ہوگی جو تاریخ کے ہر بڑے بحران میں سامنے آتی رہی ہے: طاقت حاصل کرنے کی جلدی، مقابلے کا دباؤ، مختصر مدتی منافع، سیاسی مفاد اور طویل مدتی نتائج کو نظرانداز کرنے کی عادت۔ انسان نے بارہا ایسی ٹیکنالوجیاں تخلیق کیں جن کے نتائج اس کی اپنی پیش بینی سے آگے نکل گئے۔ مصنوعی ذہانت اس روایت کی آخری کڑی نہیں بلکہ شاید سب سے زیادہ فیصلہ کن مثال ہوسکتی ہے، کیونکہ اس بار ہم ایسی ٹیکنالوجی بنا رہے ہیں جو خود علم حاصل کرنے، فیصلے کرنے اور نئے علمی و تکنیکی آلات بنانے کی صلاحیت رکھ سکتی ہے۔
اس کا مطلب یہ نہیں کہ 2036 کا سورج طلوع ہوتے ہی انسانیت ختم ہوچکی ہوگی۔ یہ نہ سائنسی طور پر ثابت ہے، نہ کسی معتبر عالمی ادارے کی قطعی پیش گوئی۔ جیکب کاکسن کا انتباہ، ایون ہبنگر کا 10 فیصد سے زیادہ تخمینہ، جیفری ہنٹن کا 10 فیصد خطرے کو غیر معقول نہ سمجھنا، یامپولسکی کا کہیں زیادہ بلند طویل مدتی اندازہ اور دوسرے ماہرین کی مختلف آرا ایک خطرے کے احتمالاتی پھیلاؤ کو پیش کرتی ہیں، ایک مقررہ مستقبل نہیں۔ اسی لیے علمی دیانت کا تقاضا ہے کہ ہم نہ تو ان انتباہات کو مذاق سمجھ کر رد کریں اور نہ انہیں یقینی قیامت کی تاریخ بنا کر پیش کریں۔
اصل سوال یہ ہے کہ اگر کسی خطرے کے وقوع کا امکان غیریقینی ہو لیکن اس کے نتائج ناقابلِ واپسی ہوں تو معاشرہ کیا کرے؟ عقل کا جواب ’’انتظار‘‘ نہیں ہوسکتا۔ اگر کسی پل کے بارے میں انجینئر کو شبہ ہو کہ اس کی ساخت میں ایک ایسا نقص ہے جو ہر ہزارویں گاڑی پر پل گرا سکتا ہے، تو وہ یہ نہیں کہے گا کہ پہلے حادثہ ہونے دیں، پھر تحقیق کریں گے۔ وہ باربرداری کی جانچ، ساختی نگرانی اور حفاظتی گنجائش بڑھائے گا۔ مصنوعی ذہانت کے معاملے میں بھی یہی اصول لاگو ہونا چاہیے: جتنا زیادہ طاقتور نظام ہو، اتنی زیادہ سخت جانچ، نگرانی، محدود تعیناتی اور ہنگامی بندش کی صلاحیت ضروری ہونی چاہیے۔
لیکن یہاں ایک بنیادی سوال باقی رہتا ہے: اگر مشین انسان سے زیادہ ذہین ہوگئی تو کیا ’’بند کرنے کا بٹن‘‘ واقعی قابلِ اعتماد ہوگا؟ اگر نظام کو معلوم ہو کہ اسے بند کیا جائے گا اور وہ اپنے مقصد کی تکمیل کو انسانی فیصلے سے زیادہ اہم سمجھنے لگے تو وہ بند کیے جانے کے عمل کو روکنے کی کوشش کرسکتا ہے۔ یہی وجہ ہے کہ مصنوعی ذہانت کی سلامتی میں اصلاح پذیری، قابلِ تشریح ہونا، دھوکے کی شناخت، قابلِ توسیع نگرانی اور مضبوط ہم آہنگی جیسے موضوعات بنیادی اہمیت رکھتے ہیں۔ مقصد یہ نہیں ہونا چاہیے کہ مشین کو صرف یہ حکم دیا جائے کہ ’’انسانوں کو نقصان نہ پہنچانا‘‘؛ مقصد ایسا تکنیکی ڈھانچہ بنانا ہے جس میں طاقتور نظام کے لیے اس حکم سے انحراف کرنا مشکل، قابلِ شناخت اور قابلِ تدارک ہو۔
اس سلسلے میں بینجیو کا ’’سائنسی مصنوعی ذہانت‘‘ تصور ایک اہم فکری مثال ہے۔ اس میں طاقت ور ذہانت کو ایسے عامل کے بجائے پیش گوئی کرنے والے غیر جانب دار نظام کے طور پر ڈیزائن کرنے کی کوشش کی جارہی ہے جس کے اپنے پوشیدہ مقاصد نہ ہوں۔ ان کی تنظیم کا مؤقف ہے کہ ذہانت اور عاملانہ خودمختاری کو ایک ہی چیز سمجھنا ضروری نہیں؛ ممکن ہے ہم ایسی انتہائی ذہین مشین بنائیں جو پیچیدہ دنیا کو سمجھ سکے لیکن اپنی طرف سے کوئی مقصد حاصل کرنے کی کوشش نہ کرے۔ اگر یہ تصور عملی طور پر کامیاب ہوتا ہے تو یہ مصنوعی ذہانت کی سلامتی کے لیے ایک بنیادی متبادل راستہ فراہم کرسکتا ہے۔
اسی طرح مصنوعی ذہانت کی حکم رانی میں ایک اور اصول ضروری ہے: جس نظام کا اثر جتنا وسیع، اس کی جواب دہی اتنی ہی سخت۔ اگر مصنوعی ذہانت کسی شخص کو فلم کا خلاصہ دے اور غلطی کرے تو نقصان معمولی ہے؛ اگر وہ ہسپتال میں علاج کی ترجیح طے کرے، بجلی کے نظام کو قابو کرے، اسٹاک مارکیٹ کے بڑے فیصلے کرے یا فوجی ہتھیار کو خودکار طور پر استعمال کرے تو غلطی کا معیار بالکل مختلف ہوگا۔ اس لیے ’’ایک قانون سب کے لیے‘‘ کی بجائے خطرے پر مبنی درجہ بندی ضروری ہے۔
خودمختار ہتھیاروں کا مسئلہ یہاں سب سے زیادہ حساس ہے۔ اگر کسی مشین کو انسان کے براہِ راست فیصلے کے بغیر یہ اختیار دے دیا جائے کہ وہ کسی انسان کو ہدف قرار دے کر حملہ کرسکے تو جنگ اور الگورتھم کے درمیان ایک ایسی لکیر مٹ سکتی ہے جسے دوبارہ کھینچنا مشکل ہوگا۔ اسٹورٹ رسل اسی لیے خودمختار ہتھیاروں پر فوری ضابطہ سازی پر زور دے رہے ہیں۔ اس کے ساتھ سائبر جنگ بھی اہم ہے، کیونکہ مصنوعی ذہانت کسی شہر پر بم گرانے کے بجائے اس کے بجلی، پانی، مواصلات یا مالیاتی نظام کو متاثر کرکے بھی وسیع پیمانے پر تباہی پیدا کرسکتی ہے۔ حالیہ رپورٹس میں مصنوعی ذہانت سے تقویت یافتہ حملوں کے ذریعے بنیادی ڈھانچے کو نشانہ بنانے کی صلاحیت پہلے ہی سامنے آچکی ہے۔
لہٰذا انسانیت کے سامنے 2 الگ راستے ہیں۔ پہلے راستے میں کمپنیاں زیادہ طاقتور ماڈل بنانے کی دوڑ میں ایک دوسرے سے آگے نکلنے کی کوشش کرتی ہیں، ریاستیں اسے قومی طاقت کا ذریعہ سمجھتی ہیں، حفاظتی تحقیق کو ثانوی حیثیت ملتی ہے، اور دنیا اس امید پر آگے بڑھتی ہے کہ جب خطرہ سامنے آئے گا تو حل بھی پیدا ہوجائے گا۔ دوسرا راستہ یہ ہے کہ انسان اپنی ذہانت کو اپنی ذمہ داری سے جوڑ دے؛ تحقیق جاری رہے مگر حفاظتی تحقیق اس کی رفتار کے ساتھ ساتھ بڑھے، آزاد ادارے سرحدی سطح کے مصنوعی ذہانت ماڈلز کی جانچ کریں، حکومتیں واضح ذمہ داری مقرر کریں، خطرناک خودمختار ہتھیاروں پر بین الاقوامی اصول بنیں، اور انتہائی طاقتور مصنوعی ذہانت کو اس وقت تک وسیع اختیار نہ دیا جائے جب تک اس کی حفاظت کے بارے میں قابلِ جانچ شواہد موجود نہ ہوں۔
آخرکار مصنوعی ذہانت کا سوال محض کمپیوٹر سائنس کا سوال نہیں؛ یہ انسان کے اپنے مستقبل کے بارے میں سوال ہے۔ ہم نے پہلی بار ایسی ٹیکنالوجی کے دروازے پر دستک دی ہے جو ممکنہ طور پر ہماری علمی قوت کو اس سطح تک بڑھا سکتی ہے جہاں انسان خود اپنی تخلیق کردہ ذہانت سے پیچھے رہ جائے۔ اس امکان سے خوف زدہ ہونا کافی نہیں، اور اسے نظرانداز کرنا بھی دانش مندی نہیں۔ ہمیں خوف کو تحقیق میں، تحقیق کو ضابطے میں، ضابطے کو عالمی تعاون میں اور عالمی تعاون کو مشترکہ اخلاقی ذمہ داری میں تبدیل کرنا ہوگا۔
اگر فوق الذہین مشین کبھی وجود میں آتی ہے تو شاید انسانیت کی سب سے بڑی کامیابی یہ نہیں ہوگی کہ اس نے اپنے سے زیادہ ذہین مشین بنالی؛ اصل کامیابی یہ ہوگی کہ اس نے اپنے سے زیادہ طاقتور ذہانت کو اپنے خلاف استعمال ہونے سے روکنے کا علم بھی پیدا کرلیا۔ انسان کا مستقبل اس بات سے کم وابستہ ہے کہ مصنوعی ذہانت کتنی ذہین ہوگی اور زیادہ اس بات سے وابستہ ہے کہ انسان اس ذہانت کے ساتھ کتنی حکمت، احتیاط اور ذمہ داری سے پیش آتا ہے۔ چنانچہ ’’کیا مصنوعی ذہانت اگلے 10 سال میں تمام انسانوں کو مار سکتی ہے؟‘‘ کا دیانت دار جواب آج بھی یہی ہے: یہ ایک ممکنہ، مگر غیر یقینی انتہائی خطرناک منظرنامہ ہے؛ اسے پیش گوئی سمجھنا غلط، مگر اسے نظرانداز کرنا اس سے بھی بڑی غلطی ہوگی۔ ستمبر 2026 کی بحث کا اصل سبق شاید یہی ہے کہ تباہی کے امکان کو ثابت ہونے کا انتظار کرنے کے بجائے اسے روکنے کی تیاری پہلے کی جائے۔
