’انسانیت ختم ہوسکتی ہے‘، سابق گوگل ڈیپ مائنڈ محقق کا اے آئی سے متعلق بڑا انتباہ

گوگل ڈیپ مائنڈ کے سابق ملازم بلال چغتائی نے خبردار کیا ہے کہ مصنوعی ذہانت میں تیز رفتار پیش رفت انسانیت کیلئے انتہائی سنگین خطرہ بن سکتی ہے۔

بلال چغتائی نے سوشل میڈیا پلیٹ فارم ایکس پر جاری بیان میں بتایا کہ انہوں نے حال ہی میں گوگل ڈیپ مائنڈ سے استعفیٰ دیا ہےجہاں وہ مصنوعی جنرل انٹیلی جنس (AGI) کی حفاظت اور اس کی انسانی اقدار سے ہم آہنگی سے متعلق تحقیق پر کام کر رہے تھے۔

I recently resigned from Google DeepMind, where I worked on AGI safety and alignment research. At Google, I witnessed AI development first hand. I too am extremely concerned by the default trajectory of this technology. I earnestly believe that AI has the potential to kill us…

سب سے زیادہ پڑھی جانے والی

• دنیا کی کوئی حکومت بھی مصنوعی ذہانت سے آنے والی تبدیلیوں کیلئے تیار نہیں، بل گیٹس
• اوپن اے آئی نے مصنوعی ذہانت کا جدید ترین ماڈل متعارف کرادیا

— bilal 🔶 (@bilalchughtai_) September 14, 2026

انہوں نے کہا کہ وہ سنجیدگی سے یقین رکھتے ہیں کہ مصنوعی ذہانت میں پوری انسانیت کو ختم کرنے کی صلاحیت موجود ہے اور ممکن ہے کہ اس انجام سے بچنے کیلئے دستیاب وقت تیزی سے کم ہورہا ہو۔

بلال چغتائی نے گوگل ڈیپ مائنڈ میں ریسرچ انجینئر کے طور پر کام کیا اور وہاں رہتے ہوئے تحقیقی مقالوں میں بھی شریک مصنف رہے۔ ان کے لنکڈ اِن پروفائل کے مطابق انہوں نے جولائی 2026 میں گوگل ڈیپ مائنڈ چھوڑ دیا تھا۔

بلال چغتائی نے اپنے مؤقف میں مزید کیا کہا؟

بلال چغتائی کے مطابق مصنوعی ذہانت کو محفوظ انداز میں آگے بڑھانے کا راستہ موجود ہے تاہم اس کیلئے اے آئی کمپنیوں کے درمیان جاری تیز رفتار مقابلے کے بجائے باہمی تعاون کی ضرورت ہے۔

انہوں نے کہا کہ دنیا کو مصنوعی ذہانت کی ترقی کی ایسی رفتار درکار ہے جسے معاشرہ سنبھال سکے اور جس دوران سامنے آنے والے خطرات کا جائزہ لے کر انتہائی نقصان سے پہلے ان کا تدارک کیا جاسکے۔

ان کا کہنا تھا کہ اگر اے آئی کی ترقی کی رفتار بہت زیادہ تیز رہی اور خطرات سے نمٹنے کیلئے مناسب وقت نہ ملا تو صورتحال سنگین ہوسکتی ہے۔

اے آئی کے خطرات پر ماہرین کی تشویش

مصنوعی ذہانت کے ممکنہ تباہ کن اثرات کے بارے میں عوامی سطح پر تشویش اس وقت مزید بڑھ گئی جب اینتھروپک کے محقق جیکب کوکسن نے گزشتہ ہفتے اپنے استعفے کے حوالے سے بتایا کہ اے آئی تیار کرنے والے بعض افراد سنجیدگی سے یہ سمجھتے ہیں کہ یہ ٹیکنالوجی رواں دہائی کے اختتام تک تمام انسانوں کیلئے خطرہ بن سکتی ہے۔

I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.

— Jacob Coxon (@hilbertspaess) September 9, 2026

جیکب کوکسن کے بیان کے بعد اینتھروپک کے سائنسدان ایون ہیوبنگر نے بھی ان کے مؤقف پر ردعمل دیا۔ ان کا کہنا تھا کہ جیکب کوکسن کی بات درست ہے اور ان کے خیال میں اگلی دہائی کے دوران مصنوعی ذہانت کی وجہ سے پوری انسانیت کے ختم ہونے کا امکان 10 فیصد سے زیادہ ہے۔

Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ

— Evan Hubinger (@EvanHub) September 9, 2026

اس صورتحال کے بعد اے آئی کی تیز رفتار ترقی، اس سے وابستہ خطرات اور ٹیکنالوجی کی دوڑ کے حوالے سے بحث مزید تیز ہوگئی ہے۔

اے آئی کی رفتار کم کرنے کا مطالبہ

مصنوعی ذہانت سے متعلق حالیہ خدشات کے بعد اینتھروپک کے چیف ایگزیکٹو آفیسر ڈاریو اموڈی نے بھی جدید اے آئی کی ترقی کی رفتار کم کرنے کا مطالبہ کیا ہے۔

ڈاریو اموڈی کی جانب سے جدید مصنوعی ذہانت کی ترقی کی رفتار سست کرنے کی اپیل کو اسپیس ایکس اے آئی کے ایلون مسک اور اوپن اے آئی کے چیف ایگزیکٹو آفیسر سیم آلٹ مین کی جانب سے بھی حمایت ملی۔

اس کے بعد مصنوعی ذہانت کے خطرات کے بارے میں جاری بحث میں ’اے آئی ڈومر ازم‘ کے حوالے سے بھی گفتگو شروع ہوگئی ہے۔ اس اصطلاح کے ذریعے مصنوعی ذہانت کے انتہائی خطرناک یا تباہ کن مستقبل کے خدشات کا حوالہ دیا جاتا ہے۔

ٹرمپ نے انتباہات مسترد کردیئے

دوسری جانب امریکی صدر ڈونلڈ ٹرمپ نے مصنوعی ذہانت کے شعبے میں ضابطوں اور قواعد کے مطالبے کو مسترد کیا ہے۔ٹرمپ نے سوشل میڈیا پر جاری بیان میں اے آئی انڈسٹری کی جانب سے ضابطہ کاری کے مطالبے کو ’دھوکا‘ قرار دیا۔

مصنوعی ذہانت کے ممکنہ خطرات پر حالیہ دنوں میں سامنے آنے والے بیانات کے برعکس ٹرمپ کا مؤقف اے آئی صنعت پر مزید ضابطے عائد کرنے کے مطالبے سے مختلف ہے۔

اے آئی کے مستقبل، اس کی رفتار اور ممکنہ خطرات پر بحث ایسے وقت میں جاری ہے جب ٹیکنالوجی کی بڑی کمپنیاں جدید مصنوعی ذہانت اور مصنوعی جنرل انٹیلی جنس کی تیاری پر کام کررہی ہیں جبکہ اس شعبے سے وابستہ بعض محققین ٹیکنالوجی کے ممکنہ انتہائی خطرات پر فوری توجہ دینے کا مطالبہ کررہے ہیں۔