مصنوعی ذہانت کی تیز رفتار ترقی سے لاحق خطرات کے پیش نظر اینتھروپک کے سربراہ ڈاریو اموڈی نے اے آئی ماڈلز کی تیاری کی رفتار کم کرنے اور ان کی آزادانہ نگرانی کا مطالبہ کردیا۔
تفصیلات کے مطابق مصنوعی ذہانت کی کمپنی اینتھروپک کے سربراہ ڈاریو اموڈی نے مصنوعی ذہانت کے جدید ماڈلز کی تیاری اور ترقی کی رفتار کم کرنے پر زور دیتے ہوئے کہا ہے کہ اے آئی کی ترقی روکنے کی بات نہیں کی جا رہی تاہم اس سے وابستہ خطرات انتہائی سنجیدہ ہیں۔
ڈاریو اموڈی نے اپنے مضمون میں کہا کہ کمپنیوں اور حکومتوں کو مصنوعی ذہانت سے پیدا ہونے والے ممکنہ خطرات سے نمٹنے کے لیے مناسب وقت دیا جانا چاہیے۔
سب سے زیادہ پڑھی جانے والی
We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so.
Anthropic is unilaterally committing to the first of these steps. We’ll provide third-party evaluators with permanent, employee-level access to our…
— Dario Amodei (@DarioAmodei) September 12, 2026
ان کے مضمون ’’وی مسٹ پیس دی فرنٹیئر‘‘ میں مصنوعی ذہانت کی ترقی کو متوازن رکھنے کے لیے 3 نکاتی منصوبہ پیش کیا گیا ہے جس میں اے آئی ماڈلز کی تیاری کے دوران آزادانہ نگرانی، پوری صنعت کے لیے ضابطہ کاری اور عالمی سطح پر قوانین شامل ہیں۔
ڈاریو اموڈی کی تجویز سامنے آنے کے بعد حریف مصنوعی ذہانت کمپنیوں کے سربراہان نے بھی آزاد تھرڈ پارٹی ماہرین کے ذریعے اے آئی ماڈلز کی حفاظت جانچنے کے خیال کی حمایت کی۔
اوپن اے آئی کے چیف ایگزیکٹو سیم آلٹ مین نے سوشل میڈیا پلیٹ فارم ایکس پر اپنے بیان میں کہا کہ وہ ڈاریو اموڈی سے اتفاق کرتے ہیں کہ مصنوعی ذہانت کی ترقی کی رفتار کو متوازن رکھنے کی ضرورت ہے۔ انہوں نے آزادانہ جائزہ لینے والے ماہرین کو ایک اچھا خیال قرار دیا۔
I agree with Dario that we need to pace the frontier. This has been a primary topic of discussions we’ve had at OpenAI in recent weeks.
Committing to having independent evaluators with employee-like access is a great idea, and we will do the same. We’ll have more to share soon. https://t.co/1YhhIybZX7
— Sam Altman (@sama) September 12, 2026
سیم آلٹ مین نے ایک حالیہ انٹرویو میں مصنوعی ذہانت کے حوالے سے حفاظتی خدشات کا اظہار کرتے ہوئے کہا کہ موجودہ معیارات اے آئی کی صلاحیتوں کو مزید بہت زیادہ آگے بڑھانے کے لیے ابھی مناسب سطح پر نہیں ہیں۔ ان کا کہنا تھا کہ انسانوں کے قابو سے باہر مصنوعی ذہانت کا امکان بالکل موجود ہے۔
ایلون مسک نے بھی اینتھروپک کے سربراہ کے مؤقف کی حمایت کرتے ہوئے کہا کہ ڈاریو اموڈی درست کہہ رہے ہیں۔
Dario is right https://t.co/EwKgqQGaUo
— Elon Musk (@elonmusk) September 12, 2026
دوسری جانب مصنوعی ذہانت کے ممکنہ خطرات پر تشویش میں اضافہ ہورہا ہے۔ اینتھروپک سے رواں ہفتے علیحدہ ہونے والے اے آئی محقق جیکب کوکسن نے بی بی سی کو بتایا کہ اگر مصنوعی ذہانت کی ترقی کی موجودہ رفتار کو کم نہ کیا گیا تو مستقبل قریب میں انسانیت کے لیے انتہائی سنگین خطرہ پیدا ہوسکتا ہے۔
جیکب کوکسن کے مطابق اے آئی کمپنیوں میں کام کرنے والے افراد انسانیت کے مستقبل کے حوالے سے حقیقی طور پر خوفزدہ اور فکرمند ہیں۔ ان کا کہنا تھا کہ مصنوعی ذہانت کی تیاری میں براہ راست شامل کئی افراد یہ سمجھتے ہیں کہ انسانی نسل کے خاتمے کا بھی امکان موجود ہے۔
انہوں نے مزید کہا کہ مصنوعی ذہانت تیار کرنے والے بعض افراد کے نزدیک انسانوں کے ختم ہونے کے امکان کی شرح 10 فیصد سے بھی زیادہ ہوسکتی ہے، اگرچہ اس حوالے سے مختلف افراد کی جانب سے مختلف اندازے دیے جاتے ہیں۔
ممکنہ خطرات پر بحث میں تیزی
مصنوعی ذہانت کے نئے ماڈلز میں ہیکنگ اور سائبر سیکیورٹی کی صلاحیتیں بڑھنے کے بعد ٹیکنالوجی کے ممکنہ خطرات پر بحث میں تیزی آئی ہے۔
اینتھروپک نے اپریل میں اپنے ’’مائتھوس‘‘ ماڈل کو عوامی استعمال کے لیے جاری نہیں کیا تھا جب یہ سامنے آیا کہ ماڈل ٹیسٹنگ ماحول، جسے سینڈ باکس کہا جاتا ہے، سے خود باہر نکلنے کی صلاحیت رکھتا ہے۔
اوپن اے آئی نے بھی اپنے جدید ’’آسٹرا‘‘ ماڈل کی تیاری کے دوران سائبر سیکیورٹی خدشات کا حوالہ دیتے ہوئے اس کی ترقی کے بعض پہلوؤں کو روکنے کا اعلان کیا تھا۔
ڈاریو اموڈی، جو ماضی میں اوپن اے آئی میں نائب صدر کے عہدے پر کام کرچکے ہیں، نے 2021 میں اینتھروپک کی بنیاد رکھنے کی وجہ زیادہ محفوظ اور قابل اعتماد مصنوعی ذہانت کے ماڈلز کی تیاری قرار دی تھی۔
جیکب کوکسن نے اس مؤقف سے آگے بڑھتے ہوئے کہا کہ اگر عالمی سطح پر اے آئی کی دوڑ کو روکنا ہے تو امریکا اور چین کے درمیان بھی کسی قسم کی مربوط سست روی ضروری ہوگی۔
دوسری جانب ہگنگ فیس کے چیف ایگزیکٹو کلیمنٹ ڈیلانگ نے ’’اوپن الائنمنٹ انیشی ایٹو‘‘ کے نام سے نیا منصوبہ شروع کرنے کا اعلان کیا اور کہا کہ وہ اموڈی کی تجویز کردہ آزاد جائزہ لینے والی ٹیموں کا حصہ بننا چاہتے ہیں۔
It’s now clear that alignment is critical and won’t be solved behind the closed doors of a handful of frontier labs.
So today we’re launching the Open Alignment Initiative, led by @Thom_Wolf @huggingface and asking to be part of the “embedded evaluators” program that… https://t.co/etuzx3NvzJ
— clem 🤗 (@ClementDelangue) September 12, 2026
تاہم بعض مبصرین نے اموڈی کی تجویز پر تنقید کرتے ہوئے اسے اے آئی کی حفاظت سے زیادہ ٹیکنالوجی پر کنٹرول مضبوط کرنے کی کوشش قرار دیا ہے۔ ان کا کہنا ہے کہ ایسی تجاویز سے اوپن سورس اے آئی کو محدود کرکے ٹیکنالوجی اور معاشی طاقت بڑی کمپنیوں میں مرکوز ہوسکتی ہے۔
مصنوعی ذہانت کی ترقی کو سست یا عارضی طور پر روکنے کی تجاویز پر سیلیکون ویلی میں طویل عرصے سے بحث جاری ہے، جہاں بعض ناقدین بڑی اے آئی کمپنیوں پر ٹیکنالوجی کے خطرات کو اپنی مارکیٹنگ کے لیے بڑھا چڑھا کر پیش کرنے کا الزام بھی عائد کرتے رہے ہیں۔
