“خطرناک” AI ماڈلز آ رہے ہیں چاہے کچھ بھی ہو۔

Dario Amodei sits on a chair on stage and gestures as he talks.



خصوصی سائبرسیکیوریٹی کنسلٹنگ فرم TPO گروپ کی چیف سیکیورٹی آفیسر تارہ وہیلر کہتی ہیں، “یہ سوچنا انتہائی غلط ہے کہ Anthropic کا کوئی دوسرا حریف Mythos کی طرح کی صلاحیتیں پیدا نہیں کرے گا یا یہاں تک کہ انہوں نے پہلے ہی ایسا نہیں کیا ہے۔” “ایسی دوسری کمپنیاں ہیں جو اینتھروپک کی ایڑیوں پر گرم ہیں جن کے پاس بھی ممکنہ طور پر صلاحیتیں ہیں، اور وہ انہیں ریزرو میں رکھے ہوئے ہیں کیونکہ وہ دیکھتے ہیں کہ موجودہ ریگولیٹری ماحول میں انتھروپک کے ساتھ کیسا سلوک کیا جا رہا ہے۔”

Mythos Preview کے آغاز کے بعد سے ہی Anthropic نے اس نکتے پر زور دیا ہے۔ “اصل پیغام یہ ہے کہ یہ ماڈل یا اینتھروپک کے بارے میں نہیں ہے،” کمپنی کے فرنٹیئر ریڈ ٹیم کے سربراہ لوگن گراہم نے وائرڈ کو بتایا کہ جب اپریل میں Mythos Preview شروع ہوا تھا۔ “ہمیں ابھی ایک ایسی دنیا کے لیے تیاری کرنے کی ضرورت ہے جہاں یہ صلاحیتیں 6، 12، 24 ماہ میں وسیع پیمانے پر دستیاب ہوں۔”

مثال کے طور پر اوپن اے آئی نے ایک نجی ریلیز بھی کی۔ سائبرسیکیوریٹی فوکسڈ ماڈل وسط اپریل میں اور ایک توسیع شدہ سائبر سیکیورٹی حکمت عملی کا اعلان کیا۔

محققین نوٹ کرتے ہیں کہ ماڈلز کی اس اگلی نسل سے پہلے بھی، موجودہ AI پیشکشوں کو جدید خطرات کے شکار کے لیے استعمال کیا جا سکتا ہے اور بہتر استعمال کے ساتھ ترقی کا استحصال کیا جا سکتا ہے۔ سائبرسیکیوریٹی رہنماؤں کے ایک بڑے گروپ نے ایک میں انتظامیہ کو اس پر زور دیا۔ کھلا خط اتوار کو، یہ بحث کرتے ہوئے کہ وائٹ ہاؤس کی برآمدی کنٹرول کی ہدایت گمراہ کن تھی۔

ہارورڈ یونیورسٹی اور ٹورنٹو یونیورسٹی کے ایک محقق بروس شنیئر کہتے ہیں، “یہ ایک ماڈل نہیں ہے؛ یہ ٹیکنالوجی کا عمومی رجحان ہے۔ تجزیہ صورت حال “چھوٹے، سستے، اوپن سورس ماڈلز، کبھی خود سے اور کبھی کبھی ایک دوسرے کے ساتھ محفل میں، Mythos/Fable کی کارکردگی کو زیادہ نفیس اشارے کے ساتھ مماثل کر سکتے ہیں۔ اور ہمیں توقع کرنی چاہیے کہ دوسرے ماڈلز مہینوں کے اندر Mythos/Fable کی تخلیقی صلاحیتوں اور استقامت سے مماثل ہوں گے۔ اوپن سورس ماڈلز کے لیے قدرے زیادہ۔”

ماہرین کا کہنا ہے کہ وائٹ ہاؤس اور دنیا بھر کی حکومتوں کو جس چیز پر توجہ مرکوز کرنے کی ضرورت ہے، وہ جمہوری طور پر وسیع تر اور زیادہ شفاف منصوبے تیار کر رہا ہے کہ وہ سائبر سیکیورٹی اور دیگر حساس شعبوں میں AI صلاحیتوں میں پیشرفت کا مقابلہ کیسے کریں گے جیسا کہ یہ لامحالہ واقع ہوتا ہے۔

“پالیسی سوال یہ نہیں ہے کہ آیا ٹیکنالوجی کو خطرہ ہے،” کرس وائیسوپال، کلاؤڈ سیکیورٹی فرم ویراکوڈ کے شریک بانی کہتے ہیں۔ “سوال یہ ہے کہ کیا کوئی مخصوص پابندی معنی خیز طور پر اس خطرے کو کم کرتی ہے یا یہ بنیادی طور پر نظام کو محفوظ بنانے کی کوشش کرنے والے لوگوں کو سست کر دیتی ہے۔”

یہ کہانی اصل میں شائع ہوئی۔ wired.com.



Source link

Leave a Reply

Your email address will not be published. Required fields are marked *