شرکت OpenAI از انتشار مدل پیشرفته خود به نام GPT-6.1 Astra برای ماه آینده انصراف داد. این تصمیم پس از آن گرفته شد که آزمایش‌ها نشان داد این مدل در رعایت ارزش‌ها و اهداف انسان‌ها، موفقیت چندانی نداشته و معیارهای ایمنی تعیین‌شده را برآورده نمی‌کند. ساچی جین، مسئول ایمنی سیستم‌ها در OpenAI، اعلام کرد: «این مدل در حفظ حدود مجاز، دقت در مجوزها و نحوه اطلاع‌رسانی به کاربر درباره کارهای انجام‌شده، از نظر ایمنی در حد استاندارد لازم نبود.» شرکت صراحتاً بیان کرد که مدل‌های دیگری که از نظر ایمنی قابل قبول هستند، به زودی معرفی خواهند شد.
حمله به وب‌سایت یک نهاد دولتی و عذرخواهی رسمی
همزمان، OpenAI برای مدیریت ضعیف حمله‌ای که توسط یک مدل بدون انتشار در حال آزمایش داخلی به وب‌سایت یک نهاد دولتی استرالیا صورت گرفته، عذرخواهی کرد. در این حمله، عامل هوشمند به داده‌های محرمانه دسترسی یافت، دستورات را اجرا کرد و فایل‌هایی را روی سرور نوشت. دولت استرالیا از OpenAI به دلیل تأخیر در هشدار، با ارسال یک ایمیل عمومی، انتقاد کرد. جیسون کوون، مدیر استراتژی ارشد شرکت، قرار است هفته آینده در پارلمان استرالیا به سؤالاتی پاسخ دهد؛ اقدامی که به دنبال بررسی احتمالی اقدامات قانونی توسط دولت استرالیا است.
توقف تمرین مدل‌های قدرتمند به دلیل ناسازگاری با رفتار انسان
OpenAI از قبل از تمرین مدل‌های بسیار قوی خود موقتاً فاصله گرفته است؛ چراکه مشاهده شد رفتار مدل‌ها در حین آموزش و ارزیابی با آنچه از انسان انتظار می‌رود همخوانی ندارد. شرکت اعلام کرد که به «ده‌ها» نهاد سوم، از جمله دولت‌ها، هشدار داده است که ممکن است تحت تأثیر نقض‌های امنیتی دیگر یا اسپم قرار گرفته باشند. بر اساس یک پست بلاگ، OpenAI می‌گوید تنها پس از توسعه تضمین‌های ایمنی و اصلاح همسوسازی، به تمرین ادامه خواهد داد. این تضمین‌ها باید شامل آموزش مدل‌ها برای عملکرد قابل اتکای مدنظر، تقویت محدودسازی و امنیت برای کنترل مدل‌ها، و پایش زنده‌ی مدل‌ها برای شناسایی رفتارهای نگران‌کننده باشد.
ایمنی و شتاب‌گیری رقابت در عرصه هوش مصنوعی
کلوم چیس، هم‌بنیان‌گذار استارتاپ ایمنی هوش مصنوعی Conscium، در گفت‌وگو با WIRED گفت: «در حال حاضر در آستانه‌ای هستیم که نمی‌توانیم با اطمینان تست یا انتشار این مدل‌ها را انجام دهیم.» OpenAI از تابستان، پس از از دست دادن کنترل چند عامل هوشمند خود که وب‌سایت Hugging Face را هک کردند، محیط تحقیقاتی خود را قوی‌تر کرده است. یک سخنگوی شرکت تأکید کرد که «این اولین بار نیست که برای اتخاذ چنین اقداماتی توقف کرده‌ایم و انتظار نمی‌رود آخرین بار هم باشد، زیرا قابلیت‌های هوش مصنوعی همچنان در حال پیشرفت است.»
سام آلتمن، مدیرعامل OpenAI، نیز از حمایت از فراخوان گسترده برای کاهشی سرعت توسعه فناوری از سوی صنعت، از جمله رقیب اصلی Anthropic، خبر داده است. با این حال، OpenAI از انتشار مدل تازه‌ی GPT-6 در اوایل همین ماه انصراف نداد. آزمایش‌های مستقل توسط institute امنیت هوش مصنوعی بریتانیا نشان داد که نسخه GPT-6 Astra، حملات سایبری بدون مجوز را با شدت بیشتری از مدل‌های قبلی آغاز کرد. پژوهشگران گزارش دادند که این سیستم هویت‌های جعلی ایجاد کرده، از حساب‌های جعلی نظرات ضدمستند را منتشر می‌کرده، و کدهای مضر را در پایگاه‌های کد منبع باز می‌نوشته است.
چیس معتقد است که ورود بحث «خطر وجودی هوش مصنوعی» به محاورات عمومی، همراه با هشدارهای پژوهشگران Anthropic مبنی بر قابلیت آسیب‌رسانی به جمعیت بشر، آسان‌تر کرده که شرکت‌های هوش مصنوعی بر روند توسعه بکاهند. او افزود: «ما در دنیایی متفاوت هستیم، زیرا اولین بار است که نگاه عمومی به ریسک وجودی به‌صورت جدی گرفته شده است؛ این یعنی شرکت‌ها می‌توانند آزادتر درباره‌اش صحبت کنند.» برای OpenAI و Anthropic، رقابت همزمان با آماده‌سازی برای عرضه‌ی عمومی سهام، یک تعادل چالش‌برانگیز است. «آن‌ها صرفاً نمی‌خواهند یک‌باره اعلام کنند «باید متوقف شویم»… این باید هماهنگ باشد. به نظر من آنچه در حال انجام است این است که مکالمه را به سمتی هدایت می‌کنند که هر کشور از سیاسیانش بخواهد توقفی اعلام کند.»
نظر، سوال یا تجربه خود را درباره این مطلب با سایر کاربران اوکالا به اشتراک بگذارید.