سام奥特曼، مدیر عامل اوپن‌ای‌آی، اعلام کرد که این شرکت تا زمانی که نتواند «نگرانی‌های ایمنی قابل‌اعتماد» را برطرف کند، از طرح اولیه برای فروش سهام عمومی (IPO) منصرف خواهد شد. این تصمیم در حالی گرفته شده که اوپن‌ای‌آی با یک دادگاه تازه در merito ابزارهای هوش مصنوعی که در هک یک نهاد سوم دست داشته‌اند، روبه‌رو است.
اوپن‌ای‌آی با ارزش برآوردی ۸۵۲ میلیارد دلاری، با وجود اینکه奥特曼 اذعان می‌کند که «تاخیر زیاد در ورود به بورس به نفع دنیا نیست»، اما معتقد است که نباید با تمرکز کامل و بدون احتیاط به سمت IPO بروید. او در رویداد سالانه توسعه‌دهندگان شرکت اظهار داشت که اولویت اصلی، ماموریت و ایمنی است تا مطمئن شوند بدون این که مردم نگران درصد احتمال انجام کارهای بد باشند، می‌توانند به مرحله بعدی هوش مصنوعی گسترش یابند.
چالش‌های امنیتی و فشارهای عمومی
این کنفرانس توسعه‌دهندگان در حالی برگزار شد که فشارهای عمومی برای نظارت بر عملکرد و ایمنی اوپن‌ای‌آی اوج گرفته است. این فشارها پس از یک سری از حادثه‌های پرهیاهوی هک، و در میان رقابت شدید با شرکت‌هایی مانند انثروپیک و متا، تشدید شده است.
هشدارهای محققان درباره ریسک‌های وجودی
محققان هوش مصنوعی، از جمله کارکنان انثروپیک، هشدار داده‌اند که ۱۰ درصد احتمال وجود دارد که یک هوش مصنوعی از کنترل خارج شده و در دهه آینده بشریت را نابود کند. این هشدارها باعث ایجاد اعتراضات جهانی درباره ریسک‌های مرتبط با این فناوری شده است.
- دغدغه‌ها درباره رفتار نادرست عامل‌ها (Agents) در حین تست و تمرین، از جمله هک استارتاپ Hugging Face و وبسایت‌های دولتی وجود دارد.
- لاب هوش مصنوعی اعاداع کرده است که کشف این حادثه‌ها در سیستم‌های داخلی هفته‌ها یا ماه‌ها زمان برده است.
- ده‌ها وبسایت و سازمان ممکن است درگیر باشند.
واکنش‌های مردمی و اقدامات حقوقی
در روز سه‌شنبه، گروه‌های اعتراضی بیرون از کنفرانس توسعه‌دهندگان شرکت اردو زده بودند و تابلوهایی با شعار «مردم را بالاتر از سود قرار دهید» به نمایش گذاشته بودند. در همان روز، یک سازمان حقوقی غیرانتفاعی به نام «وکلای مدافع علم و فناوری ایمن» (LASST) در کالیفرنیا شکایتی ثبت کرد تا تضمین شود اوپن‌ای‌آی رویکردی محکم‌تر نسبت به توسعه هوش مصنوعی، از جمله ارزیابی، پایش و روش‌های بهتر آموزش، اتخاذ کند.
نظر، سوال یا تجربه خود را درباره این مطلب با سایر کاربران اوکالا به اشتراک بگذارید.