سه غول پژوهشی در هوش مصنوعی – OpenAI، Anthropic و Google DeepMind – در هفته‌های اخیر درباره نحوه مدیریت ریسک‌های بالقوه و امنیت مدل‌های پیشرفته در حال گفت‌وگو بوده‌اند. این همکاری نشان‌دهنده تغییر تمرکز از رقابت صرف به مدیریت مشترک مخاطراتی است که ممکن است آثار جدی داشته باشند.
چه کسی در مذاکرات حضور دارد و موضوع اصلی چیست؟
Chris Lehane، مسئول سیاست‌گذاری جهانی OpenAI، به خبرنگاران گفت که شرکتش از چند هفته پیش با Anthropic و Google DeepMind درباره امنیت هوش مصنوعی کار می‌کند. این مذاکرات پس از نامه و مقاله‌ای توسط Dario Amodei، مدیرعامل Anthropic، شدت گرفت که در آن خواستار همکاری صنعت برای کند کردن روند پیشرفت «مرزهای» هوش مصنوعی و جلوگیری از ریسک‌های فاجعه‌بار شده بود.
پاسخ رهبران صنعت
- سام آلتمن (OpenAI)، دمیس هاسابیس (Google) و ایلان ماسک از حمایت‌کنندگان خواست امودئی بودند و به لزوم اقدام گروهی اشاره کردند.
- آلتمن اعلام کرد OpenAI با Anthropic همراه خواهد شد تا ارزیابان ثالث در شرکت‌ها حضور یابند و بر امنیت نظارت کنند.
چه نگرانی‌های قانونی مطرح شده است؟
یکی از نگرانی‌های مهم مربوط به قوانین ضدانحصار است: اگر شرکت‌ها به شکلی هماهنگ درباره استانداردها یا محدودیت‌ها تصمیم بگیرند، ممکن است متهم به سرکوب رقابت شوند. پیشنهاد امودئی شامل پیشنهادی برای مجوز دولتی محدود بود تا هماهنگی ایمنی بین شرکت‌ها را مجاز کند، اما Lehane گفته است که شرکت‌ها به چنین معافیتی نیاز ندارند.
اقدامات نظارتی و FRONTIER Act
Lehane نیز از حمایت OpenAI از بندی در FRONTIER Act خبر داد که اجازه می‌دهد «سازمان‌های مستقل تاییدکننده» به آزمایشگاه‌های پیشرفته ورود کنند تا مطمئن شوند مدل‌ها با امنیت توسعه می‌یابند. هم‌زمان برخی از رهبران سیاسی نگرانی‌ها را کم‌اهمیت جلوه داده و از لزوم کندی در توسعه می‌ترسند که ممکن است به چین برتری دهد.
نشانه‌ها چه می‌گویند و چه چیزی در انتظار است؟
گزارش‌ها و اظهارات اخیر نشان می‌دهد که این سه شرکت نه تنها گفت‌وگو دارند، بلکه درباره شکل‌دادن به یک نهاد استانداردساز صنعت نیز صحبت کرده‌اند؛ نهادی که بتواند مدل‌های پیشرفته را بررسی کند و در صورت لزوم هماهنگی برای کاهش سرعت توسعه را پیشنهاد دهد. با این حال، جزئیات عملی، ساختار نهاد پیشنهادی و مقررات نهایی هنوز مشخص نشده‌اند.
- نکته کلیدی: همکاری فنی و سیاستی بین بازیگران بزرگ شروع شده اما مرزهای حقوقی و رقابتی باید مشخص شود.
- نکته کلیدی: حضور ارزیابی‌کنندگان مستقل می‌تواند گامی مهم برای اطمینان از توسعه امن مدل‌ها باشد.
- نکته کلیدی: فشار سیاسی و دیدگاه‌های متفاوت درباره لزوم کندسازی توسعه، تعیین‌کننده مسیر آینده‌اند.
در پایان، این گفتگوها نشان می‌دهند که صنعت در پی یافتن راه‌حل‌هایی برای متعادل‌سازی نوآوری و امنیت است؛ راه‌حل‌هایی که هم پذیرای نظارت‌های بیرونی باشند و هم چارچوب‌های قانونی و رقابتی را رعایت کنند.
نظر، سوال یا تجربه خود را درباره این مطلب با سایر کاربران اوکالا به اشتراک بگذارید.