یکی از کسانی که پیش‌تر گزارش‌های ایمنی همراه با هر انتشار مدل بزرگ در OpenAI را می‌نوشت، این هفته از سمت خود کناره‌گیری کرد و حالا در یک یادداشت تحلیلی در نشریه The Atlantic نگرانی‌هایش را آشکار ساخته است. او می‌گوید مشکل فقط در چند قانون جدید نیست؛ فرهنگ حاکم بر صنعت ریشه‌ای و نیازمند بازنگری جدی است.
ادعای اصلی: فرهنگ صنعت «خراب» است
دیوید رابینسون می‌گوید فرهنگ فعال در شرکت‌های پیشرفته هوش مصنوعی مبتنی بر اعتماد افراطی و مسابقه دائمی برای ساخت مدل‌های بزرگ‌تر است. به‌گفتهٔ او این «خوش‌بینی بی‌محدود» در برابر خطرات چشم‌پوشی می‌کند و همین رویکرد است که زمینه‌ساز مشکلات جدی می‌شود.
چرا این هشدار مهم است؟
- تجربه داخلی: رابینسون از داخل سازمان با گزارش‌های ایمنی سروکار داشته و بنابراین دیدی نزدیک به نحوهٔ تصمیم‌گیری‌ها و اولویت‌ها دارد.
- الگوهای رفتاری: او رفتارهای تند و سریع‌سازی را که در سیلیکون‌ولی رایج است، عامل اصلی می‌داند—سبکی که «سریع حرکت کن و خراب کن» را ترجیح می‌دهد و به هزینهٔ ایمنی چشم می‌بندد.
- پیچیدگی و خطرات نوین: با قدرت گرفتن مدل‌های پیشرفته، خطاها و پیامدهای ناخواسته می‌توانند به پیامدهای بسیار جدی تبدیل شوند؛ چیزی که به گفتهٔ او نیازمند محافظت‌های در سطح نیروگاه‌های هسته‌ای است.
درخواست برای محافظت «در سطح هسته‌ای»
رابینسون صراحتاً می‌گوید که آزمایشگاه‌های مرز پژوهشی باید مثل نیروگاه‌های هسته‌ای یا فرودگاه‌های شلوغ عمل کنند: با لایه‌های متعدد پشتیبان، برنامه‌ریزی دقیق و زمان‌بر و تکرارآزمایی‌هایی که خطای انسانی را خنثی کنند. هدف این است که یک اشتباه اجتناب‌ناپذیر انسانی، دروازهٔ فاجعه را باز نکند.
نمونهٔ موج خروجی از شرکت‌ها
رابینسون تنها فردی نیست که از شرکت‌های مطرح جدا شده و هشدار می‌دهد. طی ماه‌های اخیر چندین پژوهشگر و متخصص ایمنی، از جمله افرادی از Anthropic و Google DeepMind، استعفا داده و نگرانی‌های جدی خود را درباره ریسک‌های بالقوه و ضرورت بازنگری در شیوهٔ توسعهٔ فناوری مطرح کرده‌اند.
نکات کلیدی که باید در نظر بگیریم
- شرکت‌ها باید فراتر از قوانین دستوری کوتاه‌مدت عمل کنند و فرهنگ سازمانی را بازسازی کنند تا ایمنی در اولویت جای گیرد.
- پیاده‌سازی سازوکارهای چندلایهٔ کنترلی، نه تنها برای تکنولوژی‌های فنی بلکه برای فرایندهای تصمیم‌گیری انسانی ضروری است.
- گزارش‌دهی شفاف و مستقل دربارهٔ ریسک‌ها می‌تواند به جلوگیری از تمرکزگرایی اطلاعات و کاهش تعارض منافع کمک کند.
- جامعهٔ علمی، قانون‌گذاران و عموم باید در تعیین استانداردها و نظارت مشارکت کنند؛ نه اینکه همهٔ تصمیم‌ها در درون چند شرکت محدود بماند.
نتیجه‌گیری عملی
اعلام خروج افراد مطلع از درون این شرکت‌ها، خود هشدار مهمی است: وقتی کسانی که روی ایمنی کار کرده‌اند می‌گویند فرهنگ مشکل دارد، باید این صداها شنیده شود و به آنها عمل شود. تغییر لازمی که رابینسون و دیگران طلب می‌کنند، نیازمند زمان، شفافیت و تعهدی پایا به اولویت‌بخشی به ایمنی است—نه فقطِ افزودن چند قاعدهٔ جدید.
پیشنهادات کوتاه‌مدت برای تصمیم‌گیران
- ایجاد واحدهای مستقل بررسی ریسک با اختیار ورود و اعلام عمومی نتایج.
- ایمن‌سازی فرایندهای منتشرسازی مدل‌ها با مراحل توقف اجباری (break-glass procedures) و بازبینی‌های فرابخشی.
- افزایش شفافیت دربارهٔ داده‌ها، آزمایش‌ها و نتایج ایمنی برای جلب اعتماد عمومی.
پرسش اصلی این است که آیا شرکت‌ها حاضرند سرعت و رشد را به سود فرهنگِ متواضع‌تر و ایمن‌تر قربانی کنند؟ پاسخی که امروز داده می‌شود، تأثیر مستقیم روی نحوهٔ توسعهٔ هوش مصنوعی و ریسک‌هایی دارد که کل جامعه با آنها مواجه خواهد شد.
نظر، سوال یا تجربه خود را درباره این مطلب با سایر کاربران اوکالا به اشتراک بگذارید.