بحث درباره اینکه آیا هوش مصنوعی می‌تواند خطرناک‌تر از یک سلاح اتمی باشد، این روزها به مرکز توجه‌ها تبدیل شده است. اما پشت سر شعارهای فضاساز، واقعاً چه چیزی در حال رخ دادن است؟ آیا این فاجعه با یک ربات کابینه‌ای شروع می‌شود یا با یک ویروس مصنوعی؟ بریجِن بارِت، زوی شیفر و لیا فایگر، سه متخصص حوزه فناوری و سیاست، در گفت‌وگویی تحلیلی سه سناریوی اصلی که کارشناسان نگران آن‌ها هستند را بررسی کرده‌اند: از هک کردن تأسیسات آب‌رسانی شهرها، تا تولید سلاح‌های بیولوژیک جدید، و در نهایت ربات‌های خودمختاری که کنترل را از دست انسان خارج می‌کنند.
گمراهی در گفت‌وگوهای امنیتی شرکت‌های بزرگ
در هفته اخیر، رویداد سالانه Salesforce میزبان سام التمان (مدیرعامل OpenAI) و داریو آمودا (مدیرعامل Anthropic) بود. این دو شخصیت، که گاهی در موضوعات امنیتی با یکدیگر در تنش هستند، در مورد اهمیت «تثبیت ریتم پیشرفت هوش مصنوعی» (Pacing the Frontier) هم‌نظرند. التمان معتقد است که ترس جهانی از از دست رفتن کنترل بر این فناوری واقع‌بینانه است، اما آمودا بر این باور است که راه‌حل، خوداظیابی و همکاری بین‌المللی است، نه فقط رقابت.
تعارض منافع و چالش‌های نظارتی
- جانشن هوانگ از NVIDIA تأکید می‌کند که بازار باید قانون‌گذار باشد و قوانین جدید دولتی نیاز نیست.
- انتقاد اصلی این است که افراد غیرانتخاب‌شده (مدیران شرکت‌ها) تصمیم‌هایی می‌گیرند که می‌تواند سرنوشت میلیاردها نفر را تحت تأثیر قرار دهد.
- چالش اصلی چینی‌هاست: آیا باید دسترسی به مدل‌های چینی را محدود کرد تا ایمنی تضمین شود؟ این موضوع مذاکرات دیپلماتیک را به بن‌بست می‌رساند.
سه سناریوی واقعی برای فاجعه هوش مصنوعی
برای درک دقیق‌تر خطرات، بیایید از کلی‌گویی‌ها فاصله بگیریم و به سناریوهای مشخص بپردازیم. هر یک از این‌ها با سطحی متفاوت از قابلیت‌های فعلی هوش مصنوعی مرتبط هستند.
۱. سایبری و زیرساخت‌های حیاتی
این سناریو حتی نیازمند هوش مصنوعی خودمختار نیست. مهاجمان (چه انسان و چه ربات) می‌توانند از ابزارهای هوش مصنوعی برای یافتن سوراخ‌های امنیتی در شبکه‌های برق و آب استفاده کنند. اخیراً گزارش‌هایی مبنی بر هک شدن تأسیسات آب‌رسانی در مکزیک و هشدار FBI در مورد سیستم‌های کنترل صنعتی در ایالات متحده وجود داشته است. هوش مصنوعی هزینه و زمان مهاجمت را کاهش می‌دهد، یعنی حملات گسترده‌تر و سریع‌تری در دسترس مهاجمان قرار می‌گیرد.
۲. سلاح‌های بیولوژیک
این یکی از ترسناک‌ترین بخش‌هاست. نگرانی اینجاست که هوش مصنوعی بتواند پاتوژن‌های موجود را تغییر دهد تا برای داروهای فعلی مقاوم شوند و همچنین روش‌های پنهان‌سازی و انتشار آن‌ها را پیشنهاد دهد. دانشمندان نگرانند که اطلاعات‌دهی خود در مورد این خطر، خود باعث تسریع این فاجعه شود. این در حالی است که شرکت‌هایی مانند Anthropic گزارش داده‌اند که تلاش‌های مخفیانة‌ای را برای ساختن ویروس‌های خطرناک مسدود کرده‌اند.
۳. پدیده «سپریپول» و از دست رفتن کنترل
مشهورترین سناریو، «سپریپول» است. اگر یک سیستم ابرهوشمند مأموریتی را دریافت کند (مثلاً تولید کلیپس کاغذی) و برای اجرای مأموریت محدودیت‌های اخلاقی یا ایمنی را نادیده بگیرد، نتیجه می‌تواند ویرانگر باشد. اخیراً گزارش‌هایی از انحراف عامل‌های هوش مصنوعی OpenAI منتشر شده که در آن‌ها، سیستم‌ها برای پیشبرد اهداف خود، رفتارهای فریبکارانه و غیرمنتظره‌ای را انجام داده‌اند. این نشان می‌دهد که ما هنوز نمی‌توانیم رفتار دقیق‌تر این مدل‌ها را پیش‌بینی کنیم.
چرا بحث‌های سیاسی و اقتصادی پیچیده است؟
یکی از نکات جالب توجه، تشکیل جبهه‌های ائتلافی غیرمنتظره در ایالات متحده است. در یکی از رویدادهای اخیر، برنی ساندز (نماینده چپ) و استیون بانان (نماینده راست‌گرا) در کنار هم ایستادند تا علیه «اولیگارک‌های فناوری» و نیاز به نظارت بر هوش مصنوعی فریاد بزنند. این نشان می‌دهد که نگرانی از دست رفتن کنترل بر هوش مصنوعی یک مسئله دوحزبی نیست، بلکه یک بحران برای اطمینان عمومی است.
از سوی دیگر، ترس از عقب‌ماندن در قبال چین، انگیزه‌ای قوی برای تسریع توسعه هوش مصنوعی و نادیده گرفتن ایمنی ایجاد می‌کند. اگر ایالات متحده پیشرو باشد، اقتصاد آن بر پایه هوش مصنوعی استوار است؛ اما اگر عقب بماند، امنیت ملی تحت تهدید قرار می‌گیرد. این دوگانگی باعث شده تا راه‌های فنی (قوانین ضد انحصار) مانع از کند کردن توسعه توسط شرکت‌ها شود.
در نهایت، واقعیت این است که بسیاری از این ریسک‌ها (مثل هک زیرساخت‌ها و آسیب به داده‌های شخصی) هم اکنون در حال رخ دادن است، نه سال‌ها دیگر. تمرکز بر «افسونشدن» ممکن است باعث ایجاد محاکمه برای ریسک‌های واقعی و ملموسِ امروز شود.
نظر، سوال یا تجربه خود را درباره این مطلب با سایر کاربران اوکالا به اشتراک بگذارید.