خیلی از محققان هوش مصنوعی معتقدند که فناوری در حال ساختن، روزی می‌تواند بسیار خطرناک باشد. اما نکته چالش‌برانگیز اینجاست که حتی نخبگان فنی این حوزه دقیقاً نمی‌دانند چطور باید رفتار این الگوریتم‌های بی‌قرار را کنترل کنند. در سال‌های اخیر، پیشنهادهای گوناگونی برای جلوگیری از بدخیمی هوش مصنوعی مطرح شده است؛ از مقررات دولتی سختگیرانه‌تر و روش‌های جدید سنجش پیشرفت گرفته تا طرح‌های جسورانه‌تر مانند قرار دادن دستگاه‌های ردیاب داخل تراشه‌ها یا حتی تخریب تشریفاتی تعداد زیادی از چیپس‌های هوش مصنوعی.
با این حال، در حالی که فشار سیاسی و عمومی برای رویکردی متعادل‌تر در ساخت هوش مصنوعی افزایش یافته، پاسخ قطعی برای ایمن‌سازی آن همچنان مبهم است. ریмонالد داگلاس، محقق هوش مصنوعی دانشگاه تورنتو، می‌گوید: «ما باید این موضوع را به عنوان یک مسئله پژوهشی دنبال کنیم. در واقع نمی‌دانیم گزینه‌های ما چیستند یا آن‌ها دقیقاً چه کاری انجام خواهند داد.»
تشدید نگرانی‌ها و حمایت رهبران صنعت
بحث‌های مربوط به فاجعه‌سازی توسط هوش مصنوعی در هفته‌های اخیر به اوج خود رسیده است. اخیراً یکی از محققان شرکت ان‌تروپیک از شرکت کناره‌گیری کرد و هشدار داد که ممکن است در عرض چند سال، هوش مصنوعی بر مسیری قرار گیرد که به حذف بشریت منجر شود. سرپرست آزمایشگاه ایمنی هوش مصنوعی ان‌تروپیک نیز فوراً به نگرانی‌های او پیوست.
رهبران بزرگ‌ترین شرکت‌های هوش مصنوعی آمریکا، از جمله داریو آمودی (ان‌تروپیک)، سام التمن (اوپن‌ای‌آی)، 일ان موسک (اسپیس‌ای‌آی) و دمیس هاسابیس (گوگل دیپ‌مایند)، همگی از حمایت از نوعی از کاهش سرعت یا توقف موقت توسعه هوش مصنوعی خبر داده‌اند. این موضوع به دلیل استفاده از خودِ هوش مصنوعی برای ساخت مدل‌های قوی‌تر، که ترس از یک چرخه خودبهبودی سریع (RSI) را ایجاد کرده، بسیار حیاتی به نظر می‌رسد.
نظارت‌کنندگان مستقل: آیا کافی‌اند؟
یکی از ایده‌های مکرر طرح شده توسط شرکت‌های هوش مصنوعی، اعطای دسترسی بیشتر به ارزیابان برون‌سپاری است. این افراد برای سنجش قابلیت‌ها و «تیم قرمز» (Red Teaming) مدل‌ها، یعنی تلاش برای تحریک رفتار نادرست در محیط‌های امن، فعالیت می‌کنند. جفری آیرینگ، دانشمند ارشد سابق مؤسسه امنیت هوش مصنوعی بریتانیا، معتقد است که بازرسی‌های دقیق می‌توانند در کوتاه‌مدت، توسعه هوش مصنوعی پیشرفته را متوقف کنند.
اما برخی از اندیشکده‌های منفی‌بین می‌گویند که این بازرسی‌ها باید مستقل‌تر و علمی‌تر باشند. کانور لیاهی، رئیس سازمان غیرانتفاعی کنترل هوش مصنوعی، استدلال می‌کند که بازرسی باید شامل آژانس‌های امنیتی مانند FBI یا NSA باشد، نه فقط «دوستانی که در خانه گروهی شرکت زندگی می‌کنند». داگلاس نیز تأکید می‌کند که تحقیقات جدید در مورد نحوه مشاهده مصرف مدل‌ها بدون افشای اطلاعات محرمانه و روش‌های نوین برای درک رفتار درونی مدل‌ها ضروری است.
کنترل محاسباتی: دروازه ورود به تراشندها
برخی متخصصان بر این باورند که اعمال محدودیت بر توسعه هوش مصنوعی باید با بررسی منابع محاسباتی خام همراه باشد. قوی‌ترین مدل‌ها با استفاده از هزاران GPU پیشرفته نودیا در مراکز داده وسیع آموزش می‌بینند. دولت آمریکا از طریق فرمان اجرایی دوران بایدن در سال ۲۰۲۳، گزارش‌دهی اجراهای آموزشی بالای یک آستانه محاسباتی خاصی را الزامی کرده است.
پیشنهادهایی برای ردیابی و کنترل ساخت هوش مصنوعی از طریق اصلاح خود تراشه‌ها نیز وجود دارد. برای نمونه، محققان در RAND پیشنهاد کرده‌اند که اجزای موجود روی GPUها برای سنجش عملکرد به‌گونه‌ای تغییر کنند که یک رکورد رمزنگاری‌شده و قابل بازرسی از اجراهای محاسباتی ایجاد کنند. طرح‌های جسورانه‌تر پیشنهاد می‌کنند تا قطعات ضدخراش جدیدی در چیپس ساخته شود که مجبور باشند از رمزنگاری برای اجرای وزن‌های مدل‌های خاص استفاده کنند یا حتی «سوئیچ‌های قطع جاسازی‌شده» داشته باشند که نیاز به تایید رمزنگاری از راه دور برای اجرا دارند.
معاهدات بین‌المللی و چالش‌های ژئوپلیتیک
اکثر متخصصان توافق دارند که همکاری‌های بین‌المللی جدید برای کنترل توسعه هوش مصنوعی حیاتی است، به‌ویژه با توجه به ظرفیت بالای چین در ساخت هوش مصنوعی پیشرفته. ایرینگ پیشنهاد می‌کند که راه‌حل میان‌مدت ساده، «باطل کردن متقابل رشد سخت‌افزاری با چین از طریق یک معاهده» باشد. ایالات متحده سعی کرده با ممنوعیت صادرات قوی‌ترین چیپس‌های نودیا به چین، توسعه هوش مصنوعی این کشور را محدود کند، اما موفقیت چندانی نداشته است.
برخی ایده‌های همکاری حتی از صفحات داستان‌های علمی-تخیلی به نظر می‌رسند. تویی اورد، فیلسوف دانشگاه آکسفورد، ایده‌ای را مطرح کرده که در صورت توافق بر محدود کردن توسعه، کشورها ممکن است GPUها را به یک قلمرو خنثی بیاورند و آن‌ها را تخریب کنند. با این حال، پیشرفت‌های فنی اخیر و عدم قطعیت در مورد خودبهبودی بازگشتی، این معما را پیچیده‌تر می‌کند. بنچ‌مارک جدیدی به نام RSI Index توسط Vals AI توسعه یافته که پیشرفت هوش مصنوعی‌ساز را سنجش می‌کند؛ اگرچه چالش‌های فنی تنها بخش مسئله نیستند. داگلس هشدار می‌دهد که شتاب در اجرای کنترل‌های نامناسب می‌تواند منجر به گرقوه شدن در چالش‌های سیاسی یا دست‌نیافتگی مقررات شود. او می‌گوید: «من مطمئن نیستم فقط به دولت آمریکا بگوییم همه‌چیز را تعطیل کند. شروع ناهماهنگ با یک برنامه بد ممکن است بدتر از هیچ باشد.»
نظر، سوال یا تجربه خود را درباره این مطلب با سایر کاربران اوکالا به اشتراک بگذارید.