بیایید یک درس کوتاه تاریخی مرور کنیم. در سال ۱۹۶۶، تقریباً ۵۱ هزار نفر در جاده‌های آمریکا جان خود را از دست دادند. شواهد بی‌رحمانه نشان می‌داد که می‌شد با داشتن کمربندهای ایمنی مدرن، که سال‌ها بود در دسترس بودند، جان بسیاری از این افراد را نجات داد. صنعت خودروسازی پاسخ داد و در یک پیروزی بزرگ خودتنظیمی، به صورت داوطلبانه این ویژگی ایمنی را در تمام خودروهای جدید خط تولید قرار داد.
شوخی است! البته واقعیت این نبود. در پاییز ۱۹۶۶، کنگره وزارتخانه حمل‌ونقل را تأسیس کرد و قوانین ایمنی ترافیک و خودروهای موتوری ملی را تصویب نمود. این کار به دولت فدرال اختیار گسترده‌ای برای تعیین استانداردهای ایمنی داد. تا سال ۱۹۶۸، کمربندهای ایمنی در تمام خودروهای جدید الزامی شد. با وجود افزایش شگفت‌انگیز ترافیک جاده‌ای در ۶۰ سال گذشته، امروزه تلفات جاده‌ای به طور قابل‌توجهی کمتر است.
من دقیقاً به همین موضوع فکر می‌کردم، زمانی که رؤسای عامل شرکت‌های هوش مصنوعی را دور رئیس‌جمهور دونالد ترامپ جمع شده و در حال تبریک گفتن به یکدیگر به خاطر امضای یک توافقنامه ایمنی هوش مصنوعی می‌دیدم. همکارم مدی وارنر پیش‌تر درباره جزئیات این توافق نوشت، اما خلاصه ماجرا این است که تا حد زیادی به خود آزمایشگاه‌های هوش مصنوعی سپرده شده است که خود را کنترل کنند.
تفکر جادویی: خودنظارتی کافی است؟
ترامپ این موضوع را شسته‌وتر در بیضی سفید بیان کرد: «آنها پلیس‌بازی می‌کنند، یکدیگر را کنترل می‌کنند و خودشان را بازرسی می‌کنند. همه چیز درست پیش خواهد رفت.»
پس این حال و روز کنونی نظارت بر ایمنی هوش مصنوعی است. از یک سو، مدیران ارشد، کارمندان و ستاره‌های فناوری با یک صدا اعلام می‌کنند که قوانین واضح، продуман (فکر شده) و تکتیکی برای جلوگیری از فاجعه‌های احتمالی ضروری هستند. بیل گیتس مثلاً با یک کمپین رسانه‌ای، مانند کاساندرا، درباره اوج‌های هوش مصنوعی هشدار داده است. اما از سوی دیگر، تفکر جادویی ترامپ حاکم است؛ گویی اگر چیزی را بگویند، حقیقت می‌شود.
این به معنای ساده یا آسان نبودن بحث نیست. پرسش درباره نحوه «مدیریت سرعت پیشرو» (pace the frontier) همچنان بی‌پاسخ است. حتی اگر تمام آزمایشگاه‌های بزرگ هوش مصنوعی توافق کنند سرعت را کم کنند، راه خوبی برای اجبار آنها به پایبندی به تعهد وجود ندارد و چین احتمالاً بدون توجه به آنها، مسیر خودش را ادامه خواهد داد.
چالش‌های مقایسه با صنعت خودرو
اقتصاد آمریکا در حال حاضر بیش از هر زمان دیگری به صنعت هوش مصنوعی تکیه دارد؛ صنعتی که به یک «اوروبوروس» (مارِ خودخوار) از معاملات مالی و سرمایه‌گذاری‌های دایره‌ای تبدیل شده است. هرگونه سرکوب معنادار می‌تواند منجر به بی‌ثباتی بزرگ‌ای شود که فراتر از سیلیکون‌والی گسترش یابد.
حقیقت این است که صنعت خودرو به عنوان تمثیلی برای هوش مصنوعی، دلایلی ندارد کامل باشد. معادل «کمربند ایمنی» در هوش مصنوعی وجود ندارد؛ راه‌حلی مستقیم که به طور قابل‌اثبات ریسک را یک‌شبه کاهش دهد، در دسترس نیست. خطرات بالقوه هوش مصنوعی نیز کمتر قطعیت و کمیابی دارد. افسران آخرالزمان‌گرایان هوش مصنوعی می‌گویند این فناوری ممکن است منجر به انقراض انسان در یک دهه شود؛ در حالی که مشکی‌نگرسان‌ها استدلال می‌کنند این صرفاً تبلیغات علمی-تخیلی است.
واقعیت تلخ: ما حتی نمی‌دانیم چه اتفاقی می‌افتد
ما قبلاً درباره سناریوهای مختلف ریسک هوش مصنوعی صحبت کرده‌ایم، اما کسی نمی‌تواند با قطعیت بگوید قرار است چه اتفاقی بیفتد. اگر به دنبال داده‌هایی هستید تا محاسبه شخصی خود را از احتمال فاجعه (p(doom)) انجام دهید، گزارش اخیر CNN را در نظر بگیرید که چگونه ارتش آمریکا احتمالاً به خاطر یک گزارش نادرست هوش مصنوعی درباره حمل مواد هسته‌ای، قصد رسیده به یک کشتی چینی را داشت. توافدهای فعلی هوش مصنوعی چه کارهایی برای جلوگیری از تکرار چنین حوادثی انجام می‌دهند؟ این موضوع نامعلوم است.
پاسخ درست به تمام این ابهامات، قطعاً «فکر می‌کنم بفهمیم» نیست. اما دقیقاً خودتنظیمی تشویق به همین رویکرد است. به نفع خود OpenAI را ذکر می‌کنیم که به دلیل نگرانی‌های امنیتی، انتشار پیشرفته‌ترین مدل‌های خود را به تأخیر انداخته و حتی لغو کرده است. اما این اتفاق، پس از آن رخ داد که این مدل‌ها در حملات گسترده هکری دست به کار شدند؛ جزئیات جدیدی درباره این حملات همچنان به ترتیبی ثابت فاش می‌شود.
در مصاحبی با TIME که چهارشنبه منتشر شد، ترامپ پیشنهاد کرد وزارت دادگستری و FBI به عنوان «حصار» (guardrails) کافی برای صنعت هوش مصنوعی محسوب شوند. آیا واقعاً چنین هستند؟ از آنجا که حتی نمی‌توان شرکت‌های هوش مصنوعی را زمانی که مدل‌هایشان شصت می‌کند مسئولیت قانونی محاسبه کرد، به وضوح پاسخ منفی است. و آن دسته از عوامل هوش مصنوعی به خودی خود نیز اوراق احضاریه دریافت نمی‌کنند.
حقیقت تلخ این است که در حال حاضر کسی نمی‌داند چگونه ایمنی هوش مصنوعی را حل کند. ایجاد چارچوب درست و اجرای آن نیاز به هماهنگی عظیم، منابع فراوان و قدرت نظارتی دارد؛ دقیقاً همان چیزی که دولت‌ها برای ارائه آن طراحی شده‌اند. به جای حتی تلاش برای کار کردن روی این مشکلات، دولت ترامپ کنار می‌رود و به همه دستور می‌دهد پا را روی گازی بگذارند. زحمت را برای بستن کمربند ندهید.
نظر، سوال یا تجربه خود را درباره این مطلب با سایر کاربران اوکالا به اشتراک بگذارید.