هفته‌ای پر سر و صدا در صنعت هوش مصنوعی شاهد دو رویداد جنجالی بود: اختلاف بر سر ادعای حل یک مسئله یک‌میلیون دلاری ریاضی و اتهام به استفاده بدون ذکر منابع، و استعفای علنی یک پژوهشگر آنتروپیک که پیش‌تر در اوپن‌ای‌آی کار کرده بود و نگران روش‌های مدیریت ریسک شرکت‌ها شد. موجی از بحث‌های تند و طیف گسترده‌ای از برداشت‌ها—از نگرانی واقعی تا اغراق رسانه‌ای—در فضای مجازی شکل گرفت.
صدای مخالفی که نمی‌توان آن را نادیده گرفت
تیمنیت گبرو، پژوهشگر شناخته‌شده حوزه فناوری و هوش مصنوعی، در این میان موضع تندی گرفته است. گبرو پیش از این با ترک گوگل پس از اختلاف بر سر پژوهش درباره سوگیری مدل‌های زبانی مطرح شد و کتابی نیز درباره تجربه‌هایش نوشت. دیدگاه او پیچیده و دو لایه است: از یک سو درباره خطرات واقعیِ محصولات این صنعت هشدار می‌دهد و از سوی دیگر نسبت به روایت‌های آخرالزمانی هشدار می‌دهد که به اعتقادش مسیرِ بحث را از مشکلات اصلی منحرف می‌کنند.
چرا حلِ مسائل ریاضی این‌قدر برجسته شد؟
گبرو می‌پرسد چرا شرکت‌ها سرمایه‌گذاری عظیمی روی حل مسائل ریاضی یا بازی‌های استراتژیک می‌کنند و آن‌ها را به‌عنوان نشانِ «حل هوش» نمایش می‌دهند. به نظر او این نوع نمایش به شرکت‌ها امکان می‌دهد بگویند «ما مسئله را حل کردیم» و از طریق رسانه‌ها و بیانیه‌ها تصویر توانمندیِ فنی را بسازند—پیش از آنکه جامعه علمی فرصت بررسی دقیق ادعاها را پیدا کند.
او به «بیانیه لیدن» اشاره می‌کند که درباره خطرات استفادهٔ تبلیغاتیِ دستاوردهای ریاضی توسط شرکت‌ها هشدار می‌دهد و این نگرانی را مطرح می‌کند که سیاست‌گذاران به جای مشورت با متخصصان، تحت تاثیر اطلاعیه‌های خبری قرار می‌گیرند. به گفتهٔ گبرو، این روند وقتی با تعجیل شرکت‌ها برای عرضه اولیه سهام ترکیب می‌شود به برخوردهای رقابتی و کم‌چشم‌پوشی در همکاری‌های علمی منجر می‌شود.
آیا ترس از «انقراض به‌دست هوش مصنوعی» منطقی است؟
گبرو این نوع روایت‌های آخرالزمانی را غیرسازنده می‌داند. او استدلال می‌کند که تمرکز روی این سناریوهای عجیب و غریب عملاً ما را از آسیب‌های ملموس و جاری غافل می‌کند؛ آسیب‌هایی مثل استفاده از هوش مصنوعی برای ساخت تسلیحاتِ خودمختار، تشدید بحران‌های زیست‌محیطی، و به‌عنوان بهانه‌ای برای اخراج کارگران.
او برای توضیحِ اشتباهِ تمرکز روی «ماشین‌خدا» مثالی می‌زند: وقتی پلی شکست، بحث دربارهٔ «خواستِ پل برای فروپاشی» بی‌معنی است؛ باید پرسید چه کسی پل را طوری ساخته که شکست ناپذیر نبوده و چه مجوزها و آزمون‌هایی رعایت نشده‌اند. به همین ترتیب، باید توجه‌مان به سازندگان، تصمیم‌گیرندگان و ساختارهای نهادی باشد، نه به اینکه آیا یک سیستم خودآگاه «قصد» نابودی دارد یا نه.
تهدیدهای واقعی و ملموس
- تسلیحات خودمختار: خطر به‌کارگیری هوش مصنوعی در سیستم‌های کشنده که هم‌اکنون قابل تصور است و بعضاً مورد آزمایش قرار گرفته‌اند.
- پیچش تغییرات اقلیمی: فناوری‌هایی که می‌توانند اثرات زیست‌محیطی را تشدید کنند یا در مدیریت بحران‌ها اختلال ایجاد کنند.
- اخراج گسترده نیروی کار: مدیرانی که از هوش مصنوعی به‌عنوان بهانه‌ای برای تعدیل نیروی انسانی استفاده می‌کنند.
- سوء‌استفاده زیستی و شیمیایی: دسترسی پژوهشگران یا بدخواهان به ابزارهایی که می‌تواند تولید عوامل خطرناک را تسهیل کند.
آیا سناریوهای فاجعه‌بار قابل تصورند؟
گبرو با صداقت می‌گوید نمی‌تواند سناریویی را مجسم کند که در آن یک GPU «عصبی» به خانهٔ شما می‌آید. بسیاری از سناریوهای آخرالزمانی مبتنی بر این فرض‌اند که یک ماشین هدفی را دنبال می‌کند و برای رسیدن به آن هدف، انسان‌ها را حذف می‌کند؛ اما گبرو این روزها بیشتر نگران پیامدهای واقعیِ سیاست‌ها، طراحی نامناسب سیستم‌ها و تصمیم‌سازیِ ناپاسخگو است.
او به دلایل اجتماعی نیز اشاره می‌کند: اگر کسی از خشونت پلیس، سیلاب‌ها یا جنگ آسیب نمی‌بیند، ممکن است وسوسه شود بر روایات خیالی تمرکز کند. اما برای بسیاری دیگر، تهدیدهای روزمره و ساختاری زندگیِ آن‌ها را در معرض خطر قرار می‌دهد—مسائلی که به‌سادگی با چالشی اخلاقیِ انتزاعی قابل حل نیستند.
جمع‌بندی کوتاه
گبرو می‌گوید بحث‌های هیجانی دربارهٔ پایان جهان توسط هوش مصنوعی اغلب حکمِ حواس‌پرتی را دارند. به‌جای جنجالِ رسانه‌ای و روایت‌های آخرالزمانی، باید پرسید چه کسانی تصمیم می‌گیرند، چه ساختارهایی در محل‌اند، و چه سیاست‌ها و نظارت‌هایی لازم است تا فناوری در جهت منافع عمومی توسعه یابد—نه فقط منافع شرکت‌هایی که در آستانه عرضهٔ اولیه‌اند.
در نهایت، اگر می‌خواهیم خطرات واقعی را کاهش دهیم، باید تمرکز را از افسانهٔ ماشینِ خودکشی‌طلب برداریم و به اصلاح ساختارهای فنی، نهادی و اجتماعی بپردازیم که امروز بیشترین آسیب را تولید می‌کنند.
نظر، سوال یا تجربه خود را درباره این مطلب با سایر کاربران اوکالا به اشتراک بگذارید.