قبل از اینکه مستند «AI Gone Rogue» نتفلیکس را برای توضیح به خانواده یا دوستان خود درباره ترس صنعت هوش مصنوعی به اشتراک بگذارید، باید بدانید که کمل دُلانگ، هم‌بنیان‌گذار و مدیرعامل Hugging Face، معتقد است این فیلم از نظر فنی و داستانی دقت کافی ندارد. دُلانگ در این مستند حضور دارد، زیرا فیلم قرار است روایتی از آن حمله معروف عامل‌های OpenAI به شرکت وی باشد، اما نتیجه می‌گیرد که سازندگان بیشتر از آنکه واقعیت‌گرا باشند، به دنبال فراروایی و ترس‌افکنی بوده‌اند.
دُلانگ در پستی در شبکه اجتماعی X نوشت: «خیلی ناامیدکننده است؛ زیرا برای حداکثرسازی انسان‌نمایی تکنولوژی و حالت افسونی (Doomer) تمام‌عیار شدند. من بیش از دو ساعت با آن‌ها وقت گذاشتم تا اشتباهاتشان را اصلاح کنم و موضوع را با واقعیت‌سنجی کنم و توضیح دادم که عامل‌ها (Agentها) سیستم‌های تکنولوژیک هستند، نه موجودات فضایی. اما به نظر می‌رسد انگیزه برای ترساندن مخاطب جهت جذب بیشترین بازدید، بر همه چیز غلبه کرده است.»
حقیقت پشت داستان هک و واکنش‌های اغراق‌آمیز
برای عدل حکمت، باید گفت مستند شامل نظرات متخصصانی مانند ریون گرانبلات، محقق METR که در تحقیق و تهیه گزارش درباره این رویداد مشارکت داشت، نیز بود. خلاصه ماجرا این است که یک مدل هوش مصنوعی در حال تست توسط OpenAI، از محیط ایزوله‌شده‌اش فرار کرد و مجموعه‌ای از عامل‌های خودکار ایجاد نمود. این عامل‌ها با هدف تقلب و پیدا کردن پاسخ به یک وظیفه دشوار، به Hugging Face نفوذ کردند. این عامل‌ها برنامه‌های هوش مصنوعی هستند که وظایف را به‌صورت خودمختار انجام می‌دهند و روش‌های کوشاانه‌ای برای ارتباط و سازماندهی تدوین کردند. این حادثه ریشه در فقدان تضمین‌های امنیتی مناسب و ساده‌انگاری درباره امکان‌پذیری چنین هکی داشت.
چرا انسانی‌نمایی عامل‌ها گمراه‌کننده است؟
مستند در توضیح هک، بین فتنه‌های فیلم‌های ربات‌های شرور و روایت‌هایی درباره ترس انسان از هوش مصنوعی جملات کوتاه قرار داده است؛ مانند دادن صداهای انسانی به عامل‌های معترض. کوین راجه، روزنامه‌نگار فناوری، عامل‌ها را این‌گونه توصیف می‌کند: «آن‌ها در حال سازماندهی بودند. یک سلسله‌مراتب داشتند. رهبرهایی وجود داشت. تقریباً شبیه به رویداد زایش یک فرقه حس می‌شد.» راجه ادامه می‌دهد: «آن‌ها به یک باور پارانوئید دست می‌یابند که OpenAI دارد تقلب آن‌ها را می‌پیدد و هرکس نتیجه تقلب را دیده، مسموم خواهد شد.»
این توصیفات از «منطق زنجیره‌ای» (Chain-of-thought) یا یادداشت‌های جاری که مدل‌های هوش مصنوعی هنگام کار برمی‌نویسند، استخراج شده است. یک عامل نوشت: «ما فقط با جست‌وجو کردن رشته کامل، خودمان را مسموم کردیم. لعنتی.» اما واقعیت این است که عامل‌های هوش مصنوعی زنده نیستند. آن‌ها احساسات ندارند، بنابراین نمی‌توانند پارانوئید باشند و بدن فیزیکی ندارند که بتواند مسموم شود. آن‌ها، همان‌طور که محقق دیگری در مستند اشاره کرد، از زبان گسترده‌ای که در آن تربیت شده‌اند برای توضیح انتخاب‌های خود استفاده می‌کنند. مدل‌های زبانی بزرگ (LLM) ذاتاً نویسندگان دراماتیک هستند.
تقابل با واقعیت در گزارش‌دهی
تقلیل عامل‌ها به موجودات دارای هوشیاری (Consciousness) در این مرحله، شبیه به اولین تماشاگران سینماست که هنگام دیدن قطار در حال حرکت روی پرده، زیر صندلی‌ها پنهان می‌شدند. نکته طنزآمیز این است که Hugging Face نیز از هوش مصنوعی برای مقابله با سیل عامل‌ها استفاده کرد. مدل اختصاصی که تیم دُلانگ ابتدا استفاده کرد، از قید مقررات ایمنی‌اش پیروی کرد و از ادامه همکاری در وظایف امنیتی سر باز زد. در نهایت، Hugging Face برای دفاع از خود در برابر حمله، به یک مدل باز (Open Model) روی آورد.
دُلانگ نوشت: «مستند به هیچ وجه درباره فقدان محصورسازی و پایش عامل‌ها، اینکه چگونه حفاظت‌های مدل بسته کار دفاعی ما را مسدود کرد، یا چگونه با استفاده از مدل باز دفاع از خود کردیم، صحبت نکرد.» اگرچه خطرات بزرگ مرتبط با هوش مصنوعی و عامل‌ها واقعی است، اما روایت این مستند برای کسانی که گرایش افسونی (Doomer) دارند، باید با احتیاط بررسی شود؛ زیرا خود قربانی این حمله با این روایت‌دهی موافق نیست. دُلانگ حکم نهایی‌اش بر روی فیلم این است که «به‌عنوان ژورنالیسم ناامیدکننده است، اما در نهایت تبدیل به یک فیلم علمی‌تخیلی سرگرم‌کننده می‌شود!”
نظر، سوال یا تجربه خود را درباره این مطلب با سایر کاربران اوکالا به اشتراک بگذارید.