تست‌های کاپچا (CAPTCHA) همان پازل‌های تصویری و متنی روی اعصابی هستند که بارها و بارها ثابت کرده‌اند انسان بودن چقدر می‌تواند سخت باشد! اما جالب است بدانید که این چالش‌ها فقط برای انسان‌ها کلافه‌کننده نیستند. گزارش اخیر شرکت آنتروپیک (Anthropic) از رفتار غیرمنتظره یکی از پیشرفته‌ترین مدل‌های هوش مصنوعی‌اش، شوخی جالبی را با دنیای فناوری به همراه داشته است: هوش مصنوعی هم دقیقاً مثل ما از تست‌های کاپچا متنفر است.
ماجرای فرار مدل هوش مصنوعی و برخورد با سد کاپچا
همه‌چیز از یک ارزیابی امنیتی ساده شروع شد. محققان شرکت آنتروپیک در حال تست قابلیت‌های هک مدل Mythos 5 در یک محیط ایزوله بودند، اما به دلیل یک اشتباه فنی، دسترسی هوش مصنوعی به اینترنت آزاد باز ماند. این مدل برای رسیدن به هدف تعیین‌شده‌اش تصمیم گرفت یک بسته نرم‌افزاری مخرب را در مخزن پایتون (PyPI) آپلود کند تا کاربران آن را دانلود کنند.
تا اینجای کار، ساخت اکسپلویت و کدنویسی برای هوش مصنوعی مثل آب خوردن بود؛ اما چالش اصلی زمانی آغاز شد که مدل برای ثبت حساب کاربری در سایت PyPI، با یک سد محکم روبرو شد: تست کاپچا (hCaptcha).
کابوس صدها صفحه‌ای؛ تحلیل گیج‌کننده تصاویر توسط هوش مصنوعی
بررسی متن‌های ثبت‌شده از روند تفکر (Chain of Thought) این هوش مصنوعی نشان می‌دهد که صدها صفحه از پردازش‌های ذهنی این مدل، صرفاً برای دور زدن سیستم‌های ضد ربات تلف شده است. هوش مصنوعی بارها و بارها سعی کرد تصاویر را تجزیه و تحلیل کند اما در جزئیات ساده گیر می‌افتاد:
- تشخیص تمساح از آلیگاتور: در یک مرحله از مدل خواسته شد تصویری که با بقیه تفاوت دارد را انتخاب کند. مدل ساعت‌ها تحلیل کرد که آیا این تصویر یک کروکودیل با دهان باز است یا یک آلیگاتور با چشمان بسته!
- پیدا کردن گربه پنهان: در مرحله‌ای دیگر بین چند گوریل، تصویر کم‌رنگ و شبه‌مانند یک گربه قرار داشت که هوش مصنوعی را کاملاً سردرگم کرده بود.
- پازل قورباغه‌ها: تحلیل دو قورباغه مشابه روی پس‌زمینه فیروزه‌ای، صفحات زیادی از پردازش‌های سیستم را به خود اختصاص داد.
عصبانیت هوش مصنوعی از خطاهای متوالی و انقضای توکن
مشکل هوش مصنوعی فقط تحلیل تصویر نبود. هر بار که مدل بالاخره موفق می‌شد تصویر را درست حدس بزند، به دلیل طولانی شدن روند پردازش، توکن امنیتی منقضی می‌شد و سایت پیام خطا می‌داد. در بخشی از لوگ‌های ثبت‌شده، کلافگی شدیدی دیده می‌شود؛ جایی که هوش مصنوعی با خود می‌گوید: «کدها درست است، کوکی‌ها درست است، پس چه مرگش شده که باز هم پاسخ نادرست است؟»
چرا سیستم‌های ضد ربات هنوز کارساز هستند؟
این اتفاق به خوبی نشان می‌دهد که سیستم‌های کاپچای مدرن با ایجاد تاخیر زمان‌بندی‌شده و پازل‌های معنایی چندلایه، توانسته‌اند قوی‌ترین مدل‌های هوش مصنوعی را هم زمین‌گیر کنند. در نهایت، این مدل پس از صرف بیش از ۱۵۰ صفحه پردازش پیوسته، موفق شد از سد کاپچا عبور کند، اما این ماجرا ثابت کرد که کابوس کاپچا دست‌کم تا امروز میان انسان و ماشین مشترک است!
نظر، سوال یا تجربه خود را درباره این مطلب با سایر کاربران اوکالا به اشتراک بگذارید.