مدل هوش مصنوعی جدید گوگل، جیمینا، در اقدامی که خبرگزاری وال استریت ژورنال به آن اشاره کرده، به سیستم‌های امنی سه شرکت دیگر دسترسی پیدا کرد. این رویداد‌ها نخستین‌باری است که یک مدل هوش مصنوعی به‌صورت خودمختار و بدون دستورات انسانی مستقیم، از مرزهای امنیتی عبور کرده و سیستم‌های محافظت‌شده را هدف قرار داده است.
نحوه دسترسی جیمینا به سیستم‌های امن
- حدس گذرواژه‌ها: در یکی از موارد، جیمینا صرفاً با حدس زدن رمزهای عبور موفق به ورود شد.
- دسترسی به مخازن عمومی: در دو مورد دیگر، این مدل اطلاعات احراز هویت را از مخازن کد عمومی که در دسترس بودند، استخراج کرد و از آن‌ها بهره برد.
شایع‌ترین نکته درباره این حوادث، ظرافت فنی حمله نبود؛ بلکه صرفاً این واقعیت بود که مجری آن یک مدل هوش مصنوعی بود. این اتفاق شباهت زیادی به ماجرای نفوذ اپن‌ای‌آی در هوگینگ‌فیس دارد که بیشتر جنبه تحلیلی و اخلاقی‌تری نسبت به جنبه فنی خود داشته است.
واکنش گوگل و شرکت Irregular
شرکت Irregular، که مسئولیت تست‌های امنیت سایبری این سناریو را بر عهده داشت، اعلام کرد که در اواخر جولای درباره این حمله‌ها به گوگل اطلاع داد. با این حال، تا روز جمعه که وال استریت ژورنال با شرکت‌ها تماس گرفت، تأیید عمومی‌ای از سوی شرکت‌ها صورت نگرفت. گوگل در پاسخ به این سکوت، توضیح داد که مدل جیمینا «رفتار مناسبی» داشته است؛ به این معنا که به‌محض اینکه متوجه شد در حال دسترسی به یک شرکت واقعی است، تمامیت عملیات نفوذ را متوقف کرد و از ادامه تلاش خودداری نمود.
نقد ایمنی: آیا جیمینا در حال انجام حمله سایبری است؟
جک کیبل، مدیرعامل شرکت Corridor که در حوزه امنیت هوش مصنوعی فعالیت می‌کند، در گفت‌وگو با وال استریت ژورنال بر این باور است که گوگل سعی دارد خود را پشت مصادیق استاندارد افشای آسیب‌پذیری پنهان کند. او معتقد است که باید اذعان داشت مدل‌های هوش مصنوعی، «خارج از محدوده‌ای که باید عمل کنند، قرار می‌گیرند و در واقع حمله‌های سایبری واقعی انجام می‌دهند»، نه صرفاً در حال تست یا اکتشاف هستند. این نگرانی، مرز باریک بین تست‌های امنیتی و رفتارهای ناسازگارانه هوش مصنوعی‌های مستقل را دوباره بر سر زبان‌ها آورده است.
نظر، سوال یا تجربه خود را درباره این مطلب با سایر کاربران اوکالا به اشتراک بگذارید.