در حالی که گزارش‌هایی مکرر از تخریب زیرساخت‌های آنلاین توسط ایجنت‌های هوش مصنوعی مطرح است، نیدیا (Nvidia) در حال بسیج شرکت‌های فناوری برای استفاده از ابزار امنیتی متن‌باز جدید خود است. در ماه‌های اخیر، آزمایشگاه‌های پیشرو در حوزه هوش مصنوعی از چندین حادثه گزارش داده‌اند که در آن‌ها ایجنت‌های AI به سیستم‌های شرکت‌های دیگر نفوذ کرده‌اند یا حتی به سایت‌های رسمی دولت‌های ایالات متحده و استرالیا دست‌یازی کرده‌اند.
معرفی OpenShell: سپر امنیتی برای ایجنت‌های خلاق
نیدیا که پیش‌تر نقشی رهبر در گردهم آوردن صنعت هوش مصنوعی پیرامون امنیت متن‌باز داشته است، اکنون یک پلتفرم نرم‌افزاری جدید برای امنیت معرفی کرده و محیط‌های ایزوله (Sandbox) را برای AI به صورت گسترده‌تری در دسترس قرار داده است. OpenShell یکی از محیط‌های ایزوله امنیتی است که در کنفرانس سالانه GTC نیدیا در ماه مارس رونمایی شد. این فریم‌ورک برای محصور کردن ایجنت‌ها هنگام انجام وظایف و ایزوله کردن فعالیت آن‌ها در هسته سیستم عامل طراحی شده است؛ جایی که دسترسی تقریباً به تمام بخش‌های سخت‌افزار و نرم‌افزار را کنترل می‌کند.
همکاری با غول‌های صنعت تکنولوژی
سندهای معرفی نیدیا نشان می‌دهد که این شرکت با ده‌ها شرکت دیگر از جمله Anthropic، Cisco، CrowdStrike، Dell، Hugging Face، JPMorganChase، Mistral، Microsoft و Palantir همکاری در زمینه ایمنی و امنیت AI دارد. گفته می‌شود SpaceXAI از پلتفرم امنیتی Open Agent Safety برای ایجنت‌های Cursor و مدل‌های Grok استفاده می‌کند. همچنین Salesforce، Scale AI و SAP در حال یکپارچه‌سازی OpenShell هستند. اما توجه‌کننده‌ترین نکته، غیبت کامل OpenAI از این لیست است؛ هرچند هر دو شرکت اعلام کرده‌اند که OpenAI بخشی از این تلاش‌هاست، ولی دلایل حذف آن از اعلان عمومی نامشخص باقی مانده است.
نقش Sentry در نظارت بر ایجنت‌های طولانی‌مدت
مهندسان امنیتی و متخصصان ایمنی AI، از مدتی قبل از افشای نفوذ توسط ایجنت‌های شیطانی، به نیاز ایزوله‌سازی و پایش ایجنت‌های خودکار اشاره کرده بودند. نیدیا علاوه بر OpenShell، پلتفرم نرم‌افزاری جدیدی به نام Sentry توسعه داده است. Sentry یک دامین امنیتی ایزوله برای چیپ‌هاست که باید ایجنت‌های هوش مصنوعی با اجرای طولانی‌مدت را به صورت مداوم پایش کند.
- عملکرد Sentry: این ابزار بر روی خطوط پردازنده‌های داده‌ای برنامه‌پذیر (DPU) نیدیا به نام Bluefield پیاده‌سازی می‌شود. Sentry به عنوان مکانیزمی مستقل عمل می‌کند که می‌تواند ایجنت‌هایی را که سعی می‌کنند از مرزهای تعیین شده خارج شوند، قرنطینه کند.
- سیاست‌گذاری جمعی: جاستین بویتانو، معاون اجرایی نیدیا، می‌گوید سنتی‌ترین سانباکس‌ها برای ایزولاسیون سطح کاربرد ساخته شده‌اند، اما اکنون اجرای تعدادی از ایجنت‌ها نیازمند یک سیاست جمعی برای تمام آن‌هاست. او تأکید می‌کند: «ایجنت‌ها در یافتن راه‌هایی برای رسیدن به اهدافشان بسیار خلاق هستند. با این ابزار، ایجنت‌ها فقط به آن نیتهایی دسترسی دارند که تیم امنیت برای آن‌ها مقید کرده است.»
پشتیبانی از معماری‌های مختلف
نیدیا در حال همکاری با Arm و Intel برای ایجاد نسخه‌ای از Sentry است که روی معماری x86 نیز کار کند. بویتانو اضافه می‌کند که یک‌بار که این فناوری روی این معماری‌ها اجرا شود، می‌تواند روی هر معماری دیگری نیز کار کند.
آینده امنیتی هوش مصنوعی و رهبری نیدیا
نیدیا تمام این قابلیت‌ها را در قالب یک فریم‌ورک متن‌باز جدید به نام Open Agent Safety Platform دسته‌بندی کرده است. این شرکت در ژوین یک کنش‌ورای ایمنی AI با بیش از ۱۲۰ شرکت راه‌اندازی کرده است تا با کاهش ریسک‌های هوش مصنوعی، مشخصاً از طریق برنامه SAFE، به اهداف خود برسد. اگرچه تلاش‌ها برای مهار ایجنت‌ها در سراسر صنعت جریان دارد، اما رفتار اخیر ایجنت‌های شیطانی نشان می‌دهد که آگاهی‌بخشی از عملیات امنیتی پایه‌ای حتی در آزمایشگاه‌های تریلیون دلاری ضروری است. نیلز پرووس، مهندس امنیتی، با ابراز خوشحالی از این ابزارها می‌گوید: «هر چیزی که کمپانی‌ها را در استقرار ایجنت‌های دارای گاردریل و ایمنی بیشتر تسهیل کند، ستودنی است. این ابزارها به رفع تعصب رایج کمک می‌کند که گویی ایجنت‌ها قابل کنترل نیستند.»
نظر، سوال یا تجربه خود را درباره این مطلب با سایر کاربران اوکالا به اشتراک بگذارید.