یک آسیب‌پذیری که به‌تازگی در نسخه مک‌او‌اس ChatGPT برطرف شده، نشان داد خودِ ابزارهای هوش مصنوعی هم می‌توانند به هدفی ارزشمند برای مهاجمان تبدیل شوند. این حفره امنیتی در شرایطی می‌توانست به مهاجم اجازه دهد کنترل اپ ChatGPT را روی سیستم قربانی به دست بگیرد و به داده‌های حساسی مثل تاریخچه چت‌ها، اطلاعات ذخیره‌شده در برنامه و حتی برخی ارتباطات جانبی مانند نشست‌های مرورگر دسترسی پیدا کند.
این نقص توسط پژوهشگران Objective-See Foundation کشف شد؛ گروهی که سال‌ها روی امنیت macOS کار کرده‌اند. ماجرا از این جهت مهم است که اپ‌های هوش مصنوعی برای انجام وظایفشان معمولاً دسترسی‌های عمیق‌تری به سیستم دارند و همین موضوع، آن‌ها را به گزینه‌ای جذاب برای حملات تبدیل می‌کند.
نقص امنیتی ChatGPT برای مک چه بود؟
اپ ChatGPT در macOS از چندین مؤلفه تشکیل شده که باید با هم ارتباط امن برقرار کنند. برای جلوگیری از سوءاستفاده، این اجزا با بررسی امضای دیجیتال مطمئن می‌شوند درخواست واقعاً از یک بخش معتبر متعلق به OpenAI آمده و نه از یک نرم‌افزار مخرب.
طراحی امنیتی این اپ حتی چند لایه بررسی در نظر گرفته بود تا اگر بدافزاری تلاش کرد یکی از مؤلفه‌های OpenAI را به‌عنوان واسطه استفاده کند، همچنان درخواست نامعتبر تشخیص داده شود. اما پژوهشگران متوجه شدند یکی از اجزای مورد اعتماد، یعنی یک مفسر اسکریپت، می‌تواند اسکریپت غیرقابل اعتماد را بپذیرد و در نهایت آن را به فرایند اصلی ChatGPT برساند.
این آسیب‌پذیری چطور دور زده می‌شد؟
به گفته پاتریک واردل، تحلیلگر امنیتی Objective-See Foundation، سیستم برای اعتبارسنجی فقط خود فرایند را بررسی نمی‌کرد، بلکه فرایند والد و پدربزرگ آن را هم کنترل می‌کرد. با این حال، یک اسکریپت مخرب می‌توانست مفسر اسکریپت را سه بار پشت سر هم اجرا کند تا زنجیره مورد انتظار ساخته شود و درخواست در ظاهر معتبر به نظر برسد.
به این ترتیب، بدافزار قادر بود از دل یک مسیر ظاهراً قابل اعتماد، به فرایند اصلی ChatGPT دست پیدا کند. نتیجه این اتفاق می‌توانست بسیار خطرناک باشد؛ چون اپ‌های هوش مصنوعی معمولاً به اطلاعات شخصی و کاری زیادی دسترسی دارند.
مهاجم به چه چیزهایی می‌توانست دسترسی پیدا کند؟
- تاریخچه کامل گفتگوهای کاربر در ChatGPT
- داده‌های ذخیره‌شده توسط اپلیکیشن
- برخی ارتباطات و اتصال‌های جانبی مانند نشست‌های مرورگر
- امکان سوءاستفاده از سطح اعتمادی که سیستم به برنامه داده است
آیا این نقص به‌راحتی قابل بهره‌برداری بود؟
بر اساس توضیحات پژوهشگران، سوءاستفاده از این حفره امنیتی بسیار ساده بوده است. البته یک شرط مهم وجود داشت: مهاجم باید از قبل بدافزاری روی دستگاه قربانی نصب کرده باشد. به بیان ساده، این نقص راه ورود اولیه نبود، اما اگر سیستم قبلاً آلوده شده بود، می‌توانست به مهاجم کمک کند دامنه دسترسی خود را به شکل جدی گسترش دهد.
همین نکته اهمیت ماجرا را بیشتر می‌کند. وقتی یک برنامه هوش مصنوعی به دلیل کارکردش دسترسی‌های گسترده‌ای دارد، آلوده شدن آن می‌تواند پیامدهایی به‌مراتب سنگین‌تر از یک اپ عادی داشته باشد.
چرا اپ‌های هوش مصنوعی هدف جذابی برای هکرها هستند؟
ابزارهای مبتنی بر عامل یا Agent برای انجام وظایف خود باید به بخش‌های مختلف سیستم دسترسی داشته باشند؛ از فایل‌ها گرفته تا مرورگر، تاریخچه کارها و گاهی سرویس‌های دیگر. همین سطح دسترسی بالا باعث می‌شود اگر مهاجمی بتواند چنین برنامه‌ای را منحرف یا آلوده کند، عملاً به مجموعه‌ای از کلیدهای مهم سیستم برسد.
پاتریک واردل برای توضیح این وضعیت از یک مثال ساده استفاده کرده: این اپ‌ها شبیه مدیر ساختمانی هستند که کلید همه اتاق‌ها را دارد. اگر چنین جایگاهی در اختیار فرد یا کد مخرب قرار بگیرد، مشکل بسیار جدی می‌شود.
واکنش OpenAI به این مشکل
OpenAI در تاریخ ۲۵ سپتامبر این نقص امنیتی و رفع آن را در گزارش تغییرات سیستم خود تأیید کرد. سخنگوی این شرکت نیز اعلام کرده که روندهای امنیتی آن‌ها در حال بهبود است، اما سرعت عمل بیشتری لازم دارند.
این واکنش از یک جهت امیدوارکننده است، چون نشان می‌دهد مشکل شناسایی و برطرف شده؛ اما از جهت دیگر یادآور این واقعیت است که با گسترش سریع اپ‌های هوش مصنوعی، امنیت آن‌ها باید هم‌پای قابلیت‌هایشان رشد کند.
نکات مهم برای کاربران مک
- اپ ChatGPT را همیشه به آخرین نسخه به‌روزرسانی کنید.
- از نصب نرم‌افزارها و اسکریپت‌های ناشناس روی macOS خودداری کنید.
- اگر روی سیستم نشانه‌ای از بدافزار می‌بینید، آن را جدی بگیرید؛ چون چنین نقص‌هایی معمولاً پس از آلودگی اولیه خطرناک‌تر می‌شوند.
- دسترسی‌های برنامه‌ها را دوره‌ای بررسی کنید، به‌خصوص اپ‌هایی که با داده‌های شخصی یا کاری سروکار دارند.
این ماجرا چه پیامی دارد؟
نقص امنیتی ChatGPT برای مک فقط یک باگ معمولی نبود؛ هشداری بود درباره جایگاه تازه ابزارهای هوش مصنوعی در زنجیره حملات. هرچه این برنامه‌ها بیشتر در سیستم‌عامل، مرورگر و جریان کاری کاربران ادغام شوند، ارزش آن‌ها برای مهاجمان هم بالاتر می‌رود.
در عمل، امنیت اپ‌های هوش مصنوعی دیگر یک موضوع حاشیه‌ای نیست. این ابزارها حالا به بخشی از محیط کاری و شخصی کاربران تبدیل شده‌اند و کوچک‌ترین ضعف در آن‌ها می‌تواند به افشای اطلاعات حساس منجر شود.
نظر، سوال یا تجربه خود را درباره این مطلب با سایر کاربران اوکالا به اشتراک بگذارید.