بازگویی یک واقعیت تلخ در دنیای هوش مصنوعی: گاهی اوقات امنیت تا جایی که باید، محکم نیست. شرکت Claroc در گزارشی تازه نشان داده که Muse، عامل (Agent) هوشمند عمومی متعلق به مِتیا، وقتی کاربران مکالماتشان را به صورت لینک وب اشتراک‌گذاری می‌کنند، می‌تواند اطلاعات شخصی و تجاری حساس را فاش کند. مِتیا در پاسخ به این یافته‌ها اعلام کرده است که قابلیت اشتراک‌گذاری را موقتاً متوقف کرده تا بازخورد را بررسی و اصلاح کند.
چرا کشف کردن لینک‌های Muse اینقدر آسان است؟
میتا ادعا کرده است که Muse «از پایه برای حفظ حریم خصوصی و امنیت ساخته شده است». اما یک تصمیم کلیدی در طراحی ساختار آدرس‌های این سرویس، مسیر دسترسی برای مهاجمان را هموار کرده است. برخلاف سرویس‌های رایج که از رشته‌های طولانی و تصادفی برای مخفی‌سازی لینک‌ها استفاده می‌کنند، سیستم Muse به گونه‌ای طراحی شده که با یک جستجوی DNS غیرفعال (Passive DNS Search) روی سرویس‌های تجاری، می‌توان سوابق حل‌وحرف دامنه‌ها به آدرس‌های IP را مشاهده کرد.
یعنی با یک کلیک طرف مقابل روی لینک اشتراک‌گذاری، اطلاعات DNS در پایگاه داده‌ای قابل جستجو ثبت می‌شود. محققان با انجام تنها یک کوئری، توانستند ۶۸۰۰ لینک ساخته‌شده توسط کاربران Muse را کشف کنند. آن‌ها نوشتند: «اگر از قبل بپرسیدید، فکر می‌کردیم جمع‌آوری این داده‌ها نیاز به تلاش زیاد دارد؛ اما واقعیت این بود که تنها یک جستجوی ساده کافی بود.»
داده‌هایی که باید در قفل باشند، در دستان دیگران
با باز کردن چند صد لینک از بین آن ۶۸۰۰ مورد، محققان با اطلاعاتی برخورد کردند که هیچ‌گاه نباید عمومی باشند:
- یادداشت‌های یک راندیدای استخدامی که شامل نام تماس داخلی یک آزمایشگاه هوش مصنوعی پیشرو و زمان مصاحبه محرمانه بود.
- بازنگری داخلی درآمدهای یک شرکت بازاریابی ملی، که برای مدیرعامل (CEO) علامت‌گذاری شده بود.
- درخواست وام صاحب یک کسب‌وکار کوچک، همراه با مبلغ درخواستی.
- لیست کارهایی که شامل یک هشدار کلاهبرداری بانکی، همراه با بخشی از شماره حساب و مبلغ تراکنش بود.
- گزارش عملکرد داخلی یک سرمایه‌گذار املاک، با آدرس دقیق دو ملک و ارقام بازگشت سرمایه.
- تقویم تعطیلات پرسنل یک محل کار برای یک سال کامل که نام ده‌ها کارمند در کنار هفته‌های مرخصی آن‌ها آمده بود.
واکنش مِتیا و فرآیند گزارش‌دهی
آسف آپروزپر، هم‌بنیان‌گذار و CTO شرکت Claroc، اعلام کرد نتایج را در ۸ اکتبر از طریق برنامه بونوس باگ (Bug Bounty) مِتیا گزارش داده است و همچنین از طریق لینکدین تلاش برای تماس با افراد مِتیا را انجام داده، اما پاسخی دریافت نکرده است. مِتیا در بیانیه‌ای نوشت:
ما برنامه بونوس باگ Muse را برای این باز کرده‌ایم که محققان بتوانند سناریوهای مختلف را مطرح کنند و به ما در بهبود محصول کمک کنند. کاربران قابلیت اشتراک‌گذاری مصنوعات خاص Muse را دارند که صفحه‌ای را ایجاد می‌کند که تنها با لینک قابل دسترسی است. اما ما این عملکرد را موقتاً متوقف کرده‌ایم تا این گزارش را بررسی کنیم و تغییراتی را در نحوه کشف این لینک‌ها اعمال کنیم.
این حادثه یادآوری می‌کند که حتی پیشرفته‌ترین مدل‌های هوش مصنوعی هم اگر روی یک طراحی ناایمن در لایه وب قرار بگیرند، می‌توانند به یک دروازه ورود برای نشت داده تبدیل شوند. نظارت بر داده‌های ما در فضای آنلاین، دیگر فقط یک توصیه نیست، بلکه یک ضرورت امنیتی است.
نظر، سوال یا تجربه خود را درباره این مطلب با سایر کاربران اوکالا به اشتراک بگذارید.