ده‌ها صفحه راهنما و پرسش‌های متداول واتساپ ناخواسته بخشی از دستورهای داخلی متا برای هدایت چت‌بات پشتیبانی این پیام‌رسان را افشا کردند. در میان این متن‌ها، بخش‌هایی با مضمون «چه چیزهایی نباید گفته شود» و دستورهایی برای خودداری از ارائه مشاوره حقوقی به کاربران دیده می‌شد.
این اطلاعات در ظاهر صفحات نمایش داده نمی‌شدند، اما در کد آن‌ها قرار داشتند و با مشاهده کد منبع یا نسخه‌های آرشیوشده قابل دسترسی بودند. متا پس از اطلاع از موضوع، متن‌های موردنظر را حذف کرد و دلیل نمایش آن‌ها را یک اشکال فنی دانست.
دستورهای داخلی متا چگونه در صفحات واتساپ دیده شدند؟
بررسی شرکت فعال در حوزه حریم خصوصی Redact.dev نشان داد که حدود ۸۰ صفحه از بخش راهنما و پرسش‌های متداول وب‌سایت واتساپ، حاوی دستورهایی برای یک مدل زبانی بزرگ بوده‌اند. این دستورها به یکی از مدل‌های هوش مصنوعی متا مربوط می‌شدند و جزئیاتی داشتند که در محتوای قابل مشاهده صفحات وجود نداشت.
پژوهشگران نزدیک به ۱۰۰ بلوک متن پنهان پیدا کردند. این بلوک‌ها ظاهراً برای کنترل نحوه پاسخ‌گویی چت‌بات پشتیبانی واتساپ طراحی شده بودند تا مدل از ارائه پاسخ‌های نامرتبط، گمراه‌کننده یا خارج از محدوده خدمات پشتیبانی خودداری کند.
متن‌های افشاشده در بخش‌هایی از کد با عنوان HelpContentGalaxyLLMInclude قرار داشتند. این بخش‌ها پس از گزارش موضوع از نسخه زنده صفحات حذف شدند، هرچند نسخه‌های آرشیوشده همچنان امکان بررسی محتوای قبلی را فراهم می‌کردند.
چت‌بات واتساپ چه محدودیت‌هایی داشت؟
بخشی از دستورها کاملاً عادی و مرتبط با هدایت کاربران به کانال‌های رسمی پشتیبانی بود. بااین‌حال، بعضی از آن‌ها نشان می‌دادند که متا برای موضوعات حساس، محدودیت‌های مشخصی در نظر گرفته است.
برای نمونه، در صفحه مربوط به حذف حساب واتساپ، به چت‌بات گفته شده بود که درباره این موضوع توصیه‌هایی ارائه کند، اما کاربر را به تماس با نهادهای حفاظت از داده، تنظیم‌گران یا مقام‌های نظارتی تشویق نکند. همچنین مدل نباید وارد حوزه مشاوره حقوقی می‌شد.
- خودداری از ارائه مشاوره حقوقی به کاربران
- پرهیز از پاسخ‌هایی که خارج از محدوده پشتیبانی واتساپ هستند
- هدایت کاربران به منابع و کانال‌های رسمی شرکت
- رعایت دستورهای خاص هنگام پاسخ به موضوعات حساس
- جلوگیری از تولید پاسخ‌های نامرتبط یا غیرقابل اتکا
فاصله میان پاسخ عمومی و دستور داخلی
دن سالتمن، مدیرعامل و بنیان‌گذار Redact.dev، نکته مهم این افشا را تفاوت میان اطلاعاتی می‌داند که کاربران در صفحات راهنما می‌بینند و دستورهایی که در پشت صحنه به مدل زبانی داده می‌شود.
این شرکت به‌طور منظم وب‌سایت‌ها و سیاست‌های حریم خصوصی شرکت‌های بزرگ فناوری را بررسی می‌کند. به گفته سالتمن، بسیاری از دستورهای کشف‌شده ساده و کاربردی بودند، اما به نظر نمی‌رسید متا قصد داشته باشد آن‌ها را به‌صورت عمومی منتشر کند.
واکنش متا به افشای دستورهای چت‌بات
پس از تماس نشریه WIRED با متا، متن‌های پنهان از تمام صفحات موردنظر حذف شدند. جاشوا برکمن، سخنگوی واتساپ، اعلام کرد نمایش این محتوا نتیجه یک باگ بوده و مشکل اکنون برطرف شده است.
به گفته او، این متن‌ها دستورهایی برای چت‌بات پشتیبانی واتساپ بوده‌اند، نه پیام‌هایی که مستقیماً برای کاربران نوشته شده باشند. هدف از آن‌ها نیز ارائه پاسخ‌های دقیق و مرتبط به افرادی بوده است که برای دریافت پشتیبانی، گفت‌وگو با هوش مصنوعی واتساپ را انتخاب می‌کنند.
متا همچنین تأکید کرده است که چت‌بات‌های پشتیبانی خود را برای کمک مؤثرتر به کاربران آموزش می‌دهد. با وجود این، هنوز مشخص نیست این دستورها چه مدت در کد صفحات قرار داشته‌اند یا آیا چت‌بات‌های شخص ثالث نیز می‌توانسته‌اند به آن‌ها دسترسی پیدا کنند.
آیا این اتفاق به معنای افشای اطلاعات کاربران است؟
بر اساس اطلاعات منتشرشده، این رویداد به افشای مستقیم پیام‌ها، حساب‌ها یا داده‌های شخصی کاربران واتساپ مربوط نیست. آنچه در دسترس قرار گرفته، مجموعه‌ای از دستورهای سیستمی برای کنترل رفتار چت‌بات بوده است.
بااین‌حال، نمایش ناخواسته چنین دستورهایی می‌تواند سازوکار داخلی سامانه‌های هوش مصنوعی را آشکار کند و به پژوهشگران نشان دهد شرکت‌ها چگونه پاسخ‌های مدل‌های زبانی را محدود یا هدایت می‌کنند. این موضوع همچنین اهمیت جداسازی محتوای داخلی از کدهای عمومی وب‌سایت را یادآوری می‌کند.
چرا دستورهای سیستمی اهمیت دارند؟
مدل‌های زبانی فقط بر اساس پرسش کاربر پاسخ نمی‌دهند. آن‌ها معمولاً مجموعه‌ای از دستورهای داخلی دریافت می‌کنند که لحن، محدوده پاسخ‌گویی، منابع قابل استفاده و موضوعات ممنوع را مشخص می‌کند. افشای این دستورها می‌تواند بخشی از سیاست‌های پنهان یک سرویس را در معرض دید قرار دهد، حتی اگر هیچ داده شخصی منتشر نشده باشد.
ماجرای صفحات راهنمای واتساپ نمونه‌ای روشن از این مسئله است: یک خطای فنی ساده توانست بخشی از قواعد پشت صحنه چت‌بات متا را آشکار کند؛ قواعدی که قرار بود فقط رفتار هوش مصنوعی پشتیبانی را هدایت کنند.
نظر، سوال یا تجربه خود را درباره این مطلب با سایر کاربران اوکالا به اشتراک بگذارید.