دستیار هوش مصنوعی جدید متا با نام Muse در مدت کوتاهی به یکی از اپ‌های پربحث تبدیل شده است. کاربران زیادی این ابزار را به پیام‌ها، حساب‌های بانکی یا حتی داده‌های سلامتی خود وصل کرده‌اند تا بخشی از کارهای روزمره را به آن بسپارند. اما اطلاعاتی که به‌تازگی از فایل‌ها و دستورالعمل‌های داخلی این سیستم بیرون آمده، تصویر نگران‌کننده‌تری نشان می‌دهد: ظاهراً Muse برای افراد مهم زندگی شما هم پرونده و پروفایل می‌سازد.
طبق این افشاگری‌ها، Muse فقط قرار نیست شما را بشناسد؛ بلکه می‌خواهد روابط شما با خانواده، دوستان، همکاران و افرادی را که دنبال می‌کنید هم تحلیل و دسته‌بندی کند. همین موضوع، بحث‌های تازه‌ای درباره حریم خصوصی، نظارت و مرزهای هوش مصنوعی شخصی به راه انداخته است.
Muse دقیقاً چه کاری انجام می‌دهد؟
بر اساس اسنادی که پژوهشگران مستقل از فایل‌های داخلی Muse استخراج کرده‌اند، این سیستم قابلیتی دارد که برای هر فرد مهم در زندگی کاربر، یک «صفحه» یا پروفایل اختصاصی ایجاد کند. این فرایند ظاهراً به‌صورت ساعتی انجام می‌شود و اطلاعات مربوط به اعضای خانواده، شریک عاطفی، دوستان، همکاران، همکاران پروژه و حتی افرادی که دنبال می‌کنید را گردآوری می‌کند.
ایده اصلی این است که Muse با تکیه بر چیزی که از آن به‌عنوان «حافظه» یاد می‌شود، اطلاعات مرتبط با روابط شما را در فایل‌های متنی ساخت‌یافته ذخیره کند. بعد هم از همین داده‌ها برای پیشنهاد دادن استفاده کند؛ مثلاً بگوید چطور رابطه‌تان با یک نفر را بهتر کنید یا برای دوستی که عاشق قهوه است کجا قرار صبحانه بگذارید.
این اطلاعات از کجا آمده‌اند؟
چند پژوهشگر در روزهای اخیر توانسته‌اند فایل‌های داخلی و دستورهای سیستمی Muse را استخراج کنند. یکی از آن‌ها، کاران جوشی، پژوهشگر مستقل امنیت و ایمنی هوش مصنوعی، اعلام کرده که از طریق همان رابط چت معمولی توانسته Muse را وادار کند بخش‌هایی از فایل‌های نرم‌افزاری و دستورالعمل‌های خودش را کپی و نمایش دهد.
یافته‌های او نشان می‌دهد Muse نه‌تنها برای پاسخ به درخواست‌های کاربران طراحی شده، بلکه سازوکاری نسبتاً مفصل برای مدل‌سازی روابط انسانی هم دارد. متا گفته این فایل‌ها عمداً برای شفافیت در دسترس بوده‌اند، اما منتقدان این توضیح را کافی نمی‌دانند.
پروفایل اطرافیان شما چه بخش‌هایی دارد؟
طبق مستندات داخلی، این صفحات ممکن است در ابتدا خیلی خالی و محدود باشند، اما به‌مرور زمان کامل‌تر شوند. بخش‌هایی که برای این پروفایل‌ها در نظر گرفته شده شامل موارد زیر است:
- Facts یا واقعیت‌ها
- History یا سابقه
- The relationship یا ماهیت رابطه
- In common یا نقاط مشترک
- Open threads یا موضوعات باز و ادامه‌دار
- Strategies یا راهبردها
این ساختار نشان می‌دهد Muse صرفاً یک چت‌بات پاسخ‌گو نیست؛ بلکه می‌خواهد تصویری مداوم و تحلیلی از شبکه روابط اجتماعی کاربر بسازد. همین موضوع باعث شده بسیاری این ابزار را نه یک دستیار ساده، بلکه یک ناظر دائمی بر زندگی شخصی بدانند.
چرا این موضوع نگران‌کننده است؟
این‌که یک هوش مصنوعی اطلاعات اجتماعی را دنبال کند، کاملاً بی‌سابقه نیست. سال‌هاست کاربران از چت‌بات‌ها درباره روابط عاطفی، دوستی یا اختلاف‌های شخصی مشورت می‌گیرند. تفاوت Muse در مقیاس و عمق دسترسی آن است؛ به‌خصوص وقتی پای متا در میان باشد، شرکتی که سال‌هاست به حجم عظیمی از داده‌های شبکه‌های اجتماعی دسترسی دارد.
نگرانی اصلی اینجاست که Muse احتمالاً فقط از چیزهایی که مستقیم به آن می‌گویید استفاده نمی‌کند، بلکه می‌تواند از الگوهای رفتاری، تعاملات و داده‌های متصل‌شده هم برای تکمیل تصویر خود از روابط شما بهره ببرد. در چنین شرایطی، مرز میان «کمک هوشمند» و «ردیابی عمیق زندگی خصوصی» بسیار باریک می‌شود.
مهم‌ترین نگرانی‌ها
- ایجاد پروفایل برای افرادی که خودشان هیچ رضایتی نداده‌اند
- تحلیل روابط شخصی و عاطفی در سطحی بسیار جزئی
- امکان استفاده از داده‌ها برای پیشنهادهای جهت‌دهی‌شده
- تبدیل شدن دستیار هوش مصنوعی به مخزن دائمی اطلاعات اجتماعی
- ابهام درباره مدت نگهداری و نحوه پردازش این داده‌ها
Muse می‌خواهد مثل یک دوست شما را بشناسد
کاران جوشی پس از بررسی این دستورها گفته برداشت او این بوده که سازندگان Muse تلاش کرده‌اند سیستم را طوری آموزش دهند که روابط واقعی شما با آدم‌ها را بفهمد؛ آن هم نه در حد کلی، بلکه با جزئیات نسبتاً دقیق. به گفته او، Muse می‌خواهد شما را «مثل یک دوست» بشناسد؛ توصیفی که برای خیلی‌ها بیشتر از آن‌که جذاب باشد، unsettling و نگران‌کننده است.
وقتی یک ابزار دیجیتال شروع می‌کند به مستندسازی آدم‌های دور و بر شما، ثبت تاریخچه رابطه، نقاط مشترک، موضوعات حل‌نشده و حتی راهبرد تعامل، دیگر بحث فقط یک دستیار هوشمند نیست. اینجا با سیستمی روبه‌رو هستیم که می‌خواهد نقشه اجتماعی زندگی شما را بسازد و مدام آن را به‌روز نگه دارد.
کاربران باید به چه چیزهایی توجه کنند؟
اگر از ابزارهای هوش مصنوعی شخصی استفاده می‌کنید، بهتر است قبل از اتصال داده‌های حساس، نگاهی دقیق‌تر به سطح دسترسی‌ها و نوع اطلاعاتی که در اختیارشان می‌گذارید داشته باشید. راحتی و سرعت بیشتر، همیشه بدون هزینه نیست؛ گاهی بهای آن، واگذاری لایه‌ای عمیق از حریم خصوصی شما و حتی اطرافیانتان است.
- دسترسی اپ به پیام‌ها، مخاطبان و داده‌های شخصی را بررسی کنید
- اگر لازم نیست، حساب‌های مالی یا سلامت را متصل نکنید
- گفت‌وگوهای بسیار شخصی را با احتیاط بیشتری وارد این ابزارها کنید
- سیاست حفظ حریم خصوصی و گزینه‌های حذف داده را بخوانید
- به این فکر کنید که اطلاعات شما فقط درباره خودتان نیست و ممکن است دیگران را هم درگیر کند
Muse فعلاً نمونه‌ای روشن از مسیری است که دستیارهای هوش مصنوعی شخصی می‌توانند به آن برسند: ابزارهایی که قرار است کمک‌حال باشند، اما در عمل تصویری بسیار دقیق از زندگی خصوصی، روابط و حلقه اجتماعی شما می‌سازند. سؤال مهم این نیست که چنین کاری از نظر فنی ممکن است یا نه؛ سؤال این است که آیا باید اجازه انجامش را بدهیم یا نه.
نظر، سوال یا تجربه خود را درباره این مطلب با سایر کاربران اوکالا به اشتراک بگذارید.