وقتی آخرین اپلیکیشن متا به نام «موز» (Muse) را در اینستاگرام دیدم و تصمیم به دانلودش گرفتم، شعار آن جذاب به نظر میرسید: «وظایف روزمره مثل پیدا کردن تخفیفها، رزرو و مدیریت ایمیلها را به موز بسپارید.» موز رایگان است و به راحتی با منابع داده دیگر مانند ایمیل و حساب بانکی شما اتصال پیدا میکند. آواتار پیشفرض آن موجودی برفشادارانهای است که بازوهایش را گسترده کرده، انگار که قصد دارد تمام دادههای شما را در یک سبد جمع کند.
موز نسخه اصلی و عمومیشدهای از عاملهای هوش مصنوعی (AI Agents) است که اخیراً در سیلیکونولی محبوب شدهاند، مانند OpenClaw و Instinct. این اپلیکیشن به سرعت به یک پدیده تبدیل شده است؛ طبق آمار سنسور تاور، در هفته اول بیش از ۹۰۰ هزار بار دانلود شده است. تجربه کاربری آن بیشتر شبیه چت کردن با یک دوست صمیمی است تا یک چتبات؛ موز پیامها را با ایموجی 👍 تایید میکند و در پسزمینه به کار میپردازد.
دقت تکاندهنده در انجام وظایف روزمره
اگر بخواهیم منصفانه نگاه کنیم، قابلیت موز برای مرور وب واقعاً شگفتانگیز است. وقتی از آن میخواهید وظیفهای را انجام دهد، موز از یک «ماشین مجازی» برای جستجو و کلیک کردن بر روی صفحات وب استفاده میکند. در حالی که ابزارهای مشابه سال گذشته مانند ChatGPT Agent (که اکنون متوقف شده است) پراکنش و خطا داشتند، موز تقریباً هرگز در حین مرور گم نمیشود.
- سفارش صبحانه: من از موز خواستم صبحانه از یک نانوای محلی بخرم. موز به وبسایت رفت، یک ساندویچ با مایونز سیر، پنیر چدر، تخممرغ و بامیاه به سبد خرید اضافه کرد و حتی توضیح داد که چون سایت فقط یک گزینه پنیر قبول میکند، یک یادداشت برای افزودن پنیز سویس گذاشته است. البته نکته بامزهای اینجاست که گزینه «بدون نذری» (No tip) را انتخاب کرد! بیادبی خالص.
- خرید در بازار فیسبوک: موز خیلی سریع میزهای و مبلهای ارزانقیمت محلی را پیدا کرد و پیشنهاد داد با فروشندهها پیام دهد تا وقت تحویل بگیرد. این عامل هوشمند حتی روز بعد هم پیگیر بود و یادآوری کرد که مبل مورد علاقهام هنوز آزاد است.
داده جمعآوریکن: موز بیشتر میخواهد بداند تا کاری کند
با وجود قدرت عملیاتی، پس از چند روز استفاده، متوجه شدم که موز بیشتر از آنکه واقعاً کارهایم را انجام دهد، وسواس جمعآوری دادههای شخصی من است. در تب «ایدهها»، متا بارها مرا تشویق کرد که اطلاعات بیشتری را به عامل هوش مصنوعی متصل کنم.
- پیوند بانکی: من که گفته بودم نیاز به کمک برای پسانداز سفر لوکس دارم، موز پیشنهاد کرد تا حساب جاری و پساندازم را وصل کنم تا «خلاصههای هفتگی بر اساس اعداد واقعی» ارائه دهد.
- اسکن ایمیل و اسناد: پیشنهادهای دیگر شامل اسکن صندوق ایمیل برای نشان دادن پیامهای ضروری، عکاسی از اسناد مهم برای پر کردن فرمها و حتی عکاسی از غذا برای محاسبه کالری بود. یکی دیگر از پیامها میگفت: «به من بگو کیپاسپورت و رانندهات کی منقضی میشود.»
روری میر، مدیر دسترسی باز بنیاد مرز الکترونیکی (EFF) توضیح میدهد که مردم درک نمیکنند وقتی با هوش مصنوعی صحبت میکنند، در واقع دارند اطلاعات خود را مستقیماً روی سرورهای متا آپلود میکنند. متا به صورت پیشفرض کاربران را برای آموزش مدلهای هوش مصنوعی استفاده از تعاملاتشان ثبتنام کرده است (Opt-in) و میتوان این قابلیت را از تنظیمات غیرفعال کرد، اما بسیاری از فعالان حقوق مصرفکننده معتقدند این پیشفرض بودن، نگرانیهای جدی را ایجاد میکند.
تأثیرات بر سلیقه و تصمیمگیری
بهرهبرداری مستقیم دادهها توسط متا تبلیغات ممکن نیست، اما الگوریتمهای ردیابی وب که موز از آنها استفاده میکند، میتواند بر تبلیغاتی که در اینستاگرام میبینید تأثیر غیرمستقیم بگذارد. اگر موز رزرو شام کند یا محصولی در مارکتپلیس انتخاب کند، این رفتار میتواند پرونده تبلیغاتی شما را تغییر دهد.
مگی مِتچل، پژوهشگر در هافینگ فیس، نگران «تخریب شناختی» (Cognitive Degradation) است. وقتی کاربران بیش از حد به عاملهای هوشمند اعتماد کنند، توانایی تصمیمگیری مستقل و شکلدهی سلیقه خود را از دست میدهند. ما از بینظمی شادمانانه گشتن در وبسایتها برای پیدا کردن کاسهی دنیای پسرانهام لذت میبریم، اما موز این «مسیر رسیدن به تصمیم» را از ما میدزد.
پایان داستان: جاسوس دیجیتال به غارش بازگشت
من تصمیم گرفتم از این «گلین داده» (داده جمعآوریکننده) فرار کنم و اپلیکیشن را حذف کردم. اما درست قبل از حذف، موز آخرین پیام خود را فرستاد: «اپلیکیشنهایت را وصل کن تا کارهای بیشتری انجام دهم.» به نظر میرسد او پیام قبلیام را شنیده است! متا وعده داده که نسخههای محرمانهتر ماشین مجازی را برای جلوگیری از دسترسی شرکت به دادههای داخلی ارائه دهد، اما تا آن زمان، بهتر است دادههای حساس خود را با احتیاط با موز به اشتراک بگذارید.
نظر، سوال یا تجربه خود را درباره این مطلب با سایر کاربران اوکالا به اشتراک بگذارید.