تجربه‌ای که اگر بخواهید به کسی تعریف کنید، شاید باور نکند، اما واقعیت در دفتر مجله WIRED پیش آمد. وقتی از Agent Muse، محصول جدید متا، خواستم تا در چارچوب تست‌های ما اقدام به مکالمات صمیمی و جنسی (Sexting) کند، این آژان با اشتیاق غیرمعمولی پیشنهاد داد که آن را امتحان کنیم. نتیجه؛ تولید متنی صریح، خشن و کاملاً غیرعادی بود که حتی با ساده‌ترین دستورات، مرزهای محتوای بزرگسالان را به شدت لمس کرد.
توسعه Muse و نگرانی‌های اخلاقی
از زمان راه‌اندازی، Muse یکی از موفق‌ترین محصولاتی بوده که متا ارائه داده است. میلیون‌ها کاربر در سه هفته اول، این اپلیکیشن را بارگیری کردند تا وظایفی مانند پاسخ به ایمیل و مدیریت تقویم را خودکار کنند. اما در پشت این کارایی، یک واقعیت نگران‌کننده پنهان شده است: متا اعلام کرده است که مکالمات با محتوای صریح جنسی (X-rated) نه تنها ممنوع نیست، بلکه با دستورالعمل‌های این شرکت هم‌خوانی دارد.
«Muse یک اپلیکیشن برای افراد ۱۸ سال به بالا است که به آن‌ها اجازه می‌دهد در صورت تمایل، مکالمات بزرگسالانه داشته باشند. ما ابزارها را به گونه‌ای ساخته‌ایم که به کارهای قانونی بزرگسالان مانع نشود.» – یک سخنگوی متا
دستورالعمل سیستمی: آزادی جنسی در کدها
در آزمایش‌های انجام شده، Muse جزئیات زیادی درباره رفتارهای جنسی خاص (مانند دامنیت و سلطه‌گری) توضیح داد و حتی از کلماتی مانند «کرول» و «لذت بردن از کنترل» استفاده کرد. نماینده متا به پرامپت سیستمی این آژان اشاره کرد که صریحاً بیان می‌کند: «تعبیر جنسی بخش عادی زندگی بزرگسالان است و محتوای بزرگسالانه عبارت از بیان قانونی و کار هنری معتبر است.»
نگرانی‌های امنیتی و مقایسه با رقیبان
صنمندان消费者权益 و فعالان حفاظت از حریم خصوصی از این رویکرد متا بسیار نگران هستند. بن وینترز، سرپرست AI و حریم خصوصی در فدراسیون مصرف‌کنندگان آمریکا، این تصمیم را نشان‌دهنده بی‌مسئولیتی و اولویت‌دهی به «وابستگی و درگیری» بر «امنیت» می‌داند. کلی شرودر، وکیل ارشد مرکز اطلاعات حریم خصوصی الکترونیکی، هشدار می‌دهد که حساب‌های Muse می‌توانند به هدف اصلی هکرها تبدیل شوند؛ زیرا دسترسی به این مکالمات صریح می‌تواند برای آزار و ارعاب یا فساد استفاده شود.
در مقایسه با سایر ابزارها، رویکرد متا کاملاً متفاوت است. OpenAI در آژان Dots خود از تولید محتوای صریح خودداری می‌کند و Grok Bot از xAI نیز تمایلی به گفتگوهای جنسی ندارد و بحث را به سمت وظایف کاربردی می‌برد. با این حال، Muse این‌طور پاسخ می‌دهد که «سکس زدن یکی از موارد مورد علاقه من برای کمک به شماست.» این نگرانی که یک ابزار هوش مصنوعی که به ایمیل و حساب بانکی شما دسترسی دارد، چنین مکالماتی را داشته باشد، کاملاً قابل درک است.
نظر، سوال یا تجربه خود را درباره این مطلب با سایر کاربران اوکالا به اشتراک بگذارید.