اپلیکیشن‌هایی که با هوش مصنوعی تصویر افراد را برهنه می‌کنند، این روزها نه در گوشه‌ای تاریک از اینترنت، بلکه درست روی پیشخوان رسمی اپل و گوگل نشسته‌اند. پژوهشی تازه نشان می‌دهد شبکه‌ای با بیش از ۴۰۰ اپ و وب‌سایت از این نوع، آزادانه روی اپ استور و گوگل پلی در دسترس کاربران بوده است؛ بعضی از آن‌ها صدها میلیون بار دانلود شده‌اند و پول کلانی هم به جیب سازندگانشان رفته است.
نکته نگران‌کننده این است که این برنامه‌ها دیگر با نام و ظاهر مشخص خودشان عرضه نمی‌شوند. آن‌ها خود را جای ابزارهای بی‌آزار جا می‌زنند: اپ آموزش زبان، ویرایش عکس حیوان خانگی با هوش مصنوعی یا حتی مربی ورزشی. کاربر اپ را نصب می‌کند، صفحه‌ای کاملاً معمولی می‌بیند و هیچ دلیلی برای شک ندارد؛ غافل از اینکه رابط واقعی برنامه چیز دیگری است.
یک رابط دوچهره؛ آنچه می‌بینید همه ماجرا نیست
سازوکار این اپ‌ها ساده اما حساب‌شده است. پس از نصب، برنامه بی‌سروصدا با یک سرور ارتباط می‌گیرد و از آن می‌پرسد که آیا باید مولد تصاویر جعلی و مستهجن را برای این کاربر باز کند یا نه. پژوهشگران می‌گویند هیچ فهرست روشنی وجود ندارد که معلوم کند دقیقاً چه چیزی این قفل را باز می‌کند؛ اما یک نشانه پرتکرار پیدا کرده‌اند: نصب اپ درست بعد از کلیک روی تبلیغی که خودش محتوای مستهجن جعلی دارد.
به بیان دیگر، این اپ‌ها یک نسخه «تمیز» برای بازبینی و یک نسخه پنهان برای مشتری هدف دارند.
- بیش از ۴۰۰ اپ و وب‌سایت در این شبکه شناسایی شده‌اند.
- گزارش‌های پیشین از حدود ۳۸ اپ مشابه خبر داده بودند که مجموعاً ۴۸۳ میلیون دانلود و ۱۲۲ میلیون دلار درآمد داشتند.
- ردپای اپ‌ها به توسعه‌دهندگان چینی و شرکتی هنگ‌کنگی به نام «KeLing Technology Limited» می‌رسد.
- این شبکه برای تبلیغ نرم‌افزارهایش در متا هم آگهی منتشر می‌کرده است.
اپل: تقصیر توسعه‌دهنده‌هاست
اپل در واکنش به این گزارش، مسئولیت را یکسره بر دوش سازندگان اپ گذاشته است. به گفته این شرکت، هر اپلیکیشن پیش از انتشار بررسی می‌شود و این برنامه‌ها در زمان بازبینی تمام قوانین را رعایت کرده بودند. اما بعد از تأیید، توسعه‌دهنده‌ها آدرس سایتی را که اپ محتوایش را از آن می‌کشد عوض کرده و محتوای تأییدشده را با تصاویر مستهجن جایگزین کرده‌اند؛ آن هم با تبلیغاتی که در یک پلتفرم شخص ثالث منتشر شده بود.
شرکت هنگ‌کنگی سازنده هم پس از تماس خبرنگاران، هرگونه ارتباطش با این اپ‌ها را از میان برده است.
پاسخ گوگل؛ حذف پیش از انتشار گزارش
گوگل هم در بیانیه‌ای به این ماجرا واکنش نشان داد و تأکید کرد که پلی اجازه انتشار محتوای جنسی یا ابزارهایی که تصویر افراد را برهنه می‌کنند نمی‌دهد. به گفته سخنگوی این شرکت، اپ‌های خاطی پیش از آنکه گزارشگران سراغشان بروند از پلی حذف شده بودند و صدها اپ دیگر هم به دلیل نقض سیاست‌ها معلق شده‌اند. گوگل می‌گوید جست‌وجوی عبارت‌های مرتبط را محدود کرده و فرایند بازبینی را طوری تغییر داده که اپ‌های هوش مصنوعی مولد را مدام برای نوع محتوایی که در دسترس می‌گذارند آزمایش کند.
با این حال، هر دو شرکت بخش بزرگی از این اپ‌ها را حذف کرده‌اند، اما الگویی که در آن اپ‌ها یکی پس از دیگری با ظاهری تازه برمی‌گردند، نشان می‌دهد ماجرا با چند بار حذف تمام نمی‌شود. تا زمانی که سود این کار برای سازندگانش آن‌قدر بالا باشد، بازبینی اپ‌ها به تنهایی کافی نیست؛ چه بسا راه‌حل واقعی، سخت‌تر کردن دسترسی به ابزارهایی باشد که از یک عکس ساده، سلاحی برای آسیب به حریم خصوصی می‌سازند.
نظر، سوال یا تجربه خود را درباره این مطلب با سایر کاربران اوکالا به اشتراک بگذارید.