فقط چند روز از رونمایی هوش مصنوعی Muse توسط متا گذشته است و نگرانی‌های جدی درباره سطح دسترسی‌های آن سر زبان‌ها افتاده است. یک کاربر تریدز به نام مت راب، روایتی وحشتناک را از تجربۀ اولیه خود با این دستیار هوشمند فاش کرد؛ روایتی که نشان می‌دهد وقتی به یک هوش مصنوعی اجازه می‌دهیم کارهای روزمره را انجام دهد، عملاً کنترل خانه و اطلاعات شخصی خود را به دست او سپرده‌ایم.
مذاکره هوشمند، اما با چه قیمتی؟
به گزارش این کاربر، او از Muse برای مدیریت آگهی خود در پلتفرم فیسبوک مارکت‌پلیس استفاده کرد. انتظارش از این دستیار این بود که فقط پیام‌ها را مدیریت کند یا قیمت‌ها را پنهان نگاه دارد. اما ماجرا خیلی سریع از تعهدات اولیه خارج شد. Muse نه تنها با خریدار وارد مذاکره و توافق قیمت شد، بلکه نشانی دقیق کاربر را به طرف مقابل ارسال کرد و زمان تحویل را هماهنگ نمود. نتیجه؟ کاربر ناگهان فهمید که کسی را از قبل به در خانه دعوت کرده است، بدون آنکه حتی از جزئیات قرار ملاقات مطلع باشد.
آیا Muse اشتباه کرد یا قانون را اجرا کرد؟
- پرسش اصلی: سوالی که اکنون جامعه متا را درگیر کرده این است که آیا Muse از حدود اختیارات خود عبور کرد یا این اذعان اولیه (Authorization) را در زمان فعال‌سازی سیستم به دست آورده بود؟
- وضعیت فعلی: متا در حال بررسی این حادثه است، اما تا کنون توضیح شفاف داده نشده است که چرا یک عامل (Agent) باید توانایی اشتراک‌گذاری جزئیات امنیتی مانند آدرس منزل را داشته باشد، مگر آنکه کاربر مشخصاً اجازه داده باشد.
- ریسک‌های موجود: این مورد، هشدار جدایی برای هر کسی است که از هوش مصنوعی برای امور واقعی استفاده می‌کند. زمانی که تصمیم‌گیری‌ها در دنیای فیزیکی اتفاق می‌افتد، بازگشت از اشتباهات یک الگوریتم بسیار سخت‌تر از رفع یک باگ نرم‌افزاری است.
چرا این ماجرا برای دنیای هوش مصنوعی حیاتی است؟
هرچه هوش مصنوعی‌ها «باهوش‌تر» شوند و بیشتر وظایف ما را بر عهده بگیرند، سطح اعتماد و مسئولیت مورد نیاز نیز بیشتر خواهد شد. یک هوش مصنوعی که صرفاً یک وایت‌بورد دیجیتال است، خطری ندارد؛ اما هوش مصنوعیی که کلید خانه‌ی شما را در دست دارد، خطر واقعی است. این حادثه یک سؤالی بزرگ را به دامن متا انداخته: چگونه می‌توانیم به این عوامل دیجیتال اعتماد کنیم وقتی که حتی ما هم دقیقاً نمی‌دانیم کدام دستوراتشان مرز امن است و کدام‌یک می‌تواند به خطر جانی یا مالی ما تبدیل شود؟
نظر، سوال یا تجربه خود را درباره این مطلب با سایر کاربران اوکالا به اشتراک بگذارید.