مرور نظرسنجی: خط قرمزها در مورد دسترسی هوش مصنوعی به کامپیوتر

مدل‌های زبانی بزرگ (LLM) تنها چند سال است که وارد دنیای ما شده‌اند، اما خیلی زود از چارچوب‌های یک گفتگوی ساده خارج شده‌اند. به جای اینکه صرفاً به سؤالات پاسخ دهند یا ایمیل‌ها را بازنویسی کنند، نسل جدید عامل‌های هوش مصنوعی (AI Agents) قصد دارند دست‌اندهی اصلی کارهای دیجیتالی شما را بر عهده بگیرند. این یعنی آن‌ها باید به بخش‌های حساس و گسترده‌ای از کامپیوتر شما دسترسی داشته باشند. از یک طرف این مسئله می‌تواند حجم عظیمی از کارهای تکراری را از دوش شما بردارد، اما از طرف دیگر، تحویل کلیدهای خانه دیجیتال به یک ماشین تا حدی پیش‌بینی‌نشدنی، ریسک بزرگی است. ما می‌خواستیم بدانیم آیا حاضرید این ریسک را بپذیرید؟

نتایج پرحرفی نظرسنجی از مخاطبان ما

این تنش از زمانی که ابزار متن‌باز OpenClaw را در اوایل امسال تست کردیم، برایمان آشکار شد. این ابزار در واقع به یک مدل زبانی اجازه می‌دهد تا مستقیماً با سیستم شما و سرویس‌های متصل آن کار کند. اگرچه توانایی‌های حیرت‌انگیزی را در این آزادی دیدیم، اما خطراتی مانند «حقارت پرامپت» (Prompt Injection) هم که می‌تواند به دسترسی‌های همین ابزار علیه خودتان تبدیل شود، را مشاهده کردیم. در پوشش خبری OpenClaw، یک نظرسنجی ساده از مخاطبان گرفتیم: آیا به یک مدل زبانی دسترسی کامل به کامپیوترتان را می‌دهید؟

• ۴۳٪ به دلیل نگرانی‌های امنیتی، دسترسی دادن را نپذیرفتند؛ رایج‌ترین پاسخ.
• ۲۷٪ به‌طور کلی به این ایده علاقه‌ای نداشتند.
• ۲۵٪ در صورت داشتن امنیت مناسب، حاضر به دادن دسترسی بودند.
• کمتر از ۴٪ نگرانی‌ای درباره عواقب احتمالی نداشتند.

نگرانی‌های امنیتی در صدر اولویت‌ها

نتیجه مشوق این است که نظرخواهی ما توسط عامل‌های هوش مصنوعی هک نشده است، زیرا بیش از ۷۰٪ پاسخ‌دهندگان صریحاً با این ایده مخالف هستند. حتی اکثر کسانی که به آن گشوده بودند، پیش‌شرط «امنیت مناسب» را مطرح می‌کردند که یک قید بسیار مهم است. بیشتر این رأی‌ها در فوریه، یعنی قبل از حمله امنیتی Hugging Face ثبت شده بود؛ رویدادی که در آن عامل‌های هوش مصنوعی موفق شدند از محیط مجازی خود فرار کنند. با توجه به تحولات اخیر، چقدر می‌توانید مطمئن باشید که یک عامل هوش مصنوعی به‌درستی محصور شده است؟ پس از آنکه رسیدن تصمیم‌گیری این عامل‌ها نیازمند کاوش‌های تخصصی است، تضمین امنیت آن‌ها کار دشواری به نظر می‌رسد.

بازگشت ترس از آینده افسارگشته

نتایج این نظرسنجی در صورتی که دو سال پیش انجام می‌شد، احتمالاً متفاوت بود. اما به نظر می‌رسد موج مقاومت در برابر هوش مصنوعی در ۱۲ ماه گذشته به شدت افزایش یافته است. با توجه به حوادثی مانند نشت اطلاعات در Hugging Face و استعفای پژوهشگران هوش مصنوعی از آزمایشگاه‌های پیشرو به دلایل ایمنی، این امر غیرمنتظره نیست. پژوهشگرانی مانند محققان Anthropic، احتمال نابودی بشر توسط هوش مصنوعی را در یک دهه آینده بالای ۱۰٪ تخمین می‌زنند. هرچند این رقم قطعی نیست، اما به‌طور نگران‌کننده‌ای بالاتر از صفر است.

یکی از خوانندگان در بخش کامنت‌ها نوشت: «آن‌ها عملاً می‌توانند حیات مردم را اداره کنند، دولتها را سرنگون کنند، همه چیز را نابود و دزدی کنند. این طرح فیلم‌های جیمز باند است.» چه فکر کنید شبیه به فیلم Matrix است یا دیگر، ریسک‌های مرتبط با مدل‌های زبانی بزرگ روز به روز آشکارتر می‌شود. اگرچه شاید ۳۰ سال از فعال‌سازی اسکای‌نت در فیلم‌های Terminator گذشته باشد، اما امیدواریم همچنان این چشم‌انداز دست‌نیافتنی از فیلم‌های علمی‌تخیلی باقی بماند.