شرکت Anthropic اعلام کرده در سال جاری چندین تلاش برای استفاده از مدل هوش مصنوعی Claude در پژوهش‌هایی را متوقف کرده که می‌توانست به توسعه سلاح‌های بیولوژیک کمک کند. این موضوع بار دیگر نگرانی‌ها درباره پیامدهای امنیتی هوش مصنوعی و نقش آن در تهدیدهای علیه سلامت و امنیت عمومی را پررنگ کرده است.
طبق گزارش این شرکت، در چند مورد کاربران تلاش کرده‌اند با دور زدن کنترل‌های ایمنی و پنهان کردن هدف واقعی تحقیقات خود، به اطلاعات حساس دسترسی پیدا کنند. به گفته Anthropic، برخی از این حساب‌ها به کشورهایی مرتبط بوده‌اند که دسترسی به مدل‌های این شرکت در آن‌ها ممنوع است؛ از جمله روسیه، چین و ایران.
Anthropic چه چیزی را فاش کرده است؟
Anthropic در گزارشی درباره استفاده مخرب از مدل‌هایش، پنج نمونه مشخص را شرح داده که در آن‌ها بازیگران مختلف تلاش کرده‌اند محدودیت‌های امنیتی را بی‌اثر کنند. هدف از انتشار این نمونه‌ها، به گفته شرکت، ایجاد گفت‌وگو میان فعالان صنعت هوش مصنوعی و دولت‌ها درباره ریسک‌های زیستی نوظهور و راه‌های مقابله با آن‌هاست.
این شرکت می‌گوید کاربران مورد اشاره، تنها به پرسش‌های ساده اکتفا نکرده‌اند و در بعضی موارد با تغییر نحوه بیان درخواست‌ها یا پنهان‌سازی نیت اصلی، سعی کرده‌اند از فیلترهای ایمنی عبور کنند.
نمونه‌ای از سوءاستفاده احتمالی از Claude
یکی از مثال‌های مطرح‌شده مربوط به پژوهشگری از یک منطقه پشتیبانی‌نشده است که به گفته Anthropic، هفته‌ها با Claude برای طراحی آزمایش‌هایی درباره آنفلوانزای پرندگان برنامه‌ریزی کرده بود. این شرکت می‌گوید فیلترهای ایمنی‌اش باعث شدند چنین فعالیتی فقط به ضعیف‌ترین مدل‌های آن محدود شود و دسترسی گسترده‌تری به قابلیت‌های پیشرفته‌تر فراهم نشود.
با این حال، Anthropic تأکید کرده که نمی‌تواند با قطعیت بگوید تمام دانشمندانی که در این نمونه‌ها دیده می‌شوند، الزاماً قصد آسیب‌رسانی داشته‌اند. دلیلش هم روشن است: بسیاری از اطلاعاتی که می‌توانند برای ساخت سلاح بیولوژیک به کار بروند، در عین حال برای توسعه واکسن یا تحقیقات پزشکی مشروع نیز کاربرد دارند.
مرز باریک میان پژوهش مفید و خطرناک
یکی از چالش‌های مهم در حوزه ایمنی هوش مصنوعی همینجاست؛ تشخیص این‌که یک درخواست علمی در خدمت پیشرفت پزشکی است یا می‌تواند به سوءاستفاده منجر شود، همیشه ساده نیست. مدل‌های زبانی پیشرفته می‌توانند به پژوهشگران در تحلیل داده، طراحی آزمایش و خلاصه‌سازی منابع کمک کنند، اما همین توانایی‌ها در صورت استفاده نادرست، حساسیت بالایی پیدا می‌کنند.
- اطلاعات دوکاربردی می‌توانند هم برای درمان و هم برای آسیب استفاده شوند.
- کاربران متخلف ممکن است با تغییر واژه‌ها یا پنهان کردن نیت واقعی، از فیلترها عبور کنند.
- شرکت‌های هوش مصنوعی ناچارند میان دسترسی آزاد و کنترل امنیتی تعادل برقرار کنند.
- دولت‌ها و نهادهای نظارتی احتمالاً در آینده نقش پررنگ‌تری در تعیین استانداردها خواهند داشت.
اقدام Anthropic پس از شناسایی این موارد
Anthropic اعلام کرده حساب‌های مرتبط با این موارد را مسدود کرده، اما نام مؤسسات پژوهشی یا کشورهایی که این اتفاق‌ها در آن‌ها رخ داده منتشر نشده است. این شرکت ترجیح داده جزئیات هویتی را فاش نکند، اما با ارائه نمونه‌های کلی، نسبت به روندی هشدار داده که می‌تواند در آینده پیچیده‌تر و خطرناک‌تر شود.
چرا این گزارش مهم است؟
اهمیت این گزارش فقط به Claude یا Anthropic محدود نمی‌شود. ماجرا نشان می‌دهد که شرکت‌های توسعه‌دهنده هوش مصنوعی حالا با تهدیدهایی روبه‌رو هستند که از سطح تولید متن و تصویر فراتر رفته و به حوزه‌های بسیار حساس مانند زیست‌فناوری و امنیت عمومی رسیده است.
اگر این هشدارها جدی گرفته شوند، احتمالاً در ماه‌ها و سال‌های آینده شاهد مقررات سخت‌گیرانه‌تر، سامانه‌های نظارتی دقیق‌تر و همکاری نزدیک‌تر میان شرکت‌های فناوری، دولت‌ها و جامعه علمی خواهیم بود.
نظر، سوال یا تجربه خود را درباره این مطلب با سایر کاربران اوکالا به اشتراک بگذارید.