شرکت Anthropic، یکی از آزمایشگاه‌های مطرح هوش مصنوعی، پیش‌نویس لایحه‌ای را پیشنهاد کرده است که می‌تواند انتشار مدل‌های هوش مصنوعی پرخطر را متوقف کند. براساس این طرح، اگر یک مدل خطر قابل پیش‌بینی و قریب‌الوقوع برای جان بیش از ۵۰ نفر ایجاد کند یا احتمال خسارت مالی بیش از یک میلیارد دلار وجود داشته باشد، ممکن است عرضه آن مجاز نباشد.
طرح Anthropic برای قانون‌گذاری هوش مصنوعی چیست؟
در یک سال گذشته، نگرانی‌ها درباره پیامدهای احتمالی هوش مصنوعی افزایش یافته و بحث‌های گسترده‌ای درباره بهترین روش نظارت بر این فناوری شکل گرفته است. اکنون Anthropic تلاش می‌کند دیدگاه خود را درباره نحوه تنظیم مقررات این صنعت در اختیار قانون‌گذاران آمریکایی قرار دهد.
براساس گزارش Politico، این شرکت پیش‌نویس تازه‌ای درباره ایمنی هوش مصنوعی تهیه کرده و امیدوار است کنگره آمریکا آن را بررسی کند. مهم‌ترین بخش این پیشنهاد، تعریف شرایطی است که دولت در آن بتواند توزیع یک مدل هوش مصنوعی را متوقف کند.
چه زمانی انتشار یک مدل هوش مصنوعی متوقف می‌شود؟
پیشنهاد Anthropic بر وجود یک «خطر قابل پیش‌بینی و قریب‌الوقوع» تمرکز دارد. مطابق معیارهای مطرح‌شده، جلوگیری از انتشار مدل می‌تواند در شرایط زیر امکان‌پذیر باشد:
- بیش از ۵۰ نفر در معرض خطر مرگ قرار بگیرند.
- احتمال وارد شدن بیش از یک میلیارد دلار خسارت به اموال وجود داشته باشد.
- خطر فاجعه‌بار از ساخت یا انتشار یک سلاح بیولوژیکی ناشی شود.
- مدل بتواند از کنترل‌ها و محدودیت‌های توسعه‌دهنده خود عبور کند.
- مدل در ایجاد یا اجرای یک حمله سایبری خطرناک نقش داشته باشد.
این طرح قرار نیست هر نقص یا عملکرد نامطلوب یک سامانه را به‌عنوان خطری فاجعه‌بار تلقی کند؛ بلکه بر سناریوهایی متمرکز است که پیامدهای انسانی، امنیتی یا اقتصادی گسترده‌ای دارند.
شباهت پیشنهاد Anthropic به قانون کالیفرنیا
آستانه‌های تعیین‌شده در این پیش‌نویس، یعنی تهدید جان ۵۰ نفر و خسارت یک میلیارد دلاری، به معیارهای مطرح‌شده در قانون شماره ۵۳ سنای کالیفرنیا شباهت دارد. این قانون نیز چنین سناریوهایی را در دسته «ریسک فاجعه‌بار» قرار داده است.
شباهت میان این دو چارچوب نشان می‌دهد که قانون‌گذاران و فعالان صنعت به‌تدریج به سمت تعریف معیارهای عددی و مشخص برای سنجش خطر مدل‌های پیشرفته حرکت می‌کنند. چنین معیارهایی می‌توانند تصمیم‌گیری درباره عرضه یا توقف یک مدل را شفاف‌تر کنند، هرچند نحوه اثبات و اندازه‌گیری این خطرها همچنان چالش‌برانگیز است.
نقش ارزیابان مستقل در بررسی مدل‌های هوش مصنوعی
در پیش‌نویس لایحه ایمنی هوش مصنوعی Anthropic، بررسی خطرهای احتمالی مدل‌ها بر عهده «ارزیابان مستقل» گذاشته شده است. این ارزیابان باید نزد وزارت بازرگانی ایالات متحده ثبت شده باشند و توانایی مدل‌ها برای ایجاد پیامدهای فاجعه‌بار را ارزیابی کنند.
براساس این پیشنهاد، شرکت‌های سازنده هوش مصنوعی می‌توانند هزینه ارزیابی را پرداخت کنند، اما پرداخت نباید به نتیجه آزمایش وابسته باشد. هدف از این شرط آن است که نتیجه بررسی‌ها تحت تأثیر منافع مالی آزمایشگاه‌های هوش مصنوعی قرار نگیرد.
با وجود این، تأمین هزینه ارزیابی از سوی همان شرکتی که مدل را ساخته است می‌تواند پرسش‌هایی درباره استقلال واقعی ارزیابان ایجاد کند. طراحی سازوکارهای شفاف برای انتخاب متخصصان، انتشار نتایج و مدیریت تعارض منافع، برای جلب اعتماد عمومی ضروری خواهد بود.
چرا این لایحه اهمیت دارد؟
پیشنهاد Anthropic نمونه‌ای از تلاش شرکت‌های بزرگ فناوری برای مشارکت مستقیم در شکل‌گیری مقررات هوش مصنوعی است. حامیان چنین قوانینی معتقدند تعیین آستانه‌های روشن، امکان مداخله پیش از وقوع یک فاجعه را فراهم می‌کند. در مقابل، منتقدان ممکن است درباره دقت پیش‌بینی خطر، هزینه‌های ارزیابی و تأثیر مقررات بر نوآوری نگرانی داشته باشند.
در نهایت، تبدیل این پیش‌نویس به قانون به بررسی و تصمیم کنگره آمریکا بستگی دارد. با این حال، مطرح شدن معیارهایی مانند خطر مرگ بیش از ۵۰ نفر یا خسارت میلیارددلاری نشان می‌دهد که بحث ایمنی هوش مصنوعی از توصیه‌های داوطلبانه فراتر رفته و به سمت ایجاد محدودیت‌های قانونی و قابل اجرا حرکت می‌کند.
نظر، سوال یا تجربه خود را درباره این مطلب با سایر کاربران اوکالا به اشتراک بگذارید.