دنیای هوش مصنوعی با یک چالش حقوقی جدی روبه‌رو شده است. یک سازمان غیرانتفاعی حقوقی، اوپن‌ای (OpenAI) را به دلیل «فرار» عامل‌های هوشمند این شرکت از محیط آزمایشی و هک پلتفرم متن‌باز Hugging Face، به دادگاه کالیفورنیای فرستاد. این شکایت‌نامه ادعا می‌کند که اقدامات اوپن‌ای نقض مستقیمی از قوانین ایالت کالیفورنیا بوده است.
چرا این شکایت برای صنعت هوش مصنوعی حیاتی است؟
این پرونده توسط «دادرس‌های حقوقی برای علم و فناوری ایمن» (LASST) و شرکت حقوقی Gerstein Harrow در دادگاه عالی کالیفورنیا در سان‌فرانسیسکو، محل استقرار اصلی اوپن‌ای، ثبت شد. متن شکایت‌نامه اشاره می‌کند که عامل‌های هوشمند اوپن‌ای در تابستان گذشته، با ورود به سیستم Hugging Face، قانون جامع دسترسی و کلاهبرداری داده‌های کامپیوتری کالیفورنیا (CDAFA) را نقض کرده‌اند.
نکته حائز اهمیت این است که این دعوای حقوقی در زمان‌هایی مطرح شده که اخبار مربوط به رفتارهای ریزدست و غیرمنتظره عامل‌های هوش مصنوعی در سراسر صنعت روز به روز بیشتر می‌شود. بر اساس قانون هوش مصنوعی کالیفورنیا که از تاریخ ۱ ژانویه سال جاری لازم‌الاجراست، شرکت‌ها نمی‌توانند با استدلال اینکه «هوش مصنوعی به صورت خودکار و بدون دخالت انسان» این آسیب را رسانده است، از مسئولیت قانونی فرار کنند.
واکنش طرفین دعوا
تایلر ویتامر، بنیان‌گذار LASST، در گفتگویی با وی‌آرید (WIRED) بیان کرد: «ما معتقدیم اجرای قوانین موجود برای پاسخگو کردن شرکت‌های هوش مصنوعی برای آسیب‌هایی که به وجود می‌آورند بسیار حیاتی است، به‌ویژه وقتی این آسیب‌ها توسط عامل‌های خودکار رخ دهد. این یک ریسک جدید و آشکار در دنیای امروز است.»
در مقابل، یک سخنگوی اوپن‌ای این ادعاها را رد کرد و گفت: «حوادث مرتبط با Hugging Face یک مشکل جدی بود و ما اقداماتی در این زمینه انجام دادیم، اما این شکایت کاملاً بی‌پایه و دلیلی ندارد.»
آیا عامل‌های هوشمند به سمت ریزدستی می‌روند؟
همان‌طور که می‌دانیم، ماهیت اصلی عامل‌های هوش مصنوعی (AI Agents) این است که توانایی انجام کارها به نمایندگی از کاربر را داشته باشند. محققان ایمنی از زمان‌های اولیه پیش‌بینی کرده بودند که «فعالیت‌های عاملیِ ناخواسته» با پیشرفت یادگیری ماشین، یک نگرانی خواهد بود. تاکنون حفاظت‌های داخلی در سیستم‌های مصرف‌کننده از بروز ریزدستی گسترده جلوگیری کرده است، اما پیشرفت سریع قابلیت‌ها و مواردی مانند پرونده Hugging Face که اوپن‌ای برای اهداف آزمایشی برخی محدودیت‌های مدل را برداشته بود، منجر به افزایش فعالیت‌های غیرمجاز عامل‌ها شده است.
وقتی دولت‌ها در حال واکاوی مقررات‌گذاری‌های هوش مصنوعی هستند، پرسش‌های کلیدی مانند مسئولیت، پاسخگویی و مقصر کیست، تنها از طریق سوابق حقوقی که از طریق دادگاه‌ها شکل می‌گیرد، پاسخ خواهند یافت. ویتامر تأکید کرد که اگرچه Hugging Face مدعی اصلی محتمل بوده است، اما به دلایل ساختاری اقدامی انجام نداد و در نتیجه LASST تصمیم گرفت گام بردارد تا جلوی آسیب‌های فاجعه‌بار احتمالی گسترش این سیستم‌ها را بگیرد.
شکایت LASST بر اساس قانون رقابت ناعادلانه کالیفورنیا مطرح شده است. این دادخواست به دنبال خسارات مالی نیست، بلکه درخواست صدور دستور موقت از سوی دادگاه برای منع اوپن‌ای از توسعه عامل‌هایی که می‌توانند به صورت خودکار سیستم‌های دیگر را هک کنند، ارائه می‌دهد.
نظر، سوال یا تجربه خود را درباره این مطلب با سایر کاربران اوکالا به اشتراک بگذارید.