دیوان عالی نیومکزیکو یک وکیل را به دلیل استفاده از اطلاعات ساختگی تولیدشده با هوش مصنوعی در پرونده قتل، ۵ هزار دلار جریمه کرد. این وکیل در لایحه تجدیدنظر موکلش به شاهدان خیالی و اظهارات جعلی پلیس استناد کرده بود؛ مواردی که به گفته دادگاه، هرگز وجود خارجی نداشتند.
بر اساس گزارشی از رویترز، دادگاه در پرونده‌ای که روز چهارشنبه ثبت شد، استیون آرونز را علاوه بر جریمه نقدی، به دلیل ناتوانی در راستی‌آزمایی ادعاهای factual و مستندات حقوقی موجود در لایحه تولیدشده با هوش مصنوعی، به اهانت به دادگاه محکوم کرد.
شاهدانی که وجود نداشتند
در متن دادگاه آمده است که لایحه ارائه‌شده شامل شهادت‌های دروغین از شاهدانی کاملاً ساختگی بوده است. علاوه بر این، بخش‌هایی از پرونده نیز به توصیف نادرست لباس و ظاهر فرد تیرانداز اختصاص داشته؛ توصیفاتی که دادگاه آن‌ها را جعلی دانسته است.
این ماجرا زمانی جدی‌تر شد که یکی از قضات، قاضی سی. شانون بیکن، در جلسه‌ای در ماه اوت از آرونز پرسید چطور از خطرات استفاده از هوش مصنوعی بی‌خبر بوده است. آرونز در این جلسه پذیرفت که از ChatGPT استفاده کرده و تصور می‌کرد این ابزار می‌تواند یک خلاصه بی‌نقص و قابل اتکا از روند دادگاه تولید کند.
واکنش تند قاضی به اتکای کورکورانه به ChatGPT
به گزارش رویترز، قاضی بیکن در جلسه رسیدگی با لحنی تند گفت:
«آقای وکیل، اخبار را دنبال می‌کنید؟ رادیو گوش می‌دهید؟ اصلاً چیزی درباره اتفاقات دنیا می‌خوانید؟ چون مشکل اتکای وکلا به توهمات هوش مصنوعی، این روزها هر روز تیتر رسانه‌هاست.»
این جمله به‌خوبی نشان می‌دهد که دادگاه‌ها دیگر استفاده بی‌احتیاط از ابزارهای هوش مصنوعی را یک اشتباه ساده تلقی نمی‌کنند؛ مخصوصاً وقتی پای پرونده‌ای سنگین مثل قتل در میان باشد.
افزایش استفاده از هوش مصنوعی، افزایش خطاهای حقوقی
با بیشتر شدن استفاده وکلا از ابزارهای هوش مصنوعی در کار روزانه، تعداد پرونده‌هایی هم که در آن‌ها استنادهای جعلی، نقل‌قول‌های نادرست و منابع خیالی کشف می‌شود، رو به افزایش است.
این نخستین بار نیست که یک دادگاه با چنین اتفاقی روبه‌رو می‌شود. سال گذشته نیز یک قاضی از دو شرکت حقوقی به‌شدت انتقاد کرد، چون لایحه‌ای ارائه داده بودند که پر از استنادهای حقوقی غلط، گمراه‌کننده و نادرست بود. در پرونده‌ای دیگر، وکلای مایک لیندل، مدیر MyPillow، هم به خاطر استفاده از نقل‌قول‌های اشتباه و ارجاعات جعلی تولیدشده با هوش مصنوعی جریمه شدند.
نکات مهم این پرونده
- دیوان عالی نیومکزیکو یک وکیل را ۵ هزار دلار جریمه کرد.
- دلیل جریمه، استفاده از شاهدان خیالی و شهادت‌های جعلی در لایحه تجدیدنظر بود.
- وکیل پرونده پذیرفت که از ChatGPT برای تهیه خلاصه دادگاه استفاده کرده است.
- دادگاه اعلام کرد او ادعاهای factual و منابع حقوقی را بررسی نکرده بود.
- این پرونده یکی دیگر از نمونه‌های خطر استناد بی‌بررسی به خروجی هوش مصنوعی است.
دفاع وکیل: «اشتباهی صادقانه بود»
آرونز در بیانیه‌ای به رویترز گفته است که از این اتفاق متأسف است، اما امیدوار است هیئت رسیدگی انضباطی در نظر بگیرد که ماجرا یک اشتباه صادقانه بوده است.
با این حال، پیام دادگاه روشن است: استفاده از هوش مصنوعی در کار حقوقی ممنوع نیست، اما هر وکیل همچنان مسئول نهایی صحت اطلاعاتی است که به دادگاه ارائه می‌کند. اگر خروجی یک ابزار هوش مصنوعی بدون بررسی وارد پرونده شود، مسئولیتش نه با نرم‌افزار، بلکه با امضاکننده لایحه است.
هشدار جدی برای استفاده حرفه‌ای از هوش مصنوعی
این پرونده بار دیگر نشان می‌دهد که ابزارهایی مثل ChatGPT می‌توانند در خلاصه‌سازی، ایده‌پردازی و تسریع کار مفید باشند، اما در حوزه‌های حساسی مثل حقوق، پزشکی و امور مالی، اعتماد بی‌چون‌وچرا به خروجی آن‌ها می‌تواند تبعات سنگینی داشته باشد.
هوش مصنوعی ممکن است متنی کاملاً روان، قانع‌کننده و حتی ظاهراً دقیق تولید کند، اما همین ظاهر حرفه‌ای می‌تواند خطرناک باشد؛ چون خطاهای آن همیشه واضح و قابل تشخیص نیستند. به‌ویژه وقتی این خطاها به شکل شاهد، نقل‌قول، رأی قضایی یا منبع حقوقی جعلی ظاهر شوند.
نظر، سوال یا تجربه خود را درباره این مطلب با سایر کاربران اوکالا به اشتراک بگذارید.