دیوان عالی نیومکزیکو یک وکیل باسابقه را بهدلیل ارائه لایحهای حاوی شهادتهای ساختگی و نقلقولهای جعلی که با کمک ChatGPT تولید شده بود، به صورت مستقیم به اهانت به دادگاه محکوم کرد. ماجرا از جایی جنجالی شد که دادگاه اعلام کرد این لایحه شامل اظهارات نادرست از شاهدانی کاملاً خیالی بوده؛ از جمله شهادت جعلی پلیس و چند خطای حقوقی و factual دیگر.
دادگاه عالی این ایالت علاوه بر صدور حکم، پرونده این وکیل را برای بررسیهای بیشتر به هیئت رسیدگی انضباطی ارجاع داد و در متن دستور خود نوشت که او نه تنها پشیمانی کافی نشان نداده، بلکه نسبت به منافع موکلش نیز بیتوجه بوده است.
وکیل چه اشتباهی مرتکب شد؟
به گفته دیوان عالی نیومکزیکو، «استیون آرونز» پذیرفته که پیش از امضا و ثبت لایحه در دادگاه، ادعاهای factual و استنادهای حقوقی موجود در متن تولیدشده توسط هوش مصنوعی را بررسی نکرده است. او همچنین به دادگاه گفته که این موضوع را به موکل خود اطلاع نداده و توضیحی هم درباره وجود چندین تحریف factual و حقوقی در لایحه ارائه نکرده بود.
آرونز بیش از ۴۰ سال در نیومکزیکو بهعنوان وکیل مدافع کیفری فعالیت داشته است. او از سوی اعضای خانواده یک متهم استخدام شده بود تا پرونده محکومیت به قتل را در مرحله تجدیدنظر پیگیری کند. موکل سابق او، «اسکار رنه ساندووال»، در فوریه ۲۰۲۵ پس از محکومیت به قتل شریک زندگیاش «شیرین الجبوری» که مادر فرزندانش نیز بود، به حبس ابد محکوم شد.
شهادتهای جعلی از شاهدان خیالی
آرونز در اوت ۲۰۲۵ لایحهای را به دادگاه ارائه کرد که بعداً مشخص شد حاوی نقلقولها و شهادتهای نادرست متعددی است. چند هفته بعد، ایالت نیومکزیکو با ارائه درخواستی رسمی خواستار حذف بخشهایی از این لایحه شد.
بر اساس دستور دیوان عالی، این وکیل پذیرفته که لایحه او شامل شهادتهای دروغین از شاهدانی کاملاً ساختگی بوده است؛ از جمله افرادی با نامهای Officer Michelle Amarillo، Officer Sanchez، Manal Al-Jibury و Teresa Marquez.
مواردی که دادگاه به آنها اشاره کرده
- شهادت جعلی از Danny Stanton درباره دریافت تهدید
- شهادت جعلی از Linda Stanton درباره تهدیدهایی که همسرش دریافت کرده بود
- شهادت نادرست از Mariah Chavez و Teresa Marquez درباره لباس و ظاهر تیرانداز
- تحریف در استناد به آرای قبلی و منابع حقوقی
نکته مهم این است که او برخلاف برخی پروندههای مشابه، به پروندههای کاملاً خیالی استناد نکرده بود؛ اما پروندههای واقعی را به شکل نادرست توصیف کرده و در کنار آن، شهادتهای جعلی را هم وارد لایحه کرده بود.
ChatGPT چطور وارد این پرونده شد؟
آرونز در جلسه رسیدگی ۲۱ اوت به دیوان عالی نیومکزیکو گفت که متن یک رونوشت رایانهای از محاکمه قتل و چند سند دیگر مرتبط با پرونده را به ChatGPT داده بود. خروجی این ابزار، نقلقولها و اظهاراتی بود که بعداً مشخص شد ساختگی هستند.
او در دادگاه گفته بود: «اینکه بدانم دلیل جمع شدن ما در این بعدازظهر حماقت خودم بوده، تسلی چندانی نمیدهد.» همین اعتراف، یکی از بخشهای مهم پرونده شد؛ چون نشان میداد استفاده از ابزار هوش مصنوعی بدون راستیآزمایی مستقیم، چگونه میتواند به ارائه اطلاعات نادرست در روند قضایی منجر شود.
چرا این پرونده اهمیت دارد؟
این اتفاق فقط یک اشتباه فردی نیست؛ بلکه نمونهای روشن از خطری است که استفاده بیدقت از ابزارهای مولد هوش مصنوعی در حرفههای حساس ایجاد میکند. در حوزه حقوق، هر نقلقول، شهادت، استناد قضایی و توصیف رویداد باید دقیق و قابل اثبات باشد. کوچکترین خطا میتواند سرنوشت یک پرونده و حتی زندگی یک انسان را تغییر دهد.
- هوش مصنوعی منبع نهایی حقیقت نیست.
- وکیل مسئول محتوایی است که امضا و ثبت میکند.
- راستیآزمایی factual و حقوقی قابل واگذاری به چتبات نیست.
- پنهان کردن خطا از موکل، تبعات انضباطی را سنگینتر میکند.
پیام روشن دادگاه به وکلا
رأی دیوان عالی نیومکزیکو یک هشدار صریح برای جامعه حقوقی است: استفاده از ChatGPT یا هر ابزار مشابه، وکیل را از مسئولیت حرفهای معاف نمیکند. اگر متنی به دادگاه ارائه میشود، مسئولیت کامل صحت آن با کسی است که آن را امضا کرده است؛ حتی اگر بخشهایی از آن توسط هوش مصنوعی تولید شده باشد.
این پرونده احتمالاً در ماههای آینده هم مورد توجه محافل حقوقی و فناوری قرار میگیرد، چون نشان میدهد مرز میان کمکگرفتن از هوش مصنوعی و سهلانگاری حرفهای، بسیار باریکتر از چیزی است که خیلیها تصور میکنند.
نظر، سوال یا تجربه خود را درباره این مطلب با سایر کاربران اوکالا به اشتراک بگذارید.