هول به‌نحودی جنگ‌طلبی علیه چین را با خطای هوش مصنوعی جلوگیری کرد

یک صحنه خطرناک در خلیج فارس که می‌توانست به یک نبرد جهانی منجر شود، در نهایت با کشف خطای هوش مصنوعی متوقف شد. طبق گزارش تازه‌ی سیتی‌ان‌ان، یک تحلیلگر از فرماندهی عملیات ویژه‌ی ایالات متحده به اشتباه بر این باور بود که یک کشتی چینی قطعات برنامه هسته‌ای را از طریق منطقه‌ی خلیج فارس حمل می‌کند. این گزارش که کاملاً فابریک شده بود، باعث شد نیروهای نظامی آمریکا آماده‌ی اعزام موشک و نیروی هوایی برای بازداشت و تفتیش آن کشتی شوند. اما درست در آخرین لحظات، متوجه شدند که یک چات‌بات هوش مصنوعی در تولید این اطلاعات، مواد موجود در کشتی را به‌درستی شناسایی نکرده و تحلیلی کاملاً غلط را ارائه داده است.

چطور یک ابزار هوش مصنوعی ناکونکارهای نظامی را گمراه کرد؟

درست است که سیستم‌های هوش مصنوعی برای تحلیل داده‌های پیچیده طراحی شده‌اند، اما وقتی که ورودی‌های اولیه‌ی ناقص یا متغییر باشند، خروجی‌شان می‌تواند فاجعه‌بار باشد. در این مورد، به نظر می‌رسد تحلیلگر، داده‌های ناهمگن و ضعیفی را به مدل داده و مدل در تولید توصیفی از محموله‌ی کشتی، «هالوسینه» (تحویل اطلاعات غلط با اعتماد به‌نفس) کرده است. یک منبع آگاه از ماجرا به سیتی‌ان‌ان گفت که این فاجعه‌ی هوش مصنوعی «نزدیک بود که یک جنگ را آغاز کند».

پیامدهای جبران‌ناپذیر برای اعتماد به مدل‌های هوش مصنوعی در امور حساس

• خطای انسانی در برابر خطای ماشین: بسیاری از مسئولان هنوز بر این باورند که انسان‌ها می‌توانند همیشه بر خروجی‌های هوش مصنوعی نظارت کنند، اما ماجرای این کشتی نشان می‌دهد که اگر خودِ تحلیلگر به خروجی «اطمینان کاذب» مدل اعتماد کند، فاجعه محقق می‌شود.
• هزینه‌ی سیاسی و نظامی:** تصمیم‌گیری بر اساس اطلاعات نادرست می‌تواند منجر به نقض معاهدات، درگیری نظامی و فرسایش اعتماد بین دولت‌ها شود.
• نیاز به پروتکل‌های سخت‌گیرانه: این رویداد نشان می‌دهد که استفاده از هوش مصنوعی در حوزه‌های امنیتی و نظامی، حتی اگر فقط به‌عنوان ابزار کمکی باشد، باید با لایه‌های متعدد استعلام و تأیید انسانی (Human-in-the-loop) همراه باشد، نه اینکه تصمیمات حساس صرفاً بر اساس یک خروجی متنی صادر شود.

داستان این کشتی چینی یک درس ارزشمند برای صنعت هوش مصنوعی و تصمیم‌گیران سیاسی است: هوش مصنوعی قدرت‌بخش است، اما بدون نظارت دقیق، می‌تواند به‌راحتی برابری را در یک لحظه بر هم بزند و به‌جای جلوگیری از بحران، خود عامل آن شود. این صحنه به ما یادآوری می‌کند که «اتاق شیشه‌ای» هوش مصنوعی، هنوز در واقعیت فیزیکی پرقدرت نظامی، بسیار شکننده و پرخطر است.