در اوایل امسال، یک برنامه آزمایشی شاکست که می‌توانست مسیر مراقبت‌های سالمندان را برای همیشه تغییر دهد؛ استفاده از هوش مصنوعی برای تأیید یا رد درخواست‌های درمانی بیمه مدیکر. این برنامه که تحت عنوان WISeR شناخته می‌شود، قرار بود فرآیند «تأیید پیش از خدمات» (prior authorization) را خودکارسازی کند، مرحله‌ای که سال‌هاست پزشکان برای انجام آن نیاز به مجوزهای متعدد اداری داشتند. اما آنچه در پی آمد، فاجعه‌ای بود که بسیاری از کارشناسان را به شوکه کرد.
گزارش‌های رسانه‌ای به سرعت شروع به بازتاب مشکلات فنی، تأخیرهای طولانی در تصمیم‌گیری‌ها و ردیه‌های مبهم کردند. پزشکان از خشمگینی بیماران خبر می‌دادند و مستنداتی که بعداً توسط بنیاد مرز الکترونیک (EFF) از طریق دادگاه‌ها به دست آمد، این موارد را تأیید کرد. یکی از ارائه‌دهندگان خدمات بهداشتی، این برنامه را «شرم‌آوری برای نسل بشر» خواند و از گریه بیماران ناشی از درد هنگام انتظار برای دریافت مراقبت‌ها گفت.
چرا این تجربه فاجعه‌بار تلقی می‌شود؟
مسائل این پروژه فراتر از خرابی نرم‌افزار ساده‌ای است. این سیستم به‌جای تسهیل فرآیند، موانع جدیدی ایجاد کرده است. در اینجا مهم‌ترین خطاهایی که در این تجربه مشخص شده‌اند:
- تأخیرهای انباشته‌شده: بیماران برای دریافت خدمات حیاتی، هفته‌ها در انتظار بماندند که می‌توانست عوارض جبران‌ناپذیری ایجاد کند.
- ردیه‌های غیرمنطقی: الگوریتم‌های هوش مصنوعی خدماتی را رد می‌کردند که از نظر بالینی کاملاً منطقی و ضروری بودند، بدون ارائه دلیل قابل قبول برای پزشکان.
- شکست در هماهنگی: سیستم‌های قدیمی بیمارستان‌ها قادر به تبادل مؤثر داده با این پلتفرم جدید نبودند که منجر به انباشت پرونده‌ها شد.
مکاشفات دیوان حسابرسی و نگرانی‌های قانونی
دیوان حسابرسی دولت (GAO) در ماه مه اعلام کرد که مقامات این برنامه بدون رعایت اصول‌های قانونی‌ای که برای استقرار چنین سیستم‌های حساسی لازم است، آن را راه‌اندازی کرده‌اند. این موضوع، قانونمندی کلیه تصمیمات گرفته‌شده توسط هوش مصنوعی را زیر سؤال برده است. با وجود این اخطارها و تلاش نمایندگان برای توقف برنامه، گسترش آن در سال‌های آینده همچنان در دسترس است که نشان می‌دهد فرآیند اداری هنوز با مشکلات متعددی دست و پنجه نرم می‌کند.
نظر، سوال یا تجربه خود را درباره این مطلب با سایر کاربران اوکالا به اشتراک بگذارید.