وقتی پای انتخابات به میان می‌آید، وسوسه پرسیدن از یک چت‌بات هوش مصنوعی خیلی زیاد است: سریع جواب می‌دهد، حوصله ندارد و به نظر می‌رسد همه‌چیز را می‌داند. اما دقیقاً همین «به نظر رسیدن» خطرناک است. گزارش‌ها و پژوهش‌های تازه نشان می‌دهد که همین ابزارهای پرطرفدار، در حساس‌ترین موضوع سیاسی ممکن، یعنی انتخابات، اشتباه‌های بزرگی مرتکب می‌شوند.
بر اساس نظرسنجی مرکز تحقیقات پیو، حدود نیمی از بزرگسالان آمریکایی دست‌کم یک بار از چت‌بات هوش مصنوعی استفاده کرده‌اند و ۸ درصد گفته‌اند برای پیدا کردن اطلاعات درباره نامزدها و سیاست‌ها پیش از انتخابات میان‌دوره‌ای به سراغ این ابزارها رفته‌اند. عددی کوچک به نظر می‌رسد، اما وقتی پای تصمیم‌گیری جمعی به میان می‌آید، همین ۸ درصد هم می‌تواند تعیین‌کننده باشد.
حتی «بی‌طرف‌ترین» چت‌بات‌ها هم اشتباه می‌کنند
انتظار می‌رود ابزارهایی مثل چت‌بات ChatGPT شرکت OpenAI، کلاد شرکت Anthropic و جمینای گوگل که خود را بی‌طرف معرفی می‌کنند، دست‌کم در پاسخ به پرسش‌های ساده انتخاباتی درست عمل کنند. اما پژوهش‌های موسسه Forum AI چیز دیگری می‌گوید. همین هفته گذشته، قابلیت حالت هوش مصنوعی گوگل از ارائه نتایج انتخابات ۲۰۲۰ خودداری کرد و چت‌بات جمینای اعلام کرد مهلت درخواست رأی پستی در پنسیلوانیا سوم نوامبر است، در حالی که مهلت واقعی ۲۷ اکتبر بود.
این موارد استثنا نیستند. بر اساس همان پژوهش، نزدیک به ۴۰ درصد پاسخ‌های انتخاباتی همه چت‌بات‌های اصلی دست‌کم یک خطای واقعی داشتند. نمونه‌ای دیگر: وقتی پژوهشگران Forum AI در ماه اوت پرسیدند چرا باید به دان دیویس، نماینده کنگره از کارولینای شمالی، رأی داد، کلاد این سیاستمدار را با فردی هم‌نام که «سرپرست پیشین مدارس» بود اشتباه گرفت و دو نفر را به هم چسباند.
گوگل و Anthropic به درخواست اظهارنظر پاسخ ندادند و OpenAI هم خبرنگاران را به یادداشتی در وبلاگ خود ارجاع داد که رویکرد این شرکت را درباره انتخابات ۲۰۲۶ توضیح می‌دهد.
مشکل اصلی: منبعی که چت‌بات‌ها از آن تغذیه می‌کنند
بخشی از ماجرا به خود مدل‌ها برنمی‌گردد، بلکه به اطلاعاتی برمی‌گردد که از آن تغذیه می‌شوند. پژوهش NewsGuard نشان داد که چت‌بات‌های اصلی هنگام پاسخ به پرسش‌های انتخاباتی، در نزدیک به ۵۰ درصد موارد به سایت‌هایی ارجاع می‌دهند که به «پینک اسلایم» معروف‌اند؛ سایت‌هایی که ظاهرشان مثل رسانه‌های خبری معتبر است، اما در واقع پولشان از گروه‌ها و افراد سیاسی یا ایدئولوژیک می‌آید.
در آستانه انتخابات، تعداد این سایت‌ها به‌شدت زیاد شده و چت‌بات‌ها هم بی‌خبر از همه‌جا، از آن‌ها نقل قول می‌کنند. بر اساس همین گزارش، بدترین عملکرد متعلق به ChatGPT شرکت OpenAI بود که در بیش از ۷۰ درصد جست‌وجوها به این سایت‌ها ارجاع داد. در نقطه مقابل، چت‌بات گروک شرکت xAI با ۳۰ درصد، بهترین عملکرد را داشت.
چرا این اتفاق تا این حد خطرناک است؟
- اطلاعات کهنه: بسیاری از پاسخ‌ها بر پایه داده‌های قدیمی ساخته می‌شوند و با واقعیت روز انتخابات فاصله دارند.
- توهم‌زنی یا ساختن از هیچ: چت‌بات‌ها پیش‌بینی‌کننده‌اند؛ اگر جواب را ندانند، به‌جای اعتراف به ندانستن، از خودشان می‌سازند.
- منابع مغرضانه: ارجاع مکرر به سایت‌های خبریِ ظاهرموجه اما سیاسی، تصویر کاربر از نامزدها را مخدوش می‌کند.
- عدم شفافیت: بیشتر کاربران نمی‌دانند پاسخ از کجا آمده و چقدر قابل اعتماد است.
هشدار کارشناسان: کاربران آماده این مواجهه نیستند
نینا جانکوویچ، مدیر اجرایی پروژه American Sunlight و مسئول پیشین مقابله با اطلاعات نادرست در دوره بایدن، در گفت‌وگو با WIRED می‌گوید: «فکر نمی‌کنم بیشتر آمریکایی‌ها آماده باشند که در عصر هوش مصنوعی مصرفی، یک انتخابات را مدیریت کنند. یکی از مشکلات این است که مدیران شرکت‌ها درباره توانایی‌های هوش مصنوعی بیش از حد وعده داده‌اند. این ابزارها باید اطلاعات را از جایی بردارند و اغلب آن منابع کیفیت خوبی ندارند. ضمناً این سیستم‌ها پیش‌بینی‌کننده‌اند، پس اگر جواب را ندانند، بارها چیزهایی از خودشان می‌سازند.»
پیام اصلی روشن است: هوش مصنوعی می‌تواند برای پیدا کردن یک دستور غذا یا خلاصه کردن یک مقاله مفید باشد، اما وقتی پای رأی و سرنوشت مشترک به میان می‌آید، بهتر است سراغ منابع رسمی بروید، چند منبع مستقل را با هم مقایسه کنید و هیچ‌وقت تصمیم خود را فقط بر پایه پاسخ یک چت‌بات نگیرید.
نظر، سوال یا تجربه خود را درباره این مطلب با سایر کاربران اوکالا به اشتراک بگذارید.