لحن بحث‌های جاری درباره هوش مصنوعی کاملاً تغییر کرده است. کلماتی مانند «خارج از کنترل شدن»، «شکستن محدودیت‌ها» و «خطر وجودی» به گفتمان جدید صنعت تبدیل شده‌اند. اما تیم‌نیت گبرو، پژوهشگر معروف هوش مصنوعی که زمانی مقالات خود را با غرور گوگل مطرح کرد، معتقد است که این روایت نه تنها یک حواس‌پرتی، بلکه خطرناک است.
گبرو پس از انتشار مقاله‌ای که در آن مدعی شد مدل‌های زبانی بزرگ صرفاً مانند «طوطاهای تصادفی» عمل کرده و داده‌های آموزشی خود را بدون درک بازتولید می‌کنند، از گوگل جدا شد. او اکنون موسس institutes است که به بررسی آسیب‌های فناورانه می‌پردازد و کتاب جدیدی با نام Deep Unlearning دارد که به زودی منتشر خواهد شد. او اخیراً ابراز نگرانی کرده است که گروهی از صنعت، با بزرگ‌نمایی قدرت هوش مصنوعی، از بحران‌های واقعی مانند آلودگی داده‌ها و استثمار نیروی کار غافل‌کننده‌اند.
فروش «رعب» برای جذب سرمایه و قدرت
گبرو استدلال می‌کند که همان میلیاردرهایی که از تأسیس شرکت‌هایی مثل Anthropic سود می‌برند، هم‌زمان از طریق صندوق‌ها و نهادها، روایت «خطر وجودی» را ترویج می‌کنند. او این چرخه تکراری را با اشاره به لوید موس و پیتر تیل، که از دهه ۲۰۱۳ این ادعا را مطرح کرده‌اند، نشان می‌دهد. این استراتژی باعث می‌شود توجه منظم‌های جهانی از اصلاحات واقعی (مانند حقوق کپی‌رایت کارگران داده) به سمت موضوعات غولی‌سازی‌شده مثل «ابرفناوری» منحرف شود.
تله‌ی «هوش مصنوعی که می‌فکند»
- طوطاهای تصادفی: مدل‌های زبانی بزرگ (LLM) فقط الگوهای احتمالی متن‌ها را بازتولید می‌کنند و فهم عمیقی از محتوا ندارند. این واقعیت فنی هیچ‌گاه تغییر نکرده است.
- مفهوم «دردنما»: وقتی محققان ادعا می‌کنند مدل‌ها «دردنما» دارند، در واقع از مسئولیت‌پذیری مهندسان که این ابزارها را ساخته‌اند سرباز می‌زنند. اگر سیستمی خطا بدهد، مقصر «ماشین» است، نه انسان‌های طراح آن.
- خطای تشخیص‌گذاری: بیش‌اعتمادی به سیستم‌های هوش مصنوعی (Bias اتوماتیک) می‌تواند عواقب جبران‌ناپذیری داشته باشد؛ مانند یک پزشک که به پاسخ اشتباه یک دستیار هوش مصنوعی اعتماد می‌کند و تشخیص غلط را تایید می‌کند.
چرا پژوهش ۲۰۲۱ گبرو هنوز معتبر است؟
جیک کلارک، هم‌بنیان‌گذار Anthropic، اخیراً ادعا کرده که نظریه طوطاهای تصادفی یک «ویروس شناختی» قدیمی است که باید فراموش شود. گبرو با خشم به این دیدگاه پاسخ می‌دهد: «تعریف مدل‌های زبانی بزرگ تغییر نکرده است. آنچه تغییر کرده، نام‌های تبلیغاتی آن‌هاست.» او اشاره می‌کند که حتی اگر آژ‌نت‌های یادگیری تقویتی (RL) افزوده شوند، هسته اصلی همچنان یک طوطای تصادفی است که نمی‌تواند قابل‌اعتماد باشد.
راه‌حل‌های ساده که باید اجرا شوند
به جای تمرکز بر ترس‌های آینده، گبرو پیشنهاد می‌کند قوانین موجود را اعمال کنیم. بر اساس توصیه‌های لینا خان (رئیس سابق FTC)، سه اصل کلیدی وجود دارد:
- شفافیت داده: شرکت‌ها باید مستند کنند داده‌های آموزشی از کجا آمده‌اند. این کار دشواری‌های بازار را افزایش می‌دهد اما مسئولیت‌پذیری ایجاد می‌کند.
- حقوق کارگران داده: میلیون‌ها انسان در حال برچسب‌گذاری داده‌ها هستند و باید از استثمار آن‌ها جلوگیری شود.
- مقابله با بازاریابی فریب‌دهنده: قانون نباید اجازه دهد شرکت‌ها با وعده‌های غیرواقعی قدرت هوش مصنوعی، از نظارت‌های واقعی فرار کنند.
گبرو امیدوار است جامعه جهانی از هورمونی هیجانی خارج شود و بر واقعیت‌های ملموس هوش مصنوعی تمرکز کند؛ واقعیت‌هایی که شامل ضرر به محیط زیست و بی‌عدالتی‌های اجتماعی است، نه تخیل‌هایی درباره ماشین‌هایی که ممکن است بشریت را نابود کنند.
نظر، سوال یا تجربه خود را درباره این مطلب با سایر کاربران اوکالا به اشتراک بگذارید.