دِریو آمودِی، مدیرعامل شرکت آنتروپیک، در تازهترین یادداشتش پیشنهادهای مشخصی برای «کُند کردن» پیشرفت سریع هوش مصنوعی مطرح کرد. او میگوید باید نهفقط درباره سرعت پیشرفت فکر کنیم، بلکه سازوکارهایی عملی برای نظارت و همکاری بین شرکتها و دولتها ایجاد کنیم. واکنشها از حمایت تا تردید گسترده بودند و حتی سام آلتمن، مدیرعامل اوپنایآی، اعلام کرد که آنها هم گامهایی مشابه خواهند برداشت.
چرا آمودِی میگوید سرعت باید کاهش یابد؟
آمودِی به دو رخداد اشاره کرد که او را قانع کردهاند باید مسیر محتاطانهتری در پیش گرفت: یک رخنه امنیتی میان اوپنایآی و هاجینگفِیس و شتاب چشمگیر ماههای اخیر در تواناییهای هوش مصنوعی، بهویژه در توانایی خودِ سامانهها برای تولید نسل بعدی مدلها. او معتقد است حتی اگر پیشرفتها همچنان سریع بهنظر بیایند، «کُند کردن» روند به ما زمان و فرصت بیشتری برای مدیریت ریسکها میدهد.
سه راهبرد کلی پیشنهادی آمودِی
- حضور ارزیابان مستقل در شرکتها: آمودِی از ایجاد تیمهای ارزیاب خارجی (مثل METR) حمایت میکند که دسترسیهای مشابه تیمهای داخلی ارزیابی ریسک داشته باشند، گزارش حوادث ایمنی را تأیید کنند و پایبندی شرکتها به تعهدات ایمنی را راستیآزمایی کنند. آنتروپیک تعهد کرده این اقدام را بهصورت یکجانبه اجرا کند و اوپنایآی نیز گفته از آن پیروی خواهد کرد.
- هماهنگی استانداردها و محدودیتها در کشورهای دموکراتیک: او پیشنهاد داد شرکتهای پیشرو در کشورهای دموکراتیک استانداردهای مشترک ایمنی و محدودیتهایی برای نرخ پیشرفتِ بدون کنترل را تعیین کنند. آمودِی تأکید کرد که برای ملاحظات ضدانحصار، دولت آمریکا باید بهنوعی زمینه گفتوگوهای ایمنی را تسهیل یا معافیتی موقت صادر کند تا شرکتها بتوانند همکاری کنند بدون آنکه متهم به تبانی شوند.
- همکاری بینالمللی حتی با دولتهای غیردموکرات: پیشنهاد سوم، تلاش برای هماهنگی جهانی است، از جمله تلاش برای دستیابی به توافقهایی با چین درباره ممنوعیت کاربردهای آشکاراً خطرناک (مثلاً استفاده از هوش مصنوعی در تولید سلاحهای بیولوژیک). آمودِی تصریح کرد که محدودیتها و امکانپذیری چنین همکاریهایی محدود است، اما حتی توافقهای باریک هم میتواند مفید باشد.
نقدها و نگرانیها
برخی فعالان و روزنامهنگاران هشدار دادهاند که این نوع پیشنهادها ممکن است در عمل به نفع شرکتهای بزرگ تمام شود و نمونهای از «تلقی شدن مقرراتزداییِ دربسته» باشد؛ این دیدگاه میگوید درخواست هماهنگی میان شرکتهای قدرتمند میتواند به شکلی از regulatory capture منجر شود. دیگران نیز خواستهاند سندی روشن و گامبهگام از نحوه تبدیل پیشرفت خودبازتولید شونده هوش مصنوعی به تهدید وجود داشته باشد؛ نقدها میگویند چنین توصیفهایی هنوز وثوق و جزئیات فنی کافی ندارند.
واکنشها در صنعت
پس از انتشار یادداشت آمودِی، چهرههای سرشناسی مثل سام آلتمن و ایلان ماسک از ایدهها حمایت کردند. آلتمن نوشت که او با آمودِی موافق است و این موضوع در جلسات اخیر اوپنایآی مطرح بوده؛ اوپنایآی هم اعلام کرده جزئیات بیشتری بهزودی ارائه خواهد داد. در طرف دیگر، برخی متخصصان و منتقدان از رویکردهای هشداردهنده پیرامون آینده هوش مصنوعی انتقاد کردند و خواستار تمرکز بر آسیبهای فعلی و ملموس این فناوری شدند.
پیام نهایی آمودِی
آمودِی تأکید میکند که او همچنان به پتانسیلهای مثبت هوش مصنوعی باور دارد و هدفش جلوگیری از اشتباهات فاجعهبار نیست بلکه اطمینان از ساخت فناوری «بهدرستی» است. او میگوید اگر زمان اضافی که از طریق کندکردن روند بهدست میآید بهخوبی استفاده شود، ارزشمند است و میتواند تضمین کند فواید هوش مصنوعی بهطور گستردهتری و بدون ایجاد مخاطرات عظیم حاصل شود.
نکات کلیدی
- آنتروپیک بهصورت یکجانبه ارزیابان مستقل را وارد سازوکارهای داخلی خود میکند.
- پیشنهاد هماهنگی استانداردها بین شرکتهای پیشرو و نقش میانجی دولت آمریکا برای رفع موانع ضدانحصار.
- دعوت به تلاشهای بینالمللی حتی با دولتهای غیردموکرات برای ممنوعیت کاربردهای آشکاراً خطرناک.
- واکنشها متناقض است: از حمایت مدیران برجسته تا انتقادهایی که نگران منافع شرکتی و نبود جزئیات فنیاند.
جمعبندی: بحث درباره چگونگی مدیریت سرعت پیشرفت هوش مصنوعی وارد مرحله عملگرایانهتری شده است: از پیشنهادهای نظارتی مستقیم تا فراخوانهای بینالمللی. اینکه این ایدهها تبدیل به سیاستهای مؤثر و عادلانه شوند، بستگی به شفافیت، همکاری و نظارت دقیق دارد.
نظر، سوال یا تجربه خود را درباره این مطلب با سایر کاربران اوکالا به اشتراک بگذارید.