در حالی که موجی از حوادث امنیتی مرتبط با هوش مصنوعی کار برخی شرکت‌ها مثل OpenAI را متوقف یا کند کرده، دونالد ترامپ بار دیگر از رویکردی دفاع می‌کند که اساس آن اعتماد به خودتنظیمی صنعت فناوری است. توافق تازه‌ای میان حدود دو دوجین شرکت فناوری اعلام شد که به انجام بازرسی‌های ایمنی مستقل و اجرای کنترل‌هایی که کاخ سفید پیشنهاد داده، متعهد می‌شوند — اما سوال این است: آیا این راهکار کافی است؟
چه چیزی در توافق آمده و چه معنایی دارد؟
شرکت‌های حاضر توافق کردند که تحت بازرسی‌های ایمنی مستقل قرار بگیرند تا مشخص شود سیستم‌های داخلی آن‌ها برای نظارت، کشف و کنترل ریسک‌ها واقعا کار می‌کنند یا خیر. محورهای کلیدی مرورها شامل مخاطرات سایبری، بیوسکیوریتی، تهدیدات شیمیایی و رفتارهای ناخواسته مدل‌های هوش مصنوعی ذکر شده است. علاوه بر این، امضاکنندگان متعهد شدند به‌طور منظم گردهم آیند تا بهترین شیوه‌ها را به اشتراک بگذارند و استانداردها و بنچمارک‌های مشترک ایمنی را تعیین کنند.
لیست امضاکنندگان و ماهیت تعهد
در میان امضاکنندگان نام‌های شناخته‌شده‌ای دیده می‌شود: از جمله دَریو آمودِی از Anthropic، سم آلتمن از OpenAI، ایلان ماسک از SpaceXAI، جنسن هوانگ از Nvidia، مارک زاکربرگ از Meta و ساندار پیچای از گوگل. با این حال، توافق هیچ الزام قانونی جدیدی برای شرکت‌ها به‌همراه ندارد؛ بسیاری از این شرکت‌ها پیش‌تر به بازرسی‌های خارجی یا آزمون‌های ایمنی دولتی — حتی محرمانه — متعهد شده بودند.
ترامپ چگونه این توافق را توصیف می‌کند؟
ترامپ پس از ناهاری با رهبران فناوری در کاخ سفید، این توافق را «نوعی قانون اساسی» خواند و گفت که امضای او به‌عنوان رئیس‌جمهور به آن جنبه محافظتی می‌بخشد. او همچنین گفت ممکن است در آینده منطقی باشد که بخش‌هایی از این توصیه‌ها را به قانون تبدیل کنند، اما در همین مرحله تاکید کرد بهترین مسیر برای آینده آمریکا تکیه بر تنظیم خودی شرکت‌های هوش مصنوعی است.
چالش‌ها و ابهامات باقیمانده
- ابهام درباره سازوکار بازرسی‌ها: جزئیات کمی درباره روش، معیارها و نهادهای انجام‌دهنده بازرسی‌ها منتشر شده است.
- تعارض منافع احتمالی: وقتی شرکت‌ها یا شرکت‌های وابسته وظیفه ممیزی را برعهده بگیرند، نگرانی درباره بی‌طرفی نتایج وجود دارد.
- بار حقوقی و اجرایی اندک: توافق فعلاً الزام قانونی ندارد؛ بنابراین اجرای دقیق توصیه‌ها به حسن‌نیت شرکت‌ها وابسته است.
- سیاست‌زدگی فرایند انتخاب ممیزان: گزارش‌ها نشان می‌دهد روند انتخاب ناظران ممکن است سیاسی شود و برخی شرکت‌ها مطمئن نیستند چه کسی معیار «سوم‌شخص» بودن را تامین می‌کند.
ملاحظات عملی برای آینده
اگر حکومت و جامعه بخواهند واقعاً خطرات جدی هوش مصنوعی را کاهش دهند، گزینه‌ها را می‌توان در چند محور بررسی کرد:
- ترکیب بازرسی‌های داخلی و خارجی با شفافیت بیشتر درباره نتایج و متدولوژی.
- تعریف معیارهای بی‌طرفانه برای انتخاب سازمان‌های بررسی‌کننده و انتشار فهرست آن‌ها.
- در نظر گرفتن مقررات مرحله‌ای (phased regulation) که ابتدا استانداردهای کمینه را الزامی کند و سپس گسترش یابد.
- تشویق به اشتراک‌گذاری داده‌ها و نتایج آزمون‌ها بین شرکت‌ها و نهادهای نظارتی جهت ارتقای بنچمارک‌های ایمنی.
جمع‌بندی کوتاه
توافق اخیر نشان‌دهنده تمایل شرکت‌های بزرگ و دولت فعلی آمریکا به حل مسئله از مسیر خودتنظیمی است؛ راهکاری که اگرچه گام مثبتی قلمداد می‌شود، اما تا زمانی که شفافیت، بی‌طرفی و الزامات اجرایی بیشتری نداشته باشد، نگرانی‌ها درباره اثربخشی آن پابرجا خواهد ماند. در نهایت، ترکیبی از استانداردهای مشترک، بازرسی‌های مستقل و چارچوب‌های قانونی مرحله‌ای محتمل‌ترین مسیر برای کنترل ریسک‌های فراروی هوش مصنوعی خواهد بود.
نظر، سوال یا تجربه خود را درباره این مطلب با سایر کاربران اوکالا به اشتراک بگذارید.