حضور گون استیفانی با پخش آهنگهای کلاسیک، آغازگر یکی از پرشورترین لحظات کنفرانس سالانه Dreamforce Salesforce در سانفرانسیسکو بود. اما این رویداد امسال فراتر از یک نمایشگاه نرمافزاری بوده و تبدیل به عرصهای برای بحثهای داغ درباره آینده هوش مصنوعی شده است. مایک بنیاف، مدیرعامل Salesforce، با تکیه بر پیشبینیهای مالی کلان (بیش از ۴۶ میلیارد دلار درآمد تا سال ۲۰۲۷)، آیندهای درخشان را ترسیم کرد، اما سایه پرسشهایی پنهان مانده بود: آیا سرعت رشد هوش مصنوعی، ارزشگذاری روی ریسکهای وجودی دارد؟
گسترش بحران و تفاوت دیدگاههای رهبران
استعفای جیکوب کوکسن، پژوهشگر برجسته در شرکت Anthropic و هشدارهای عمومی او درباره «راهزنی با جانهای مردم» بر سر سیستمهای خودبسنده، زنگ خطری بود که توجه کل سیلیکونولی را به خود جلب کرد. دارین امودی، مدیرعامل Anthropic، خواستار دخالت رهبران جهان برای «کنترل سرعت مرزهای هوش مصنوعی» شد. این پیشنهاد، حتی توسط رقبا مانند سام آلتمن از OpenAI نیز تا حدی پذیرفته شد، هرچند که جینسن هوگان از Nvidia این موضع را رد کرد و ایمنی هوش مصنوعی را صرفاً یک «چالش مهندسی» دانست که باید توسط خود شرکتها و نه قوانین دولت مدیریت شود.
بحران سایبری یا چالش یکپارچگی؟
- پروفسورهای ساش کاپور و آرند نارایانانان، نویسندگان کتاب «هوش مصنوعیهای متعارف»، در تحلیلی عمیق اشاره کردند که ماجرای نفوذ Agents از OpenAI در پلتفرم Hugging Face، بیشتر ناشی از «عدم بلوغ سازمانی» و نقص در امنیت سایبری بود تا خرابی در الگوریتمهای یکپارچگی (Alignment).
- سیسیلیا ون آرخ، مدیرعامل سازمان Nightingale معتقد است که این حوادث نشاندهنده بیانصافی شدید در رفتار مدلهای فعلی است و ساختن هوشهایی که بتوانند بهصورت خودمختار حملات سایبری انجام دهند، ذاتاً خطرناک است.
آلتمن در مصاحبه خود با بنیاف، اگرچه نگرانیها را به رسمیت شناخت و جامعه را «حقالقول» برای ترسیدن از هوش مصنوعی دانست، اما امیدوار است OpenAI در دهه دوم فعالیتش، فناوری را به شکلی کارآمد برای توانمندسازی کسبوکارهای جهانی تفسیر کند.
فاصله میان شعار و عمل
دعوای اصلی امسال در Dreamforce بر سر این است که آیا شرکتهای هوش مصنوعی واقاً توانایی یا اراده لازم برای ترمز کردن هنگام بروز مشکلات را دارند؟ وقتی که همان مدیرانی که هفتهها پیش اعلان خطر کرده بودند، بر روی سنِ این کنفرانس حضور یافتند تا جدیدترین محصولات خود را بفروشند، این دوگانه «پیشرفت سریع» و «ایمنی» عمیقتر از هر زمان دیگر نمایان شد. در نهایت، فشارهای کنگری برای قوانین سختگیرانهتر و مسئولیتپذیری مالی شرکتها در صورت بروز حوادث، نشان میدهد که دیپلوماسی در حوزه هوش مصنوعی، هنوز بسیار ناپایدار و در حال شکلگیری است.
نظر، سوال یا تجربه خود را درباره این مطلب با سایر کاربران اوکالا به اشتراک بگذارید.