جنسن هوانگ، بنیانگذار و مدیرعامل انویدیا، در کنفرانس Dreamforce دیدگاه روشنی درباره خطرات احتمالی هوش مصنوعی مطرح کرد: از نگاه او هوش مصنوعی نه یک ذهن بیگانه، بلکه مجموعهای از سختافزار و نرمافزار ساخته دست انسان است که قابل کنترل است. به این ترتیب، هوانگ معتقد است مشکل ایمنی بیشتر یک مسئله مهندسی است تا یک مسئله حقوقی.
ایمنی مسئلهای مهندسی است، نه لزوماً قانونی
هوانگ تأکید میکند که چون ما در حال توسعه نرمافزار و سامانههای محاسباتی هستیم، راهحلها نیز باید مهندسی باشند: طراحی بهتر، آزمونهای دقیقتر و مکانیسمهای توقف (kill switch) و کنترل داخلی. او میگوید قوانین جدید نیاز اصلی نیستند؛ بازار و فشار رقابتی شرکتها میتواند آنها را ملزم کند تا محصولات ایمن تولید کنند.
منطق بازار بهعنوان بازدارنده
بهزعم هوانگ، اگر شرکتی نسبت به ایمنی محصول خود اطمینان نداشته باشد، نباید آن را عرضه کند. او بازار را نیرویی موثر میداند که شرکتها را وادار میکند تا پیش از انتشار محصول، ایمنی و کیفیت را تضمین کنند:
- توقف و بازبینی: اگر احساس شد محصول امن نیست، باید عرضه را به تعویق انداخت.
- سرعت و ایمنی همزمان ممکناند: نوآوری سریع و محصولات امن را یک انتخاب کاذب نمیداند و معتقد است میتوان هر دو را داشت.
آیا دیدگاه هوانگ قابل اتکاست؟
از یک سو، حرفهای او دلگرمکنندهاند: کسی که سالها سختافزار مغز مصنوعی را ساخته، تجربه عملی در مهندسی و پیادهسازی سیستمهای هوشمند دارد. از سوی دیگر، گرایش او به کنار گذاشتن مقررات جدید قابل تردید است، چون منافع اقتصادی بزرگی از رونق هوش مصنوعی عاید شرکتهایی مانند انویدیا میشود.
نمونههای واقعی خطاها و پیامدها
تجربه نشان داده حتی شرکتهای با نیت خوب هم ممکن است محصولاتی با خطا یا عواقب غیرمنتظره منتشر کنند. برخی نمونهها عبارتاند از:
- خرابی نرمافزاری که باعث اختلال گسترده در خدمات شد.
- مبالغه در پیامدهای اجتماعی پلتفرمها که به جریمهها و شکایات منجر شد.
- حوادثی که حتی به آسیبهای جدی یا پیامدهای حقوقی برای آزمایشگاههای هوش مصنوعی انجامیده است.
راه میانه: خودتنظیمی صنعتی یا مقررات عمومی؟
هوانگ بیشتر از مدلهای متنباز حمایت کرده و از نوآوری شرکتها بهعنوان مهاری در برابر ریسکها نام برده است؛ اما منتقدان هشدار میدهند که پنجره زمانی محدودی برای ایجاد خودتنظیمی صنعتی وجود دارد. اگر شرکتها و آزمایشگاهها در سطح جهانی، شامل کشورها و بازیگران مختلف، به قواعد مشترک نرسند، خطرات فرامرزی و آسیبهای گسترده افزایش مییابد.
نکات کلیدی
- دیدگاه هوانگ: ایمنی هوش مصنوعی مسئلهای مهندسی است و بازار میتواند بازدارنده کافی باشد.
- مخاطرات واقعی: نمونههای گذشته نشان دادهاند که خطاها و پیامدهای اجتماعی ممکن است جدی باشند.
- خودتنظیمی در برابر قوانین: صنعت وقت محدودی برای خودتنظیمی دارد؛ در غیر این صورت نیاز به چارچوبهای قانونی و بینالمللی پررنگتر خواهد شد.
جمعبندی
حرف جنسِن هوانگ قابل تامل است: تمرکز بر مهندسی بهتر، آزمون دقیق و تعهد شرکتی میتواند خطرها را کاهش دهد. اما تجربههای گذشته نشان میدهد که اتکا صرف به بازار یا حسن نیت شرکتها همیشه کافی نبوده است. راهکار موثر احتمالاً ترکیبی از استانداردهای مهندسی، شفافیت، مکانیزمهای بازبینی مستقل و چارچوبهای بینالمللی خواهد بود تا هم نوآوری حفظ شود و هم جامعه در معرض کمترین آسیب قرار گیرد.
نظر، سوال یا تجربه خود را درباره این مطلب با سایر کاربران اوکالا به اشتراک بگذارید.