نهادهای امنیتی آمریکا نام شش شرکت هوش مصنوعی چینی را مطرح کرده‌اند که به ادعای آن‌ها، با روش‌هایی سازمان‌یافته در حال استخراج قابلیت‌های مدل‌های پیشرفته آمریکایی بوده‌اند؛ اقدامی که می‌تواند هزینه و زمان توسعه مدل‌های رقیب را به شکل چشمگیری کاهش دهد.
بر اساس بیانیه مشترک NSA، CISA و FBI، شرکت‌های DeepSeek، Moonshot AI، Alibaba، MiniMax، StepFun و Z.AI از اواخر سال ۲۰۲۴ دست‌کم درگیر حملاتی برای تقلید و استخراج توانایی‌های مدل‌های آمریکایی بوده‌اند. در این بیانیه آمده که این اقدامات احتمالاً با آگاهی دولت چین انجام شده است.
طبق ادعای این نهادها، هدف این شرکت‌ها دسترسی به قابلیت‌های مدل‌هایی مانند نسخه‌هایی از Claude، GPT، Gemini و Grok بوده؛ آن هم بدون پرداخت هزینه واقعی توسعه‌ای که برای ساخت یک مدل مرزی لازم است.
اتهام اصلی آمریکا چیست؟
مقام‌های آمریکایی می‌گویند برخی شرکت‌های چینی با استفاده از تکنیک distillation یا همان «تقطیر مدل»، تلاش کرده‌اند رفتار و خروجی مدل‌های پیشرفته آمریکایی را در مقیاس صنعتی بازتولید کنند. این روش به‌جای آموزش یک مدل از صفر، از پاسخ‌ها و الگوهای رفتاری مدل‌های آماده برای ساخت نمونه‌ای مشابه استفاده می‌کند.
به باور نهادهای امنیتی آمریکا، چنین رویکردی می‌تواند مسیر توسعه مدل‌های هوش مصنوعی را برای این شرکت‌ها بسیار کوتاه‌تر کند و میلیاردها دلار از هزینه‌های تحقیق، آموزش و زیرساخت را کاهش دهد.
کدام شرکت‌ها متهم شده‌اند؟
- DeepSeek
- Moonshot AI
- Alibaba
- MiniMax
- StepFun
- Z.AI
در بیانیه رسمی، نام این شش شرکت به‌عنوان بازیگران اصلی این فعالیت‌ها ذکر شده است.
روش‌های ادعایی برای استخراج قابلیت مدل‌ها
آمریکا می‌گوید این شرکت‌ها صرفاً با چند درخواست ساده به سراغ مدل‌ها نرفته‌اند، بلکه از شیوه‌هایی هماهنگ، گسترده و حساب‌شده استفاده کرده‌اند.
۱. سوءاستفاده از API مدل‌ها با حساب‌های جعلی
یکی از روش‌های مطرح‌شده، استفاده از APIهای استنتاج مدل‌ها از طریق خرید انبوه حساب‌های کاربری جعلی است. به گفته نهادهای آمریکایی، این حساب‌ها به کاربران واقعی متصل نبوده‌اند و به‌صورت هماهنگ، حجم بزرگی از درخواست‌های مشابه یا یکسان را ارسال می‌کرده‌اند.
در این گزارش آمده که تعداد این درخواست‌ها می‌توانسته از هزاران تا حتی میلیون‌ها پرامپت در موضوعات مشابه برسد؛ موضوعی که برای تحلیل رفتار مدل و بازسازی الگوهای پاسخ‌دهی آن اهمیت زیادی دارد.
۲. استفاده از پرامپت اینجکشن و جیلبریک
روش دیگر، بهره‌گیری از تکنیک‌های prompt injection برای دور زدن محدودیت‌های مدل عنوان شده است. این روش‌ها با طراحی پرامپت‌های خاص، مدل را وادار می‌کنند اطلاعاتی فراتر از پاسخ عادی خود ارائه دهد.
طبق این ادعا، برخی پرامپت‌ها به‌گونه‌ای نوشته می‌شدند که مدل، منطق پنهان یا زنجیره استدلال داخلی خود را آشکار کند. در مثال ذکرشده، گفته شده DeepSeek از پرامپت‌هایی استفاده کرده که مدل را مجبور می‌کرده روند فکری پشت پاسخ نهایی را مرحله‌به‌مرحله توضیح دهد.
چرا این موضوع برای آمریکا مهم است؟
از نگاه دولت آمریکا، مسئله فقط رقابت تجاری نیست. این نهادها معتقدند اگر شرکت‌های خارجی بتوانند به‌سادگی توانمندی مدل‌های مرزی آمریکا را استخراج کنند، برتری فنی ایالات متحده در رقابت جهانی هوش مصنوعی به خطر می‌افتد.
به همین دلیل، از شرکت‌های آمریکایی خواسته شده با دولت و متحدان آمریکا همکاری نزدیک‌تری داشته باشند تا جلوی آنچه «سرقت سازمان‌یافته قابلیت‌های اختصاصی» خوانده شده، گرفته شود.
راهکارهای پیشنهادی برای مقابله
نهادهای امنیتی آمریکا برای کاهش این تهدید، چند مسیر دفاعی را توصیه کرده‌اند. مهم‌ترین پیشنهاد، شناسایی بهتر کمپین‌های پیچیده‌ای است که با ده‌ها هزار حساب کاربری فعالیت می‌کنند و از شبکه‌ای از پراکسی‌ها برای دور زدن محدودیت‌های جغرافیایی بهره می‌برند.
در این گزارش آمده که درخواست‌های مربوط به تقطیر مدل ممکن است از چندین مسیر مختلف هدایت شوند تا دسترسی غیرمجاز به APIها پنهان بماند. به همین خاطر، شرکت‌های هوش مصنوعی باید الگوهای غیرعادی ترافیک، شباهت پرامپت‌ها و رفتار هماهنگ حساب‌ها را با دقت بیشتری زیر نظر بگیرند.
این محدودیت‌ها چه اثری روی کاربران عادی دارد؟
بخشی از نگرانی‌ها به این برمی‌گردد که اجرای لایه‌های دفاعی سخت‌گیرانه‌تر ممکن است تجربه کاربران واقعی را هم تحت تاثیر قرار دهد. اگر شرکت‌ها برای جلوگیری از سوءاستفاده، کنترل‌های شدیدتری روی دسترسی API، ساخت حساب یا نوع درخواست‌ها اعمال کنند، احتمال دارد کاربران عادی هم با محدودیت‌های بیشتری روبه‌رو شوند.
به بیان ساده، هرچه محافظت از مدل‌ها جدی‌تر شود، استفاده آزاد و بی‌دردسر از آن‌ها هم ممکن است سخت‌تر شود؛ به‌خصوص برای توسعه‌دهندگان، پژوهشگران و کسب‌وکارهایی که وابستگی زیادی به این سرویس‌ها دارند.
نکات کلیدی
- آمریکا شش شرکت چینی را به استخراج سازمان‌یافته قابلیت‌های مدل‌های پیشرفته متهم کرده است.
- نام‌های مطرح‌شده شامل DeepSeek، Moonshot AI، Alibaba، MiniMax، StepFun و Z.AI هستند.
- مدل‌های هدف، به گفته آمریکا، شامل Claude، GPT، Gemini و Grok بوده‌اند.
- روش‌های ادعایی شامل استفاده گسترده از حساب‌های جعلی، سوءاستفاده از API و تکنیک‌های prompt injection است.
- نهادهای آمریکایی هشدار داده‌اند این روند می‌تواند هزینه توسعه مدل‌های چینی را به‌شدت کاهش دهد.
- راهکارهای دفاعی جدید ممکن است برای کاربران عادی نیز محدودیت‌هایی ایجاد کند.
نظر، سوال یا تجربه خود را درباره این مطلب با سایر کاربران اوکالا به اشتراک بگذارید.